もう1つのマルチバース：マルチモデルとマルチモーダルの統合

F5 Newsroom Staff

マルチモーダルAIモデルや複数のモデルを既存のデジタルインフラストラクチャに安全かつセキュアに統合することは、大規模言語モデル（LLM）を含む生成AI（GenAI）を企業全体に導入する理由、時期、方法をめぐる議論において、重要な課題として浮上しています。多くの組織がすでに少なくとも1つのGenAIモデルを導入しており、ある 最近の調査ではその割合は約15%に上ります。一方、それを大きく上回る組織が導入を3～12か月延期しており、残る組織はLLMを自社システムに導入するかどうかを引き続き検討しています。

ChatGPT-3.5など、単一モダリティの言語モデルを1つ導入するだけでも、コンテンツ生成、要約、分析、翻訳といったテキストベースのタスクに活用することで、効率と生産性を大幅に向上させることができます。一方、複数のモデルや、テキスト以外のコンテンツを利用または生成するモデルの導入は、創造性を飛躍的に高める「戦力増強」のようなものであり、異なる戦略が必要です。

マルチモーダル？ マルチモデル？

複数のAIモデルを導入する組織が想定するシナリオは多岐にわたります。たとえば、BERTとGeminiのどちらか一方ではなく両方を使用するなど、複数の大規模な公開LLMの機能を活用したい組織もありますが、ほかにも多くの選択肢があります。

ChatGPTの登場からわずか1年余りで、次のような多くの新しいモデルタイプが登場しました。

• 金融、法律、製薬、小売など、特定の市場に特化したモデル
• Software-as-a-Service（SaaS）アプリケーションに組み込まれたモデル
• 社内で構築し、独自データでトレーニングした内部モデル
• より新しい情報にアクセスできるよう、大規模な公開モデルに拡張機能を追加した検索拡張生成（RAG）モデル
• 必要なコンピューティング能力が大幅に少なく、場合によってはパーソナルコンピューター上でも実行できる小規模言語モデル（SML）

モデルの作成、トレーニング、保守が容易かつ低コストになるにつれ、今後数年のうちに大企業が組織全体で 多数のモデルを導入するという見方が、AI業界関係者の間で広く共有されています。一部の予測では、その数は数百に上る可能性もあります。新たに導入されるモデルの多くは、ChatGPTの後期バージョンなどと同様に、マルチモーダルになる可能性があります。つまり、音声、テキスト、オーディオ、画像、動画、コードなど、さまざまな形式のクエリを取り込み、同じ形式または別の形式でコンテンツを生成できます。たとえば、ユーザーがモデルに音声で指示し、グラフ、画像、オーディオクリップなど、特定の形式のコンテンツを生成させることができます。 

増大するリスク

複数のモデルやマルチモーダルモデルを組織の仕組みに統合するメリットは非常に大きく、開発者、アナリスト、一般ユーザー、顧客の各レベルで新たなユースケースへと広がり続けています。しかし、そのリスクは決して軽視できず、統合前に対処する必要があります。

組織のデジタルインフラストラクチャにAIツールを追加すると、種類を問わず攻撃対象領域が直ちに拡大します。マルチモーダルモデルを追加すれば、状況はさらに複雑になる可能性があります。マルチモーダルモデルのアーキテクチャには多数のエントリーポイントがあり、攻撃者に悪用されるおそれがあります。

同様に、モデルやAIシステムの一部のモダリティのセキュリティ確保に注力する一方で、ほかのモダリティを見落とすと、マルチモーダルシステムのセキュリティ態勢に死角が生じる可能性があります。攻撃者は必ず最も脆弱な部分を悪用しようとします。その手口は、セキュリティが確保されていないポータルからシステムに侵入することもあれば、モデルの応答に悪意のあるコードを紛れ込ませることもあります。

世界各地で規制が施行され始める中、コンプライアンス、特にデータプライバシーの確保は、AIセキュリティチームにとって大きな課題となっています。保護すべきデータは、もはやテキスト記録だけではありません。デジタル画像、音声ファイル、動画、スキャンデータ、指紋、X線画像、MRI画像、口頭確認に使用される声紋のほか、高度に専門的な科学コンテンツも含まれます。

こうしたデータはすべて、データ侵害によって漏えいする可能性があるだけでなく、ディープフェイクの作成をはじめとする悪意ある目的のために改ざんされ、販売されるおそれもあります。 さまざまなモダリティを既存のデジタルインフラストラクチャに統合する際には、相互運用性の問題などの課題も生じます。異なるテクノロジーやプロトコルをシームレスに連携させる必要があり、1つの設定ミスや脆弱性によってシステム全体のセキュリティが損なわれる可能性があります。

この問題の修正には多くのリソースが必要になる可能性があり、レイテンシーなど、モデルのパフォーマンスに問題が生じるおそれもあります。また、追加のハードウェアが必要になる場合があり、適切に管理しなければ、そのハードウェア自体がセキュリティ脆弱性をもたらす可能性があります。

AIセキュリティソリューション

AIの利用に関する標準化されたプラクティスが確立されていないため、ユーザー環境で一貫したセキュリティを確保することはさらに困難になっています。しかし、AIセキュリティ分野では、導入環境のセキュリティを強化し、リスク回避を重視する組織にとってより魅力的なものにするソリューションが登場しています。

F5のモデルに依存しないGenAIセキュリティソリューションは、AIシステムを360°保護する業界初のソリューションです。インフラストラクチャの外部かつすぐ近くに配置される「軽量な」信頼と制御のレイヤーとして、F5のランタイムセキュリティソリューションは、AIモデルの応答に潜む脅威やその他の外部脅威から組織を保護します。有害な指示や個人情報を含むプロンプトがシステム外に送信されるのを防ぎ、処理に遅延を生じさせることもありません。 

管理者は、ポリシーベースのアクセス制御を使用して、ユーザー単位およびチーム単位でモデルへのアクセスを許可またはブロックできます。これにより、次のことが可能になります。

• モデルにアクセスできるユーザーを制限することで、コストを監視可能
• Model Denial of Service（DoS）攻撃によるシステムの低速化や停止を防ぐためのレート制限の導入を支援します
• 各チームのニーズに応じてスキャナーの基準をカスタマイズできるため、企業の利用規定をより確実に遵守できます

F5のソリューションは、セキュリティチームに、システム上の すべてのAIツールを包括的に可視化する機能 も提供します。これにより、モデルの利用状況を把握し、不正利用や悪用を防止できます。同様に、管理者はユーザーおよびグループの利用パターンや利用方法を可視化できます。モデルとの各やり取りは追跡され、レビューと分析のために保持されるため、ユーザーの行動に関するインサイトを得られます。プロンプト履歴は手動または自動で消去できます。また、管理者はレビュー用にプロンプトを一切保持しないよう設定することもできます。インタラクティブなダッシュボードでは、管理者が指定した期間ごとに、モデル、個々のユーザー、グループに関する多様で詳細な利用データを確認できます。

複数のマルチモーダルGenAIモデルを既存のデジタルインフラストラクチャに統合することは、機会をもたらす一方で、それとほぼ同程度のリスクと課題も伴います。サイバーセキュリティとAIセキュリティの対策を同時に導入することは、人材、資産、プロセスをAIに起因するリスクから保護しながら、組織が通常どおり業務を継続するための最善の選択肢となります。

クリック こちらしてデモをリクエストしてください。

著者について

F5 Newsroom Staff

F5 Newsroom Staffのその他のブログ記事