更新：もう1つのマルチバース：マルチモデルとマルチモーダルの統合

F5 Newsroom Staff

マルチモーダルAIモデルや複数のモデルを既存のデジタルインフラストラクチャに安全かつセキュアに統合することは、大規模言語モデル（LLM）を含む生成AI（GenAI）を企業全体で導入する理由、時期、方法をめぐる議論において、重要な課題として浮上しています。多くの組織がすでに少なくとも1つのGenAIモデルを導入しており、ある 最近の調査ではその割合は約15%でした。しかし、それを大きく上回る組織が導入を3～12か月延期しており、残る組織はLLMを自社システムに導入するかどうかを引き続き検討しています。

ChatGPT-3.5など、単一モダリティの言語モデルを1つ導入するだけでも、コンテンツ生成、要約、分析、翻訳といったテキストベースのタスクに活用することで、効率と生産性を大幅に向上できます。一方、複数のモデルや、テキスト以外のコンテンツを利用または生成するモデルの導入は、創造性を飛躍的に高める「戦力増強」のようなものであり、異なる戦略が必要です。

マルチモーダル？ マルチモデル？

複数のAIモデルを導入する組織が想定するシナリオは多岐にわたります。たとえば、BERTとGeminiのどちらか一方ではなく両方を使用するなど、複数の大規模な公開LLMの機能を活用したい組織もありますが、ほかにも多くの選択肢があります。

ChatGPTの登場からわずか1年余りで、次のような多くの新しいモデルタイプが登場しました。

• 金融、法律、製薬、小売など、特定の市場に特化したモデル
• Software-as-a-Service（SaaS）アプリケーションに組み込まれたモデル
• 社内で構築し、独自データでトレーニングした内部モデル
• 検索拡張生成（RAG）モデル。大規模な公開モデルに拡張機能を追加し、より新しい情報にアクセスできるようにしたモデル
• 必要な計算能力が大幅に少なく、場合によってはパーソナルコンピューター上でも実行できる小規模言語モデル（SLM）

モデルの作成、トレーニング、保守が容易かつ低コストになるにつれ、今後数年のうちに大企業が組織全体で多数のモデルを導入するようになるという見方は、AI業界関係者の間で 共通認識となっています。導入数は多数に上り、推計によっては数百に達するとされています。 

新たに導入されるモデルの多くは、ChatGPTの後期バージョンなどのように、マルチモーダルになる可能性があります。つまり、音声、テキスト、オーディオ、画像、動画、コードなど、さまざまな形式のクエリを取り込み、同じ形式または別の形式でコンテンツを生成できます。たとえば、ユーザーがモデルに音声で指示し、グラフ、画像、オーディオクリップなど、特定の形式のコンテンツを生成させることができます。

増大するリスク

複数のモデルやマルチモーダルモデルを組織の仕組みに統合するメリットは非常に大きく、開発者、アナリスト、一般ユーザー、顧客の各レベルで新たなユースケースへと広がり続けています。しかし、そのリスクは極めて重大であり、統合前に対処する必要があります。

組織のデジタルインフラストラクチャにAIツールを追加すると、その種類を問わず攻撃対象領域が直ちに拡大します。マルチモーダルモデルを追加すれば、状況はさらに複雑になる可能性があります。マルチモーダルモデルのアーキテクチャには多数のエントリーポイントがあり、攻撃者に悪用されるおそれがあります。

同様に、モデルやAIシステムの一部のモダリティのセキュリティ確保に注力する一方で、ほかのモダリティを見落とすと、マルチモーダルシステムのセキュリティ態勢に死角が生じる可能性があります。攻撃者は、セキュリティが確保されていないポータルからシステムに侵入したり、モデルの応答に悪意のあるコードを紛れ込ませたりするなど、必ず最も脆弱な部分を突いてきます。

世界各地で規制が施行され始める中、コンプライアンス、特にデータプライバシーの確保は、AIセキュリティチームにとって大きな課題となっています。保護すべきデータは、もはやテキスト記録だけではありません。デジタル画像、音声ファイル、動画、網膜スキャン、指紋、X線画像、MRI画像などのスキャンデータ、口頭確認に使用される声紋、さらに高度に専門的な科学コンテンツも含まれます。

こうしたデータはすべて、データ侵害によって漏えいする可能性があるだけでなく、ディープフェイクの作成をはじめとする悪意ある用途のために改ざんされ、売買されるおそれもあります。また、さまざまなモダリティを既存のデジタルインフラストラクチャに統合する際には、異なるテクノロジーやプロトコルをシームレスに連携させる必要があるため、相互運用性の問題などの課題も生じます。1つの設定ミスや脆弱性によって、システム全体のセキュリティが損なわれる可能性があります。

この問題の修正には多くのリソースが必要になる可能性があり、レイテンシーなどのモデル性能上の問題を引き起こすおそれもあります。また、追加のハードウェアが必要になる場合があり、適切に管理しなければ、そのハードウェア自体がセキュリティ脆弱性をもたらす可能性があります。

AIセキュリティソリューション

AIの利用に関する標準化されたプラクティスが確立されていないため、ユーザー環境全体で一貫したセキュリティを確保することは、さらに困難になっています。しかし、AIセキュリティ分野では、導入環境のセキュリティを強化し、リスク回避を重視する組織にとってより採用しやすくするソリューションが登場しています。 

F5のモデルに依存しない「GenAIセキュリティおよび活用支援プラットフォーム」は、AIシステムを360°保護する業界初のプラットフォームです。インフラストラクチャの外部かつすぐ隣に配置される「軽量な」信頼・制御レイヤーとして、F5のランタイムセキュリティソリューションは、AIモデルの応答に潜む脅威やその他の外部脅威から組織を保護します。また、有害な指示や個人情報を含むプロンプトがシステム外に送信されるのを、処理に遅延を生じさせることなく防ぎます。

管理者は、ポリシーベースのアクセス制御を使用して、ユーザー単位またはチーム単位でAIモデルへのアクセスを許可またはブロックできます。これにより、次のことが可能になります。

• 可能にします、モデルにアクセスできるユーザーを制限することで、コスト監視を
• Model Denial of Service（DoS）攻撃によるシステムの低速化や停止を防ぐため、レート制限の導入を支援します
• 各チームのニーズに応じてスキャナーの基準をカスタマイズできるため、企業の利用規定をより確実に遵守できます

また、当社のソリューションは、セキュリティチームに対して、システム上のすべてのAIツールを包括的に可視化し、モデルの利用状況を把握して、不適切な利用や悪用を防止できるようにします。同様に、管理者はユーザーおよびグループの利用パターンや利用方法を把握できます。 

モデルとの各インタラクションは追跡され、レビューと分析のために保持されるため、ユーザーの行動を把握できます。プロンプト履歴は手動または自動で消去できます。また、管理者はレビュー用にプロンプトを一切保持しないよう設定することも可能です。インタラクティブなダッシュボードでは、管理者が指定した期間ごとに、モデル、個々のユーザー、グループに関する多様で詳細な利用状況データを確認できます。

既存のデジタルインフラストラクチャに複数のマルチモーダルAIモデルを統合することで、機会が生まれる一方、リスクや課題も生じます。サイバーセキュリティとAIセキュリティを同時に実装することは、人材、資産、プロセスをAIに起因するリスクから保護しながら、組織が通常どおり事業を継続するための最善の選択肢となります。

こちらをクリックして、デモをお申し込みください。

著者について

F5 Newsroom Staff

F5 Newsroom Staffのその他のブログ記事