AIセキュリティにおけるオブザーバビリティ：何が起きているか見えなければ、阻止できない

F5 Newsroom Staff

オブザーバビリティを理解する

急速に進化する人工知能（AI）エコシステムにおいて、大規模言語モデル（LLM）は、AIツール群の中でも特に強力で変革をもたらすツールとして台頭しています。人間の言語を処理し理解するよう設計されたこれらのモデルは、カスタマーサービス、テクノロジー、製薬、金融、小売をはじめとする多様な分野に変革をもたらし、Software as a Service（SaaS）のあり方も変えつつあります。

こうしたAIモデルの機能と複雑性が増すにつれ、生産性の向上とイノベーションにかつてない可能性がもたらされます。一方、ビジネス環境への導入には特有の課題も伴います。なかでも最も深刻なのは攻撃対象領域の大幅な拡大であり、次いで、可視性がサイロ化する問題が挙げられます。

端的に言えば、マルチモーダルモデルを含む複数のモデルを組織内に導入すると、それらは統合されずに並行して動作し、多種多様な脆弱性をもたらします。その結果、セキュリティチームが保護・防御すべきシステムの可視性は断片化します。本当に必要なのは、稼働中のすべてのモデルを個別にも横断的にも、完全かつシームレスに可視化することです。

企業では、ChatGPTのような大規模な外部モデル、BloombergGPTのような特定用途向けモデル、SalesforceなどのSaaSアプリケーションに組み込まれたモデル、検索拡張生成（RAG）モデル、企業データでファインチューニングされた小規模な社内モデルなどが含まれる可能性があります。これらのモデルは合計で数十から数百に上ることもあり、その増加傾向が近いうちに鈍化する兆しはありません。 

ここで重要になるのが、オブザーバビリティという概念です。オブザーバビリティは、意思決定プロセス、固有の制約、信頼性、効率、効果など、モデルのパフォーマンスと動作を可視化・評価し、そこから得られる知見を統合するという不可欠な要件に対応します。モデルのデプロイフレームワークにオブザーバビリティレイヤーを統合することで、AI搭載アプリケーションの効果的な活用、セキュリティ、保守を支える強固な基盤を構築できます。

モデルオブザーバビリティのメリット

モデルの挙動を観測することで、想定される攻撃の傾向やパターンに関する情報に加え、財務、運用、さらには人事上の問題について、より詳細な分析情報を得られる可能性があります。以下の主要領域の可視性を確保することは、リソース配分、生産性、イノベーション、競争優位性の向上につながります。

• パフォーマンス保証： API接続からモデルによるクエリへの応答まで、稼働中のモデルを観測することで、レイテンシ、スループット、精度（各モデル内およびモデル間）などの重要なパフォーマンス指標を継続的に監視し、比較できます。このリアルタイムの監視により、ボトルネックを迅速に特定して軽減できるため、AIシステムで一貫したユーザー体験を提供し、パフォーマンス基準への準拠を確保できます。
• エラー管理：堅牢なオブザーバビリティフレームワークは、詳細なメトリクスを取得してログに記録し、モデルの意思決定プロセスを管理者が詳細に把握できるようにします。これにより、エラーの迅速な特定と解決が容易になり、モデルのパフォーマンスに対する信頼性が高まります。
• 利用状況分析：オブザーバビリティツールを使用すると、応答時間やAPI呼び出しの追跡から、トラフィックパターンの分析、繰り返し発生するユースケースの特定まで、実際の利用状況を確認できます。モデルの機能（エラー率、トークン使用量など）とユーザー操作（機密コンテンツや禁止コンテンツ、攻撃の試みなどを検出するためのプロンプトと応答のスキャン）をリアルタイムで監視することで、実際の利用状況に基づいてモデルを継続的に改良し、再調整するために役立つ知見を組織に提供できます。
• モデルドリフト：AIモデルのパフォーマンスを明確に可視化することで、管理者や開発者は、データ環境の変化に起因する性能低下、すなわち「モデルドリフト」を特定できるようになります。モデルの出力に対する信頼性を確保するため、適切なタイミングでモデルを再トレーニングまたはファインチューニングできるよう、モデルドリフトの発生を把握することが極めて重要です。
• リソースの最適化とスケーリング： 組織全体にLLMを導入すると、メモリやCPU/GPUの使用など、高いコンピューティング負荷が生じる可能性があります。そのため、コストの最適化や、ユーザー数の増加またはワークロードの急増に対応するためのスケーリングを検討する際には、リソース使用状況に関するインサイトが重要なデータポイントとなります。
• コンプライアンス：システムとユーザーが、社内の適正利用、プライバシーなどに関するポリシーに加え、業界標準や政府規制をどの程度遵守しているかを把握することは、あらゆる組織にとって極めて重要です。特に、医療や金融などの規制対象業界では、その重要性が一層高まります。詳細なログやその他の指標の可視化と監査を可能にするソリューションを活用することで、モデルの導入がデータプライバシー、セキュリティなどのコンプライアンス基準を満たしていることを確認できます。

企業におけるオブザーバビリティの重要性

イノベーションの進展に伴い、オブザーバビリティのさらなる向上が求められます。LLMをはじめとする生成AIモデルの複雑化と自動化が進むにつれ、パフォーマンス、利用状況、セキュリティのあらゆる側面をリアルタイムで監視することが、ますます重要になります。 

同時に、政府機関も取り組みを強化しています。欧州連合の一般データ保護規則（GDPR）などを法制化し、EU AI Actなどの規制案を公表するとともに、バイデン政権の「安全、安心、信頼できる人工知能に関する大統領令」や、米国国立標準技術研究所（NIST）のリスクマネジメントフレームワーク（RMF）などを通じて指針を示しています。こうした義務やガイドラインに加え、規制対象業界には複雑に入り組んだ独自の規則があり、規制対象外の業界にも満たすべき基準があります。また、各組織には、自社の企業価値を反映し、強化するためのポリシーがあります。

ビジネスエコシステムにおけるLLMの導入と利用に関する指針を示す組織が増えるにつれ、それらの指針への準拠を可能にし、徹底し、監視し、報告することが極めて重要になります。準拠していない場合、多大な財務上および評判上の影響が生じ、さらに株主からの信頼、競争優位性、顧客からの信頼などにも波及する可能性があります。本番環境でモデルがどのように、どの程度適切かつ安全に動作しているかを把握することが、これまで以上に重要になります。

完全なオブザーバビリティを備えたAIセキュリティ

AIモデルのパフォーマンスと動作を観測、分析、評価することは、パフォーマンスを向上させ、信頼性の高い確かな出力を生成するうえで不可欠です。組織のデジタルセキュリティインフラストラクチャ全体で完全なオブザーバビリティをシームレスに実現するプラットフォームの導入は、まさに状況を一変させる決断といえます。 F5のAIランタイムセキュリティおよびイネーブルメントソリューションが、その変革を実現します。

当社のソリューションは、カスタマイズ可能な12種類以上のコンテンツスキャナーや、ユーザーと利用状況を詳細に監査できる機能など、市場に先駆けた機能によってモデルを内部と外部の両方の脅威から保護するトラストレイヤーにとどまりません。幅広いユーザーにとって分かりやすく直感的で使いやすいインターフェースを備えるとともに、開発者やその他の技術ユーザーが効率的に利用できる、同様に使いやすいAPIアクセスも提供します。

特定の個人や指定されたチーム向けに設定されたものを含むAPIを利用することで、システムへの理解を深め、セキュリティ状況、モデルのパフォーマンス、ユーザー分析を監視・分析するための手段がさらに得られます。管理者は、API呼び出しを追跡し、エンドポイントを確認することで、使用頻度の高いエンドポイントの特定、レイテンシーとエラー率の追跡、バージョン互換性の監視、新たな動作パターンや固有の動作パターンの特定、依存関係の監視、潜在的なボトルネックを特定するためのトラフィック分析、ルーティングルールが維持されていることの確認を行えます。

F5のプラットフォームは、AIシステム構成全体を包括する、ほぼ意識されることのない双方向のセキュリティ基盤として機能し、モデルの応答時間に処理負荷や遅延を加えません。F5のソリューションは、拡張性に優れ、モデルに依存せず、カスタマイズが可能です。また、個人、チーム、組織の各レベルで適用できるポリシーベースのアクセス制御を提供します。これは、GenAIモデルの導入に伴う現在および将来の課題に対応するために、あらゆるAIセキュリティフレームワークに必要となる、堅牢性、柔軟性、応答性を備えたコンポーネントです。

著者について

F5 Newsroom Staff

F5 Newsroom Staffのその他のブログ記事