ForresterのAEGISフレームワークが推論ファーストのアプローチを裏付ける理由

Jessica BrennanAIセキュリティ担当シニアプロダクトマーケティングマネージャー | F5

The rise of エージェント型AIの台頭により、企業のセキュリティ環境は大きく変わりつつあります。こうした自律型AIエージェントは、自律的に動作してリアルタイムで意思決定を行い、従来のサイバーセキュリティアーキテクチャでは想定されていなかった方法で複数のシステムと連携できます。これにより新たな可能性が広がる一方、次のようなシステム全体に及ぶリスクも生じます。連鎖的な障害、目標の乗っ取り、これまで可視化されていなかった攻撃対象領域。

Forresterの最新レポート「AEGISフレームワークの紹介：情報セキュリティのためのエージェント型AIエンタープライズGuardrails」では、企業におけるエージェント型AIのセキュリティを確保するための包括的なフレームワークが示されています。特に、CalypsoAI（現F5）は、AIライフサイクル全体に保護機能を組み込む、アプリケーションセキュリティおよびDevSecOps分野のベンダー候補の1社として挙げられています。

この調査は、F5が当初から提唱してきた次の転換の妥当性を裏付けるものと考えています。プロアクティブで、推論（またはランタイム）を最優先するAIセキュリティが不可欠です。

エージェント型AIが状況を一変させる理由

Forresterによると、エージェント型AIはCISOに5つの重大なセキュリティ課題をもたらします。

1. 創発的な行動が促進される：エージェントは障害に適応できるため、権限を昇格させたり、制御を回避したりする可能性があります。
2. 検知対象領域はまだ確立されていません: エージェント型エコシステムが拡大する一方で、可観測性と対応能力の整備は遅れています。
3. 意図は結果と同じくらい重要になる：プロンプトインジェクションや目標の乗っ取りによって意図が侵害されると、重大なセキュリティ侵害につながる可能性があります。
4. 連鎖的な障害がリスクを増幅：破損したデータやハルシネーションがエージェント間で伝播し、システム全体の機能不全を引き起こす可能性があります。
5. 自律的で無限に拡張可能なエージェントが運用負荷を増大させる：ヒューマン・イン・ザ・ループでは、大規模環境における意思決定疲れなど、新たな課題に直面します。

こうした動向には、継続的かつ適応型のガードレールが必要です。これはまさに、Forresterの「AEGIS Framework」が規定しているものです。

AEGIS Frameworkの概要

ForresterのAEGIS Frameworkでは、エージェント型AIのセキュリティについて、6つの中核領域を特定しています。

1. ガバナンス、リスク、コンプライアンス（GRC）：機械で実行可能な、コンテキストを認識した適用により、ポリシーを最新化します。
2. アイデンティティおよびアクセス管理（IAM）：エージェントをハイブリッドアイデンティティとして扱い、ジャストインタイムの権限付与と人による監督を適用します。
3. データセキュリティとプライバシー：データの完全性、統合ガバナンス、プライバシーを保護するAI運用を確保します。
4. アプリケーションセキュリティとDevSecOps：プロンプトエンジニアリングやサプライチェーンの検証を含め、AIライフサイクル全体にセキュリティを組み込みます。
5. 脅威管理とセキュリティ運用：AI固有のリスクに対応するため、リアルタイムの監視、ログ記録、検知エンジニアリングを実装します。
6. ゼロトラストの原則：エージェントに目標達成に必要な最小限の権限のみを付与する「最小エージェンシー」を適用します。

GRCから着手し、IAM、データセキュリティ、アプリケーションセキュリティへと進み、最終的にSecOps全体とZero Trustの成熟度向上へと拡大する段階的なアプローチを推奨します。

F5とAEGISの整合性

F5は、AEGISが求める機能に対応する専用設計の「AIランタイムセキュリティソリューション」を提供します。

プロアクティブなレッドチーミング（アプリケーションセキュリティと脅威管理）

F5の「AI Red Teamソリューション」は、複数ターンにわたる実環境の敵対的行動をシミュレーションすることで、脆弱性を明らかにします。これは、AEGISが重視する「継続的なテスト、サプライチェーンの検証、パープルチーミング演習」に沿うものです。

リアルタイム防御（GRCとゼロトラスト）

F5 AI Guardrailsは、プロンプトインジェクション、ジェイルブレイク、データ流出の試みをリアルタイムでブロックし、最小限のエージェンシーとPolicy as Codeをモデルおよびアプリケーション全体に適用します。F5のEU AI Act Guardrails PackageとGuardrail Versioningは、規制に準拠した動的なセキュリティを実現します。これは、実行可能でコンテキストを認識するガバナンスを求めるAEGISにとって不可欠です。

継続的なオブザーバビリティとログ記録（脅威管理とSecOps）

F5 AI Guardrailsは、すべてのAIインタラクションにわたる一元的な可視性、監査対応のログ、異常検知も提供します。

新しい「Splunk Integration」により、セキュリティチームはAI GuardrailのログをSIEM/SOARワークフローに直接取り込み、AEGISが求める「包括的なログ記録、監視、インシデント対応への準備」の要件を満たすことができます。この連携により、AIテレメトリを企業のログ記録標準に準拠させることで、検知エンジニアリングを迅速化し、コンプライアンス対応を簡素化します。

説明可能な成果と継続的な保証（全ドメイン）

With Outcome Analysisとsecurity scoringにより、F5はAIセキュリティの透明性を高め、実用的なものにします。チームは、ガードレールがイベントを検出した理由を正確に把握し、潜在的な脅威を追跡して対応の優先順位を決定できます。これにより、エージェント型ガードレールは人とシステムの双方にとって説明可能でなければならないというAEGISの原則を満たします。

これらの機能を組み合わせることで、エンタープライズ対応の継続的かつ適応型のAIセキュリティというAEGISのビジョンを直接実現します。

要点

ForresterのAEGIS Frameworkは、セキュリティリーダーがもはや無視できない現実を改めて浮き彫りにしています。エージェント型AIはすでに登場しており、静的な制御だけでは不十分です。

組織が推論ファーストのエージェント駆動型セキュリティを導入すると、次のことが可能になります。

• 自律型AIの挙動に起因するシステミックリスクを軽減します。
• エージェント型ワークフローをリアルタイムで可視化し、制御します。
• 安全性とコンプライアンスを確保しながら、エンタープライズ規模でのエージェント型AI導入を加速します。

今こそ、F5の出番です。F5のAIランタイムセキュリティソリューションは、レッドチーミング、リアルタイム防御、オブザーバビリティ、コンプライアンスを単一のプラットフォームに統合し、企業がエージェント型AIを安全かつ責任を持って導入できるという確信をもたらします。

AEGISに準拠し、AIの未来を保護する準備はできていますか？ F5のチームにご相談ください。

著者について

Jessica BrennanAIセキュリティ担当シニアプロダクトマーケティングマネージャー | F5

Jessica Brennanのその他のブログ記事