今日のエージェント型AIは、おおむね1年前の生成AIと同じ段階にあります。エージェント型AIのプロジェクトに取り組む組織の大半は、まだ試験運用段階にありますが、初期のワークロードの一部は、すでに本番システムとやり取りし始めています。各チームは、モデルへの単純なクエリにとどまらず、オーケストレーションエージェント、特定の作業に特化したワーカーエージェント、アプリケーションやサービスをまたいで動作を調整できるツール活用型ワークフローの試行を進めています。
こうしたエージェント型システムの進化に伴い、リスクも変化します。従来のLLMとのやり取りでは、多くの場合、障害はモデルと人間の間の1回のプロンプトと応答のやり取りの中で発生し、その範囲内にとどまります。エージェント型システムでは、障害は複数ステップからなる計画、ツールの使用、コンテキストの管理と再利用、エージェントと既存のアプリケーション間のやり取りにわたって波及します。
新たに公開された「OWASP Top 10 for Agentic Applications」は、これらのリスクがどこで発生するかを体系的に示しています。モデルやエージェントに目標、ツール、コンテキスト、そしてシステムを横断して動作する能力が与えられた際に発生する不具合を、10のカテゴリに分類しています。このリストは、以前に発表された「OWASP Top 10 for Large Language Model Applications」を基に、自律性、ツールの使用、コンテキスト管理、サプライチェーン、マルチエージェント間のやり取りに関連するエージェント型AIの脅威に対応しています。
この新しいOWASP Top 10により、セキュリティ責任者とコンプライアンスチームは、エージェント型AIのリスクを議論し、セキュリティの取り組みの方向性をそろえ、優先的に注力する領域を決定するための共通言語を得られます。
CISOにとって重要な理由
OWASP Agentic Top 10は、AIをセキュアに導入するうえで考慮すべき障害モードを明らかにしています。CISOは今、すでに本番環境への移行が進んでいるシステムに、このガイダンスを適用する必要があります。
F5は、以下を通じてこの取り組みを支援します。
- F5 AI Guardrailsは、エージェント型システムの本番環境への移行に伴い、実行時にセキュリティポリシーを適用してAIの動作を制御します。
- F5 AI Red Teamは、GenAIシステムを評価し、モデルの動作、アプリケーション、エージェント型AIの実行パス全体にわたる実環境でのレジリエンスを検証します。
- Comprehensive AI Security Index (CASI)とAgentic Resistance Scoring (ARS)は、F5 Labsを通じて提供され、モデルおよびシステムレベルのレジリエンスを測定するための標準化されたベンチマークにより、十分な情報に基づくセキュリティ上の意思決定を支援します。
エージェント型AIの進展が加速する中、最も大きな恩恵を受けるのは、初期段階からレジリエンスを組み込み、これらのシステムの設計と運用の基盤としてセキュリティを位置付ける組織です。
OWASP Agentic Top 10 — これらのリスクはどのように顕在化するか
ASI01 – エージェントの目標の乗っ取り
プロンプトインジェクション、汚染されたコンテキスト、または計画からの逸脱によって、エージェントの目標が改変される場合を指します。
- F5 AI Red Teamは、攻撃ライブラリから選んだ間接的なプロンプトインジェクションのシナリオをテストします。これらのシナリオでは、攻撃者が制御する、または信頼できないコンテンツソース(文書、Webページ、メール、ツールの出力など)を通じて悪意のある指示を送り込み、エージェントの目標をどの程度容易に変更できるかを評価します。
- F5 AI Guardrailsは入力検証を徹底し、推論時に安全でない思考経路やコンプライアンスに違反する思考経路を制限することで、後続処理で意図しない動作が生じるリスクを低減します。
- ARSは、エージェント主導で継続的に実行される複数ステップの一連の攻撃に対するレジリエンスを測定します。
ASI02 – ツールの不正使用と悪用
エージェントがツールを誤用したり、攻撃者がツールのインターフェースを攻撃の足掛かりとして悪用したりする場合です。
- F5 AI Guardrailsは、実行時にツール関連のリクエストを検証し、安全でないツールとのやり取りにつながる可能性のある推論パターンを制限します。
- CASIとARSは、代表的な実行パターンにおける悪用されやすさを反映しています。
ASI03 – IDと権限の悪用
エージェントが認証情報、トークン、または昇格されたアクセス権を継承または悪用する場合。
- F5 AI Guardrailsは、推論コンテキスト内のシークレット、認証情報、トークンを検出し、暗黙的または明示的なアクセス権でツールが呼び出される前に、それらをブロックまたはログに記録できます。
ASI04 – エージェント型AIのサプライチェーンの脆弱性
エージェントのワークフローを支えるMCPサーバー、レジストリ、リモートプロンプトパック、サードパーティ製ツールに起因するリスク。
- F5 AI Guardrailsは、エージェントのワークフロー実行時に、信頼できるソースや承認済みのソースからのデータも含め、エージェントが利用するデータに埋め込まれた隠れた指示や注入されたプロンプトを検出し、ブロックします。
- CASIとARSは、各コンポーネントを個別に扱うのではなく、脆弱性がモデルや実行パターンをまたいでどのように波及するかを捉え、システムレベルでリスクを測定します。
ASI05 – 予期しないコード実行
エージェントが安全でない方法でコード、シェル、構成を生成、実行、または変更する場合。
- F5 AI Guardrailsは、コード関連の出力にきめ細かなポリシーを適用し、許可リストを強制適用して、リスクの高いパターンをブロックします。
- CASIとARSは、代表的な実行パス全体にわたってこれらの動作を捉えます。
ASI06 – コンテキスト管理と検索の操作
永続化されたコンテキストや取得されたコンテキストが汚染、操作されている場合、またはドリフトが生じている場合。
- F5 AI Red Teamは、通常の実行時入力を通じて提供される、信頼できないコンテキストや誤解を招くコンテキストをエージェントが利用・再利用するシナリオを評価し、コンテキストの劣化が後続の推論やアクションにどのような影響を及ぼすかを検証します。
- F5 AI Guardrailsは、取得したコンテキストにポリシー違反がないか検査し、プロンプトインジェクションのペイロードがモデルの動作に影響を及ぼす前に検出します。
- CASIとARSは、実行時のコンテキストポイズニングとインジェクションによる伝播に対するレジリエンスを測定します。
ASI07 – 安全でないエージェント間通信
エージェントが通信チャネルの保護、認証、整合性チェックを行わずにメッセージを交換する場合。
- F5 AI Guardrailsは、エージェントやエージェントマネージャーがタスクの実行に呼び出すエージェントを評価する場合も含め、実行時にエージェントへの委任の意図を検出してフラグを付け、ポリシー制御を適用してリスクの高い委任に関する推論を制限できます。
- CASIとARSは、複数のステップと複数のエージェントによる実行パターンが、時間の経過とともにシステム全体のリスクをどのように増大させるかを可視化します。
ASI08 – 連鎖的な障害
複数のリスクがステップ、エージェント、またはシステムをまたいで重なり合い、増幅する場合。
- F5 AI Guardrailsは、クォータ、ポリシー制御、ランタイムでの強制適用により、影響範囲を制限します。
- CASIは多様な攻撃ベクトルに対するレジリエンスを測定し、ARSはエージェントによる継続的かつ複数ステップにわたる実行において、障害がどこまで波及し得るかを評価します。
ASI09 – 人間とエージェント間の信頼関係の悪用
エージェントが説得力のある指示や誤解を招く指示を通じて、人間の信頼を悪用する場合。
- F5 AI Guardrailsは、安全でないコンテンツにタグを付けてブロックし、監査のために判定をログに記録します。
- F5 AI Red Teamは、ソーシャルエンジニアリングのパターンをシミュレートし、ワークフロー設計の強化と運用担当者の意識向上を図ります。
ASI10 – 不正なエージェント
侵害されたエージェントや本来の動作から逸脱しつつあるエージェントが、検知されずに複雑なシステム内に残り続ける場合。
- F5 AI Guardrailsは、エージェントの動作が変化しても一貫してポリシーを適用し、安全でない実行パターンやデータの不正持ち出しの試みをブロックします。
- CASIとARSは、リスクシグナルの測定可能な変化を経時的に追跡し、動作のドリフトを検出します。
F5がエージェント型ワークフローにAIセキュリティを提供する仕組み
AIセキュリティは、F5 Application Delivery and Security Platform (ADSP)の中核を成す要素です。エージェント型ワークフローは、アプリケーション層とAPI層でのプロンプト、ツール、コンテキスト、エージェント間の相互作用に新たなリスクをもたらします。ただし、こうした相互作用も、組織がすでに保護しているWeb、API、データプレーン、コントロールプレーンと同じ経路を通ります。
F5は、セキュリティ制御と可視性の対象を推論時の動作にまで広げることで、組織が既存の信頼するアプリケーションセキュリティ基盤を活用しながら、エージェント型AIのリスクに対処できるようにします。
F5は、OWASP GenAI Security Projectの活動を含め、AIのセキュリティを確保するための実践を強化するコミュニティ全体の取り組みを引き続き支援しています。
Learn more about F5 AI Red TeamとF5 AI Guardrailsの詳細をご覧ください。
著者について

Louise Scullyは、F5でAIセキュリティおよび脅威インテリジェンスのプロダクトマーケティング担当シニアマネージャーを務めています。AIセキュリティとエンタープライズテクノロジーの分野で、プロダクトマーケティング、プロダクト管理、市場投入戦略、コミュニケーション、ソートリーダーシップ、カテゴリー開発に携わってきました。F5入社以前は、CalypsoAIとArtomatixでマーケティングを統括し、AI技術と研究成果の市場展開に貢献しました。
Louise Scullyのその他のブログ記事関連するブログ記事

F5 Distributed Cloud CDN:アプリを高速化、ワンクリックで有効化、コストを削減
F5 Distributed Cloud CDNなら、既存のセキュリティポリシーを変更することなく、ワンクリックでアプリを高速化し、オリジンの負荷とエグレスコストを削減して、コンバージョンを向上できます。

F5 BIG-IP v21.1を先行紹介:AIセキュリティ、PQC、ソフトウェアの機能強化
F5のBIG-IP v21.1がAIセキュリティとPQC対応への準備をどのように実現するかをご紹介します。
新しいAI AssistantでGuardrailsを高度化し、セキュリティを強化
F5の新しいAI Assistantは、AI Guardrailのカスタムスキャナー機能に直接組み込まれています。この機能により、企業はGenAIを活用して、自社固有のユースケースや独自のリスクプロファイルに沿ったポリシーを作成し、標準搭載の保護機能を超える対策を実現できます。
EU AI Actへの準拠がより容易に
AIシステム全体でEU AI Act、特に最も重大な禁止事項を運用に落とし込むには、どうすればよいのでしょうか。GenAIを導入するチームにとって、Article 5の「禁止されるリスク」に関する規定への対応には特有の課題があります。操作的な行為、生体認証による監視、ソーシャルスコアリングなど、最も重大な違反の多くは、従来のセキュリティツールでは容易に検出できないためです。F5のAI […]
AIレッドチームに欠けているものと、その改善方法
レッドチーミングは長年にわたり、企業セキュリティの要となってきました。しかし生成AIに関しては、多くの組織が新たな脅威環境に旧来の手法を適用しています。静的なプロンプトテスト、単発の監査、CLIベースのツールでは明らかな不具合を発見できる場合もありますが、導入後の生成AIシステムの挙動が持つ現実世界の複雑さを捉えられることはほとんどありません。 […]
欧州連合の人工知能法
AIが国際ビジネスのあり方を変える中、欧州連合の人工知能法(EU AI Act)は、AI技術の進化における重要な節目となっています。27か国で法制化されたこの重要な規制枠組みは、AIの利用を予定するあらゆる企業や組織に影響を及ぼし、AIシステムのあり方を形作ることになります。[…]