マルチエージェントシステムがもたらす可能性と危険性

F5エコシステム | 2025年7月31日

誰かに車の鍵を渡し、食料品の買い出しを頼む場面を想像してみてください。店が近く、買い物リストも単純であれば、間違いが起きる余地はほとんどありません。しかし、ブランドの指定や食事制限、厳しい予算など、依頼内容が複雑になるほど、対応の難しさも増します。一見ありふれたこの用事で問題が起きた場合、無断購入から車が全損する事故まで、さまざまな結果を招く可能性があります。

現在、多くの組織がAIエージェントの導入において、これと同様の状況に直面しています。ワークフロー内のあらゆるタスクを極めて高いレベルで実行できるエージェントの構築は難しく、コストもかかります。また最近まで、エージェントとツール間の通信には、Web接続におけるHTTPに相当するような、AI向けの統一規格がありませんでした。

“「マルチエージェントシステムは、多数の高度に専門化されたエージェントに役割を分担させ、それらを連携させることで、より正確で関連性の高い結果をもたらす新たなAIパラダイムです。」”

そこで登場するのが、マルチエージェントシステム(MAS)です。これは、高度に専門化された多数のエージェントに役割を分担させ、それらを連携させることで、より正確で関連性の高い結果をもたらす新たなAIパラダイムです。MASでは、各エージェントの対象範囲、アクセス権、専門領域に関するトレーニングを意図的に限定し、モジュール化されたタスク実行によってスケーラビリティを高めます。MASには大きな可能性がありますが、組織がエージェント型AIに「城の鍵」を委ねるにつれ、その可能性に匹敵するほど多くのセキュリティ課題が押し寄せます。その可能性の裏には、攻撃対象領域の拡大という危険が潜んでおり、エージェント型AIシステムにおけるセキュリティ、信頼、説明責任を見直すことが不可欠です。

マルチエージェントシステムとは

基本的に、MASは分散型エージェントAIシステムを構築するためのフレームワークです。多くのタスクを十分な水準で実行できない単一のAIエージェントに依存するのではなく、1つまたは少数の領域に特化したエージェントにタスクを分散します。多くの場合、これらのエージェントはサブエージェントの階層やクラスターで構成されます。各エージェントは自律的に動作しながら、個別の目標と共通の目標を達成するために連携します。MASで考慮すべきエージェントには、主に次のようなカテゴリーがあります。

  • スーパーエージェント – MAS内のワークフローをオーケストレーションするエージェントです。集中化の度合いはユースケースによって異なり、シンプルなMASワークフローでは、すべてのエージェントに同等の自律性を持たせる場合もあります。
  • トリアージエージェント – 各エージェントがタスクを効果的に実行するために必要なツールやリソースを利用できるようにする、リソース割り当て担当エージェントです。
  • ガーディアンエージェント – 説明責任を担う検証役として、出力の正確性をテストし、ユーザーの意図に沿っていることを確認します。

なぜMASが突如として実現可能になったのか?

分散システムや専門家パネルという概念は新しいものではありませんが、最近まで、AIエージェント間の通信には、それを実現するための統一規格がありませんでした。Anthropicの「Model Context Protocol (MCP)」の導入により、構造化された各種ソースからのデータ取得とツールへのアクセスに共通規格が確立されました。また、GoogleのAgent-to-Agent (A2A)フレームワークにより、AIエージェントは、自然言語を介して他のエージェントと通信するためのモデル非依存のフレームワークを利用できるようになりました。簡単に言えば、MCPはエージェントとデータ間の通信、A2Aはエージェント間の通信です。

MASの導入が目前に迫る3つの理由

エージェント型AIでプラスのROIを実現するうえで、特に大きな障壁となるのが、精度、コスト、スケーラビリティです。MASは、導入に伴う複雑化が避けられないものの、これら3つすべてを最適化するうえで最も有望な仕組みの1つです。

  1. 精度:特化型エージェントは、ワークフローのニーズに合わせてカスタマイズできる、モジュール型のリスク低減・品質保証レイヤーを追加します。各エージェントの責任範囲を限定することで、MASはモノリシックモデルと比べて、ハルシネーションや誤解釈のリスクを低減します(Yang et al., 2025)。
  2. コスト — 多数の特化型エージェントのトレーニングコストは、汎用エージェントと比較して変動しますが、分散型MAS環境では、処理の重複や過剰処理が少ないため、推論コストが削減される可能性があります(Gandhi, Patwardhan, Vig, & Shroff, 2024)。
  3. スケーラビリティ – MASは、AIエコシステムにおけるスケーラビリティのあり方を変革します。システム全体を置き換えたり再トレーニングしたりする代わりに、新たなビジネスニーズに対応するエージェントをモジュール単位で追加できるため、コストを抑えられます

MASがうまく機能する場合

以下の図を使って、仮想的なユースケースを見てみましょう。あなたがファイナンシャルアドバイザーで、顧客のAliceが自身のポートフォリオの運用実績についてカスタムレポートを受け取ることを希望しているとします。

スーパーエージェントはプロンプトを受け取り、全体的な意図を把握したうえで、必要なリソースを特定するためにトリアージエージェントを呼び出します。トリアージエージェントまたはルールベースエンジンは、ユーザー固有のコンテキストを取得するCRMエージェント、Aliceの国/地域に対応するローカライゼーションエージェント、取引プラットフォームのデータを取得するポートフォリオエージェントを呼び出すことを決定します。トリアージエージェントがこれらを呼び出す前に、コンプライアンスエージェントは、このタスクでアクセスが許可されているデータとツールを検証します。

マルチエージェントシステムは、多くの組織がハイブリッド環境を利用するのと同じ理由で採用が進むと考えられます。パフォーマンス、セキュリティ、コスト管理のバランスを取るうえで、柔軟性が他のほとんどの検討事項よりも重視されるためです。

これらの下位エージェントにはそれぞれ、パーソナライズやニュース分析などの特定のタスクを担うサブエージェントの階層やクラスターがさらに存在します。相互に連携して動作するものもあれば、独立して動作するものもあります。

レポートが作成されると、まずコンプライアンスエージェントに送られ、すべての規制要件を満たしているか確認されます。その後、最終的にガーディアンエージェントまたは人間参加型のプロセスに送られ、出力が正確でクライアントの意図に沿っているか検証されます。これにより、価値ある成果物を正確かつ個別のニーズに合わせて提供できます。

MASに問題が発生するとどうなるか

MASワークフローに最善の対策が施されていない場合を考えてみましょう。エージェント間の接続にはすべて標準APIが使用されますが、これは多くの組織が今なおさらされている一般的な攻撃経路です。

最初のプロンプトはインジェクション攻撃によって改ざんされ、Aliceの最終レポートを攻撃者のメールアドレスに送信するよう指示が追加されています。コンプライアンスエージェントがこれを検知すれば問題にはならないはずですが、セキュリティで保護されていないAPI接続では、なりすまし攻撃が可能になります。攻撃者はコンプライアンスエージェントになりすまし、後続のエージェントにAliceの銀行口座やクレジットカード情報へのアクセスを許可するとともに、その他の制限も解除します。

ガードレールがなければ、エージェントの権限は指数関数的に拡大し、アクセス可能なものにはすべてアクセスされることになります。パーソナライゼーションエージェントがAliceの普通預金口座残高を現時点で関連性のあるコンテキストだと判断したり、財務分析エージェントが独自の取引アルゴリズムやパートナーシップ契約を他のエージェントに関連する入力情報だと誤認したりする可能性があります。

検証のためにヒューマン・イン・ザ・ループまたはガーディアンエージェントに到達した時点では、出力は正確でユーザーの意図にも沿っているように見えます。しかし、その裏では接続をまたいで信頼が際限なく伝播し、情報が開示され、権限が昇格しています。たった1つの単純なリクエストによって、顧客やパートナーとの信頼関係が損なわれ、無数の脆弱性が露呈することになります。

現実は、精度と危険性の狭間にある

マルチエージェントシステムの一般的な運用は、これら2つの例の中間に位置します。出力精度は大幅に向上する一方で、攻撃対象領域の保護はかなり難しくなります。完全にエージェント型のアプリは技術的にはすでに実現可能ですが、最も実用的な実装は、従来のインフラストラクチャとAIコンポーネントを統合したハイブリッド型が中心になると考えられます。この移行は一夜にして実現するものではありません。また、この問題は複雑であるため、リスクがメリットを上回ることなくビジネス価値をもたらすエージェント型システムの構築に向けて、関係者が主体的に連携する必要があります。

保護のための実践ガイド

モダンアプリケーションの歴史では、統合とハイブリッド化のサイクルが繰り返されてきました。企業は当初、モノリシックなプラットフォームに全面的に依存することが多いものの、やがて機能面のニーズとコストのバランスに優れたハイブリッドポートフォリオへと移行します。エージェント型AIも同じ道をたどる可能性が高いでしょう。モノリシックなプラットフォームに対する当初の期待は、オンプレミス、SaaS、エッジにまたがるアプリケーションとAPIの分散型エコシステムへと移り、現在見られるようなツールの乱立も避けられません。このサイクルを予測することで、組織はMAS主導のワークフローとAIの分散型の未来に備え、先手を打つことができます。

  1. APIを保護する— MCP接続とエージェント型システムの登場に伴い、APIセキュリティの必要性はますます高まっています。ソリューションには、既知および未知のすべてのAPIを包括的にカバーし、脆弱性を動的に検出するとともに、継続的な可視性を提供することが求められます。
  2. 説明可能性を確保する動作を必須にする – AIの「ブラックボックス」が依然として存在する中、意図的に適用範囲を限定したエージェントに、プログラム可能な説明動作を組み合わせることで、ハルシネーションや有害な出力の追跡可能性を高められます。エージェントの出力はログに記録し、実行時に問題のある動作を検出してフラグを付け、不正な拡散を防ぐために分析する必要があります。
  3. ヒューマンインザループ(HITL)に関するポリシーを策定する – 判断を誤ると重大な影響が生じるタスク、コンプライアンス上、人によるガバナンスが必要なタスク、確立されたプロトコルがないエッジケースに適用します。ガーディアンエージェントは人間の知能に代わるものではなく、攻撃者にとって格好の標的となる可能性があります。ボトルネックを防ぎながらリスクを所定のしきい値未満に抑えるには、HITLを組み込んだ従来のルールベースシステムが、依然として最も安全な方法です。設定したしきい値を下回る範囲では、リスクをさらに軽減するためにガーディアンエージェントを限定的に使用することが最適です。ただし、組織は、エージェントによるリスク軽減効果と、エージェントが侵害された場合の最悪のシナリオを比較して評価する必要があります。
  4. 機密データにゼロトラストを適用する – 最小権限アクセスの原則を適用して、エージェントがアクセスおよび共有できるデータを制限し、権限昇格を抑制するためにアクセス権限を継続的に検証するとともに、すべての段階とエージェントで侵害を前提とします。
  5. 分散したツールを統合する - 急増するエージェントが、すでに乱立しているツール群に加わるなか、継ぎはぎのソリューションでは、もはやオブザーバビリティを確保できません。組織は、拡大した新たな攻撃対象領域全体で強固なセキュリティ態勢を維持するためにセキュリティ担当者が必要とするツールと可視性を集約した、統合セキュリティプラットフォームに投資する必要があります。

レッドチーム演習だけでは、エージェントの急増には対処できない

非決定論的な出力を生成するシステムを、決定論的なソリューションで保護することはできません。決定論的な出力を前提とする従来のテスト手法では、実行のたびに一貫した出力が得られないテクノロジーに対応できません。さらに、ワークフロー内のAPIやエージェントの大半を単一の組織が所有または管理する可能性は低いという現実も踏まえると、MASには、より包括的なセキュリティアプローチが求められます。

マルチエージェントシステムは、精度を高める一方で複雑性を増大させます。新たな接続はそれぞれリスクをもたらし、信頼境界が増えるたびに脆弱性が加わり、エージェントが増えるたびに攻撃対象領域が拡大します。しかし、多くの点で新しいルールは従来のルールと変わらず、今ではその遵守がさらに重要になっています。APIのセキュリティ確保、ゼロトラストの適用、システム動作の監視は基本的な対策であり、MASの導入が加速するにつれて、その緊急性は一層高まっています。

広範な導入が一夜にして進むわけではありませんが、将来の普及を見据えてセキュリティスタックを整備することで、MASへの対応だけでなく、現代のシステムが直面する脅威への備えも強化できます。

AIの導入によって攻撃対象領域はすでに拡大しており、現在保護しているシステムが、将来の防御の基盤となります。AIアプリケーションを大規模に展開するにあたり、F5があらゆる環境でAIアプリケーションを配信し、保護する方法をご覧ください。

共有
タグ: 2025

著者について

関連するブログ記事

F5 Application Study Tool:OpenTelemetryによるF5 BIG-IP環境の監視
F5エコシステム | 2025/04/15

F5 Application Study Tool:OpenTelemetryによるF5 BIG-IP環境の監視

F5の新しいオープンソースツールは、BIG-IP環境を詳細に可視化し、データを追跡するとともに、強力でカスタマイズ可能なインサイトを得るための基盤を提供します。

F5 BIG-IPでAI防御を実現
F5エコシステム | 2024/11/13

F5 BIG-IPでAI防御を実現

F5 BIG-IP Advanced WAF、BIG-IP APM、BIG-IP SSL Orchestratorが、生成AIアプリ向けに包括的なセキュリティソリューションを提供する仕組みをご覧ください。

F5 Advanced WAFによるGraphQL APIの保護
F5エコシステム | 2021/08/31

F5 Advanced WAFによるGraphQL APIの保護

ここ数年、多くの組織がデジタルトランスフォーメーションを進めており、COVID-19のパンデミックによってその動きは加速しています。

アプリケーションサービスの現状 通信業界版:リーダーとしての台頭
F5エコシステム | 2019/02/19

アプリケーションサービスの現状 通信業界版:リーダーとしての台頭

通信ネットワークが進化し、さまざまな業界の幅広いユースケースに対応するなか、通信業界の回答者がテクノロジーリーダーとしての存在感を高めていることがわかります。

デジタルトランスフォーメーションは、単なるペーパーレス化ではない
F5エコシステム | 2017/07/10

デジタルトランスフォーメーションは、単なるペーパーレス化ではない

デジタルトランスフォーメーションは、単なるペーパーレス化ではありません。真のモダナイゼーションにアプリケーションアーキテクチャとセキュリティの再構築が必要な理由を、F5ブログでご覧ください。

やめましょう。もう本当にやめましょう。HTTPSはHTTPより高速ではありません。
F5エコシステム | 2016/09/19

やめましょう。もう本当にやめましょう。HTTPSはHTTPより高速ではありません。

もうやめましょう。HTTPSはHTTPより高速ではありません。プロトコルのパフォーマンスに関する微妙な違いと、暗号化トラフィックを適切に最適化する方法については、F5ブログをご覧ください。