アプリケーションを理解するエージェンティックAIガバナンスの三本柱

F5エコシステム | 2025年9月16日

James Hendergartテクニカルリサーチ担当シニアディレクター | F5

イノベーションとガバナンスは別問題です。各種調査の統計からは、慎重な検討を要するガバナンス上の不備があるにもかかわらず、企業による生成AIの導入が急速に進んでいるという懸念すべき実態が明らかになっています。

According to PWCが2025年5月に実施したAIエージェント調査によると、企業の79%がAIを導入しており、エージェント型AIをまったく検討していない企業はわずか2%です。これらのエージェントが、作業計画の策定、複数ステップのアクションの実行、結果の評価、自己調整といった真のエージェント型の特性を備えているか、あるいは単発のリクエストを選択した大規模言語モデル（LLM）に振り分けるチャットボットであるかにかかわらず、導入率は非常に高く、導入企業のほぼすべてが今後1年間にAIへの支出を増やす予定です。

これに対し、F5の「独自調査」では、AI Readiness Indexを用いて、AIシステムを適切に拡張し、セキュリティを確保しながら継続的に運用する能力を定量化しています。その結果、AIを活用したシステムの設計、導入、運用に伴う固有の課題に対応する準備が十分に整っている組織は、わずか2%でした。

それでも、ITチームとセキュリティチームには選択の余地がありません。EYの調査によると、ビジネスリーダーの過半数が、来年の今頃までに競合他社をリードするには、今年中にエージェント型AIを導入しなければならないと考えています。セキュリティとガバナンスのギャップを慎重に解消するために、あえて歩みを緩める組織は、これらのギャップを無視する組織よりも、2026年には脆弱性を抑えたビジネスを実現し、より先へ進んでいるでしょう。以下の3つの実践を組み合わせることで、生成AIとエージェント型AIの導入に伴うリスクの軽減に役立ちます。

1. モデルを保護する

新しいものにはセキュリティ対策が必要です。また、あらゆる形態の生成AIは、その中核に1つ以上のLLMを備えています。精度の継続的な向上、ハルシネーションの低減、ジェイルブレイクの防止をモデル開発者に委ねるだけでは不十分です。企業は、望ましくない動作を独立して検出し、阻止できるプロンプトサービスとモデルサービスに投資する必要があります。さらに、LLMを利用する企業は実際には複数のLLMを使用しているため、アプリケーションの可用性、ルーティング、スケーリング、コスト管理の要件を満たすには、推論API呼び出しからアプリケーションを抽象化することが不可欠です。

2. データを保護する

モデルに公開される企業データは、その企業にとって新しいデータである場合も、そうでない場合もあります。いずれにせよ、データの保護は必須です。保存中のデータを保護したり、ネットワーク上を移動するデータを暗号化したりするだけでは不十分です。承認済みのサードパーティサービスで使用する場合や、サードパーティ事業者が使用する場合であっても、企業のプライベート環境に何らかの形で存在するデータは、検出して保護する必要があります。誤解してはなりません。焦点はデータの出所ではなく、外部への流出です。

3. エージェントを保護する

エージェントは、LLMを使用して、自ら設定した最終目標を達成するために取るべき行動を決定するため、状況を一変させます。エージェントが動作するには、各種操作を実行し、リソースにアクセスし、情報を作成、変更、削除する権限が必要です。エージェントを効果的に観察・評価できるほど近くにありながら、エージェントの外部にある仕組みによって監視・制御する必要があります。今後数か月で成熟が進む中、注意深く見守るべき2つの主要なアプローチが登場しています。ガードレールフレームワーク（MCP-Universeなど）とLLM-as-a-Judgeフレームワーク（Microsoft LLM-as-a-Judge Frameworkなど）です。

前者は、非常に具体的なタスクベースの処理を用いてグラウンドトゥルースを定義し、エージェントが開始したアクションの結果と、明示的な指示を受けたソフトウェアが事前に取得した別のアクションの結果を比較します。その強みは、事前に選定された信頼できる情報源を使用して、天候や歴史的事実などのさまざまな情報を確認するサンプルコードが継続的に拡充されている点です。情報を収集した後、その結果をグラウンドトゥルースとして、デプロイ済みのエージェントが導き出した結果と比較します。

後者は、別のLLM、場合によっては複数のLLMを使用して、デプロイされたエージェントの動作を分析し、ビジネス側が定めた基準に基づいて、その結果の品質と妥当性を評価します。どちらのアプローチも有望で、急速に成熟しつつあり、ビジネス側で管理できます。さらに、必要に応じて、どちらにもヒューマン・イン・ザ・ループによる制御を追加して強化できます。

モデル、データ、エージェントを対象とするこの3つの制御により、サイバーセキュリティとガバナンスのギャップが解消され、生成AIやエージェント型システムに伴う新たな種類のリスクに企業がさらされるのを防ぎます。

この種の制御を独立したインフラストラクチャサービスとして活用する方法について詳しくは、AIアプリとエージェント向けの防御、レッドチーミング、ガバナンスソリューションのパイオニアであるCalypsoAIに関するF5の最新の発表をご覧ください。

注目のブログ記事

F5、NVIDIA Cloud Partnerリファレンスアーキテクチャで大規模なAI推論を高速化・保護

妥協のないAIモデルとエージェントのセキュリティ：F5によるCalypsoAIの買収で実現する、エンドツーエンドのAIランタイム保護

量子時代への備え：F5でPQCを有効化するための実践ガイド