アナリストの視点で見るAIセキュリティ：Gartner®、Forrester、KuppingerColeの知見

Jessica BrennanAIセキュリティ担当シニアプロダクトマーケティングマネージャー | F5

企業は、AIのセキュリティ確保には専用に設計されたソリューションが必要であることを認識し始めています。モデルが動的に振る舞い、エージェントが自律的に動作し、導入後にリスクが急速に変化する状況では、従来の制御では対応が困難です。生成AIが本番環境で実際に利用されるようになった今、セキュリティ、リスク、ガバナンスの責任者には、従来のアプリケーションセキュリティ手法では対応できないことも多い、リアルタイムで顕在化する脅威への対処が求められています。

アナリストの調査にもこの変化が表れており、AI対応システムに合わせて組織がセキュリティ戦略をどのように適応させるべきかについて、さまざまな見解が示されています。本稿では、これらの見解を単一の合意点として提示するのではなく、Gartner、Forrester、KuppingerColeの各アナリストフレームワークがAIリスクにどう取り組んでいるか、また、組織がそれらの見解をランタイムガードレールやAIに特化したレッドチーミングにどう反映できるかを考察します。

ランタイムにおけるAIリスク

アナリスト各社の調査から、AIリスクは動的であるという実態がますます明らかになっています。従来のアプリケーションとは異なり、AIシステムはプロンプト、コンテキスト、ダウンストリームの統合に応じて動作が変化する可能性があり、導入から長期間が経過した後でも新たな攻撃経路が生じます。

アナリストによって課題の捉え方は異なりますが、各社の調査では、AIを大規模に導入する企業が繰り返し検討すべき事項として、以下が挙げられています。

• 多くのAI脅威は、実際の利用中に顕在化します
• モデルプロバイダーによる保護対策だけでは、エンタープライズガバナンスには不十分です
• 監督には、継続的な可視性、追跡可能性、ポリシー適用が必要です
• エージェント型で複数のステップからなり、適応的に変化する攻撃を反映できるよう、テストも進化させる必要があります

こうした状況を受け、先進的な研究では、AIシステムがユーザー、データ、ビジネスワークフローとやり取りするランタイム環境で機能するセキュリティ制御も対象とするようになっています。こうした背景から、F5は、F5 AI GuardrailsとF5 AI Red Teamを正式に発表します。これらは、F5 Application Delivery and Security Platform (ADSP）に加わる、企業のAIシステムをランタイムで保護するために設計された2つの新しいソリューションです。

Gartner® AIの信頼性、リスク、セキュリティ管理に関するマーケットガイド

Gartnerは、AIの信頼性、リスク、セキュリティ管理に関するマーケットガイドの中で、次のように述べています。「AIリーダーは、AIの信頼性、リスク、セキュリティを管理するために、組織全体のステークホルダーと連携する必要があります。また、gAIガバナンスポリシーを策定・更新し、それらのポリシーを実現・適用するAI TRiSMテクノロジーを評価・導入するための組織体制を確立する必要があります。これにより、組織は、より安全で信頼性が高く、信頼できるセキュアなAI利用を体系的に確保しやすくなります。」

F5がTRiSMをAIセキュリティプログラムの主要な基準と位置付けるのは、AIシステムを1回限りの検証ではなく、継続的な監視を必要とする運用資産として扱っているためです。さらに、TRiSMフレームワークの中核要素には、実行時の検査と適用があります。Gartnerはこれを次のように定義しています。

「モデル、アプリケーション、エージェント間のやり取りに適用し、トランザクションが組織のガバナンスポリシーに準拠するよう支援します。該当する接続、プロセス、通信、入力、出力を検査し、ポリシー違反や想定される動作からの逸脱がないかを確認します。異常は明示され、ブロック、自動修復、または調査、トリアージ、対応、必要に応じた修復のために担当者やインシデント対応システムへの転送が行われます。」

この説明は、ランタイムにおけるAIセキュリティに対するF5のアプローチと非常によく合致していると考えています。F5 AI Guardrails,を通じて、F5はモデル、アプリケーション、エージェントワークフローにわたるリアルタイムのAIインタラクションでポリシーの検査と適用に注力し、AIシステムが実際に稼働する環境で組織がガバナンス制御を適用できるよう支援します。*

Forrester：継続的保証モデルにおけるAIレッドチーミングとガードレールの定義

Forresterのさまざまな調査では、自律的に動作し、時間の経過とともに進化するシステムに焦点を当て、運用の観点からAIセキュリティを検証しています。F5では、Forresterの調査は一時点での評価を重視するのではなく、動的な環境でAIシステムが稼働する中、組織が監視と保証をどのように維持するかを探るものだと捉えています。

Forresterは調査レポート「AIレッドチーミングを活用したAI対応アプリケーションのセキュリティ態勢の評価」^[i]で、AIレッドチーム評価を次のように定義しています。

「AIレッドチーム評価では、従来のサイバーセキュリティにおけるレッドチームの概念に、人工知能特有の安全性、有害性、危害に関する観点を組み合わせます。AIレッドチームの取り組みでは、AIを支える技術スタック（インフラストラクチャ、アプリケーション、API、検索拡張生成（RAG）などのAIへの変更、基盤となる大規模言語モデルを含む）に対して人間の参加者が実施するサイバーセキュリティテストと、プロンプトのセキュリティと安全性を評価するためにAIを使用する自動テストを組み合わせる必要があります。」

この定義は、F5 AI Red Teamが提供するAIに特化した敵対的テストの種類を反映しています。このようにレッドチーム演習を捉えることで、本調査は、AIを単独で評価するのではなく、実際のシステムにどのように組み込まれ、運用されているかを考慮した効果的なテストの必要性を強調していることがわかります。

これと並行して、ForresterのAEGISフレームワークの紹介：情報セキュリティのためのエージェント型AIエンタープライズGuardrails,^[ii] では、「安全な導入には、エンタープライズGuardrailsの確立が不可欠である」と述べています。F5はこの考え方を支持し、特にAIシステムがユーザー、機密データ、接続されたアプリケーションと直接やり取りする場合に、組織がAI Guardrailsをシステム運用中に適用する仕組みとして活用し、監視とポリシー適用を支援できるようにします。

これらの研究領域を通じて得られる示唆は明確です。Forresterは、ガードレールとレッドチーミングを、AIセキュリティに対する継続的な保証アプローチの中で活用できる、別個でありながら相互に関連するプラクティスとして位置付けています。これは、一度限りの検証ではなく、継続的な監督の重要性を強調するものです。**

KuppingerCole：生成AI防御を独立した市場カテゴリーとして認識

KuppingerColeは「Generative AI Defense Leadership Compass」で、生成AI防御を、従来のアプリケーションおよびデータセキュリティの制御を超える要件を伴う新たな分野として検証しています。そのために、大規模言語モデルやAI駆動型アプリケーションが本番環境にもたらすリスクに、組織がどのように対処しているかを評価しています。

本レポートの主要な提言の1つは、多様な導入モデルにわたってリアルタイムの保護、ポリシー適用、監査可能性を実現するため、AIシステムが実際に使用される場所で機能するセキュリティ制御が必要だという点です。この分析は、モデル開発やプロバイダー側の保護対策だけに焦点を当てるのではなく、システムの導入後、ユーザー、アプリケーション、機密データに接続された段階でAIとのやり取りを保護することへの関心が高まっている状況を反映しています。

このLeadership Compassは、組織が最適なソリューションを見つけるための市場ガイドです。F5のAI GuardrailsおよびAI Red Team製品を評価した結果、KuppingerColeはF5をリーダーに位置付けました。対象は、製品、イノベーション、市場の各カテゴリーです。レポートの定義によると、この位置付けは、F5が「お客さまの要望に応えるだけでなく、今後数か月から数年の間に必要となるものを予測し、市場の技術的変化を牽引する最先端の製品」を提供していることを示しています。***

アナリストの見解を実践に活かす

Gartner、Forrester、KuppingerColeは、それぞれ異なる分析手法でAIセキュリティに取り組んでいますが、各社の調査からは、企業が解決に向けて積極的に取り組んでいる次のような実務上の課題が明らかになっています。

• AIとのやり取りにおけるポリシーの一貫した適用
• インシデント発生前に、実環境におけるAIのエクスポージャーを把握
• AIシステムの進化と規模拡大に伴う監視体制の維持

こうした幅広い領域で役割を果たすのが、F5 AI GuardrailsとF5 AI Red Teamです。F5 AI Guardrailsは、本番環境におけるAIの動作管理を支援するランタイム制御を提供します。一方、F5 AI Red Teamは、実際の利用状況や攻撃パターンを反映するよう設計された敵対的テストを可能にします。

（注：この対応関係は、アナリストによる推奨を意味するものではありません。F5のAIランタイムセキュリティ機能が、各種アナリスト調査で説明されている制御タイプや運用モデルにどのように対応するかを示すものです。）

AI投資の保護と最適化

AIシステムの自律性が高まり、ビジネスに不可欠になるにつれて、セキュリティ対策が不十分な場合のリスクは、侵害にとどまらず、コンプライアンス上のリスク、評判の低下、イノベーションの停滞にまで及びます。Gartner TRiSM、ForresterによるAEGISの取り組み、KuppingerColeによる生成AI防御の調査など、アナリストが提唱するフレームワークは、ランタイムガードレールとAIレッドチーミングが、企業のAIセキュリティ戦略において重要性を増している理由を示しています。

簡潔に言えば、F5のAIランタイムセキュリティソリューションは、こうした知見を組織が実践に活かせるよう支援し、イノベーションに必要な柔軟性を維持しながら、安全なAI導入をサポートします。

詳しくは、F5 AI Guardrails およびF5 AI Red Team のWebページをご覧ください。

アナリストに関する免責事項

*出典：Gartnerレポート『Market Guide for AI Trust, Risk and Security Management』、Avivah Litan、Max Gossほか著、2025年2月。GARTNERは、米国およびその他の国におけるGartner, Inc.および／またはその関連会社の登録商標およびサービスマークであり、本書では許可を得て使用しています。無断転載を禁じます。

**Forrester Researchは、いかなる企業、製品、サービスも推奨していません。本稿は、一般に公開されているForresterの調査に対する解釈を示すものであり、情報提供のみを目的としています。

***KuppingerColeは、いかなるベンダー、製品、サービスも推奨していません。本稿は、ライセンスに基づき利用しているKuppingerColeの調査内容を反映したものであり、情報提供のみを目的としています。

[i] AIレッドチーミングを活用したAI対応アプリケーションのセキュリティ態勢の評価、Forrester Research Inc.、2025年9月29日
[ii] ForresterのAEGISフレームワークのご紹介：情報セキュリティのためのエージェント型AIエンタープライズGuardrails、Forrester Research, Inc.、2025年8月3日

著者について

Jessica BrennanAIセキュリティ担当シニアプロダクトマーケティングマネージャー | F5

Jessica Brennanのその他のブログ記事