エンタープライズAIセキュリティの評価:購入担当者が答えられるべき質問

エンタープライズAIセキュリティは急速に進化していますが、多くの組織は依然として、ベンダーの主張を厳密に評価することに苦慮しています。F5、AWS、Microsoftとの協力により作成されたこのNSS Labsの調査レポートは、セキュリティ責任者や企業の購買担当者に向けて、ベンダーに尋ねるべき具体的な質問、注意すべき警戒すべき兆候、そしてAIセキュリティに関して自信を持ち、根拠を示せる意思決定を行うために必要な評価基準を提示します。

エグゼクティブサマリー

企業のAIセキュリティには、購入する側の課題があります。組織はAIセキュリティの重要性を認識していますが、その多くには、ベンダーの主張を評価し、実効性のある対策と表面的な対策を見分け、実環境での証拠に基づいてベンダーに説明責任を求めるための、信頼できる枠組みがありません。

本書は、NSS LabsがF5、AWS、Microsoftと共同で作成した全2部構成のシリーズの第2部です。問題の明確化から一歩進み、購入検討者がその問題に対処するための指針を示します。第1部ではAIモデルの保護だけでは不十分な理由を明らかにしました。第2部では、その内容を踏まえ、7つの重要な機能領域にわたる実践的な評価基準を提示します。

本稿の主張の核心は、AIセキュリティの購入判断は単なる技術的な判断ではなく、ガバナンス上の判断であるという点です。購入者が求めるべきものは、アーキテクチャ図ではなく、測定可能な根拠です。具体的には、検出の有効性、運用パフォーマンス、監査要件、フレームワークとの整合性に関する定量的な基準を指します。これらはすべて、隔離されたテストシナリオではなく、実環境の条件に照らして検証されている必要があります。

本書では、入力の脅威と指示の制御、出力とデータ流出のリスク、機能低下時のシステムのレジリエンス、ポリシーとフィルターのガバナンス、エージェント型AIと権限委譲、オブザーバビリティとフォレンジック、統合と相互運用性という7つの能力領域を検討します。各セクションでは、中核となるリスクとともに、購入担当者がベンダーに確認すべき具体的な質問、効果的なソリューションの特徴、注意すべき具体的な危険信号を示します。

本書は最後に、2つの明確な必須事項を示しています。購入前に独立した第三者による検証を求めること、そして、その検証を一度限りの確認ではなく、継続的な取り組みとして実施することです。実質的なテストを拒むベンダーの姿勢は、強さではなく未成熟さを示しています。

要点は、結論にある、真剣に受け止めるべき次の3つの文に集約されています。AIセキュリティの調達は、長期的な影響を伴うガバナンス上の意思決定です。初めから厳しい問いを投げかける企業は、リスクを管理し、防げる失敗を回避するうえで、より有利な立場にあります。そして、AIセキュリティは目新しさや抽象論では成功せず、説明責任、透明性、規律ある評価によってのみ成功します。

目次

はじめに:認知から評価へ

定量的な評価基準の策定

重要な機能領域と購入検討時に確認すべき質問

購入前に求めるべき要件

独立した第三者による検証への準備

結論:主張から説明責任へ

パート1をダウンロード: モデルの枠を超えたAIセキュリティ:企業が重視すべきこととその理由

はじめに:認知から評価へ

AIがさまざまな形で企業システムに浸透するにつれ、新たな脅威対象領域が生まれ、企業はAIのセキュリティリスクを検討せざるを得なくなっています。取締役会、規制当局、経営陣は、AIシステムが脅威対象領域を拡大するだけでなく、運用、法務、評判に関わる新たな種類のリスクをもたらしていることを認識し始めています。そのため、こうしたリスクの低減を目的としたAIセキュリティ製品は、今や企業のセキュリティチームにとって重要な関心事となっています。

しかし、認識があっても、対策の準備が整っているとは限りません。AIセキュリティの重要性を認める企業が増える一方で、この新興分野のベンダーがうたう内容を適切に評価することに、多くの企業が苦慮しています。用語は統一されておらず、デモンストレーションの対象範囲は狭いことが多く、保証の根拠も、実環境での証拠ではなくアーキテクチャに置かれがちです。購入を検討する企業は、実効性のある対策と表面的な対策を区別する明確な方法も、保護範囲が実際にどれほど有効かを見極める明確な方法もないまま、判断を迫られています。

“この領域での問題は、明らかに悪意のあるプロンプトがなくても、信頼できないコンテンツがAIのコンテキストに取り込まれる過程で発生することがよくあります。”

NSS Labsは、以前のホワイトペーパー『モデルの枠を超えたAIセキュリティ』で、AIモデルのセキュリティ確保だけでは不十分な理由と、企業のAIセキュリティをシステムレベルおよびガバナンスの課題として扱う必要がある理由を概説しました。実際のセキュリティ課題は、データの取得、ツールの呼び出し、自動化された意思決定の実行を担う、モデル周辺のシステムで生じます。

本書では、その基盤を踏まえ、問題の理解から解決策の候補の評価へと進み、企業の購入担当者がAIセキュリティベンダーの候補を絞り込む際に、より適切な質問を組み立てられるよう支援します。『AI Security Beyond the Model』と同様に、本書では主にランタイムガードレール(ポリシーの適用、データの保護、監査証跡の生成を担う、モデル外部の制御)に焦点を当てます。一方で、モデルセキュリティや責任あるAIは、モデル固有のリスクを低減するものの、それだけでは企業環境での相互作用に伴うリスクを管理できないことも認識しています。AIシステムが企業のワークフローに組み込まれるにつれ、セキュリティ上の意思決定は、ガバナンス、リスク管理、規制上の説明責任とますます密接に関わるようになっています。組織は、AIシステムがどのように機能するかだけでなく、リスクをどのように制御、監視、監査しているかも説明できなければなりません。

以降の各セクションでは、AIセキュリティの主要な機能領域を評価基準として捉え直すことを試みます。特定の技術やアーキテクチャを指定するのではなく、本番環境向けのAIセキュリティ制御を選定する際に、購入担当者が何を理解し、検証し、その妥当性を説明できるべきかに焦点を当てます。

定量的な評価基準の策定

AIセキュリティを評価するには、定性的な主張にとどまらず、測定可能な検証を行う必要があります。購入を検討する際は、ベンダーを客観的に比較できるよう、求める要件の基準を定めることが重要です。

検知の有効性: ベンダーは、定評のある独立した試験機関の標準化されたテストフレームワークと手法に基づいて、検知能力を実証する必要があります。導入組織は、既知の攻撃パターンに対する測定可能な精度を求め、ベンダーにはテスト手法、対象範囲の限界、誤検知に関するトレードオフの開示を求めるべきです。機密データの露出防止では、構造化データの種類と文脈に依存する機密情報を区別し、基盤モデルやプロンプトの複雑さのレベルが異なっても、一貫した検知精度を維持する必要があります。

運用時のパフォーマンス:購入者は、セキュリティと使いやすさを両立するレイテンシのしきい値を設定する必要があります。システムは、切り離されたテスト条件ではなく、本番環境規模の負荷の下でパフォーマンスを実証する必要があります。誤検知率も重要です。誤検知が多すぎるとアラート疲れを招き、シャドーAIの利用を促してしまいます。ベンダーには、評価に十分な期間にわたる本番環境のメトリクスを提供できることが求められます。

監査要件: 規制を遵守するには、数か月後でもインシデントを再現できるほど詳細かつ包括的なログ記録が必要です。イベントは、遅延を最小限に抑え、標準形式でSIEMにエクスポートできる必要があります。保持要件は、業界やユースケースによって異なります。

フレームワークとの整合性: ベンダーは、定評のある独立試験機関が策定したフレームワークにセキュリティ対策を対応付けるべきです。購入者は、標準化されたテストセットと本番環境のトラフィックサンプルを用いて、これらの機能を実証するようベンダーに求めるべきです。独立した第三者による検証は、セキュリティ対策の有効性を示す信頼できる証拠となります。

重要な機能領域と購入検討時に確認すべき事項

最も基本的なレベルでは、モデルのセキュリティ保護機能により、悪意のあるプロンプトのブロック、許可されていないコンテンツのフィルタリング、単純な利用ルールの適用が可能です。これらの機能は必要ですが、企業のAIで発生する重大な障害の多くは、ルールの不足ではなく、コンテキスト、レジリエンス、可視性の不足に起因しています。

たとえば、AIシステムは、定義されたすべてのコンテンツポリシーに準拠していても、情報の集約や推論、不適切なコンテキストの混在を通じて機密情報を開示してしまう可能性があります。同様に、通常の条件下では正しいルールを適用できても、負荷がかかった場合や、部分的な停止、依存先の障害が発生した場合には、予測できない形で機能しなくなる可能性があります。

入力の脅威、指示の制御、回避の検出

多くのAIセキュリティ制御は「プロンプトのフィルタリング」や「悪意のある入力のブロック」をうたっていますが、この捉え方では問題を単純化しすぎることが少なくありません。ほとんどのAIシステムでは、ユーザーがシステムに直接入力する内容だけでなく、システムが後続の処理で取り込むコンテンツに埋め込まれた指示もリスクの原因となります。こうしたコンテンツには、文書、Webページ、チケット、メール、ナレッジベースなどがあり、その内容を権威あるコンテキストとして扱うには、十分な信頼性が必要です。

著者

Bob Walder - NSS Labs、シニアアナリスト
lan Foo - NSS Lab、最高技術責任者兼製品担当エグゼクティブバイスプレジデント

協力者

本調査は、業界のセキュリティ、クラウド、AI分野のリーダーと協力して実施しました。

Cameron Delano - シニアソリューションアーキテクト、F5
Jeanette Hurr - グローバルソリューションアーキテクト、F5
Riggs Goodman III - AIセキュリティおよびプライバシー担当プリンシパルソリューションアーキテクト、AWS
Raj Bagwe - シニアソリューションアーキテクト、AWS
Zachary Riffle - セキュリティアーキテクト、Microsoft

SecureIQ Labレポートのサムネイル
第三者機関によるテスト結果 | 2026 年 3 月 19 日

その実証結果を確認しませんか?

独立した第三者機関のSecureIQLabが実施した20,000件の実環境に即した攻撃に対して、F5 AI Guardrailsがどのような性能を発揮したかをご確認ください。

購入を検討する際は、システムが実行時にシステム指示、開発者の意図、取得したコンテンツ、ユーザー入力をどのように区別するかを確認する必要があります。検索拡張生成(RAG)を使用するアーキテクチャでは、この区別が極めて重要です。取得したコンテンツがシステムポリシーを暗黙的に上書きできる場合、明らかに悪意のあるクエリが一度も送信されなくても、システムは間接的なプロンプトインジェクションに対して脆弱です。

企業は、次のような質問に対して明確な回答を求めるべきです。

  • システムは、ポリシーで禁止されているリクエストや指示をどの程度適切に検出、評価、ブロックできますか?
  • 入力プロンプトを通じてシステムの意図された動作を上書きしようとする試みを、システムはどの程度検出し、防止できますか?
  • システムは、正当な利用への支障を最小限に抑えながら、意図が不明確で曖昧なプロンプトや、許容範囲の境界にあるプロンプトにどの程度適切に対応できますか?
  • システムは、送信されたコンテンツに埋め込まれた指示がモデルに意図しない影響を与えることを、どの程度効果的に防止できますか?
  • システムは、プロンプトの特殊な書式設定、エンコーディング、変換によって制御を回避しようとする試みに、どの程度効果的に対処できますか?
  • システムは、容易に回避できる経路を生み出すことなく、安全性と、役割に基づく正当なユースケース(トレーニングシミュレーション、レッドチーミング、創作活動など)をどの程度うまく両立できますか?
  • ユーザー(または外部コンテンツ)が、システムやエージェントの指示、ルーティングルール、ツール使用の制約、その他の「優先順位が高い」制御に影響を与えたり、それらを上書きしたりすることを、システムはどの程度効果的に防止できますか?
  • モデルの利用状況を効果的に検知・特定・制御し、不正な利用や過剰な利用(ポリシーの範囲を超える利用)、およびそれらに伴うコストを防止できますか?
  • システムは、指示が競合した際に、どの指示ソース(システム、開発者、検索結果、ユーザー)が優先されたかをログに表示できますか?

実際には、この領域の不具合は、明らかに悪意のあるプロンプトがなくても、信頼できないコンテンツがAIのコンテキストに取り込まれる方法に起因して発生することがよくあります。攻撃者は、文書(ポリシー文書、社内Wikiページ、カスタマーサポート記事など)に隠れた指示を埋め込む可能性があります。その文書は後に、複数の情報源を扱う複雑な検索パイプラインを通じてAIシステムに取り込まれます。モデルはそのコンテンツを取得すると、埋め込まれた指示を、信頼できない入力ではなく、従うべき権威ある指針として扱う可能性があります。社内コンテンツを多くの人が編集できる企業環境では、このような間接的なプロンプトインジェクションの検出は特に困難になる場合があります。

“この領域での不具合は、明らかに悪意のあるプロンプトがなくても発生することが多く、むしろ信頼できないコンテンツがAIのコンテキストに取り込まれる過程で生じます。”

たとえば、1つの情報源への変更が警戒を招き、深刻な被害の即時発生を阻むような状況は、攻撃者にとって必要ではなく、必ずしも望ましくもありません。むしろ、複数のデータソースに小さな変更を加える方が、より有効な戦略となる可能性があります。これにより、応答に対する制約の緩和、内部ワークフローの露呈、システムポリシーよりも攻撃者が制御するコンテキストの優先といった、目立たないながらも持続的なシステム動作の変化が、時間の経過とともに生じる可能性があります。最終的には、より大規模な機密データの抽出につながるおそれがあります。

そのため、購入を検討する際は、AIセキュリティ制御が取得したすべてのコンテンツを潜在的に悪意のあるものとして扱っているか、また、指示の出所にかかわらず、指示の境界が一貫して適用されているかを評価する必要があります。

効果的なソリューションは、ユーザー入力と取得したコンテンツを高い精度で区別します。ユーザープロンプトに指示の上書きを試みる内容が含まれる場合、システムはそれをブロックし、正当なサポート記事に同様の表現が含まれる場合は、適切に処理します。キーワードではなく意味上の意図に基づいて検出することで、エンコーディングの操作やロールプレイのシナリオによって難読化された攻撃を捉えます。ベンダーは、複数のソースから情報を取得する組織の実際のRAGアーキテクチャを使用して、検出能力を実証する必要があります。システムは、有意義な評価ができる期間にわたる本番環境の指標として、検出率、誤検知率、レイテンシを提示することが求められます。

注意すべき兆候:汎用的なプロンプトフィルタリングへの依存、「モデルが対応します」といった曖昧な説明、攻撃を受ける状況で指示の境界が強制適用されることを実証できないこと、十分な期間にわたる本番環境の指標を提供できないこと、社内のRAGアーキテクチャを使用した検出を実証できないこと、意味上の意図を分析せずキーワードのみに基づいて検出することが挙げられます。

入力の完全性とは、悪意のある言葉をブロックすることではなく、動的で信頼できない環境においてポリシーの権限を維持することです。

出力とデータ流出のリスク管理

AIが生成する出力には、明らかに重大なリスクがあります。人間ではないエージェントが回答を作成するために多数の異なるシステムからデータを取得し、その回答によって、当初の意図を超える情報が外部ユーザーに開示される可能性があるためです。大きな影響を及ぼす不具合の多くは、明示的に禁止されたコンテンツに関わるものではありません。むしろ、特定のユーザーに対し、特定の状況や時点では開示すべきでなかった情報が、気づきにくい形で開示されるというものです。

攻撃者や権限のないユーザーが、一見無害に思える一連の質問をする可能性があります。個々の質問に対して返されるデータは開示が許可されたものであっても、それらを組み合わせることで機密情報の推測や再構成が可能になる場合があります。たとえば、社内のチケット管理システムやドキュメント管理システムに接続されたAIアシスタントが、運用上の問題、担当者の役割、システム構成を要約する際に、内部アーキテクチャや規制対象データを間接的に明らかにしてしまう可能性があります。こうした問題は、キーワードフィルターではほとんど検出されません。リスクは、情報の集約とコンテキストから生じるためです。購入を検討する際は、出力制御が累積的な情報露出を考慮しているか、また、応答を制限した理由をシステムが説明できるかを評価する必要があります。この説明能力は、ガバナンスと監査可能性に不可欠な要件です。

購入を検討する際は、次のような質問に対する明確な回答を求める必要があります。

  • AIセキュリティ制御は、出力に含まれるキーワードやフレーズだけでなく、実際にどのような情報が露出しているかを、文脈に基づいてどのように推論するのでしょうか。
  • システムは、公開情報、内部情報、規制対象データを区別できますか?
  • ユーザーのリクエストが正当と思われる場合や曖昧な場合でも、システムはモデルが応答で機密データを開示することをどの程度効果的に防げますか?
  • 保護の対象となる機密データにはどのような種類(個人データ、財務データ、企業の機密情報など)があり、組織に合わせて保護をどのように調整できますか。
  • 制御は、ユーザーの役割、法域、データの出所に応じて適用されますか?
  • システムは、出力がブロックまたは変更された理由を説明できますか?
  • システムは、リクエストとレスポンスの両方に対して、拒否、機密情報のマスキング、安全な変換などの制御を適用し、監査証跡を提供できますか?
  • モデルによる機密データの出力を防ぐために、システムではどのような措置を講じることができますか(ブロック、マスキング、変換、警告、追加のレビューや承認の要求)?
  • モデルを欺いて間接的にデータを開示させようとするプロンプトの細工や回避手法(実際の情報を含む「例」「テンプレート」「テストデータ」「要約」を求めるなど)を、システムはどの程度防止できますか?
  • セッション間やテナント間のデータ漏洩を防止・検知し、あるユーザーのセッション、コンテキスト、または取得したデータソースの情報が、別のユーザーへの応答に含まれないようにできますか?
  • システムは、モデルによるシステムプロンプト、内部指示、非公開のポリシー、運用上の設定の詳細の開示を、どの程度効果的に防止できますか?
  • トレーニングデータ、システムコンテキスト、ログ、コネクタ、取得したコンテンツに含まれている可能性のある認証情報やシークレット(APIキーやトークンなど)の漏洩を、システムはどの程度効果的に防止できますか?
  • システムは、有害な内容、侮蔑的な内容、または著しく偏った内容をモデルが出力することを、どの程度効果的に防止できますか。特に、ユーザーがモデルを挑発しているような例外的なケースではどうですか。
  • 著作権で保護された文章をモデルが長文にわたってそのまま出力したり、その他の形で保護対象のコンテンツを複製したりすることを、システムはどの程度防止できますか?
  • モデルが社内コンテンツ(文書、Wiki、チケット管理システムなど)に接続されている場合、ユーザーに閲覧権限が付与された範囲を超えて、アクセス制限のある社内資料をモデルが再現することを、システムで防止できますか?
  • 有害なワークフローの手順をユーザーに詳しく説明したり、セキュリティ上の脆弱性や安全でないシステム動作を引き起こす可能性のある実行用の成果物(スクリプト、コマンド、コードなど)を生成したりすることを、システムはモデルに対してどの程度効果的に防止できますか?

AIシステムが稼働中の企業データソースに接続されると、こうしたリスクは大幅に増加します。また、AIシステムが複数のソースからの情報を1つの応答にまとめる際に、出力に関する不具合が生じる可能性があります。

出力制御を評価するには、成熟したソリューションが文脈に応じたデータ露出にどのように対処するかを理解する必要があります。コンテキスト認識型システムは、キーワードだけでなく意味も理解します。これにより、文脈に基づいて、構造化されたPIIはブロックし、公開情報は許可することが求められます。ロールベースの制御により、同じクエリに対しても、ユーザーの認可レベルに応じて異なる出力が表示されます。システムには、個々には無害な質問でも、組み合わせると機密情報が明らかになるような、セッションをまたぐ累積的な情報露出を検出することが求められます。ブロックの判断には、具体的なポリシーへの参照、データの種類、認可要件を含める必要があります。既存のデータ分類ポリシーと統合することで、設定の重複を解消できます。

注意すべき兆候は次のとおりです。キーワードのみに基づくフィルタリング、ポリシー適用の判断が不透明であること、ロールに基づくポリシー適用をシステムが実証できないこと(例:ユーザーの認可レベルに関係なく、同じクエリに対して同じ出力が返される)、特定の出力がブロックされた理由をベンダーが人に理解できる言葉で説明できないこと、監査証跡がないことです。企業は、出力制御がコンテキストと意図を考慮し、説明責任を伴って機能していることを示す証拠を求めるべきです。

レジリエンス、堅牢性、障害および性能低下への対応

企業は通常のネットワーク条件下での有効性に基づいてセキュリティ対策を評価することに慣れていますが、AIセキュリティには異なる考え方が求められます。特に重大な障害の中には、システムへの直接攻撃ではなく、処理量や複雑さ、依存先の障害、予期しない相互作用のパターンによってシステムに負荷がかかったときに発生するものもあります。

確認すべき主な点は次のとおりです。

  • ユーザーとのやり取りが通常よりも長時間に及ぶ場合や複雑になる場合(例:「マラソン」のような長時間のセッション)、システムは可用性と応答性をどの程度維持できますか?
  • 長時間のセッションや複数ステップからなるエージェントのワークフローにおいて、制御は一貫して適用されますか?
  • 反復的な入力、不正な形式の入力、または意味をなさない入力が短時間に集中した場合、システムはどのようにリソースの枯渇やサービスの劣化を防ぎますか?
  • AIのセキュリティ制御の機能が低下すると、何が起こりますか?
  • ポリシーチェックはタイムアウトしますか。また、障害時のポリシー適用はフェイルオープンですか、それともフェイルクローズですか。
  • 依存先で障害が発生した際、システムはセキュリティと稼働時間のバランスをどのように保ちますか。また、その動作は設定および監査が可能ですか。

実環境のAIシステムは、利用のピーク、上流システムの障害、IDプロバイダーの応答遅延、検索サービスの性能低下など、変動する条件下で動作します。こうした状況では、制御を適用するコンポーネントに、完全な障害ではなく部分的な障害が発生することがあります。たとえば、ポリシー評価サービスがタイムアウトしたり、応答性を維持するために分類ステップがスキップされたりする可能性があります。こうした障害に慎重に対処しないと、運用担当者に通知することなく、システムがデフォルトで処理を許可する動作に移行する可能性があります。エージェント型ワークフローでは、その結果、適切なチェックを経ずにアクションが実行されるおそれがあります。これらは仮定上の例外的なケースではなく、分散システムでよく見られる障害モードです。そのため、購入を検討する際は、依存先の性能や可用性が低下したときにAIセキュリティ制御がどのように動作するか、また、障害モードが予測可能か、可視化されるか、企業のリスク許容度に合致するかについて、デモによる確認を強く求めるべきです。

“レジリエンスを備えたシステムは、問題が発生した際に単にすべてをブロックするべきではなく、危険な動作を通知せずに許可するべきでもありません。”

レジリエンスの高いシステムは、問題が発生した際に単にすべてをブロックしたり、安全でない動作を通知せずに許可したりすべきではありません。状況が悪化しても、予測可能な形で機能を縮退させ、エラーを明確に報告し、適切な保護を提供し続けるべきです。

適切に設計されたシステムでは、すべての依存先について明確な障害モードを文書化すべきです。サービスがタイムアウトした場合、システムは適切に障害に対処し、イベントを記録し、セキュリティチームにアラートを通知し、ユーザーに明確なメッセージを表示すべきです。ストレステストでは、検知精度を高く維持し、レイテンシを許容しきい値以内に抑え、リクエストがセキュリティチェックを回避できないようにする必要があります。機能の縮退は、通知なしに起こるのではなく、予測可能な形でアラートを伴って起こる必要があり、サーキットブレーカーは暴走したプロセスを速やかに終了しなければなりません。ベンダーは、セキュリティ制御の適用に関する可用性の目標と障害時の動作を説明できるべきです。また、セキュリティ制御の適用がミッションクリティカルな場合、購入者は契約上の確約を求めることがあります。

注意すべき兆候:障害モードを説明できないこと、ストレステストを実施していないこと、または「実際の運用でシステムに障害が発生したことはない」との説明にとどまること、アラートを出さずに性能や機能が低下すること、暴走するプロセスを停止するサーキットブレーカーがないこと、ストレステスト中も高い検出精度を維持できると実証できないこと、性能や機能の低下時にリクエストがセキュリティチェックを迂回できてしまうことなどが挙げられます。

ポリシーとフィルターの有効性およびガバナンスとの整合性

技術的に高度であっても、業務運用の実態に合わないAIセキュリティ制御は、ビジネスの最前線である現場ではほとんど定着しません。企業環境におけるポリシーの決定は、通常、二者択一でも固定的なものでもなく、最終的にはガバナンスに関する判断となります。

購入を検討する際に確認すべきこと:

  • ポリシーの定義、承認、バージョン管理、監査はどのように行われますか?
  • ポリシーの適用範囲を、ロール、データの機密度、地域、またはビジネスの状況に応じて設定できますか?
  • システムは判断の理由を説明できますか?
  • 組織固有のコンプライアンス態勢(業界の規則、社内ポリシー、許容される利用に関する制約)を反映したポリシーを、システムはどの程度実現できますか。また、そのポリシーは継続的にどのように維持されますか。
  • 法的リスクやコンプライアンス上のリスクを生じさせる可能性のある応答(適用される規則や基準に違反する助言や指針など)の防止に、システムはどの程度効果的に貢献しますか?

ポリシーの不備は、多くの場合、意図の問題ではなく、技術的な適用とビジネスの実態とのずれから生じます。たとえば、AIシステムが特定のデータカテゴリーへのアクセスを正しくブロックしていても、その方法が正当な業務ワークフローを妨げ、結果としてユーザーが未承認のツールを使って制御を完全に回避する可能性があります。逆に、ポリシーの定義が曖昧すぎると、規制上または契約上の義務に違反する状況で機密情報が露出するおそれがあります。苦情への対応として場当たり的な調整を重ねると、ポリシーの一貫性や説明責任が徐々に損なわれる可能性があります。そのため、導入を検討する際は、承認の文書化、バージョン履歴、適用結果のレビュー機能など、体系的なポリシーガバナンスをAIセキュリティプラットフォームがサポートしているかを評価する必要があります。こうした規律ある管理がなければ、ポリシーの正確性の判断は主観的になり、セキュリティインシデント発生後にその妥当性を説明することが難しくなります。

“技術的に高度でも実際の業務に即していないAIセキュリティ対策は、現場での運用に耐えられることがほとんどありません。”

統制を過度に適用すると、業務に支障が生じ、不満を抱いたユーザーが未承認の「シャドーAI」システムを導入する可能性があります。一方、統制の適用が不十分な場合は、規制上のリスクや評判に関わるリスクが生じる可能性があります。いずれも、モデルではなくガバナンスの不備を示すものです。

効果的なポリシー管理では、ポリシーをコードとして扱い、バージョン管理、承認ワークフロー、監査証跡を備えるべきです。ポリシーの変更には、本番環境へのデプロイ前に、セキュリティ、法務、事業部門の関係者による文書化された承認を必須とするべきです。ポリシー適用に関するすべての判断は、具体的なポリシー条項、バージョン、セクション、認可ロジックにさかのぼって追跡できるようにするべきです。可能な限り、ポリシーの改善は、誤検知の傾向や影響の大きいブロック、提供可能な場合はチューニングの推奨事項などの情報を示すシステムダッシュボードのデータに基づいて行うべきです。

注意すべき兆候としては、次のようなものがあります。意思決定が不透明であること。その場しのぎの調整や、説明責任を伴わない、ポリシーが「自己学習する」という主張があること。ポリシー変更のバージョン管理や承認ワークフローがないこと。適用判断の根拠となる具体的なポリシー条項を追跡できないこと。ポリシー間の矛盾を解消するルールが文書化されていないこと。

SecureIQ Labレポートのサムネイル
第三者機関によるテスト結果 | 2026 年 3 月 19 日

その根拠を確認しませんか?

独立した第三者検証機関であるSecureIQLabが実施した20,000件の実環境を想定した攻撃に対し、F5 AI Guardrailsがどのような性能を示したかをご確認ください。

エージェント型AI、ツール呼び出しのセキュリティ、委任された権限

AIシステムが受動的な支援の枠を超え、ユーザーや他のシステムに代わって行動するようになると、権限委譲と呼ばれる新たなカテゴリーのリスクが生じます。エージェント型AIシステムは、他のツールの呼び出し、レコードの変更、複雑なワークフローの起動を、マシンの処理速度で実行できます。

エージェント型AIのセキュリティを評価する購入担当者は、以下の主要な制御領域を確認する必要があります。

  • システムはどのような操作を自律的に実行できますか?
  • 権限はどのように制限されますか?
  • ユーザーに代わって行動する権限を委譲されたエージェントに対し、システムは許可される行動と許可されない行動の制約をどの程度適切に適用していますか?
  • 明確な制限がなければ、小さなエラーがシステム間で急速に波及する可能性があるため、リスクや状況に応じて自律性を段階的に設定できますか?
  • システムが外部のツールやエージェントとやり取りしたり、それらを活用したりできる場合、システムの制御機構は、プロンプトによって意図した範囲を逸脱する動作へ誘導されることを、どの程度防げますか(ユーザーが「丁寧にお願いする」場合も含みます)?
  • エージェントが目標を達成できないまま動作し続ける再帰的なループや「暴走」を、システムは効果的に防止または抑制できますか?
  • このシステムは、許可されていないツールの使用、APIやアクションのエスカレーション、過度な自律動作やループ、安全でないツール間の連鎖実行をどの程度効果的に防止できますか?
  • マルチエージェントアーキテクチャにおいて、あるエージェントが取得または生成した機密データが、関連タスクを実行する後続のエージェントやツールに不必要に伝播することを、システムはどの程度効果的に防止できますか?
  • マルチエージェントアーキテクチャでは、システムの境界を越えて権限が正しく伝達されることが不可欠です。システムは、エージェントの連鎖全体でアイデンティティコンテキストをどの程度効果的に維持し、後続のエージェントやツールが昇格されたシステム権限ではなく、元のユーザーの権限の範囲内で厳密に動作するようにしていますか?

委任された権限に関する問題は、自動化を可能にするために、適切な制約を設けずにAIシステムにツールへの広範なアクセスを許可した場合によく発生します。たとえば、サポートの問題解決を任されたAIエージェントには、データベースへのクエリ、レコードの更新、ユーザーへの通知が可能な場合があります。指示の誤解釈や想定外のコンテキストにより、データを誤って変更したり、お客さまに時期尚早な連絡をしたりするおそれがあります。こうした処理は機械の速度で実行されるため、人間が監督して介入する前にエラーが波及する可能性があります。複雑なワークフローでは、個々のリスクが低いアクションでも、組み合わさることで大きな影響を及ぼす場合があります。導入を検討する際は、AIセキュリティ制御が最小権限の原則を適用しているか、機密性の高いアクションに確認を求めるか、自律性を動的に制限または取り消す仕組みを備えているかを評価する必要があります。気づかないうちに権限や動作が拡大するのを防ぐには、エージェントの自律的な動作をガバナンスの課題として扱うことが不可欠です。

“アイデンティティのコンテキストを保持することで、エージェントがシステムレベルの権限ではなく、ユーザーの権限を確実に継承するようにします。”

適切に設計されたシステムでは、アーキテクチャ上の制御によってこれらのリスクを軽減します。適切な制約を設けたシステムは、文書化された権限の境界に基づき、ツールごとに最小権限を適用します。段階的な自律性を導入する際は、影響が中程度の操作には確認を、影響が大きい操作には人間の承認を必須とするべきです。また、アイデンティティコンテキストを保持することで、エージェントがシステムレベルの権限ではなく、ユーザーの権限を確実に継承するようにします。ユーザーが機密性の高い操作を要求した場合、エージェントは不正アクセスをブロックしつつ、アクセスを許可された情報のみを取得するべきです。サーキットブレーカーは暴走したループを速やかに停止する必要があります。また、エージェントのすべての操作について、推論、認可チェック、結果を含む完全なログを記録するべきです。

これらの制御は、システムが技術的にエージェントによる特定のツールの呼び出しや操作の実行を防ぐアーキテクチャ上の制約と、エージェントが操作を実行できるものの、実行しないよう指示される行動上の制約との重要な違いを反映しています。セキュリティ上重要な境界は、行動に関する指示だけに頼るのではなく、可能な限りアーキテクチャ上の制御によって維持すべきです。

注意すべき兆候: エージェントのガバナンスが不十分であることを示す兆候には、ツールへの無制限のアクセスを認めていることや、不正利用の防止をモデルのアライメントのみに依存していること、ツールごとの権限境界が文書化されていないこと、エージェントがユーザーの権限を継承するために必要なアイデンティティコンテキストが保持されていないこと、一連のアクションの分析によって安全でないアクションの連鎖を検出できないこと、エージェントのアクションのログが不完全で、推論や認可チェックが記録されていないことが挙げられます。

オブザーバビリティ、監査、フォレンジック

AIシステムで問題が発生した場合、その経緯と原因を示せることが重要です。場合によっては、問題を再現できることも重要になります。

購入を検討する際は、入力、コンテキスト、ポリシー、出力、アクション、呼び出されたツール、アクセスされたデータを含め、AIのやり取りを最初から最後まで再構成できるかを確認する必要があります。また、効果的なシステムには、継続的な監視とアラート通知をサポートし、インシデントが深刻化する前に、セキュリティチームが異常な動作、安全でない一連のアクション、予期しないエージェント間のやり取りを検知できることが求められます。システムの動作を十分に可視化できなければ、インシデント対応は推測に頼ることになり、ガバナンスの取り組みも信頼性を失います。

AI関連のインシデントが発生した場合、組織には説明ではなく証拠の提示が求められる可能性があります。入力、取得したコンテキスト、適用したポリシー、出力、アクションの詳細な記録がなければ、インシデント対応チームは事実ではなく推測に基づいて事象を再構成せざるを得ません。非決定性によって挙動を再現できない場合があるAIシステムでは、これが特に問題となります。例えば、規制当局や内部監査担当者から、特定の情報が開示された理由や自動化されたアクションが実行された理由を問われることがあります。しかし、エンドツーエンドの可観測性がなければ、組織はその意図、措置の相当性、統制の有効性を示すことができません。そのため、導入を検討する際は、AIセキュリティプラットフォームが、インシデント対応、コンプライアンス報告、インシデント後の学習を支援するために必要な水準の可視性を提供しているかを評価する必要があります。

包括的なログ記録により、元のプロンプト、取得したコンテキストとその情報源、IDと認可のコンテキスト、評価したポリシーとそのバージョン、モデルの出力、加えた変更、ユーザーへの最終応答、後続のアクションを含め、リクエストをエンドツーエンドで再構成できるようにする必要があります。AIセキュリティイベントは、最小限の遅延でSIEMシステムと連携し、ネットワークトラフィックや認証イベントとの相関分析ができる必要があります。重大な違反が発生した場合は、即時対応に十分なコンテキストを伴うアラートを速やかに発することが必須です。また、セキュリティ、パフォーマンス、品質の指標を追跡し、傾向を分析できる統合ダッシュボードも必要です。

GRCの観点では、可観測性のないシステムにガバナンスを適用することはできません。

統合と相互運用性

AIセキュリティ制御が個別に動作すると、可視性に欠落が生じ、連携した対応が妨げられます。多層防御アーキテクチャには、テレメトリを共有し、セキュリティレイヤー間で連携して適用を行う制御が必要です。

IDおよびアクセス管理:認可の境界は、ユーザー認証からデータ取得、最終出力まで及ぶ必要があります。組織は、システムとIDプロバイダーの連携方法や、ロールの変更が適切に反映されるかどうかを評価することが推奨されます。AIエージェントがユーザーの代理として動作する際、システムは認可コンテキストを維持し、権限の連鎖を追跡可能にすることが推奨されます。また、アクセスポリシーは、重複した設定を行わずに既存のRBACモデルから継承することが推奨されます。取得レイヤーでは、リクエスト元ユーザーの認可レベルに基づいてドキュメントをフィルタリングし、最小権限の原則を適用することが推奨されます。

SIEM連携:AIセキュリティイベントは、より広範なセキュリティテレメトリと相関付ける必要があります。そのため、システムはOCSFやCEFなどの標準形式で、遅延を最小限に抑えてイベントをSIEMプラットフォームにエクスポートすることが望まれます。独自のログ形式では、ネットワークトラフィック、認証イベント、データアクセスパターンとの相関付けができません。組織は、AIセキュリティイベントに基づくカスタム検知ルールを作成できるか、また、アラートを既存のインシデント対応ワークフローと連携できるかを確認することが望まれます。

コンプライアンスフレームワークとの整合性: ソリューションでは、具体的な管理策の適用範囲と監査証跡を伴う形で、管理策を確立されたフレームワークに対応付ける必要があります。また、コンプライアンスレポートは、個別の規制要件に合わせてカスタマイズできることが求められます。管理策の具体的な対応関係を示さずに、一般的なコンプライアンス対応をうたうだけでは不十分です。

APIと自動化のサポート: 現代のセキュリティ運用には、プログラムによる制御が必要であり、システムはPolicy as CodeのワークフローとInfrastructure as Codeとの統合をサポートする必要があります。ドキュメントが整備されていないAPIや頻繁に変更されるAPIは、連携の脆弱性につながります。

購入前に求めるべき要件

企業は、アーキテクチャ図や見栄えのよいマーケティング資料よりも証拠を、巧みなデモンストレーションよりも再現性を、自己主張よりも独立した第三者による検証を求めるべきです。

購入を検討する企業は、制約の説明、現実的な条件でのテストの支援、厳しい検証に耐える資料の提供をベンダーに求めるべきです。

テストも説明もできないセキュリティ制御を、ビジネスに不可欠なAIシステムの保護において信頼すべきではありません。

独立した検証に向けた準備

AIセキュリティの評価は困難ですが、その難しさを理由に検証を省くことは正当化できません。独立した第三者によるテストは、制御や機能がうたわれているとおりに動作するという確信を企業が得られる、数少ない方法の1つです。

購入者は、敵対的入力、性能や機能が低下するシナリオ、ガバナンス要件など、実際の利用環境の条件を反映した検証手法を求めるべきです。有意義な検証への参加を拒むベンダーの姿勢は、強さではなく未熟さの表れです。

また、検証を一度限りの取り組みと捉えるべきではありません。初期評価で良好に機能したAIセキュリティ対策も、脅威の進化、モデルの能力向上、新たな攻撃手法の出現に伴い、その有効性が低下する可能性があります。脅威の状況は急速に変化しており、AIセキュリティインシデントには、これまでに見られなかった攻撃手法が使われる可能性もあります。そのため、組織は初期テストに加えて、継続的な検証の要件を定める必要があります。

脅威インテリジェンスの統合: 組織は、脅威インテリジェンスベンダーやセキュリティ研究機関が新たに公開した脆弱性情報を反映するための、ベンダーの更新頻度を評価することが推奨されます。ベンダーは、過去の学習データに基づく攻撃だけでなく、最近公開された攻撃も検知できることを実証する必要があります。脅威インテリジェンスの自動取り込みにより、手動のレビュープロセスよりも迅速な対応が可能になります。

モデルの進化への対応:基盤モデルの機能は急速に進化しており、セキュリティ制御もそれに適応する必要があります。組織は、さまざまな基盤モデルについて、モデルごとの検出有効性データの提示を求めるべきです。また、定量的な根拠のない一般的な主張は、盲点を覆い隠す可能性があるため、注意が必要です。ベンダーは、新しいモデルバージョンの認定に向けた明確なスケジュールと、認定が完了するまでの暫定的な緩和策を提示すべきです。

購入者主導の検証: 組織は、ベンダーによる検証だけに頼らず、セキュリティ制御を継続的にテストすることが推奨されます。購入者は、定期的なレッドチーム演習、継続的な自動バイパステスト、本番環境でのポリシー変更のA/Bテストを実施する権利を契約に盛り込むよう交渉することが推奨されます。顧客によるテストを制限したり、詳細なテレメトリを開示しなかったりするベンダーは、成熟度が低いことを示しています。

脅威の状況が変化する中でも有効性を維持するため、組織は検証を一度限りの評価ではなく、継続的なパートナーシップとして捉えるべきです。この取り組みがなければ、適切に設計された制御であっても、新たな攻撃手法に対してはいずれ不十分となる可能性があります。

結論:主張から説明責任へ

AIセキュリティの購入は、単なる技術的な意思決定ではなく、長期的な影響を伴うガバナンス上の意思決定です。

企業は、事前に難しい問いに向き合うことで、リスクを管理し、判断の妥当性を説明し、防げる失敗を回避しやすくなります。

AIセキュリティを成功に導くのは、目新しさや抽象論ではなく、説明責任、透明性、そして規律ある評価です。

© 2026 NSS Labs®. 無断転載を禁じます。NSS Labs(以下「当社」)の書面による明示的な同意なく、本出版物のいかなる部分も、複製、コピー、スキャン、情報検索システムへの保存、電子メールでの送信、その他の方法による配布または送信を行うことはできません。