結果分析と、それによるAI脅威検知の向上

F5 ADSP | 2025年8月01日

Jessica BrennanAIセキュリティ担当シニアプロダクトマーケティングマネージャー | F5

CalypsoAIの「Inference Defend」AIセキュリティソリューションに、AI脅威検知ワークフローの可視性と制御性を高めるために設計された新機能「Outcome Analysis」が追加されました。Defendのリアルタイム保護レイヤーの一部として、Outcome Analysisは、スキャナー（またはガードレール）がプロンプトやレスポンスにフラグを付けた理由、またはブロックした理由をセキュリティチームが正確に把握できるよう支援します。これにより、推測に頼る必要がなくなり、問題解決を迅速化できます。

Outcome Analysisにより、セキュリティチームは以下を確認できます。

どのバージョンのスキャナーがトリガーされたか
ブロックの原因となった具体的なコンテンツまたはルール違反
関与したユーザーまたはエージェント

この機能強化により、実用的なインサイトが得られ、AI脅威検知の迅速化と精度向上に加え、大規模環境での管理が容易になります。

エンタープライズAIの脅威検知にコンテキストが不可欠な理由

組織がGenAIアプリケーションを拡大するにつれ、アラート疲れや誤検知が現実的なリスクとなります。特に、エンコードされたプロンプトや極めて冗長なLLMの応答を確認する際、セキュリティチームはスキャナーが反応した理由を把握するのに苦労することが少なくありません。

Outcome Analysisは、以下の機能を提供することで、この課題を解決します。

プロンプトおよびレスポンスの違反に関する根本原因の把握
タイムスタンプ付きのユーザーコンテキストにより、調査と解決を迅速化
スキャナーバージョン間およびデプロイメント間のポリシー比較
チューニングとレポート作成に向けたスキャナー性能の検証

これにより、組織は事後対応型の防御から適応型のAI脅威検知へと移行し、可視性やコンプライアンスを損なうことなく、迅速なイノベーションを実現できます。

ユースケース：AIスタック全体でアラートからアクションへ

Outcome Analysisは、GenAIのセキュリティライフサイクル全体にわたる脅威検知を強化します。一般的な企業向けユースケースは次のとおりです。

ブロックまたはフラグ付けされたイベントを調査するSOCチームおよびインシデント対応チーム
アラートや誤検知の背景を把握し、検証するAIセキュリティアナリスト
モデル、アプリケーション、ワークフロー間でスキャナーのパフォーマンスと動作を比較するプロジェクトチームまたはアプリケーション開発者
フラグが付けられたアクティビティについて、監査に使用できる証拠を生成するガバナンスおよびコンプライアンスの責任者

ランタイムの脅威に対処する、より効果的な方法

顧客向けチャットボット、社内向けコパイロット、エージェント型ワークフローのいずれを保護する場合でも、Outcome Analysisにより、チームは状況を明確に把握し、確信を持って対応できます。

CalypsoAIのAIセキュリティソリューションであるInference Defendは、すでにAIランタイムをリアルタイムで保護し、95%の判定精度で有害なプロンプトの97%をブロックします。Outcome Analysisを活用すれば、脅威を阻止するだけでなく、その実態も把握できます。この機能は、ビジネスと固有のリスク環境に合わせて進化する、透明性の高いインテリジェントなAI脅威検知に向けた重要な一歩です。