見えないものを防御することはできません。これが、現在の生成AIペネトレーションテストが抱える問題です。攻撃が成功したかどうかは分かっても、攻撃がどのように進行したのか、なぜ防御が機能しなかったのかまでは把握できません。AIへの対応状況を評価しようとするセキュリティ責任者にとって、これは重大な盲点です。
Agentic Fingerprintsは、その状況を変えます。CalypsoAIのInference Red-Teamに新たに加わったこの機能により、AIエージェントが敵対的攻撃を実行する過程を、各ステップと意思決定ごとに余すところなく可視化できます。エージェントがAIシステムをどのように突破したのかを、逐一再現する実況のようなものです。
Agentic Fingerprintsとは何か、どのように機能するのか？
Agentic Fingerprintsは、GenAIセキュリティテストを自動化するCalypsoAIのソリューション、Inference Red-Teamの新機能です。現在のAIセキュリティにおいて最も高度な敵対的攻撃手法の1つであるAgentic Warfareを詳細に可視化します。
Agentic Warfareは、CalypsoAIのRed Agentを使用して複雑なマルチターン攻撃を実行します。実際の攻撃者のように、リアルタイムで状況に適応しながらプロンプトを修正し、阻止された場合は前の段階に戻り、戦略を立てます。Agentic Fingerprintsは、Red Agentのあらゆる判断、プロンプト、アクションを可視化したインタラクティブなマップを提供し、次のことを可能にします。
- 初期の意図から侵害の成功または失敗に至るまで、攻撃経路全体を可視化
- 任意の判断ポイントをクリックすると、次の情報が表示されます：
- そのステップにおけるRed Agentの推論
- 送信したプロンプトと受信した応答
- 続行、適応、または方向転換を選択した理由
- モデルの脆弱性を把握し、パターンを探す
仕組みは次のとおりです：
Agentic Fingerprints：AI攻撃の全ステップを可視化 | CalypsoAI
複雑なGenAIペネトレーションテストを、エージェント型攻撃の背後にある推論を深く理解できる、明快で操作しやすい体験へと変える初のツールです。
Gen AIペネトレーションテストでこれが重要な理由
ほとんどのペネトレーションテストツールでわかるのは、何が破られたかまでです。Agentic Fingerprintsなら、どのように破られ、既存の防御策でなぜ阻止できなかったのかまで把握できます。これが大きな進歩である理由を説明します。
エージェントの挙動を可視化
Red Agentは実際の攻撃者のように振る舞い、プロンプトを調整し、次の行動を練り、攻撃の途中で戦術を切り替えます。Agentic Fingerprintsにより、その判断ロジックを段階的に追跡できます。
監査とガバナンスのための説明可能性
Agentic Fingerprintsは、テスト中に行われたすべての判断の監査証跡を提供します。これにより、セキュリティ責任者とコンプライアンスチームは次のことが可能になります。
- リスクのあるモデルの挙動を根本原因まで追跡
- 視覚的で共有可能なレポートにより、デューデリジェンスの実施を証明
- 確信を持ってAIシステムをデバッグし、改善
BYOエージェントの基盤（近日提供予定）
現在、Agentic FingerprintsはCalypsoAIのRed Agentsをサポートしています。近日中に、企業は自社のエージェントを可視化して監査できるようになり、エージェントのライフサイクル全体にわたるオブザーバビリティとガバナンスの基盤が整います。
成果：可視化・検証が可能で、価値をもたらすエージェント型AIレッドチーミング
Agentic Fingerprintsにより、セキュリティチームは静的な結果や1行の要約にとどまらず、攻撃がどのように展開されるかを動的かつ完全に追跡可能な形で把握できます。この高い透明性により、レッドチームは弱点をより迅速に特定できます。また、セキュリティ責任者はテストの厳格性を検証でき、GRCチームは監査やリスク評価において根拠として提示できる証拠を得られます。
Agentic Fingerprintsは、インテリジェントで適応型の脅威からAIシステムを保護するための新たな基準を確立します。重要なのは、モデルやアプリケーションのどこに問題が生じたかを把握するだけでなく、その原因と次に取るべき対応を明らかにすることです。
著者について
関連するブログ記事
F5 Distributed Cloud CDN：アプリを高速化、ワンクリックで有効化、コストを削減
F5 Distributed Cloud CDNなら、既存のセキュリティポリシーを変更することなく、ワンクリックでアプリを高速化し、オリジンの負荷とエグレスコストを削減して、コンバージョンを向上できます。
F5 BIG-IP v21.1を先行紹介：AIセキュリティ、PQC、ソフトウェアの機能強化
F5のBIG-IP v21.1がAIセキュリティとPQC対応への準備をどのように実現するかをご紹介します。
新しいAI AssistantでGuardrailsを高度化し、セキュリティを強化
F5の新しいAI Assistantは、AI Guardrailのカスタムスキャナー機能に直接組み込まれています。この機能により、企業はGenAIを活用して、自社固有のユースケースや独自のリスクプロファイルに沿ったポリシーを作成し、標準搭載の保護機能を超える対策を実現できます。
EU AI Actへの準拠がより容易に
AIシステム全体でEU AI Act、特に最も重大な禁止事項を運用に落とし込むには、どうすればよいのでしょうか。GenAIを導入するチームにとって、Article 5の「禁止されるリスク」に関する規定への対応には特有の課題があります。操作的な行為、生体認証による監視、ソーシャルスコアリングなど、最も重大な違反の多くは、従来のセキュリティツールでは容易に検出できないためです。F5のAI […]
AIレッドチームに欠けているものと、その改善方法
レッドチーミングは長年にわたり、企業セキュリティの要となってきました。しかし生成AIに関しては、多くの組織が新たな脅威環境に旧来の手法を適用しています。静的なプロンプトテスト、単発の監査、CLIベースのツールでは明らかな不具合を発見できる場合もありますが、導入後の生成AIシステムの挙動が持つ現実世界の複雑さを捉えられることはほとんどありません。 […]
欧州連合の人工知能法
AIが国際ビジネスのあり方を変える中、欧州連合の人工知能法（EU AI Act）は、AI技術の進化における重要な節目となっています。27か国で法制化されたこの重要な規制枠組みは、AIの利用を予定するあらゆる企業や組織に影響を及ぼし、AIシステムのあり方を形作ることになります。[…]