AIは急速に進化しています。多くの場合、その進化はAIを管理するために設計されたセキュリティ制御を上回る速さです。
企業では、生成AI、エージェント型システム、AI支援ワークフローの導入が、正式なセキュリティレビューを常に上回るペースで進んでいます。事業部門が先行する一方、セキュリティ責任者はリアルタイムで広がり続けるギャップへの対応を迫られています。
こうした対応が急がれる中、十分に注目されていない問題があります。AIセキュリティ対策が実際に機能するかどうかを評価するための、広く受け入れられた厳格な基準がまだ存在しないことです。ベンダーは有効性を主張しますが、デモンストレーションの対象範囲は限定的で、保証の根拠も実環境で得られた証拠ではなく、アーキテクチャ図にとどまっています。そのため、購入担当者、CISO、GRC責任者、エンタープライズアーキテクトは、実効性のある対策と巧みなマーケティングを確実に見分ける手段がないまま、重大な意思決定を迫られています。
私たちは、このギャップの解消に取り組みました。
本日、独立系サイバーセキュリティテスト企業のNSS Labsは、2部構成の調査シリーズを公開します。このシリーズは、エンタープライズAIのセキュリティを評価する方法について、F5、AWS、Microsoftと共同で作成したものです。
- 第1部「モデルを超えたAIセキュリティ: 企業が重視すべきこととその理由」では、企業のAIセキュリティはモデルだけの問題ではなく、システムとガバナンスの課題であると論じています。入力の完全性と命令の制御、出力リスクとデータ流出、負荷がかかった状況でのシステムレジリエンス、エージェント型AIと権限委譲、可観測性とフォレンジック、そしてこれらすべてを結び付けるガバナンス要件まで、リスク領域全体を解説します。
- 第2部「エンタープライズAIセキュリティの評価:すべての購入担当者が答えられるべき質問」では、そのフレームワークを具体的な行動へと落とし込みます。CISO、企業の購入担当者、GRCチームがAIセキュリティ対策を選定する際に、確信を持って根拠のある意思決定を行うために必要な、ベンダーへの具体的な質問、注意すべき危険信号、定量的な評価基準を提示します。
AIガードレールはAIセキュリティの中核
AIガードレールとは何か、なぜ重要なのかを理解するには、このトピックに関する以前の記事をご覧ください。要約すると、AIガードレールはモデルの外部で動作するランタイムセキュリティ制御です。ポリシーを適用し、データを保護し、エージェント型AIの動作を制限するとともに、ガバナンスに必要な監査証跡を生成します。
これらはモデルそのものではありません。モデルを可能にするエンタープライズセキュリティレイヤーです
業界には基準となる指標が必要でした
変化の速いテクノロジー分野では、いったん立ち止まり、何が優れた状態なのかを見定めることは容易ではありません。製品提供、競争、顧客ニーズへの対応を急ぐあまり、長期にわたって有効なフレームワークを生み出すために必要な、慎重かつベンダー中立の視点に立った検討が難しくなります。
このホワイトペーパーを共同で作成したF5、AWS、Microsoftは、AIを大規模に導入している、世界有数の大企業や先進的な企業を幅広く支援しています。そのため、多くのベンダーが遭遇することのない脅威のパターン、導入の失敗、ガバナンスの不備、エッジケースを把握しています。
こうした実環境での豊富な知見と、NSS Labsが独立したテスト手法で培った厳密性を組み合わせることで、真に役立つものを開発するための基盤が整いました。これはベンダーによる売り込みではなく、日々これらの課題に取り組む人々が構築した、実務者向けのフレームワークです。
実現に向けて時間と専門知識を提供してくださった皆さまに、心より感謝いたします。
今後の取り組み
標準は、採用されて初めて役に立ちます。このフレームワークが、企業が導入を検討しているAIセキュリティソリューションを評価する際の基準となることを願っています。
厳格なテストとはどのようなものかを理解している購入者は、より多くの情報に基づいて購入を判断できます。そうした期待が、セキュリティコミュニティ全体の発展を後押しすることを願っています。
AIの進化は止まりません。攻撃対象領域も縮小していません。そして、AIの導入とAIに対する説明責任の隔たりが自然に埋まることはありません。
NSS Labsの2部構成のホワイトペーパーはこちらからご覧いただけます。また、この協業について発表したプレスリリースもぜひご覧ください。
著者について

関連するブログ記事

F5 Application Study Tool:OpenTelemetryによるF5 BIG-IP環境の監視
F5の新しいオープンソースツールは、BIG-IP環境を詳細に可視化し、データを追跡するとともに、強力でカスタマイズ可能なインサイトを得るための基盤を提供します。
F5 BIG-IPでAI防御を実現
F5 BIG-IP Advanced WAF、BIG-IP APM、BIG-IP SSL Orchestratorが、生成AIアプリ向けに包括的なセキュリティソリューションを提供する仕組みをご覧ください。
F5 Advanced WAFによるGraphQL APIの保護
ここ数年、多くの組織がデジタルトランスフォーメーションを進めており、COVID-19のパンデミックによってその動きは加速しています。
アプリケーションサービスの現状 通信業界版:リーダーとしての台頭
通信ネットワークが進化し、さまざまな業界の幅広いユースケースに対応するなか、通信業界の回答者がテクノロジーリーダーとしての存在感を高めていることがわかります。
デジタルトランスフォーメーションは、単なるペーパーレス化ではない
デジタルトランスフォーメーションは、単なるペーパーレス化ではありません。真のモダナイゼーションにアプリケーションアーキテクチャとセキュリティの再構築が必要な理由を、F5ブログでご覧ください。
やめましょう。もう本当にやめましょう。HTTPSはHTTPより高速ではありません。
もうやめましょう。HTTPSはHTTPより高速ではありません。プロトコルのパフォーマンスに関する微妙な違いと、暗号化トラフィックを適切に最適化する方法については、F5ブログをご覧ください。