ほとんどの組織は、生成AIの導入を計画的に進めてきたわけではありません。あるチームがチャットボットを立ち上げ、別のチームがモデルを社内データに接続し、今ではエージェントが本番環境で人知れずツールを呼び出しています。パイロットから導入へと急ぐ過程で、セキュリティ対策は後追いになってしまいました。
F5のホワイトペーパー「生成AIのセキュリティ確保：30日・60日・90日のフレームワーク」は、まさにこのギャップを埋めるために作成されました。AIセキュリティを調達時のチェック項目や一度限りの監査として扱うのではなく、このフレームワークでは、単一アプリケーションのセキュリティ確保から、環境全体を対象とするプログラムの運用、自律型エージェントの防御へと段階的に進む90日間の道筋を示します。
では、このフレームワークはどのようなものでしょうか。
0～30日目に重要なのは、導入スピードではなく規律
新しいGenAIアプリケーションは、すぐにリリースしたくなるものです。しかし、F5のAIセキュリティフレームワークでは、最初に別のアプローチを取ることを求めています。モデルの選定、レッドチーミング、ガードレールの設計を、乗り越えるべき障害ではなく、最初の30日間に取り組むべき本質的な作業として捉えます。
つまり、まずモデル単体に対してレッドチーミングを実施してセキュリティベースラインを確立し、その上にアプリケーションを構築した後、統合システムに対して再度レッドチーミングを実施して、アプリケーションによってセキュリティが向上したのか低下したのかを確認します。また、既存の規制、AI固有の規制、ユースケースに伴う脅威、レッドチームによる検証結果という4つの異なるカテゴリーにわたってガードレールを構築し、いずれか1つのカテゴリーに明確に当てはまらないという理由で見落としが生じないようにします。
この第1フェーズで確立されるのは、繰り返し実行できるサイクルです。新たなゼロデイ脅威が出現したら、再度レッドチームテストを実施し、ガードレールにパッチを適用して検証したうえで、再デプロイします。
30～60日目：1つのアプリのセキュリティ対策をプログラムへと発展
1つのアプリケーションを適切に保護できれば、十分な成果です。しかし、20のアプリケーションを同じ方法、同じペース、同じ監査可能性で保護するとなると、まったく別の課題になります。多くの組織がここで行き詰まります。
F5のフレームワークは、場当たり的なセキュリティ対策を拡張可能なプログラムへと変える4つの柱で構成されています。
- リスク階層に応じて定義されたレッドチーム演習の実施頻度
- 多数のアプリケーションに対して更新を一括で展開（およびロールバック）できる、ガードレール用パッチパイプラインを構築する
- 実効性のあるSLAに基づく、全システムを対象としたゼロデイ脆弱性対応プロセスを構築する
- セキュリティ担当者が、他の脅威と同様にAIインシデントを的確に調査できるよう、SOCの対応能力を強化する
この第2フェーズは、組織がすべてのAIアプリケーションについて、所有者と最終テスト実施時期を把握できた時点で完了します。
60～90日目：根本的に異なるリスクへの対応
自律型エージェントは、質問に回答するだけではありません。継続的に稼働し、複数のステップからなる計画を推論し、ツールを介して実際にアクションを実行します。そのため、リクエスト／レスポンス型アプリケーション向けに構築されたセキュリティモデルを、そのまま適用することはできません。
このフレームワークが示す答えは、2つの考え方を軸としています。第1に、オブザーバビリティの対象を、結果の記録だけでなく推論の記録にまで広げる必要があります。エージェントのあらゆる思考、ツール呼び出し、意思決定を関連付けて記録することで、インシデント発生後のレビューにおいて、何が起きたかだけでなく、どのように起きたかも再現できるようにします。第2に、エージェントの推論がリスクのある方向に逸れた場合、その思考を単にブロックすると、タスクの途中でエージェントの動作が中断されがちです。そこでこのフレームワークでは、リスクのある思考を、エージェントの生産性を維持できる、より安全な思考に置き換える「思考注入」を提示しています。さらに、ツールの権限や、影響の大きいアクションに対する承認ゲートなど、アクションレベルの制御も組み合わせます。GenAIセキュリティは、一度達成すれば終わりという単一のマイルストーンではありません。このフレームワークは、AI導入環境のギャップがインシデントにつながる前に、セキュリティチームが継続的な運用サイクルを確立できるよう支援することを目的としています。
ホワイトペーパーで、30日・60日・90日の包括的なフレームワークをご確認ください。チームですぐに活用できるフェーズ1～3のチェックリストも掲載しています。また、近日開催予定のウェビナーにもぜひご登録ください。
著者について
James Whiteは、エンタープライズソフトウェア業界で約20年の経験を持つ、優れたエンジニアでありビジネスリーダーです。
James Whiteのその他のブログ記事
関連するブログ記事
経営幹部が抱くAIに関する4つの誤解
AIに関する誤解は数多くあります。ここでは、組織が自社環境にAIを導入する際に見直す必要があるかもしれない4つの誤解を紹介します。
IT/OTコンバージェンスの現状と、セキュリティを最優先すべき理由
ITシステムとOTシステムの融合が進むにつれ、攻撃対象領域は拡大します。組織が安全に統合する方法と、F5 ADSPが大規模な運用の保護にどのように役立つかをご紹介します。
AIのレイテンシ：セキュリティを犠牲にできない理由
AIのレイテンシは、単なる速度の問題ではありません。パフォーマンス、セキュリティ、信頼性のバランスを考慮したシステム設計が重要です。
AIアプリケーションを大規模に提供する：ADCの役割
AIアプリケーションを確実に提供するには、高速なモデルや柔軟に拡張できるインフラストラクチャだけでは不十分です。AIアプリケーションの利用方法を管理するための制御レイヤーが必要です。
MCP：AI対応のアプリケーションデリバリを実現する鍵
Model Context Protocol（MCP）は、最新のアプリケーションにおける安全で低遅延なAI統合を可能にします。将来を見据えたアプリケーションデリバリ戦略にMCPが不可欠な理由をご覧ください。
AIガードレールとは？基盤モデルプロバイダーの枠を超えて進化する安全対策
急速に変化する組織の脅威領域におけるリスクをより包括的に捉えるために、AIガードレールの進化が必要な理由をご覧ください。