チームやツールを横断してGenAIの利用が急増する一方、ほとんどの企業では、GenAIを保護するための制御が依然として不足しています。セキュリティが機能していない原因は、ポリシーの不足ではありません。GenAIは適応的に変化するため、分散システム全体でリアルタイムに保護する必要があり、その範囲はIT部門の可視性が及ばない領域にまで広がることも少なくありません。しかし、多くの組織は、こうした特性に対応できる適切な種類のセキュリティ制御を使用していません。
この問題を指摘し、解決に向けたフレームワークを提示しているのが『GenAI Policy Handbook 2025』です。その中核にあるのは、AIとのやり取りが行われる時点でポリシーを適用できなければならない、という重要な考え方です。
セキュリティの盲点：ランタイム
多くの組織では、従来、アクセス制御、境界ファイアウォール、データ損失防止を中心にセキュリティを構築してきました。しかし、GenAIによって、これまでとは根本的に異なる領域であるランタイムが新たに加わります。
真のリスクが潜んでいるのは、ユーザーがモデルを操作し、データが取り込まれて返され、出力がビジネス成果を左右する、このランタイム層です。具体的には、次のようなリスクがあります。
- フィルターを回避するプロンプトインジェクション
- 意思決定を誤らせるハルシネーション出力
- モデルの応答を通じた機密データの漏えい
- 監視がないまま制御不能に陥る自律型エージェントのアクション
端的に言えば、セキュリティ対策が必要なのはランタイムです。しかし、ランタイムを防御する体制を整えている企業はほとんどありません。
文書上のポリシーからランタイム保護へ
多くの企業が、許容される利用に関するポリシーの策定に着手しています。中には、プレイブックや助言的なガイドラインを作成している企業もあります。しかし、強制力を伴わないポリシーは、単なる提案にすぎません。
ガバナンスと実環境での保護とのギャップを埋めるため、組織は、以下を実行できる適応型セキュリティ制御をランタイムに導入する必要があります。
- 有害なプロンプトと応答をリアルタイムでブロック
- ロールベースのモデルアクセスを適用
- 異常や脅威パターンを発生時に検知
- ユースケースとリスク許容度に応じてセキュリティ設定を調整
こうした要件を満たす防御ソリューションを導入することで、モデルやユースケースの進化に合わせてセキュリティ態勢を強化できます。
単一のAI Security Platform：ライフサイクル全体の保護に不可欠
ランタイムのセキュリティは極めて重要ですが、それだけでは十分ではありません。生成AIとエージェント型AIを真に保護するには、可視性、防御、攻撃的テスト、ポリシーとの整合性を包括する統合的なアプローチが必要です。
そのため、企業はF5の包括的なAIランタイムセキュリティソリューションを採用しています。
- F5 AI Red Team：攻撃者に悪用される前に脆弱性を発見する、AIエージェントによる敵対的テスト
- F5 AI Guardrails：インタラクションの時点でリアルタイムに保護
- 組み込みのオブザーバビリティ：AIの利用状況、リスク、コンプライアンスをロール別に可視化
これらの機能を組み合わせることで、サイバーセキュリティにおいて最も動的な領域に特化して設計されたRuntime Perimeterを形成します。
ランタイムセキュリティに関するガイダンス
GenAI Policy Handbook 2025は、ランタイムで機能し、推論時に防御し、モデルの変化に適応するポリシーを構築する方法について、企業のリーダー向けに実践的な指針を提供します。
ハンドブックをダウンロードして、以下をご確認ください。
- 従来の制御ではGenAIの脅威に対処できない理由
- エージェント型AIに備えて、セキュリティリーダーが今できること
- イノベーションの進展に合わせて拡張できる多層防御の構築方法
AI活用の道のりは、まだ始まったばかりです。最初からセキュリティを確保しましょう。
著者について
関連するブログ記事
F5 Distributed Cloud CDN：アプリを高速化、ワンクリックで有効化、コストを削減
F5 Distributed Cloud CDNなら、既存のセキュリティポリシーを変更することなく、ワンクリックでアプリを高速化し、オリジンの負荷とエグレスコストを削減して、コンバージョンを向上できます。
F5 BIG-IP v21.1を先行紹介：AIセキュリティ、PQC、ソフトウェアの機能強化
F5のBIG-IP v21.1がAIセキュリティとPQC対応への準備をどのように実現するかをご紹介します。
新しいAI AssistantでGuardrailsを高度化し、セキュリティを強化
F5の新しいAI Assistantは、AI Guardrailのカスタムスキャナー機能に直接組み込まれています。この機能により、企業はGenAIを活用して、自社固有のユースケースや独自のリスクプロファイルに沿ったポリシーを作成し、標準搭載の保護機能を超える対策を実現できます。
EU AI Actへの準拠がより容易に
AIシステム全体でEU AI Act、特に最も重大な禁止事項を運用に落とし込むには、どうすればよいのでしょうか。GenAIを導入するチームにとって、Article 5の「禁止されるリスク」に関する規定への対応には特有の課題があります。操作的な行為、生体認証による監視、ソーシャルスコアリングなど、最も重大な違反の多くは、従来のセキュリティツールでは容易に検出できないためです。F5のAI […]
AIレッドチームに欠けているものと、その改善方法
レッドチーミングは長年にわたり、企業セキュリティの要となってきました。しかし生成AIに関しては、多くの組織が新たな脅威環境に旧来の手法を適用しています。静的なプロンプトテスト、単発の監査、CLIベースのツールでは明らかな不具合を発見できる場合もありますが、導入後の生成AIシステムの挙動が持つ現実世界の複雑さを捉えられることはほとんどありません。 […]
欧州連合の人工知能法
AIが国際ビジネスのあり方を変える中、欧州連合の人工知能法（EU AI Act）は、AI技術の進化における重要な節目となっています。27か国で法制化されたこの重要な規制枠組みは、AIの利用を予定するあらゆる企業や組織に影響を及ぼし、AIシステムのあり方を形作ることになります。[…]