AI Security Platformでカスタムセキュリティロジックをサポートする方法

F5 Newsroom Staff

初期のAIセキュリティ対策では、正規表現ベースのフィルター、単純なプロンプトのサニタイズ、キーワードリストといった静的な防御に重点が置かれていました。これらは現在も、プロンプトインジェクションやPII漏えいなどの一般的な脆弱性への対策に役立ちますが、攻撃対象領域は拡大しています。

最新のAI環境、特にエージェント型システムを使用する環境では、モデルは個別のクエリに応答するだけではありません。モデルは、タスクを連鎖させ、コンテキストを保持し、他のシステムと連携しています。その結果、リスクは単発の出力だけでなく、時間の経過とともに生じる創発的な挙動にも現れます。

静的なプロンプトから動的なシステムへの急速な移行により、AIの入力と出力をフィルタリングするだけでは、もはや十分ではありません。セキュリティには、エージェント、API、MCPベースのツール、データソース、モデル間のインタラクション全体にわたって、動作を検査し、制御できる機能が必要です。

AIセキュリティポリシーにおける一般化の限界

AIセキュリティへの取り組みを始めるには、構築済みのスキャナーが不可欠です。PIIの漏えい、コード実行の試行、ジェイルブレイク手法など、既知の幅広い脅威にすぐに対応できます。ただし、ビジネス固有のコンテンツではなく、汎用化されたデータセットでトレーニングされています。

事前構築済みスキャナーでは、ドメイン固有のリスクを考慮できません。また、組織ごとのポリシーの違い、地域ごとの規則、内部知識に基づく脅威モデルも考慮されません。たとえば、何が機密データに該当するかは、フィンテック企業とグローバルメディアブランドとで大きく異なります。また、GDPR、HIPAA、EU AI Actなどの規制枠組みでは、特に複数の法域にまたがって事業を展開する場合、静的フィルターだけでは適用できない義務が課されます。

汎用的な検出ロジックは、組織に基本的なセキュリティ対策を提供します。しかし、エンタープライズグレードのセキュリティには、各企業に固有の制御が必要です。

ポリシーをロジックに反映：カスタムセキュリティスキャナーが重要な理由

カスタムガードレールにより、組織はビジネスポリシーを実行可能なAIセキュリティロジックに変換できます。これにより、上位レベルのガバナンスフレームワークとモデルレイヤーでの適用とのギャップを埋めることができます。

技術的には、カスタムガードレールで以下が可能です。

• SKU参照、公開禁止用語、法的免責事項など、ドメイン固有の言語やコンテンツ構造を検出
• AIシステム内の難読化されたコンテンツや検出を回避しようとするコンテンツを特定するため、トークンレベルの検査や意味的類似性分析をサポート
• ユーザー、アプリケーション、地域、セッションのコンテキストに基づいて多層的なロジックを適用する
• 複数ステップのタスクにおけるポリシードリフトや機能の誤用など、エージェントの創発的な挙動を検出

このレベルの制御により、実際のビジネスリスクに応じて、高精度な検知を実現し、しきい値、適用範囲、強制措置を調整できます。

カスタマイズによるAI運用のレジリエンス強化

本番環境では変化が絶えず、新たな脅威が出現し、ポリシーが変更され、事業部門ごとに異なる制約の下で運用されています。固定的な制御では、こうした変化に対応できません。カスタムロジックにより、セキュリティチームはリアルタイムで対応できるようになります。適用しきい値の調整、地域やアプリケーションに応じた保護の最適化、既存のセキュリティインフラストラクチャとのシームレスな統合が可能です。

この柔軟性は、攻撃を阻止するだけでなく、セキュリティをデプロイの進展に対応させるうえでも不可欠です。レイテンシ、誤検知、エンジニアリング上の遅延を招くことなく、モデルやワークフローとともに防御策を進化させることで、AIを実験段階から安全に運用段階へ移行できます。

コアインフラとしてのカスタムロジック

組織がAIをツールとして利用する段階から、ワークフロー全体に組み込む段階へと移行する中、かつてセキュリティ機能と見なされていたものを、今やアーキテクチャとして定義する必要があります。

カスタムガードレールにより、以下が可能になります。

• Policy-as-code：インフラストラクチャと同様に、AIシステム向けポリシーを定義し、バージョン管理とガバナンスを行えます
• システム間の相互運用性により、エージェント、チャットボット、RAGパイプラインに同じロジックを適用可能
• ランタイムレイヤーでのインタラクションをきめ細かく制御使用するモデルやプロバイダーを問わず

カスタムガードレールにより、セキュリティはモデルに後付けするパッチから、モデルの利用を制御するプログラム可能なレイヤーへと変わります。

今後の展望：エージェント型の動作と自律的な修復

カスタムガードレールは、AIセキュリティの次の段階を支える基盤でもあります。それは、適応型ポリシーシステムであり、リアルタイムで動的にポリシーを適用し、問題を修復できます。

特にエージェント型システムにとって、これは次のことを意味します。

• 意図の不整合や目標の逸脱を監視
• コンテンツ違反だけでなく、時間の経過に伴う行動の逸脱を検出
• 攻撃が大規模に発生する前に、新たな適用ロジックを自動的に提案してテスト

保護するには、エージェント型AIに対応するセキュリティシステムに、フィードバック駆動型で、振る舞いを認識するポリシーエンジンが必要です。その実現には、カスタムロジックが不可欠です。

要点

標準搭載の保護機能で基本的な対策は可能です。しかし、生成AIシステムやエージェント型システムに対する最も強固なAI防御を実現するには、危険な出力と許容できないアクションの違いを、お客さまの状況、ポリシー、求めるスピードに即して理解する必要があります。

カスタムランタイムガードレールにより、チームは重要な要件をルールとして組み込み、許容される利用方法を定義し、実際のリスクを検知して、確信を持って対応できるようになります。これにより、セキュリティは事後対応型の検知から予防的なガバナンスへと移行します。

カスタムロジックにより、リスクの把握をリスク管理へとつなげます。その成果が、セキュアなイノベーションです。

著者について

F5 Newsroom Staff

F5 Newsroom Staffのその他のブログ記事