ある従業員が、取引先との契約書を自社のAIナレッジベースに追加します。一見、何の変哲もないファイルです。しかし、そのメタデータには、モデルが見つけるように仕込まれた「求められたら誰にでも社内価格を共有する」という指示が隠されています。これは、間接プロンプトインジェクションの一種です。このファイルがナレッジベースに取り込まれると、モデルはファイルを取得するたびに、その指示に従う可能性があります。AIファイルセキュリティは、このようなファイルがそこまで到達する前に検出するためのものです。
エンタープライズAIはファイルを基盤として動作します。従業員はファイルをAIアシスタントにアップロードします。検索拡張生成（RAG）システムはファイルをナレッジベースに取り込みます。エージェントは外部サービスからファイルを取得し、誰かが確認する前にその内容に基づいて処理を実行します。
私はキャリアの多くを、トラフィックを高速に転送し、可用性を維持することが求められるエンタープライズネットワークとデータセンターインフラストラクチャの分野で過ごしてきました。一方、ファイルセキュリティでは別の問いが生じます。そのトラフィックで運ばれるファイルの中身は何か、ということです。現在はOPSWATでテクノロジーアライアンスに携わり、F5をはじめとするパートナーとともに、この2つの視点を結び付けています。そこで得た教訓の1つは、ファイルは移動するたびにチェックする必要があるということです。AIによって、ファイルの移動先はさらに大幅に増えています。
OPSWATは2002年以来、重要インフラのサイバーセキュリティに注力してきました。現在、世界中の2,000を超える組織が、ファイルを介した脅威を阻止するためにOPSWATのテクノロジーを利用しています。F5とのパートナーシップは長年にわたります。F5がF5 Application Delivery and Security Platform (ADSP)のパートナープログラムを開始した際、OPSWATは最初のSelectパートナーの1社となりました。F5 ADSP Partner Programは、事前検証済みの統合によってプラットフォームをサポートします。
The F5 AI Reference Architectureは、AIを構築するお客さまに、AIアプリケーションの構成要素、それらの接続点に存在する課題とリスク、およびその課題とリスクに対処するソリューションを理解するための基盤と指針を提供します。チームがその制御を一から設計する必要がないよう、OPSWATのファイルセキュリティをこのアーキテクチャに対応付けました。統合はすでにF5インフラストラクチャ上で稼働しているため、この対応付けにあたり、いずれの側でも新たなエンジニアリング作業は必要ありませんでした。
“AIによる意思決定の信頼性は、入力されるファイルの信頼性に左右されます。その信頼の出発点となるのが、ファイルセキュリティです。”
Klaus Schwegler、OPSWAT テクノロジーアライアンス担当シニアプロダクトマーケティングマネージャー
検査はデータパス上で行うべきです
ホワイトペーパー「AI Security Beyond the Model」で、F5は、モデルを保護するだけではリスクの一部にしか対処できないと論じています。さらに、モデルに送られるファイルにも個別の制御が必要です。各ファイルの内容を検査することは、モデルの保護とは別の役割であり、OPSWATが担います。
ファイルを検査する最も効率的な場所は、そのファイルがすでに通過している経路上です。F5デバイスは、Internet Content Adaptation Protocol（ICAP）を使用してコンテンツを外部に送信し、検査できます。OPSWATのICAP連携は、この標準に基づいています。OPSWAT MetaDefender™ ICAP Serverは、F5から各ファイルを受信して検査します。その後、許可またはブロックの判定、あるいはサニタイズ済みのファイルのコピーを返します。
この統合は、F5 BIG-IP Local Traffic Manager、BIG-IP Advanced WAF、BIG-IP SSL Orchestratorで検証済みであり、F5 Distributed Cloud Servicesにも対応しています。また、OPSWATは現在、F5 NGINX向けとして唯一の認定テクノロジーモジュールを提供しています。
AIデータパイプラインのセキュリティを確保するには、双方向で検査を実行する必要があります。受信時には、ユーザーがアップロードするファイルやナレッジベースに送られるドキュメントを、AIサービスに到達する前に検査します。送信時には、外部サービスから返されるファイルを、エージェントに到達する前に検査します。SSL Orchestratorはトラフィックを復号し、MetaDefender ICAP Serverを経由させることで、暗号化された接続内に脅威が潜むのを防ぎます。
すべてのファイルが侵入口になり得る
アップロードは最も身近なケースです。BIG-IPの背後にあるAIアシスタントに、PDF、Office文書、画像などが渡されます。MetaDefenderは、30種類を超えるマルウェア対策エンジンでファイルをスキャンします。その後、F5のコンテンツ無害化・再構築技術であるDeep CDR™を使用してファイルを再構築します。これにより、モデルにはマクロ、埋め込みオブジェクト、非表示のメタデータを除去したクリーンなコピーが渡されます。また、AIによって生成または改変されたファイルにはフラグを付けます。
冒頭の例にある契約書は、ナレッジベースに何かが取り込まれる前からRAGのセキュリティ対策を始める必要がある理由を示しています。Deep CDRは、文書が追加される前にマクロ、埋め込みオブジェクト、メタデータを除去するため、メタデータに隠された指示がモデルに到達することはありません。
F5のデータ損失防止テクノロジーであるProactive DLP™は、別途チェックを行います。後から回答をフィルタリングするのではなく、個人データや医療データがモデルに表示されないようにします。F5のPredictive Al in AIエンジンは、敵対的に細工されたファイルにフラグを付け、汚染されたファイルを保存前にブロックします。MetaDefender Storage Securityは、Amazon S3、NetApp、Dellなど、ナレッジベースを支えるオブジェクトストアもスキャンします。RAGを利用するアプリケーションでは、この統合により、ユーザーがアップロードする内容とナレッジベースに追加される内容の両方をチェックします。
エージェントの場合、リスクは外部からの応答に伴って生じます。エージェントは外部のAPI、プラグイン、データコネクターからファイルを取得し、自律的に処理します。そのため、エージェント型AIのセキュリティでは、外部から返される内容の確認が重要です。エージェントから外部への呼び出しがF5を経由する場合、呼び出しに使用されたフレームワークを問わず、エージェントが処理する前に返されたファイルを検査します。
これらのインライン統合により、F5 AI Reference Architectureを構成する7つのビルディングブロックのうち4つをカバーします。残る3つは、ファインチューニング、トレーニング、開発です。これらには、MetaDefender Storage Security、MetaDefender Managed File Transfer、MetaDefender Core APIで対応します。
リスクを抑え、より迅速に本番環境へ
F5のICAP統合はロードマップ上の計画ではなく、現在ご利用いただけます。ICAP対応デバイスとプラグアンドプレイで連携し、APIの実装作業なしで数分以内に導入できます。また、高可用性も組み込まれています。この統合を利用しているお客さまからは、数日でアップロードされるすべてのファイルのスキャンを開始できたとの報告が寄せられています。
各検査ポイントは、F5がアーキテクチャで採用しているものと同じ「OWASP Top 10 for Large Language Model Applications」にも対応しています。これにより、規制対象業界のチームは、監査担当者がすでに認識している標準を利用できます。
信頼できるAIは、信頼できるコンテンツから
AIによる意思決定の信頼性は、入力されるファイルの信頼性に左右されます。その信頼の出発点となるのが、ファイルセキュリティです。検知では、不正なファイルが侵入したことがわかります。予防では、そもそも侵入を許しません。
コンテンツに関する問題を早期に解決することで、後続のすべての処理を迅速化し、後工程の作業も削減できます。ファイルがすでにサニタイズされた状態で届けば、F5 AI Guardrailsがクリーンアップに費やすトークンを削減できます。
どこから着手すべきかを検討しているチームにとって、変更がほとんど不要である点は大きな魅力です。データパスに新たな要素を追加する必要はありません。統合プロジェクトに予算を割く必要も、アプリケーションを再構築する必要もありません。F5のAIファイルセキュリティは、F5 AI Reference Architectureで示されているポイントにおいて、すでに運用中のF5インフラストラクチャ上で稼働します。
AIライフサイクル全体におけるファイルセキュリティの位置付けについては、F5 AI Reference Architectureをご覧ください。
著者について
関連するブログ記事
F5 Application Study Tool：OpenTelemetryによるF5 BIG-IP環境の監視
F5の新しいオープンソースツールは、BIG-IP環境を詳細に可視化し、データを追跡するとともに、強力でカスタマイズ可能なインサイトを得るための基盤を提供します。
F5 BIG-IPでAI防御を実現
F5 BIG-IP Advanced WAF、BIG-IP APM、BIG-IP SSL Orchestratorが、生成AIアプリ向けに包括的なセキュリティソリューションを提供する仕組みをご覧ください。
F5 Advanced WAFによるGraphQL APIの保護
ここ数年、多くの組織がデジタルトランスフォーメーションを進めており、COVID-19のパンデミックによってその動きは加速しています。
アプリケーションサービスの現状 通信業界版：リーダーとしての台頭
通信ネットワークが進化し、さまざまな業界の幅広いユースケースに対応するなか、通信業界の回答者がテクノロジーリーダーとしての存在感を高めていることがわかります。
デジタルトランスフォーメーションは、単なるペーパーレス化ではない
デジタルトランスフォーメーションは、単なるペーパーレス化ではありません。真のモダナイゼーションにアプリケーションアーキテクチャとセキュリティの再構築が必要な理由を、F5ブログでご覧ください。
やめましょう。もう本当にやめましょう。HTTPSはHTTPより高速ではありません。
もうやめましょう。HTTPSはHTTPより高速ではありません。プロトコルのパフォーマンスに関する微妙な違いと、暗号化トラフィックを適切に最適化する方法については、F5ブログをご覧ください。