世界中の組織が、目を見張る速さで生成AIアプリケーションを構築しています。こうした自社開発のアプリケーションは、イノベーションと新たな効率化を推進するうえで欠かせないものとなっています。しかし、大きな変革をもたらす生成AIアプリケーションであっても、組織がまったく新しい攻撃対象領域にさらされるリスクがあります。
プロンプトインジェクション、ジェイルブレイク、リモートコード実行などの攻撃が成功すると、セキュリティ侵害やデータ漏えいにつながる可能性があります。同様に、大規模言語モデル（LLM）が組織のステークホルダーに対して有害または不適切となり得る応答を生成すると、評判の低下、法的問題、金銭的損失を招く可能性があります。
生成AIを活用したアプリケーションを保護するニーズの高まりに応えるため、F5 Distributed Cloud Platformは、生成AIアプリケーションを保護するテクノロジーを対象に加え、サードパーティテクノロジーとのパートナーシップを拡大しています。AIファイアウォールであるPrompt Securityは、F5 Distributed Cloud App Stackでサポートされるようになりました。Distributed Cloud Platformは、WAF、ボット対策、DDoS防御、APIの検出とセキュリティなどのアプリケーションセキュリティを提供するとともに、Customer Edgeによってネットワークの複雑さを解消します。このパートナーシップは、F5 Distributed Cloud Servicesの拡張性を示すものであり、オンプレミス、エッジ、ハイブリッド、マルチクラウドの各環境にわたるAIアプリケーションの保護を容易にします。Prompt SecurityのAI向けファイアウォールは、受信する生成AIクエリと送信する応答を保護し、プロンプトインジェクション、機密データの漏えい、有害な応答、その他の不正な攻撃から組織を守ります。
生成AIアプリケーションを保護するための基本原則
1. 生成AI固有のセキュリティリスクへの対処
生成AIアプリケーションの登場により、これまでにない新たなセキュリティリスクが生じています。そのため、従来のセキュリティ対策だけでは十分ではありません。Prompt Securityは、すべてのプロンプトとモデルの応答を検査し、プロンプトインジェクション、ジェイルブレイク、Denial of Walletなど、さまざまな新たな脅威から保護します。生成AIアプリケーションへのすべてのトラフィックはPrompt Securityを経由するため、受信するプロンプトを完全に可視化できます。
2. LLMが生成するコンテンツのモデレーション
ユーザープロンプトが組織のシステムに到達する前に検査することと同様に、LLMの応答が安全であり、組織に損害を与えるおそれのある有害または悪質なコンテンツを含まないようにすることも重要です。
3. データプライバシーの確保と漏えいの防止
実運用向けの生成AIアプリケーションを開発する際、最適なユーザー体験を提供するために、アプリケーションは組織（または第三者）のデータベースやリソースにアクセスします。しかし、適切なセキュリティ対策を講じていない場合、LLMが生成する応答に組織のデータが含まれ、開示される可能性があります。その結果、ユーザーがアプリケーションを欺いて機密情報を開示させるおそれがあり、法的問題や評判の低下につながる可能性があります。
4. ガバナンスと可視性の実装
アプリ開発者とセキュリティチームは、生成AIアプリのあらゆる挿入ポイントで、受信トラフィックと送信トラフィックを監視します。組織におけるAI関連のガバナンスや規制がより詳細になり、厳格に適用されるにつれて、この監視の重要性はさらに高まります。Prompt Securityは、生成AIとのやり取りごとに完全なログを提供します。ログには、ユーザー、プロンプト、応答、検出結果などが含まれます。
セキュアな生成AIアプリケーションでビジネスの生産性を向上
Prompt Security firewall for AIにより、F5 Distributed Cloud Servicesのお客さまは、あらゆる接点で生成AIアプリケーションを保護できます。即時の可観測性とポリシー管理が組み込まれているため、組織は生成AIアプリケーションのセキュリティを確保し、業務の生産性を向上させながら、データガバナンスを維持できます。
Prompt Securityのプレスリリースについては、こちらをご覧ください。
Prompt SecurityとF5 Distributed Cloud Servicesの連携デモについては、https://www.youtube.com/watch?v=rP4fgpXgv3Qをご覧ください。
F5 Distributed Cloud Servicesが、あらゆる場所であらゆるアプリケーションに対応するインフラストラクチャの構築にどのように役立つかについては、https://www.f5.com/cloudをご覧ください。
Prompt Securityの詳細については、https://www.prompt.securityをご覧ください。
著者について
関連するブログ記事
F5 Application Study Tool：OpenTelemetryによるF5 BIG-IP環境の監視
F5の新しいオープンソースツールは、BIG-IP環境を詳細に可視化し、データを追跡するとともに、強力でカスタマイズ可能なインサイトを得るための基盤を提供します。
F5 BIG-IPでAI防御を実現
F5 BIG-IP Advanced WAF、BIG-IP APM、BIG-IP SSL Orchestratorが、生成AIアプリ向けに包括的なセキュリティソリューションを提供する仕組みをご覧ください。
F5 Advanced WAFによるGraphQL APIの保護
ここ数年、多くの組織がデジタルトランスフォーメーションを進めており、COVID-19のパンデミックによってその動きは加速しています。
アプリケーションサービスの現状 通信業界版：リーダーとしての台頭
通信ネットワークが進化し、さまざまな業界の幅広いユースケースに対応するなか、通信業界の回答者がテクノロジーリーダーとしての存在感を高めていることがわかります。
デジタルトランスフォーメーションは、単なるペーパーレス化ではない
デジタルトランスフォーメーションは、単なるペーパーレス化ではありません。真のモダナイゼーションにアプリケーションアーキテクチャとセキュリティの再構築が必要な理由を、F5ブログでご覧ください。
やめましょう。もう本当にやめましょう。HTTPSはHTTPより高速ではありません。
もうやめましょう。HTTPSはHTTPより高速ではありません。プロトコルのパフォーマンスに関する微妙な違いと、暗号化トラフィックを適切に最適化する方法については、F5ブログをご覧ください。