ブログ

F5 AI ゲートウェイ: AI セキュリティと配信の固有の課題を解決する

ロリ・マクヴィッティ サムネイル
ロリ・マクヴィッティ
2024年11月12日公開

過去 1 年間で、私たちは生成 AI について多くのことを学びました。特に、導入パターンのベスト プラクティスが具体化し、 AI ファクトリーが新しいデータ センターの構成要素となり、AI モデルとapplicationsの配信とセキュリティに関する懸念が表面化しました。 

AIapplicationsは「最新のapplications」であり、API に大きく依存していることは事実ですが、セキュリティ、監視、配信に関してAIapplicationsに特有の課題があることも事実です。 

大きな課題は、 AIapplicationsの非決定論的な性質によるものです。 つまり、インバウンド入力とアウトバウンド応答は大きく変化し、時間の経過とともに進化します。 AIapplicationsは、複数の場所にまたがる構造化ソースと非構造化ソースの両方からデータを取得することもできます。 実際、当社が市場を調査し、AI 向けのパブリック クラウド、オンプレミス、ハイブリッド展開プランが強力に混在していることがわかったのは驚くことではありませんでした。 

構造化されていない予測不可能な入力と出力の問題は、要求または応答に機密情報や不正確な情報が含まれているかどうかを判断するのが本質的に難しいことです。 API セキュリティと Webapplicationファイアウォールはまさにこの目的でよく使用されますが、これらは決定論的なコンテンツに対して動作します。 つまり、リクエストとレスポンスの形式と内容が理解されるため、悪意のあるコンテンツや機密性の高いコンテンツを検出しやすくなります。 AI では、API や Webapplicationsと同じ構造を活用しますが、コンテンツは非常に可変的であるため、リクエストや応答をスキャンまたはスクラブするポリシーを作成することが困難です。

この挑戦にはもう一つの挑戦が暗黙的に含まれています。 AI トラフィックは両方向で監視する必要があります。 ChatGPT、Azure、Google、Hugging Face など、かなりの割合の組織が AI をサービスとして活用することを計画していることを考えると、これは特に当てはまります。   

AI モデルを保護するために必要なセキュリティ

このため、既存の API およびapplicationセキュリティ ソリューションでは AI モデルとapplicationsを保護するのに十分ではありません。 AI セキュリティはこれらの既存のサービスに追加されるもので、プロンプト インジェクション、モデル操作、幻覚、AI を利用した攻撃からの保護など、企業と顧客の安全を守るために必要な追加の独自の機能を提供します。 

AI モデルとapplicationsを管理および保護するには、application配信およびセキュリティ サービスで次のことを行う必要があります。 

  • 法的要件とコンプライアンス要件をサポートするために、すべてのリクエスト、応答、管理アクションを観察し、記録します。 
  • 悪意のある、機密性の高い、または不正確なプロンプトと応答を検査して対処することで、組織とユーザーを保護します。  
  • ボリューム型攻撃防止などのトラフィック ステアリング ポリシーと制御を使用してパフォーマンスを高速化します。 

F5 AI ゲートウェイを選ぶ理由

F5 は 20 年以上にわたり、applicationアーキテクチャの変化によって生じる配信とセキュリティの課題に取り組んできました。 AI は、これまでのものと同様に、applicationの配信とセキュリティの補完的な進化を必要とする新しいapplicationアーキテクチャを導入します。 F5 AI Gateway は、 AI を活用したapplicationsを保護、高速化、監視するものであり、F5 のapplication配信とセキュリティの自然な進化です。 

この進歩には、今日の IT 資産のハイブリッド、マルチクラウドの現実へのサポートが含まれるため、F5 AI Gateway は単独で導入することも、既存の F5 ソフトウェア、ハードウェア、またはサービスと統合することもできます。  

当初、F5 AI Gateway では、コア配信のニーズと、リアルタイム セキュリティの課題に関連するOWASP LLM トップ 10項目に対応することに重点を置いており、将来的にはさらに多くの項目に対応する予定です。

OpenTelemetry による幅広いメトリックのレポート、監査ログ要件への細心の注意、セマンティック キャッシュ、レート制限、コンテンツ ベースのモデル ルーティングなどの追加機能により、AI 配信とセキュリティの 3 つの要件 (監視保護高速化)すべてが確実にサポートされます。 

F5 AI Gateway は、OWASP LLM Top Ten で特定された配信ニーズとリアルタイムのセキュリティ課題への対応に重点を置いています。
F5 AI Gateway は、OWASP LLM Top Ten で特定された配信ニーズとリアルタイムのセキュリティ課題への対応に重点を置いています。

AI は急速に進化しており、企業はそれぞれ異なることを認識し、F5 AI Gateway は、Python、Rust、Go 用のソフトウェア開発キット (SDK) でサポートされるプラグイン エコシステムを使用して、組織がカスタム要件や新しい要件に適応できるようにします。   

あらゆるアプリと API をどこでも保護

F5 は、あらゆるapplicationと API をあらゆる場所で提供し、保護することに尽力しています。 applicationsが進化するにつれ、新しい独自の課題に対応するためにポートフォリオを進化させる必要があります。 AIapplicationsに関しては、F5 AI Gateway は組織が AI アプリケーションをどこにでも配信し、保護するために必要なものを提供します。 


F5 AI Gateway の詳細については、こちらをご覧いただくか、F5 アカウント エグゼクティブまたは F5 テクノロジー パートナーにお問い合わせください。