この1年で、生成AIについて多くの知見が得られました。特に、デプロイパターンのベストプラクティスが確立され、AIファクトリーがデータセンターの新たな構成要素となる一方で、AIモデルとアプリケーションのデリバリーおよびセキュリティに関する懸念が顕在化しています。
AIアプリケーションが「モダンアプリケーションの中でも最もモダン」であり、APIに大きく依存していることは確かですが、AIアプリケーションには固有の課題があります。セキュリティ、監視、デリバリーの面では、特にその傾向が顕著です。
大きな課題の1つは、AIアプリケーションが非決定論的な性質を持つことです。つまり、受信する入力と送信する応答は大きく変動し、時間の経過とともに変化します。また、AIアプリケーションは、複数の場所にまたがる構造化データと非構造化データの両方を取り込むことができます。実際、市場調査を実施したところ、AIの導入計画にはパブリッククラウド、オンプレミス、ハイブリッドが幅広く組み合わされていましたが、これは予想どおりの結果でした。
非構造化され予測不能な入出力には、リクエストやレスポンスに機密情報や誤った情報が含まれているかどうかを判断しにくいという問題があります。APIセキュリティやWebアプリケーションファイアウォールは、まさにこの目的でよく使用されますが、これらが扱うのは決定論的なコンテンツです。つまり、リクエストとレスポンスの形式や内容が把握されているため、悪意のあるコンテンツや機密性の高いコンテンツを比較的容易に検出できます。一方、AIはAPIやWebアプリケーションと同じ仕組みを利用するものの、コンテンツの変動性が非常に高いため、リクエストとレスポンスをスキャンしたり、機密情報などを除去したりするポリシーの策定が困難です。
この課題には、もう1つの課題が内在しています。それは、AIトラフィックを双方向で監視する必要があることです。特に、相当数の組織がChatGPT、Azure、Google、Hugging FaceなどのAIサービスの活用を計画していることを踏まえると、双方向の監視が重要になります。
AIモデルの保護に必要なセキュリティ
このため、既存のAPIおよびアプリケーションセキュリティソリューションだけでは、AIモデルやアプリケーションを十分に保護できません。AIセキュリティは、こうした既存のサービスを補完し、プロンプトインジェクション、モデル操作、ハルシネーション、AIを利用した攻撃への対策など、企業とお客さまを保護するために必要な追加の固有機能を提供します。
AIモデルとアプリケーションを管理し、セキュリティを確保するために、アプリケーションデリバリおよびセキュリティサービスには、以下が求められます。
- 監視し、法的要件およびコンプライアンス要件への対応を支援するため、すべてのリクエスト、レスポンス、管理操作をログに記録します。
- 保護：悪意のある、機密性の高い、または不正確なプロンプトとレスポンスを検査し、適切に対処することで、組織とユーザーを保護します。
- 高速化：トラフィックステアリングポリシーや、ボリューム型攻撃の防止を含む制御機能を使用して、パフォーマンスを向上させます。
F5 AI Gatewayが選ばれる理由
F5は20年以上にわたり、アプリケーションアーキテクチャの変化に伴うデリバリとセキュリティの課題に対応してきました。AIによって新たなアプリケーションアーキテクチャが登場し、従来と同様に、アプリケーションデリバリとセキュリティもそれに応じて進化する必要があります。F5 AI Gatewayは、AI搭載アプリケーションを保護、高速化、可観測化するものであり、F5にとってアプリケーションデリバリとセキュリティの自然な進化です。
この進化には、今日のIT環境におけるハイブリッドおよびマルチクラウドの実情への対応も含まれます。そのため、F5 AI Gatewayは単独で導入することも、既存のF5ソフトウェア、ハードウェア、サービスと統合することもできます。
当初、F5 AI Gatewayでは、中核となるデリバリーのニーズと、リアルタイムのセキュリティ課題に関連する「OWASP LLM Top Ten」の項目への対応に重点を置き、今後さらに機能を拡充していく予定です。
OpenTelemetryを介した幅広いメトリクスのレポート、監査ログ要件へのきめ細かな対応、セマンティックキャッシュ、レート制限、コンテンツに基づくモデルルーティングなどの追加機能により、AIのデリバリとセキュリティに関する3つの要件すべてをサポートします。それは「可観測性の確保」、「保護」、「高速化」です。
AIが急速に進化し、企業ごとに状況が異なることを踏まえ、F5 AI Gatewayは、Python、Rust、Go向けのソフトウェア開発キット（SDK）でサポートされるプラグインエコシステムにより、組織が独自の要件や新たな要件に対応できるようにします。
あらゆる場所で、あらゆるアプリとAPIを保護
F5は、あらゆる場所で、すべてのアプリケーションとAPIを提供し、保護することに取り組んでいます。アプリケーションの進化に伴い、新たな固有の課題に対応できるよう、F5のポートフォリオも進化させています。AIアプリケーションについては、F5 AI Gatewayが、組織があらゆる場所でAIアプリケーションを提供し、保護するために必要な機能を提供します。
F5 AI Gatewayの詳細については、こちらをご覧いただくか、F5の営業担当者またはF5テクノロジーパートナーにお問い合わせください。
著者について
Lori MacVittieは、F5のOffice of the CTOに所属するDistinguished Engineer兼Chief Evangelistであり、アプリケーションデリバリ、自動化戦略、インフラストラクチャに関する深い専門知識を有しています。AIエージェントのガードレール策定、脆弱なマルチクラウドアーキテクチャの分析、スケーラブルなシステムの限界の検証など、複雑な事柄を明快にすることで知られています。アプリケーション開発、ITアーキテクチャ、ネットワークおよびシステム運用の分野で、30年以上にわたる業界経験を有しています。F5入社前は、受賞歴のあるテクノロジー編集者として活躍していました。 MacVittieはコンピューターサイエンスの修士号を取得しており、セキュリティ、クラウド、エンタープライズアーキテクチャにわたる分野で多数の著作を発表しています。また、テーブルトークゲームとビデオゲームをこよなく愛し、チーズについては遠慮なく強いこだわりを語ります。
Lori Mac Vittieのその他のブログ記事関連するブログ記事
F5 Application Study Tool：OpenTelemetryによるF5 BIG-IP環境の監視
F5の新しいオープンソースツールは、BIG-IP環境を詳細に可視化し、データを追跡するとともに、強力でカスタマイズ可能なインサイトを得るための基盤を提供します。
F5 BIG-IPでAI防御を実現
F5 BIG-IP Advanced WAF、BIG-IP APM、BIG-IP SSL Orchestratorが、生成AIアプリ向けに包括的なセキュリティソリューションを提供する仕組みをご覧ください。
F5 Advanced WAFによるGraphQL APIの保護
ここ数年、多くの組織がデジタルトランスフォーメーションを進めており、COVID-19のパンデミックによってその動きは加速しています。
アプリケーションサービスの現状 通信業界版：リーダーとしての台頭
通信ネットワークが進化し、さまざまな業界の幅広いユースケースに対応するなか、通信業界の回答者がテクノロジーリーダーとしての存在感を高めていることがわかります。
デジタルトランスフォーメーションは、単なるペーパーレス化ではない
デジタルトランスフォーメーションは、単なるペーパーレス化ではありません。真のモダナイゼーションにアプリケーションアーキテクチャとセキュリティの再構築が必要な理由を、F5ブログでご覧ください。
やめましょう。もう本当にやめましょう。HTTPSはHTTPより高速ではありません。
もうやめましょう。HTTPSはHTTPより高速ではありません。プロトコルのパフォーマンスに関する微妙な違いと、暗号化トラフィックを適切に最適化する方法については、F5ブログをご覧ください。