AIアプリケーションの現場に制御とセキュリティを

Patrick Enderbyシニアプロダクトマーケティングマネージャー | F5

AIアプリケーション開発は猛烈な勢いで加速しています。Gartnerの最新レポートによると、生成AI機能を組み込んだエンタープライズアプリケーションの割合は、2023年の5%未満から、2026年までに80%を超える見込みです。組織がデジタル体験へのインテリジェンス導入を急ぐなか、焦点は「AIで何ができるか」から、「AIを大規模環境でいかに高い信頼性とセキュリティを確保しながら効率的に提供するか」へと移りつつあります。この新たなインテリジェントアプリケーションの波により、特にハイブリッド環境やマルチクラウド環境全体で、パフォーマンス、配置、制御に関する新たな課題が生じています。

不動産と同様に、AI搭載アプリの展開でも「立地、立地、立地」が鉄則です。AIインフラをどこに配置するかによって、レイテンシ、コスト、ユーザー体験が大きく左右される可能性があります。データの取得やモデルのトレーニングを高速化するため、データストアの近くに配置すべきでしょうか。低レイテンシの推論と応答性の高いアプリを実現するため、ユーザーの近くに配置すべきでしょうか。それとも、規制遵守、プライバシー、可用性を最適化できる場所に戦略的に配置すべきでしょうか。AIアプリは本質的に大量のデータとコンピューティングリソースを必要とするため、データとユーザーインタラクションがもたらす引力は、これまで以上に重要になっています。

パフォーマンスと制御の最適なバランスを実現するには、データとユーザーの双方との近接性を考慮する必要があります。また、最適な連携も重要です。チャットボット、社内分析ツール、外部API呼び出しのいずれから送信されたAIプロンプトでも、適切なバックエンド、モデル、サービス階層にルーティングすることで、正確かつタイムリーな応答を提供できます。シームレスでスマート、かつセキュアなAI体験を実現するには、このアーキテクチャを適切に設計することが不可欠です。

ここで、ルーティングとセキュリティが極めて重要になります。AIアプリケーションは静的なものではありません。利用パターンが変動し、ユーザーの意図も多様で、データフローも絶えず変化する動的なシステムです。そのため、オンプレミスでホストされるファインチューニング済みの大規模言語モデル（LLM）、クラウド上の基盤モデル、別のリージョンにあるデータサービスなど、適切なコンピューティングリソースにプロンプトや入力を柔軟かつインテリジェントにルーティングする仕組みが必要です。この制御がなければ、遅延やユーザー体験の低下、さらには脅威ベクトルにさらされるリスクが生じます。

同様に重要なのが、こうしたAIトランザクション全体にわたる完全なオブザーバビリティです。リクエストが処理されたことを把握するだけでは不十分です。何が要求され、どのようにルーティングされ、どのモデルやシステムが応答し、その結果が期待どおりだったかを詳細に把握する必要があります。このレベルの可視性により、エンジニアリングチームはデバッグを迅速化し、アプリケーションフローを最適化するとともに、セキュリティ上の不備がインシデントにつながる前に特定しやすくなります。また、AIアプリケーションが単に動作するだけでなく、ビジネス目標に沿って、信頼性と安全性を確保しながら稼働することにもつながります。

AIアプリケーションが現代の企業に不可欠なものとなる中、安全かつ効率的なデプロイを確保することが極めて重要です。F5 Distributed Cloud App StackとF5 AI Gatewayは、こうした課題に対応する包括的なソリューションを提供し、多様な環境にわたってAIワークロードをデプロイ、管理、保護するために必要なツールを組織に提供します。

あらゆる環境でAIアプリケーションをデプロイ、管理

F5のDistributed Cloud App StackはSaaSベースのサービスであり、プライベートクラウド、パブリッククラウド、通信事業者クラウド、エッジクラウドなど、異種インフラストラクチャ全体にわたる多数のアプリケーションのデプロイ、保護、運用を可能にします。マネージドKubernetesサービスを通じて統一されたアプリケーションランタイムとスケジューリングレイヤーを提供することで、一貫したワークフローを確保し、分散クラスターの管理に伴う複雑さを軽減します。この柔軟性により、企業は、効率的な処理のためにデータソースの近くに配置する場合でも、応答性を高めるためにエンドユーザーの近くに配置する場合でも、AIアプリケーションを最適な場所に配置できます。

AIインタラクションのセキュリティ確保と最適化

Distributed Cloud App Stackを補完するF5 AI Gatewayは、AI搭載アプリケーションへのプロンプトとその応答を管理し、保護するよう設計されています。受信したプロンプトを検査し、プロンプトインジェクションや機密情報の漏えいなどの懸念に対処します。AIとのやり取りをカスタマイズ可能な方法で監視、保護、管理することにより、AI GatewayはAIアプリケーションの使いやすさを高め、コンプライアンス対応を簡素化します。

AI Gatewayの主な機能とメリットは次のとおりです。

• AIアプリ開発者向けのルート管理： F5 AI Gatewayには、LLMおよび小規模言語モデル（SLM）へのトラフィックルーティングを管理する機能が組み込まれています。開発者向けのキー、API仕様、エンドポイントを管理し、リスクを増やすことなくAIアプリケーションを迅速に構築し、反復的に改善できるようにします。
• コンテンツベースのルーティング：AI Gatewayは、AIプロンプトのコンテキストに基づいて、社内外のLLMまたはSLMにルーティングできます。これにより、プロンプトが最適なモデルに送信され、応答が最適化されるとともに、開発者の反復作業を削減できます。
• 柔軟なデプロイ：Distributed Cloud App StackとAI Gatewayは、パブリッククラウド、プライベートクラウド、オンプレミスのデータセンター、エッジロケーションなど、さまざまな環境へのデプロイをサポートします。Kubernetesベースのアーキテクチャにより、AIアプリケーションを最適に配置でき、パフォーマンスとユーザーエクスペリエンスの向上につながります。
• 包括的なオブザーバビリティ：OpenTelemetryのサポートにより、AI GatewayはLLMとの間で行われるすべてのトランザクションを完全に可視化します。このオブザーバビリティは、パフォーマンスの監視、異常の検出、詳細な監査ログによるコンプライアンス対応に役立ちます。
• セキュリティの強化：AI Gatewayは、プロンプトインジェクションや機密情報の漏えいなどのセキュリティ脅威を特定してブロックします。また、相互TLS（mTLS）を使用してコンポーネント間の安全な通信を確保するとともに、認証、認可、認証情報管理、ロールベースのアクセス制御（RBAC）を提供し、セキュリティとコンプライアンスを維持します。

AIを活用するために必要な柔軟性とセキュリティ

F5のDistributed Cloud App StackとF5 AI Gatewayをインフラストラクチャに統合することで、組織はAIアプリケーションを効果的にデプロイ、管理、保護できます。これらのソリューションは、AIの可能性を最大限に引き出すために必要な柔軟性、可観測性、セキュリティを提供し、さまざまな環境のユーザーに最適化されたセキュアなエクスペリエンスを提供します。

詳細については、F5 Distributed Cloud App StackおよびF5 AI GatewayのWebページをご覧ください。また、セキュリティのユースケースを紹介するF5 AI Gatewayの動画もご視聴ください。

著者について

Patrick Enderbyシニアプロダクトマーケティングマネージャー | F5

Patrick Enderbyのその他のブログ記事