AWS マルチクラウドのAIワークロード：AI向けAPIを確実に守り、スケールさせる

組織の 94% が、パブリック クラウド インスタンス、プライベート データ センター、エッジ システムの組み合わせを含む複数の環境にアプリを展開していることをご存知ですか? 私たちはハイブリッド マルチクラウドの時代に生きていますが、そのメリットを考えれば当然のことです。 マルチクラウド環境では、企業は特定のベンダーに縛られることがなくなり、AI を含む、処理する必要があるあらゆるワークロードに最適なサービスとインスタンス タイプを選択できるようになります。

しかし、マルチクラウドAIには特有の課題が存在します。 AIの精度と効果を保つために、組織は継続的にデータを供給しなければなりません。そのため、環境をまたいだデータリポジトリをシームレスに接続する必要があります。 AIワークロードは非常に変動が大きく、単純なQ&AからGPUリソースに偏った負荷をかける詳細な分析やコンテンツ作成まで多様です。

さらに、AIはプロンプトインジェクションやモデル脱獄といった手法を通じて新たな攻撃経路となり、サイバー脅威の状況をより複雑化させています。 AIは大量のデータを必要とするため、多数のAPI接続を活用し、それが攻撃対象範囲を広げ、ネットワーク内でAIが横方向に侵入するリスクを高めています。

まだマルチクラウドの拡大には手を付けていません。 環境が増え、接続が広がり、複雑さが増すほど、すべてを管理し見通すのは飛躍的に難しくなることは明らかです。

課題に対処するための方法があり、それは重要なインフラ要素を組み合わせてAIに対して安全で高性能な経路を構築することにあります。一般的な構成は次のようになります。

• プライベート接続バックボーンは、パブリックインターネットを使って異なる環境をつなぐよりも優れた選択肢です。 プライベートバックボーンは、あなたを制御できない外部要因から守る安全で信頼性の高い接続を実現します。
• インテリジェントなトラフィック管理でAI対応のルーティング指示を活用し、コンテナ間のワークロードを効率的に振り分け、高価なGPUリソースの過剰・未活用を防ぎます。
• 統合セキュリティ フレームワークは、クラウドの境界を超えて一貫した暗号化や認証などの保護を実現します。 つまり、パブリッククラウド環境、プライベートサーバー、エッジシステムのいずれにおいても、同じセキュリティおよびプライバシーポリシーを適用しています。
• 集中化されたオーケストレーション プラットフォームがすべてをつなぎ、上から下まで全体を見渡せる可視性を提供します。 理想的なオーケストレーション プラットフォームは、モデルの読み込み時間や推論遅延など、AIに特化した指標も表示して最適化を後押しします。

これらすべてを実現すると、マルチクラウドAIの理想的な環境を手に入れられます。データを必要な場所へシームレスかつ安全に移動し、モデルのトレーニングや微調整、推論、最適化、さらには検索拡張生成（RAG）などの高度なユースケースを確実にサポートします。

もちろん、マルチクラウドAIの目標を最も迅速に実現するには、信頼されるプロバイダの実績あるソリューションを活用することです。 F5のソリューションは、マネージドAIモデル用のAmazon Bedrockや独自AI構築のためのAmazon SageMakerのような、あなたがすでに利用している可能性の高いAWSサービスと連携し、マルチクラウド環境を一体化したインフラとしてつなぎます。

• F5グローバル ネットワークは、パブリック インターネットを介さずに高性能で安全なプライベート接続を環境間で提供します。 世界中の複数の拠点がデータを地域内に保持し、迅速な応答を実現します。
• F5 AI Gatewayは、コンテナ化されたAIに対して高度なロードバランシングでインテリジェントなトラフィック管理を提供します。統合されたセキュリティ管理と入出力の検証により、データ漏洩を引き起こすプロンプトインジェクションなどの悪用手法からAIモデルを確実に守ります。
• F5 Distributed Cloud Servicesは、クラウド、エッジ、オンプレミス環境をワンクリックでつなぎ、上位レベルからの可視化と制御を実現します。 これにより、すべての環境で IT とデータのガバナンス ポリシーを一貫して適用できます。

NetAppのお客様には、F5とAWSがNetApp BlueXPやNetApp ONTAPを含むNetAppのストレージソリューションと連携し、これらの統合データ管理と移行機能すべてにアクセスして、マルチクラウドAIプロジェクトを効果的に実現し強化できるようにしています。

RAGは組織独自のデータを活用し、ドメイン固有の知識でモデルの精度を高めます。そして、最も基本的なチャットボットを除き、多くがこれを必須としています。 しかし、独自データを扱うため、そのデータは価値が高いと同時に、狙われやすいのです。 F5 Distributed Cloud Network Connectは安全なレイヤー3接続とAmazon S3プロトコルのサポートでハイブリッド マルチクラウド環境内のデータをしっかり守ります。

ネットワーク エッジは、データが生成される現場の近くで処理と推論を行うことで、より速い結果と低レイテンシを実現し、AIを大きく向上させる可能性を持っています。 F5 Distributed Cloud Customer Edgeを使えば、エッジ拠点をDistributed Cloud Servicesの集中管理モデルに安全に接続できます。 このソリューションはAI Gatewayと組み合わせることで、KubernetesベースのAIサービスとセキュリティをエッジに導入でき、AWS Local ZonesやAWS Outpostsといったエッジサービスとも連携します。