グローバルクラウドプロバイダーがF5でデータ配信を改善する方法

Hunter Smitプロダクトマーケティング担当シニアマネージャー | F5

オブジェクトストレージは、データセンターで最も高負荷なサービスとしてではなく、データを低コストで耐久性高く保存する場所として設計されました。AI時代以前は、バックアップ、アーカイブ、メディア、アプリケーション資産など、オブジェクトストレージに流入するトラフィックの負荷が比較的緩やかだったため、この違いはさほど問題になりませんでした。しかし、モデルのトレーニング、ファインチューニング、検索拡張生成（RAG）のワークロードが登場すると、読み書きのパターンは、必要に応じて取得する形から、継続的に帯域を飽和させる形へと変化しました。

この変化は、コスト面の問題を引き起こします。GPUクラスターは、インフラ資産の中で最も高額である可能性が高く、データを待っている間は何の価値も生み出しません。ストレージパスで処理が滞るたびに、そのコストは、運用するほぼすべてのものよりも時間単価が高いハードウェア全体に及びます。つまり、各レイヤーの重要性が逆転したのです。今や、ストレージの前段にある配信層が、最も高額なコンピューティング資産の投資収益率を左右します。このパスは、もはや単なる裏方の仕組みではなく、それ自体が1つの製品といえます。

あるハイパースケールストレージ事業者の対応

F5のお客さまであるグローバルクラウドプロバイダーは、数十か所のデータセンターでS3互換のオブジェクトストレージサービスを運用しています。このサービスは、顧客の非構造化データを保管する主要なリポジトリであり、近年では顧客のモデル学習パイプラインにデータを供給する基盤としての役割も拡大しています。すべての読み取りと書き込みは、インデックスノードやストレージノードに到達する前にロードバランシング層を経由しますが、Citrix NetScalerアプライアンスで構築されたこの層がボトルネックとなっていました。

要件自体は特殊なものではありませんでした。一般的な要件でしたが、その規模で実現するにはコスト面で極めて厳しいものでした。このプロバイダーには、ラインレートでTLSを終端して再暗号化すること、S3バケット名に基づいてレイヤー7でルーティングすること、さらにアクティブ／アクティブクラスター全体でレート制限を一貫して適用することが求められました。サービスレベルのグローバル制限とバケット単位の個別制限を併用し、あるテナントの取り込みジョブが他のすべてのテナントのリソースを枯渇させないようにする必要がありました。また、サイト間のグローバルサーバーロードバランシングと、規制対象テナント向けのFIPSサポートも必要でした。結局のところ、マルチテナント環境における公平性は配信層のポリシーの問題です。トラフィックがストレージノードに到達する頃には、すでに影響が生じているためです。

このプロバイダーは、従来のアプリケーションデリバリーコントローラー（ADC）環境を、 F5 BIG-IP をF5 rSeries. 上に導入した構成へと置き換えました。TLSはラインレートで終端および再暗号化されます。リクエストはS3バケット名に基づいてレイヤー7でルーティングされ、バケットレベルのポリシーはフリート全体で重複して定義するのではなく、1か所で定義されるようになりました。レート制限も一度定義すれば、各機器で個別に手動調整することなく、クラスター全体に一律に適用されます。グローバルサーバーロードバランシングによってサイト間でトラフィックが振り分けられ、規制対象のテナントではFIPS対応が維持されます。

ポリシーの実装と同様に、ハードウェアも大きく変わりました。新しい環境では、物理設置面積を80%削減しながら、定格スループットを2.4倍に高め、定格1ギガビット当たりの消費電力を約5分の1に抑えています。また、パッチ適用、認証、トラブルシューティングの対象となるデバイスも222台削減されました。通常、余剰能力を確保するには、データセンターで最も不足している電力とラックユニットを追加する必要があります。今回はその両方を削減しながら余剰能力を確保できたため、回復したキャパシティは新たに購入するのではなく、必要に応じて活用できる選択肢となりました。AI向けキャパシティの確保に電力とスペースが必要な施設において、このプロバイダーは、その用途を事前に決めることなく、どちらもより多く確保できるようになりました。

これが、F5の考える「AIデータデリバリー」です。ストレージとコンピューティングの間の経路は境界であり、そこに制御ポイントを設けることで、到達可能性、ポリシー、デリバリーのレジリエンスを適用できるようになります。つまり、この経路をストレージアレイに後付けするものではなく、独自のパフォーマンス、セキュリティ、ガバナンス要件を備え、設計されたコントロールプレーンおよびデータプレーンとして扱うということです。

モデルをトレーニングしない場合でも重要な理由

このお客さまの状況には、機械学習やフロンティアモデルのトレーニングに固有の要素はほとんどありません。まさにそこが重要です。S3はHTTP上で動作するため、インテリジェントで健全性を考慮した負荷分散やプロトコル検査から、暗号化処理のオフロード、テナント単位のスロットリングまで、F5が30年にわたりWebトラフィック向けに培ってきたあらゆる技術を、高機能なプロキシを前段に配置するだけでオブジェクトストレージに直接適用できます。トレーニングパイプラインを安定させ、処理能力を最大限に活用できる状態に保つ同じフロントドアが、バックアップ時間枠の予測可能性と分析クエリの安定性を確保し、負荷の高いアプリケーションが他のすべてのユーザーのストレージ性能を低下させることも防ぎます。AIデータデリバリーは、ついにこのフロントドアを無視できないものにしたワークロードです。

ストレージ管理者に確認すべき3つの質問

自社のストレージ戦略を評価する際は、次の3つの質問について検討してください。

1. ストレージノードの性能が低下した場合、何がトラフィックを迂回させ、どの程度の速さで切り替えるのでしょうか？ クライアントが再試行するという回答なら、デリバリーティアがあるとは言えず、期待頼みのデリバリーアーキテクチャにすぎません。
2. ストレージクラスター自体に手を加えずに、単一のテナントまたはバケットにレート制限を適用できますか？ できないのであれば、公平性ポリシーは単なる推奨事項にすぎません。
3. ストレージ刷新予算のうち、フロントドアを変更しない前提で組まれているのはどの程度ですか？ このプロバイダーは、改善の余地が隠れていたのは背後のストレージではなく、デリバリーティアだったことを突き止めました。

要点は、容量とデリバリーは別々に判断すべきだということです。容量は購入するものですが、デリバリーは設計するものです。データパイプラインがビジネスにとって最も重要なワークロードになるにつれ、先行するチームは、ストレージ自体と同様に、ストレージへの経路も厳密に設計しています。

F5のAIへの取り組みは、これだけにとどまりません。F5があらゆる環境でAIアプリを保護し、配信する方法をご覧ください。

著者について

Hunter Smitプロダクトマーケティング担当シニアマネージャー | F5

Hunter Smitは、F5でソリューションおよび戦略担当のプロダクトマーケティングシニアマネージャーを務めています。AIインフラストラクチャやアプリケーションセキュリティを含むF5ポートフォリオ全体のソリューションマーケティングを統括し、新興のAIデータデリバリー市場へのF5の参入を推進しています。Whitworth University School of Businessの諮問委員会メンバーであり、プロダクトマーケティングの非常勤講師も務めました。Whitworth UniversityでMBAおよび経営学の学士号を取得しています。

Hunter Smitのその他のブログ記事