AIファクトリーへのデータ取り込みにおけるトラフィック管理を最適化

F5エコシステム | 2024年10月29日

2024年夏、Nvidiaの創業者兼CEOであるJensen Huang氏は、次のように述べました。「新しいタイプのデータセンターであるAIファクトリーは、人工知能という新たな商品を生み出します」。そこで、AIを物理的な商品になぞらえて考えてみましょう。そうすると、垂直統合と工業化を体現したFordのRiver Rouge Complexが思い浮かびます。一方から鉄とゴムを投入すると、もう一方からFordの自動車が出てくるという工場です。専用の埠頭、総延長100マイルの構内鉄道、専用の発電所に加え、鉄鋼、ガラス、製紙の各工場まで統合したThe Rougeは、24時間稼働し、年間約150万台の自動車を生産していました。

同様に、大規模かつ高性能なトレーニングモデルと推論モデルを支える現在および将来のAIファクトリーも、膨大な量の原材料を取り込みます。その原材料とは、データです。構造化データ、非構造化データ、動画、テキストなど、多岐にわたります。AIファクトリーは、こうしたデータをトークン化された出力へと変換し、さまざまなアプリケーションで活用できるようにします。また、ルージュ・コンプレックスで生産工程の各段階を精密に制御する必要があったように、AIワークロードにも、データの取り込み、処理、配信を担う堅牢なトラフィック管理システムが必要です。つまり、ロジスティクスです。適切なトラフィック管理ソリューションにより、AIファクトリーは現場から原材料を取り込み、利用可能な形にできます。適切なロジスティクスツールを導入することで、組立ラインの各工程を円滑に稼働させるのと同様に、シームレスなデータフロー、高スループット、低レイテンシ、セキュリティを確保できます。

すべてのAIファクトリーに必要なもの

Harvard Business Reviewは2020年、Alibabaの関連会社であるAnt GroupがAIファクトリーから実用的なインテリジェンスを生み出し、「米国最大手の銀行と比べて10倍[以上]の顧客にサービスを提供しながら、従業員数を10分の1未満に抑え、多様な事業を運営」している仕組みを紹介しました。Ant GroupによるAIファクトリー構築の概念も、同様に説得力があります。

「あらゆるファクトリーに不可欠な要素は4つあります。1つ目はデータパイプラインです。これは、体系的かつ持続可能で拡張性のある方法で、データの収集、クレンジング、統合、保護を行う半自動化されたプロセスです。2つ目はアルゴリズムで、事業の将来の状態や行動を予測します。3つ目は実験プラットフォームです。ここでは、新しいアルゴリズムに関する仮説を検証し、その提案が意図した効果をもたらしているかを確認します。4つ目はインフラストラクチャです。これは、このプロセスをソフトウェアに組み込み、社内外のユーザーと接続するシステムです。」

AIファクトリーシリーズの以前の記事では、F5はAIファクトリーを、大規模かつ高性能なトレーニングと推論の要件に対応する、ストレージ、ネットワーク、コンピューティングへの大規模な投資と定義しました。だからこそ、Ant Groupのリストにある第1と第4の構成要素は特に興味深いものです。AIモデルが取り込むデータを安全かつ効率的に管理するために必要なシステムを構築するという課題により、AIファクトリーが価値を生み出すために、その周辺インフラストラクチャをどのように整備すべきかという問いが浮き彫りになります。

AIデータ取り込みのトラフィック管理とは、数十億ものパラメーターを持つメディアリッチなAIデータのトラフィックを管理し、機械学習やトレーニングのためにAIファクトリーへ転送し続けるプロセスです。このトラフィックをAIファクトリーに取り込むうえで、高性能なトラフィック管理ソリューションが重要な役割を果たします。このようなソリューションがなければ、トラフィックの流れを維持するために接続を再利用せざるを得なくなったり、ストレージインフラストラクチャの上限に達したりする可能性があります。いずれも、AIファクトリーが求める容量、低遅延、最適化された速度と規模で稼働するためのデータ転送要件には適していません。

AIデータトラフィック管理図

AIファクトリーに向かう、AIファクトリー内を通過する、またはAIファクトリー間を移動するAIデータトラフィックを管理します。

“AIファクトリーでは、数十億、そして近い将来には数兆のパラメーターを持つAIモデルのデータ取り込みに対応する、高性能なトラフィック管理ソリューションが必要です。”

AIファクトリーの稼働を維持

しかし、この分野の進歩はとどまるところを知りません。複雑さを増すAIモデルでは、より大量のデータを、より高い頻度で入力する必要があります。そのため、クラウドとオンプレミスのどちらにデータを配置するかがAIモデルに大きく影響するという、データグラビティの課題が生じます。将来増大するAIのデータ需要による引力に耐えられるAIファクトリーを構築するには、受け取ったデータからより迅速にインサイトを得るという要件に対応して拡張できるインフラストラクチャが必要です。AIファクトリーのインフラストラクチャは、それが支えるAIモデルの成否とビジネス価値を最終的に左右します。リッチメディアの利用が急増するなか、一部のクラウドプロバイダーを介して処理すると、ネットワークトラフィックと関連コストが大幅に増加する可能性があります。したがって、この状況に直面する企業には、効率的なAI学習モデルに必要な高速データスループットを維持することと、クラウドでのデータ転送と処理に伴う複雑さやコストを管理することという、2つの課題があります。

AIファクトリーに関する最初の記事で説明した4つの導入形態(AI-SaaS、クラウドホスト型、セルフホスト型、エッジホスト型)を慎重に評価することで、クラウド帯域幅への依存を解消または軽減し、こうした複雑な課題に対処しやすくなります。データをローカルで処理すれば、クラウド帯域幅の問題を考慮する必要がなくなるだけでなく、機密性の高いトレーニングデータセットを完全に制御できます。その結果、データの保存、アクセス、処理方法を組織が管理できるようになり、機密情報を組織内のセキュアなネットワークに保持してデータ露出を最小限に抑えながら、規制要件(GDPR、HIPAA、PCI DSSなど)にも対応しやすくなります。

優れたインフラがAIファクトリーの価値を高める

AIデータトラフィックとアプリケーショントラフィックは、F5 BIG-IP Local Traffic Manager (LTM)および次世代 ハードウェアソリューションによって同様に処理されます。つまり、従来のアプリケーショントラフィックフローを最適化する場合と同じように、チームはFastL4プロファイルなどのツールを使用してAIデータトラフィックフローを最適化し、仮想サーバーのパフォーマンスとスループットを向上できます。また、TCP最適化を活用して、ネットワークパフォーマンスに不可欠なTCP接続の処理方法をきめ細かく調整できます。さらに、BIG-IPのOneConnectを導入すれば、BIG-IPシステムとバックエンドプールメンバー間で確立される接続を効率的に管理し、ネットワークスループットを向上できます。AIファクトリー間でAIデータトラフィックを分散するソリューションを探している組織にとって、その選択肢は身近にあります。F5は20年以上にわたり、アプリケーショントラフィック管理を最適化するツールを開発してきました。そのため、BIG-IP LTMはAIデータ取り込みトラフィックの処理に最適です。

AIアプリケーションは、最新のアプリケーションの中でも最先端に位置します。堅牢で汎用性の高いトラフィック管理ソリューションがなければ、活用可能なデータは現場に滞留し、AIモデルがそこから引き出せる価値は失われてしまいます。ルージュ工場には埠頭と何マイルにも及ぶ鉄道網がありました。AIファクトリーにはBIG-IPなどのF5ソリューションがあります。

F5のAIへの取り組みは、これだけではありません。F5があらゆる環境でAIアプリを保護し、配信する仕組みをご覧ください。


AIファクトリーについてさらに詳しく知りたい方は、AIファクトリーに関するブログシリーズの他の記事もご覧ください。

共有

著者について

Griff Shelley
Griff Shelleyプロダクトマーケティングマネージャー | F5

Griff ShelleyはF5のプロダクトマーケティングマネージャーで、ハードウェア、ソフトウェア、SaaSのアプリケーションデリバリーソリューションを専門としています。革新的なテクノロジーをお客さまの成功につなげることに情熱を注ぎ、グローバルおよびローカルのアプリケーションデリバリー、クラウドサービス、AIデータトラフィックインフラストラクチャの市場投入プロジェクトを推進しています。テクノロジー業界に入る前は高等教育機関でアカデミックアドバイザーを務め、Eastern Washington UniversityとAuburn Universityで学位を取得しました。

Griff Shelleyのその他のブログ記事

関連するブログ記事

F5 Application Study Tool:OpenTelemetryによるF5 BIG-IP環境の監視
F5エコシステム | 2025/04/15

F5 Application Study Tool:OpenTelemetryによるF5 BIG-IP環境の監視

F5の新しいオープンソースツールは、BIG-IP環境を詳細に可視化し、データを追跡するとともに、強力でカスタマイズ可能なインサイトを得るための基盤を提供します。

F5 BIG-IPでAI防御を実現
F5エコシステム | 2024/11/13

F5 BIG-IPでAI防御を実現

F5 BIG-IP Advanced WAF、BIG-IP APM、BIG-IP SSL Orchestratorが、生成AIアプリ向けに包括的なセキュリティソリューションを提供する仕組みをご覧ください。

F5 Advanced WAFによるGraphQL APIの保護
F5エコシステム | 2021/08/31

F5 Advanced WAFによるGraphQL APIの保護

ここ数年、多くの組織がデジタルトランスフォーメーションを進めており、COVID-19のパンデミックによってその動きは加速しています。

アプリケーションサービスの現状 通信業界版:リーダーとしての台頭
F5エコシステム | 2019/02/19

アプリケーションサービスの現状 通信業界版:リーダーとしての台頭

通信ネットワークが進化し、さまざまな業界の幅広いユースケースに対応するなか、通信業界の回答者がテクノロジーリーダーとしての存在感を高めていることがわかります。

デジタルトランスフォーメーションは、単なるペーパーレス化ではない
F5エコシステム | 2017/07/10

デジタルトランスフォーメーションは、単なるペーパーレス化ではない

デジタルトランスフォーメーションは、単なるペーパーレス化ではありません。真のモダナイゼーションにアプリケーションアーキテクチャとセキュリティの再構築が必要な理由を、F5ブログでご覧ください。

やめましょう。もう本当にやめましょう。HTTPSはHTTPより高速ではありません。
F5エコシステム | 2016/09/19

やめましょう。もう本当にやめましょう。HTTPSはHTTPより高速ではありません。

もうやめましょう。HTTPSはHTTPより高速ではありません。プロトコルのパフォーマンスに関する微妙な違いと、暗号化トラフィックを適切に最適化する方法については、F5ブログをご覧ください。