AI推論がデータセンターアーキテクチャに与える影響

F5エコシステム | 2024年6月13日

戦略の成否はIT予算で決まると言われています。そうであるなら、AI戦略は順調に進んでいると言えるでしょう。

F5の最新調査によると、組織はIT予算の平均18%をAIだけに割り当てています。しかし、AI戦略を垣間見る手がかりとなるのは、その18%の配分方法です。

現在、AI予算の約18%は、AIツールを統合または何らかの形で提供するサードパーティ製アプリケーションなどのAIサービスに充てられています。残りは、モデル(19%)、開発(16%)、セキュリティ(9%)、データテクノロジー(11%)、GPU(9%)に配分されています。

トレーニング(50%)と推論(50%)に支出が均等に配分されていること、さらにAIがパブリッククラウド(80%)とオンプレミス(54%)に分散して導入されるという調査結果を踏まえると、組織はAIのライフサイクル全体を支えるため、インフラストラクチャの大幅な変更を計画していると推察できます。

その対応の一環として、ネットワークを新たな視点で見直す必要があります。

トレーニングと推論の両方を支えるインフラストラクチャを構築するには、Kubernetesなどの最新のアプリケーション環境に加え、AIインスタンス間、およびモデルとそれを利用するアプリケーション間のトラフィックフローを慎重に検討する必要があります。

NVIDIAは、アクセラレーション技術(GPU、DPU、IPUなど)を提供する唯一の企業ではありませんが、リファレンスアーキテクチャの分野をリードしています。その詳細が、ネットワークとスケーラビリティのアーキテクチャに大きな影響を及ぼします。

AIポッド、クラスター、ファクトリー

現在、Kubernetes固有の用語の使い方をめぐり、業界では大きな懸念が生じています。運用担当者の間ではPodとクラスターの定義に対する理解が進んでいる一方、大手GPUプロバイダーは推論を大規模にデプロイする際に、これらの定義を曖昧にしています。

たとえば、NVIDIAはKubernetesクラスターを「AIポッド」と呼び、相互に関連する一連のクラスターを「AIファクトリー」と呼んでいます。

ここで用語について議論するつもりはありません。そうした議論で勝てることはめったにないため、代わりに、こうしたAI機能の単位と、それがネットワークにとって何を意味するのかに焦点を当てます。

特に生成AIをスケールさせる際に直面する現実の1つが、コンピューティングサイクル、とりわけGPUコンピューティングサイクルに対する需要です。この需要に対応するには、特にAIサービスプロバイダーの場合、複雑なAIコンピューティングユニットを構築する必要があります。NVIDIAはこうしたユニットを「AI pod」と呼んでいますが、他社もそれぞれ独自の名称を付けることになるでしょう。実質的にはKubernetesクラスターです。

つまり、AIコンピューティングユニット内では大量のE-Wトラフィックが発生する一方で、それらのユニットに流入するN-Sトラフィックも大量に発生します。まさに、従来のデータセンターインフラストラクチャと新たに登場したAIコンピューティング複合基盤との境界で、大きな変化が起きているのです。

データセンターとAIの相互接続を示す図。

その境界では多くの処理が必要です。特に、テナントごとのネットワーク分離を必要とするサービスプロバイダーにとっては重要です。また、AIリソースに過剰な負荷をかけないためのレート制限など、L4~L7のトラフィック管理に対する大きなニーズもあります。さらに、スケーリングと分散に必要なロードバランシングに加え、高度なCGNAT機能などのネットワークサービスも求められます。

こうした機能の多くは、AIの導入規模を拡大し、生産性向上、コードやコンテンツの生成、ワークフローの自動化、そして関心が高まるAIの運用活用まで、増え続けるビジネスユースケースに対応したい企業にも必要です。テナント単位の分離は企業にとって必須要件ではないかもしれませんが、自動化や運用分析などの優先度の高いAIワークロードが、優先度の低いAIワークロードによって圧迫されるのを防ぐうえで役立ちます。

サービスプロバイダーか企業かを問わず、データセンターのネットワークには大幅な変化が生じます。従来型のデータセンターアーキテクチャにAIワークロードを組み込むと、拡張できなくなったり、安定した運用さえ困難になったりする可能性があります。

データセンターアーキテクチャの変化を理解するとともに、あらゆるAIワークロードと、それらに最終的に依存するビジネスを支えられるよう、データセンターネットワークのモダナイゼーションに必要な機能を提供するBIG-IP Next SPKのようなツールやテクノロジーを活用することが重要です。

共有

著者について

Lori Mac Vittie
Lori Mac Vittie特別技術者兼チーフエバンジェリスト | F5

Lori MacVittieは、F5のOffice of the CTOに所属するDistinguished Engineer兼Chief Evangelistであり、アプリケーションデリバリ、自動化戦略、インフラストラクチャに関する深い専門知識を有しています。AIエージェントのガードレール策定、脆弱なマルチクラウドアーキテクチャの分析、スケーラブルなシステムの限界の検証など、複雑な事柄を明快にすることで知られています。アプリケーション開発、ITアーキテクチャ、ネットワークおよびシステム運用の分野で、30年以上にわたる業界経験を有しています。F5入社前は、受賞歴のあるテクノロジー編集者として活躍していました。 MacVittieはコンピューターサイエンスの修士号を取得しており、セキュリティ、クラウド、エンタープライズアーキテクチャにわたる分野で多数の著作を発表しています。また、テーブルトークゲームとビデオゲームをこよなく愛し、チーズについては遠慮なく強いこだわりを語ります。

Lori Mac Vittieのその他のブログ記事

関連するブログ記事

SOAS 2025:足並みの乱れが凡庸さを招く
F5エコシステム | 2025/05/13

SOAS 2025:足並みの乱れが凡庸さを招く

AI導入における方針の不一致は、非効率を招きます。セキュリティ、自動化、導入の各戦略を整合させ、AIの可能性を最大限に引き出す方法をご紹介します。

WebAssemblyが重要な理由
F5エコシステム | 2024/10/02

WebAssemblyが重要な理由

WebAssembly(Wasm)は、あらゆるプラットフォームで高性能なアプリケーションを実現する、ポータブルで高速かつセキュアなバイナリ命令セットです。

クラウドのコモディティ化
F5エコシステム | 2022/07/19

クラウドのコモディティ化

パブリッククラウドはもはや目新しい存在ではありませんが、XaaSやエッジ、そして新たなイノベーションサイクルへの道を切り開きました。

インフラストラクチャは依然として格好の攻撃経路
F5エコシステム | 2021/05/17

インフラストラクチャは依然として格好の攻撃経路

クラウドコンピューティングでは、APIやドラッグ&ドロップ式の設定ツールを活用し、ネットワークやインフラストラクチャを敬遠する人がそれらを直接扱わずに済むようにすることで、インフラストラクチャへの対応を不要にすることが長年追求されてきました。しかし、インフラストラクチャを無視することも、攻撃の主要な標的であるという事実を見過ごすこともできません。

堅牢なデータアーキテクチャがもたらす戦略的メリット
F5エコシステム | 2021/01/25

堅牢なデータアーキテクチャがもたらす戦略的メリット

適切に構築されたデータアーキテクチャがもたらす効果は、業務プロセスの改善にとどまりません。戦略的な業務効率の向上、より深いビジネスインサイトの獲得、隣接するビジネス機会への展開にもつながり、これらすべてをより俊敏に実行できるようになります。

デジタルワークフローにおける不正検知には、データだけでは不十分
F5エコシステム | 2020/09/21

デジタルワークフローにおける不正検知には、データだけでは不十分

2019年には、業界全体でクレジットカード詐欺の試みが約25万件確認されました。これは約2分に1件の割合です。今日、不正を検知するには、デジタルワークフロー上のできるだけ多くのポイントから収集したデータを相互に関連付け、手作業によるデータ処理をはるかに上回る速度で分析する能力が求められます。