AIファクトリーにおけるNVIDIA BlueField DPUの力と意義

Hunter Smitプロダクトマーケティング担当シニアマネージャー | F5

組織がイノベーションを加速し、自動運転車や大規模言語モデル（LLM）など、AIを活用した生活を大きく変える製品の開発を進める中、運用を拡張し、競争力を維持するには、効率的なインフラストラクチャが不可欠です。従来、データセンターでは、汎用コンピューティングに中央処理装置（CPU）を、AIと機械学習の中核となる高負荷な並列処理タスクにグラフィックス処理装置（GPU）を使用してきました。AIモデルの規模と複雑さが増すにつれ、データセンターそのものが新たなコンピューティング単位となり、従来のクラウドネットワークの限界を押し広げています。データセンター規模のコンピューティングへの移行を実現するため、データ処理装置（DPU）がコンピューティングの第3の柱として登場しました。

AIファクトリーの台頭

AIファクトリーシリーズの以前の記事で、F5はAIファクトリーを大規模かつ高性能なトレーニングと推論の要件に対応するため、ストレージ、ネットワーク、コンピューティングに大規模な投資を行うものと定義しました。従来の製造工場と同様に、AIファクトリーは事前トレーニング済みのAIモデルを活用し、生データをインテリジェンスへと変換します。

データ処理ユニット（DPU）とは

DPUは、ネットワークのラインレートでハードウェアアクセラレーションを利用し、大量のデータ転送と処理を実行できるよう設計されたプログラマブルプロセッサです。2024年後半、F5は発表しました。NVIDIA BlueField-3 DPU上にBIG-IP Next for Kubernetesを展開するものです。NVIDIA BlueFieldは、NVIDIA AIファクトリーを支えるために専用設計された、データセンターインフラストラクチャ向けのアクセラレーテッドコンピューティングプラットフォームです。CPUがコンピューティングアプリケーションの汎用計算を担い、GPUがAI関連の大規模なベクトル演算や行列演算、グラフィックスレンダリングなどのアクセラレーテッドコンピューティング処理に優れているのに対し、NVIDIA BlueField DPUは、多くの場合、AIクラスターのホストまたはシャーシのネットワーク接続を担うPCIe（Peripheral Component Interconnect Express）ネットワークインターフェースカード（NIC）に組み込まれます。つまり、NICは今や実質的に、サーバーに出入りするデータの処理に最適化された高性能プロセッサとなっています。単一のAIクラスターに複数のホストまたはシャーシがある場合、BlueField DPUはクラスター内ネットワークデバイスとしても機能します。

解き放たれるパワー

BlueField DPUは、ソフトウェア定義ネットワーキング、ストレージ管理、セキュリティサービスを処理することでCPUの計算負荷を軽減し、CPUが得意とするタスクに専念できるようにします。このオフロード機能は、複雑なAIモデルやリアルタイム推論タスクの要件を満たすために膨大なデータを迅速に処理・転送する必要があるAIファクトリーにとって不可欠です。

BlueField DPUは、AIファクトリーのエネルギー効率と拡張性の向上に大きく貢献します。AIファクトリーには膨大なコンピューティングリソースが必要なため、電力と冷却の効率的な管理が極めて重要です。専用のアクセラレーションエンジンと高性能ネットワークインターフェイスを備えたDPUにより、データの処理と転送を最小限のレイテンシと消費電力で行えます。この効率性は、運用コストを削減するだけでなく、AIファクトリーの効果的な拡張も可能にします。BlueField DPUを活用することで、AIファクトリーや大規模インフラストラクチャは、AIテクノロジーの継続的なイノベーションと導入を支える、バランスの取れた高性能かつ高効率なインフラストラクチャを実現できます。

AIファクトリーでは、BlueField DPUはどこに導入されているのでしょうか？

When looking at F5のAIリファレンスアーキテクチャでは、DPUは一般に、RAGコーパス管理、ファインチューニング、トレーニング、推論サービスの各機能領域に加え、これらの機能を支えるストレージクラスターにも導入されています。また、5G無線アクセスネットワーク（RAN）の導入支援など、高性能なデータスループットと電力効率が求められるさまざまな用途でもDPUが活用されています。

DPUが一般的に導入される領域を示した「F5 AI Reference Architecture」

アプリケーションデリバリとセキュリティをDPUにオフロードして高速化

AIファクトリーにおける効率的なトラフィック管理と堅牢なセキュリティという新たな要件は、セキュリティ脅威を防ぐため、データフローとインフラストラクチャの強化に重点を置く重要な転換を示しています。NVIDIA BlueField-3 DPUに導入されたF5 BIG-IP Next for Kubernetesは、データ移動をCPUからDPUにオフロードして高速化することで、低遅延かつ高スループットの接続を実現します。さらに、ファイアウォール、DDoS緩和、WAF、API保護、侵入防止などの包括的なセキュリティ機能を、プログラム可能なNVIDIA BlueField-3 DPUに直接統合します。これにより、AIモデルとアプリを脅威から隔離し、データの完全性と主権を確保するアーキテクチャを構築できます。

BIG-IP Next for Kubernetesはマルチテナンシーをサポートしており、単一のインフラストラクチャ上で複数のユーザーとAIワークロードをホストしながら、ネットワークを分離できます。BIG-IP Next for Kubernetesは、ネットワーク、トラフィック管理、セキュリティ、マルチテナント環境を一元管理できるため、大規模なAIインフラストラクチャの管理が容易になります。また、ネットワークの可視化とパフォーマンス最適化に役立つ詳細なトラフィックデータを提供することで、運用を簡素化し、運用コストを削減します。BIG-IP Next for KubernetesとNVIDIA BlueField-3 DPUの統合により、ツールの乱立と運用の複雑さを抑えながら、AIファクトリーがその能力を最大限に発揮できるよう支援します。

F5が支えるテクノロジー

AIに投資する企業にとって、インフラストラクチャの最適化とセキュリティの確保は不可欠です。NVIDIA BlueField-3 DPUに導入されたF5 BIG-IP Next for Kubernetesは、高いパフォーマンス、拡張性、セキュリティを実現し、大規模AIインフラストラクチャへの投資効果を最大化するための戦略的投資です。AIファクトリーへの投資を支えるためにGPUとDPUを導入している組織は、F5にお問い合わせください。BIG-IP Next for KubernetesがAIワークロードをどのように強化できるかをご案内します。

F5のAIへの取り組みは、これだけにとどまりません。F5があらゆる環境でAIアプリを保護し、提供する仕組みをご覧ください。

AIファクトリーについてさらに詳しく知りたい方は、AIファクトリーのブログシリーズの他の記事もご覧ください。

• AI Factoryとは？ ›
• AIファクトリー向け検索拡張生成（RAG）›
• AI Factoryのデータ取り込みに向けたトラフィック管理の最適化 ›
• エッジデータソースとAIファクトリーを最適に接続 ›
• マルチクラウドの拡張性と柔軟性がAIファクトリーを支援 ›
• AI FactoryのAPI保護：AIセキュリティへの第一歩 ›
• AIファクトリーにおけるネットワークセグメンテーションの重要性 ›
• AIファクトリーが生み出す最先端のモダンアプリ：AIアプリ ›

著者について

Hunter Smitプロダクトマーケティング担当シニアマネージャー | F5

Hunter Smitは、F5でソリューションおよび戦略担当のプロダクトマーケティングシニアマネージャーを務めています。AIインフラストラクチャやアプリケーションセキュリティを含むF5ポートフォリオ全体のソリューションマーケティングを統括し、新興のAIデータデリバリー市場へのF5の参入を推進しています。Whitworth University School of Businessの諮問委員会メンバーであり、プロダクトマーケティングの非常勤講師も務めました。Whitworth UniversityでMBAおよび経営学の学士号を取得しています。

Hunter Smitのその他のブログ記事