NVIDIAは、NVIDIA GTCとCESの両方で、エンタープライズAIが向かう先はAIファクトリーであることを明確に示しました。AIファクトリーとは、AIの推論とトレーニングにおいて、予測可能なパフォーマンス、コスト削減、運用面での信頼性を実現するために設計された、専用かつ検証済みのインフラストラクチャとソフトウェアスタックです。
NVIDIA Enterprise AI Factoryの検証済み設計は、このビジョンを具現化するものです。NVIDIAのアクセラレーテッドコンピューティング、ネットワーキング、ソフトウェア、オーケストレーションを統合し、企業がオンプレミスに安心して導入できるフルスタックの検証済み設計を実現します。このアーキテクチャの一環として、NVIDIAは、AIインフラストラクチャ全体にわたる実際の本番環境規模の課題を解決する、検証済みパートナーのエコシステムを継続的に拡大しています。
このたび、F5 BIG-IP Next for Kubernetesが、NVIDIA RTX PRO Servers上での動作について検証されました。これらのサーバーにはNVIDIA BlueField-3 DPUが搭載されており、F5 BIG-IP Next for KubernetesはNVIDIA Enterprise AI Factory検証済み設計に組み込まれます。現在F5 BIG-IPを導入している20,000以上の組織は、NVIDIA Enterprise AI Factoryを導入する際に、信頼性の高いF5 BIG-IPの機能をシームレスに拡張できます。
“NVIDIA BlueField上のF5 BIG-IP Next for Kubernetesは、高性能なトラフィック管理、セキュリティ、AI対応の制御を、検証済みでエンタープライズ環境に対応したソリューションとして提供します。”
NVIDIA Enterprise AI Factoryの検証済み設計は、企業がAIを本番環境に移行する際に、予測可能なパフォーマンス、セキュリティ、スケーラビリティを確保する、再利用可能な構成要素を中心に構築されています。個別のポイントソリューションを組み合わせるのではなく、GPU、DPU、ネットワーク、ソフトウェアが一体化したシステムとして連携する仕組みを定義しています。この検証済み設計にF5が組み込まれていることは、こうしたアプローチをさらに強化します。
設計検証に加え、NVIDIA DPUで高速化したBIG-IP Next for KubernetesをAI推論ワークロードで実行した場合の、実環境におけるパフォーマンスと効率性のメリットを定量化する詳細なラボ性能テストも完了しました。結果と方法論については、F5のレポート「AI推論向け検証済みパフォーマンス」をご覧ください。
AIファクトリーにフルスタックのアプローチが必要な理由
AI推論のパフォーマンスを左右するのは、GPUの高速化だけではありません。システムを最適化できるフルスタックも重要です。本番環境では、トークンの生成速度、モデルの応答の一貫性、インフラストラクチャの利用効率を、ネットワーク、セキュリティ、トラフィック管理が左右する傾向がますます強まっています。
AIサービスが複数のテナント、モデル、ユーザーにまたがって拡大するにつれ、企業はさまざまな要素を効果的に管理する必要があります。これは、パフォーマンス、ガバナンス、制御をパブリッククラウドサービスに委ねることができないオンプレミス環境やソブリンAI環境を導入する組織にとって、特に重要です。
企業には、現在ネットワーク処理やセキュリティ処理を担っているホストCPUの能力を最大限に活用すること、最適な初回トークン生成時間（TTFT）を実現する安定したレイテンシ、トークン使用量の可視化と制御、さらにガバナンス、公平性、コンプライアンスを適用する機能が求められます。
ここで、DPUとその上で動作するソフトウェアが、AIファクトリーの基盤となります。
適切な処理を適切なシリコンにオフロード
NVIDIA BlueField-3 DPUで高速化されたF5 BIG-IP Next for Kubernetesは、重要なネットワーク機能とセキュリティ機能をホストCPUからDPUのプログラマブルARMコアおよびハードウェアアクセラレーションエンジンにオフロードします。
これらのオフロードされるサービスには、負荷分散とトラフィックステアリング、TLS終端と暗号化、ファイアウォールとセキュリティポリシーの適用、API保護と侵入検知が含まれます。
これらの機能をNVIDIA BlueField DPUに移行することで、ホストCPUを汎用ワークロードに使用できるようになり、GPUはAI推論に専念できます。
その効果は測定可能かつ顕著で、トークン生成スループットが30%超向上し、TTFTが最大60%短縮されます。
こうした向上は、応答の高速化、モデル利用率の向上、インフラストラクチャ効率の改善に直結します。まさに、エンタープライズAIファクトリーに求められる成果です。
オフロードの先へ：トークンガバナンスとインテリジェントなLLMルーティング
オフロードは出発点にすぎません。
NVIDIA BlueField DPU上で稼働するBIG-IP Next for Kubernetes内のプログラマブルデータプレーンにより、従来のネットワーキングの枠を超えた高度なAI対応サービスが可能になります。
組み込みのトークンガバナンス
BIG-IP Next for Kubernetesは、テナント、ユーザー、モデルごとにトークンをカウントして追跡し、トークンのレート制限と使用ポリシーを適用するとともに、コンプライアンス、チャージバック、公平性に関する要件への対応を支援する、ネイティブのトークンガバナンス機能を提供します。
トークンベースの料金体系がAIの主要な経済モデルとなる中、インフラストラクチャ層でのガバナンスが不可欠です。
NVIDIA NIMによるインテリジェントなLLMルーティング
NVIDIA NIMマイクロサービスとの統合により、BIG-IP Next for Kubernetesは、クエリの複雑さ、パフォーマンス要件、またはポリシー上の制約に基づいて、推論リクエストを最適なモデルに動的にルーティングできます。
これにより、単純なクエリへの応答を高速化し、多様なワークロード全体でモデルの利用を最適化するとともに、コスト、パフォーマンス、コンプライアンスの目標に沿ったポリシーベースのルーティングが可能になります。
トークンガバナンスとインテリジェントルーティングを組み合わせることで、BIG-IP Next for KubernetesはネットワークコンポーネントからAI推論トラフィックのコントロールプレーンへと進化します。
NVIDIAエンタープライズAIファクトリーの検証済みビルディングブロック
NVIDIA RTX PRO Serversは、NVIDIA BlueField-3 DPUとともに、エンタープライズAIファクトリー向けにフルスタックで検証済みの本設計を構成する、主要なアクセラレーテッドコンピューティングプラットフォームコンポーネントです。
BIG-IP Next for KubernetesがNVIDIA BlueField上で検証され、エンタープライズAIファクトリーの設計に組み込まれたことで、お客さまは、AIワークロードに予測可能なパフォーマンスを提供する、本番環境対応の最適なネットワーキングおよびセキュリティレイヤーを利用できます。さらに、GPUとCPUの効率向上に加え、トークンエコノミクスとガバナンスのための組み込み制御も利用できます。
この検証により、F5とNVIDIAが共有する「AIインフラストラクチャは、単に組み合わせるのではなく、設計する必要がある」というビジョンがさらに確かなものになります。
今後の展望
企業がAIの実験段階から本番環境のAIファクトリーへと移行する中、インフラストラクチャスタックも、大規模環境でのパフォーマンス、効率性、ガバナンスを支えられるよう進化する必要があります。NVIDIAがEnterprise AI Factoryの進化を続ける中、F5はトラフィック管理、セキュリティ、AI対応制御における役割を拡大し、次世代の推論プラットフォームを大規模に支援していきます。
NVIDIA BlueField DPU上のF5 BIG-IP Next for Kubernetesは、まさにそのニーズに応えます。高性能なトラフィック管理、セキュリティ、AI対応の制御を統合し、検証済みでエンタープライズ環境に対応したソリューションを提供します。
F5は、Enterprise AI Factoryエコシステムの一員としてNVIDIAと協業できることを誇りに思います。今後数か月にわたり、共同イノベーションと市場展開の取り組みをさらに拡大していくことを楽しみにしています。
詳細については、NVIDIA Enterprise AI Factoryの検証済み設計と、F5が果たす役割をご覧ください。
著者について
関連するブログ記事
F5 Application Study Tool：OpenTelemetryによるF5 BIG-IP環境の監視
F5の新しいオープンソースツールは、BIG-IP環境を詳細に可視化し、データを追跡するとともに、強力でカスタマイズ可能なインサイトを得るための基盤を提供します。
F5 BIG-IPでAI防御を実現
F5 BIG-IP Advanced WAF、BIG-IP APM、BIG-IP SSL Orchestratorが、生成AIアプリ向けに包括的なセキュリティソリューションを提供する仕組みをご覧ください。
F5 Advanced WAFによるGraphQL APIの保護
ここ数年、多くの組織がデジタルトランスフォーメーションを進めており、COVID-19のパンデミックによってその動きは加速しています。
アプリケーションサービスの現状 通信業界版：リーダーとしての台頭
通信ネットワークが進化し、さまざまな業界の幅広いユースケースに対応するなか、通信業界の回答者がテクノロジーリーダーとしての存在感を高めていることがわかります。
デジタルトランスフォーメーションは、単なるペーパーレス化ではない
デジタルトランスフォーメーションは、単なるペーパーレス化ではありません。真のモダナイゼーションにアプリケーションアーキテクチャとセキュリティの再構築が必要な理由を、F5ブログでご覧ください。
やめましょう。もう本当にやめましょう。HTTPSはHTTPより高速ではありません。
もうやめましょう。HTTPSはHTTPより高速ではありません。プロトコルのパフォーマンスに関する微妙な違いと、暗号化トラフィックを適切に最適化する方法については、F5ブログをご覧ください。