ビジネスリーダーは、AIを最優先に据える必要性を認識しています。しかし、実行は容易ではありません。AIは複雑で、多額のコストやリスクを伴う可能性があります。さらに、テクノロジーとエコシステムはいずれも急速に進化しています。
まず、画一的なアプローチからの明確な転換が進んでいます。予測AI/ML、生成AI、そして現在ではエージェント型AIが、特定の業界や用途に合わせて適応されつつあります。特定用途向けに設計されたAIモデルが増えるにつれ、AIを取り巻く環境はますます多様化しています。
AIアプリケーションには、パフォーマンス、コスト、エネルギー効率に最適化されているだけでなく、急速に進化するAIモデル、アプリケーション、エージェントのニーズにも対応できる専用インフラストラクチャが必要であることが、今や明らかになっています。その好例が、わずか数か月前には存在すらしていなかった画期的なイノベーション、Model Context Protocol（MCP）です。
組織が生成AI、さらにはAIエージェントの活用を急ぐなか、独自の専用データセンターを構築する組織もあります。一方、複数の大規模言語モデル（LLM）をサポートするために最適化されたクラウド規模のインフラストラクチャを展開する専門プロバイダーを利用する組織もあります。一般に「AIファクトリー」またはNeocloudsと呼ばれるこれらのプラットフォームでは、AIワークロードが求める高度なパフォーマンスとスケーラビリティに対応できるよう、専用設計されたアクセラレーテッドコンピューティング、ネットワーキング、ストレージに大規模な投資が行われています。
主権を確保し、拡張可能なAIおよびLLM推論インフラストラクチャを構築するには、4つの主要な課題に取り組む必要があります。
- レイテンシとパフォーマンス – 特にインタラクティブなユースケースでは、高速で応答性に優れたAIが不可欠です。AIが処理を終えるまで、スピナーを眺めながら待ちたい人はいません。
- データセキュリティとプライバシー – LLMは機密データを扱うことが少なくありません。安全性とプライバシーを確保した推論が不可欠ですが、クラウド環境とオンプレミス環境ではセキュリティルールやコンプライアンス要件が異なるため、その実現はさらに複雑になります。
- 規制遵守 – AIがさまざまな業界に広がる中、欧州連合の一般データ保護規則（GDPR）などの規制により、データ利用、モデル選定、透明性、公平性に関する厳格なルールが課されています。これらの規制に適切に対応することが不可欠です。
- モデルの管理と統合 – AIモデルには、バージョン管理、監視、更新などの継続的な管理が必要であり、既存のシステムに円滑に統合する必要もあります。簡単に導入できるものではありませんが、AIモデルが直面するセキュリティ上の課題はあるものの、MCPなどのプロトコルによって統合しやすくなっています。
用途に最適なチップの導入
F5は、NVIDIAと連携し、AIファクトリーとクラウド規模のAIインフラストラクチャが最新のAIの要求に対応できるよう支援しています。本日、NVIDIA GTC Paris 2025において、NVIDIA BlueField-3 DPU上に導入されたF5 BIG-IP Next for Kubernetesの新機能を発表し、イノベーションをさらに推進します。これは、GTC San Jose 2025で発表したパフォーマンス、マルチテナンシー、セキュリティの強化をさらに発展させたものです。F5 Application Delivery and Security Platformの一部であるF5 BIG-IP Next for Kubernetesは、NVIDIA BlueField-3上でネイティブに動作します。NVIDIA BlueField-3は、データの移動と処理に特化して設計された、強力でプログラム可能なプロセッサです。
DPUは、ネットワーク処理、ストレージ管理、セキュリティ運用（暗号化やトラフィック監視など）のタスクをオフロードすることで、貴重なCPUサイクルとGPUリソースを解放し、AIのトレーニングと推論に集中できるようにします。これにより、ボトルネックが軽減され、パフォーマンスとレイテンシが改善し、AIファクトリーはより多くのトークンを生成しながら、より高速かつ効率的に稼働できます。
ネットワークインターフェースカード上に配置されたDPUは、サーバー間、および外部の顧客、ユーザー、エージェントとAIファクトリー間のデータフローを管理し、大規模なネットワーキングとセキュリティをオーケストレーションします。NVIDIA BlueField-3 DPU上に導入されるF5 BIG-IP Next for Kubernetesは、4月に一般提供を開始しました。
AIプロンプトを適切な場所にルーティングし、最適な結果を実現
LLMはここ数か月で急速に進化し、現在ではサイズ、コスト、特定分野に関する専門性の面で幅広い選択肢が提供されています。プロンプトごとに適切なモデルを選択することで、より優れた応答と規制遵守を実現できるだけでなく、リソース消費量、コスト、レイテンシーも最適化できます。
今回のNVIDIA NIMマイクロサービスとの統合により、組織はAIプロンプトのリクエストを、最適なLLMや各タスクに適したモデルへインテリジェントにルーティングできるようになりました。たとえば、単純なリクエストは軽量でエネルギー効率の高いモデルで処理し、より複雑なプロンプトや、大規模で専門性の高いプロンプトは、より大規模なモデルやドメイン固有のモデルに振り分けることができます。
このアプローチにより、AIファクトリーはコンピューティングリソースをより効率的に活用し、推論コストを最大60%削減できます。より高品質な応答を、より迅速かつ低コストで得られるため、モデルプロバイダーとモデルユーザーの双方にメリットがあります。
より少ない計算で、より多くの成果を：キャッシュで重複計算をなくし、トークン出力を向上
NVIDIAはGPUに加え、AI推論における主要な課題に対処するため、ソフトウェアレベルでもイノベーションを続けています。 NVIDIA Dynamo とKVキャッシュはその好例で、いずれもNVIDIA NIMに含まれています。NVIDIA Dynamoは、推論向けの分離型サービングを導入し、GPUの演算負荷が高いコンテキスト理解（プリフィル）と、メモリ帯域幅の負荷が高い応答生成（デコード）を異なるGPUクラスターに分離します。これにより、スケジューリング、ルーティング、メモリ管理を効率的に処理し、GPU使用率を向上させるとともに、データセンター間のスケーリングを簡素化します。KVキャッシュは、モデルのコンテキストを保存してアクセスする方法を最適化します。頻繁に使用するデータをGPUメモリに保持し、残りをCPUまたはストレージにオフロードすることで、メモリのボトルネックを緩和し、追加のハードウェアを必要とせずに、より大規模なモデルやより多くのユーザーをサポートできるようにします。
BIG-IP Next for Kubernetesの強力な新機能の1つがKVキャッシュのサポートです。これにより、所要時間とエネルギー消費を削減しながら、AI推論を高速化できます。GPUメモリ使用量など、少数の明示的な指標やその他の基準に基づくNVIDIA Dynamoのインテリジェントルーティングと組み合わせることで、最初のトークンが生成されるまでの時間（TTFT）を大幅に短縮し、トークン生成量を増やして、最終的にプロンプトのスループットを向上できます。DeepSeekでは、処理能力が10～30倍に向上することが示されています。
F5のプログラマビリティを活用することで、F5 BIG-IPの機能を拡張・適応し、非常に高いパフォーマンスを維持しながら、個別かつ固有のニーズに的確に対応できます。
安全で主権を確保したエージェント型AIに向けたMCPの運用化とセキュリティ確保
多くの組織、特に複雑なレガシーシステムを抱える金融サービス、通信、医療などの大規模組織にとって、エージェント型AIは非常に魅力的です。LLMを基盤とするこれらのAIエージェントは、複雑なデータベース、サーバー、ツール、アプリケーションを横断して必要な情報を正確に取得でき、これまでにない効率性とインサイトをもたらします。
2024年11月にAnthropicが発表したMCPは、AIシステムと実世界のデータ、ツール、サービスとの連携方法を変革しています。MCPサーバーは標準化されたコネクターとして機能し、AIモデルがAPI、データベース、ファイルシステムへリアルタイムにアクセスできるようにします。これにより、AIは静的なトレーニングデータの制約を超え、タスクを効率的に実行できます。導入が進むにつれ、これらのサーバーには、負荷分散機能を備えた高度なリバースプロキシ、強固なセキュリティ、認証、データとツールへのアクセス認可、シームレスなKubernetes統合が必要になります。そのためMCPは、ソブリンAIインフラストラクチャの重要な柱となり、エージェント型AIの保護と活用を支えます。
MCPサーバーの前段にリバースプロキシとして配置される、NVIDIA BlueField-3 DPU上のBIG-IP Next for Kubernetesは、MCPサーバーのスケーリングとセキュリティ確保を可能にします。リクエストの検証、データの分類、データの完全性とプライバシーの確認を行うことで、組織とLLMの両方をセキュリティ脅威やデータ漏えいから保護します。また、F5のプログラマビリティにより、AIアプリケーションがMCPやその他のプロトコルの要件に準拠していることを容易に確認できます。
トークンが新たな通貨なら、数え、管理し、賢く使いましょう
最近の決算発表では、一部の大手組織が、四半期ごとに生成されたトークン数、その増加率、関連する収益を開示し始めています。これは、パブリッククラウドで時折発生するような予期せぬコストを回避するため、予算と同じようにトークン使用量を追跡、管理、制御したいというお客さまのニーズが高まっていることを示しています。
そのため、BIG-IP Next for Kubernetesには、組織全体のトークン消費量を計測し、管理するための新機能が追加されました。お客さまの声に耳を傾け、ニーズに配慮した機能を提供します。
セキュアで高速、主権を確保した柔軟なAIファクトリーの構築
各業界でAIファクトリーの開発が進み、各国がソブリンAIを構築するなか、AIエージェントが台頭しています。それに伴い、インフラ、エコシステム、アプリケーションには柔軟性と適応力が求められます。AIを効率的に導入する組織は、より迅速に事業を展開し、顧客サービスを向上させ、コストを削減できます。ただし、この可能性を実現するには、イノベーションのペースを落とすことなく、AIのセキュリティ、拡張性、コスト効率を維持する必要があります。
そこで力を発揮するのがF5です。昨年3月には、パフォーマンス、マルチテナンシー、セキュリティを提供しました。そして今、BIG-IP Next for Kubernetesにより、AIの進化のスピードに対応するイノベーションを実現します。
F5のお約束：1ドル、1ワット当たりのトークン数を増やします。ぜひお試しいただき、その違いをご体感ください。
GTC Paris 2025に参加されますか？
F5は、NVIDIA GTC Paris 2025のゴールドスポンサーです。ブースG27では、F5 Application Delivery and Security Platformがセキュアで高性能なAIインフラストラクチャをどのように支援するかをご体験いただけます。また、NVIDIAとの共同セッション「設計段階からセキュアなインフラストラクチャ：信頼できるAIファクトリーの構築」を6月12日（木）10:00（CEST）から開催します。ぜひご参加ください。
NVIDIA BlueField-3 DPUに導入されたF5 BIG-IP Next for Kubernetesの詳細については、以前の「ブログ記事」をご覧ください。また、本日の発表に関する「プレスリリース」もぜひご覧ください。
F5のAIへの取り組みは、これだけではありません。F5があらゆる環境でAIアプリを保護し、提供する仕組みをご覧ください。
著者について
関連するブログ記事
F5 Application Study Tool：OpenTelemetryによるF5 BIG-IP環境の監視
F5の新しいオープンソースツールは、BIG-IP環境を詳細に可視化し、データを追跡するとともに、強力でカスタマイズ可能なインサイトを得るための基盤を提供します。
F5 BIG-IPでAI防御を実現
F5 BIG-IP Advanced WAF、BIG-IP APM、BIG-IP SSL Orchestratorが、生成AIアプリ向けに包括的なセキュリティソリューションを提供する仕組みをご覧ください。
F5 Advanced WAFによるGraphQL APIの保護
ここ数年、多くの組織がデジタルトランスフォーメーションを進めており、COVID-19のパンデミックによってその動きは加速しています。
アプリケーションサービスの現状 通信業界版：リーダーとしての台頭
通信ネットワークが進化し、さまざまな業界の幅広いユースケースに対応するなか、通信業界の回答者がテクノロジーリーダーとしての存在感を高めていることがわかります。
デジタルトランスフォーメーションは、単なるペーパーレス化ではない
デジタルトランスフォーメーションは、単なるペーパーレス化ではありません。真のモダナイゼーションにアプリケーションアーキテクチャとセキュリティの再構築が必要な理由を、F5ブログでご覧ください。
やめましょう。もう本当にやめましょう。HTTPSはHTTPより高速ではありません。
もうやめましょう。HTTPSはHTTPより高速ではありません。プロトコルのパフォーマンスに関する微妙な違いと、暗号化トラフィックを適切に最適化する方法については、F5ブログをご覧ください。