AIはごく短期間で、興味深い実験からビジネスの中核を担う機能へと進化しました。この流れに対応するため、クラウドプロバイダーは、最新のAIファクトリーの基盤となるGPU-as-a-Service（GPUaaS）とLarge Language Model-as-a-Service（LLMaaS）のサービスを拡充しています。これらの環境は、データ、コンピューティングリソース、モデルを、お客さまにとって価値の高い成果へと変えます。
これらのサービスにより、AIの導入は大幅に容易になります。一方で、プロバイダーは財務面と運用面で新たなプレッシャーにさらされます。AIインフラストラクチャを導入することと、予測可能な収益性を確保しながら大規模かつ収益性の高い形で運用することは別問題です。GPUコスト、トークンベースの収益化に伴う課題、レイテンシーへの懸念、マルチテナント環境のセキュリティが絡み合い、複雑な事業上の方程式を生み出しています。
“持続可能な収益構造を実現するクラウドAIプロバイダーは、今からスケールを見据えたアーキテクチャ設計に着手できる企業です。”
ここで、F5 BIG-IP Next for Kubernetes（特にNVIDIA BlueField-3 DPU上に導入した場合）が、AIクラウドの運用方法を変革し始めています。このプラットフォームにより、プロバイダーは体系的な方法で収益を拡大し、トークンあたりのコストを削減しながら、複雑なAI環境をより効率的に運用できます。
変化するAIファクトリーの経済性
GPUaaSとLLMaaSは、参入に伴う大きな障壁を取り除くことで急速に普及しました。
GPUaaSを利用すれば、GPUクラスターや専用インフラストラクチャに投資することなく、モデルのトレーニングやファインチューニングを行えます。医療機関、製造業などの企業は、インフラストラクチャの運用を自ら担うことなく、画像診断や予測型自動化といった価値の高いAIプロジェクトに取り組めます。
LLMaaSはその逆です。モデルをトレーニングする必要が一切ありません。GeminiやGPTなどの事前トレーニング済みモデルをAPI経由でアプリケーションに統合し、チャットボット、コパイロット、リアルタイム分析などのエクスペリエンス構築に注力できます。
これらのモデルは、お客さまの負担を軽減する一方で、複雑さをプロバイダー側に集中させます。そのため、採算性はGPU使用率、レイテンシ（特に最初のトークンが生成されるまでの時間）、トークン計測の精度、マルチテナント環境のセキュリティ、運用オーバーヘッドに大きく左右されます。
ここで、アーキテクチャが収益性を直接左右します。
トークン数の増加による収益拡大
GPUaaSとLLMaaSの収益は、利用量に応じて拡大します。処理するトークン数と提供するワークロードが増えるほど、収益も増加します。そのためには、プラットフォームが高速で予測可能なエクスペリエンスを提供する必要があります。
BIG-IP Next for Kubernetesは、GPUをAIコンピューティングに専念させることで、収益拡大の可能性を高めます。ネットワーク、ルーティング、検査の各タスクをGPUで処理する必要がなくなるためです。これらの機能をNVIDIA BlueField-3 DPUにオフロードすることで、コンピューティングサイクルを解放し、GPUのオーバーヘッドを削減できるため、より多くのワークロードを処理できます。
テストの結果、このアーキテクチャでは、同じGPUインフラストラクチャから生成できるトークン数を30%以上増加させ、最初のトークンが生成されるまでの時間を大幅に短縮できることが確認されています。
こうした改善は、顧客体験とサービス利用量に直接影響します。LLMの応答が高速でインタラクティブであれば、ユーザーは自然とサービスをより多く利用するようになります。スループットが向上すれば、同じGPUでより多くの課金対象処理を実行できます。これにより、AIサービスはハードウェアを追加することなく収益を拡大できます。
GPU使用率の向上によるコスト削減
GPUは、あらゆるAIクラウドの収益性を支える中核です。非効率な処理、アイドル時間、CPUのボトルネックはいずれも、トークンあたりのコスト上昇と利益率の低下に直結します。
BIG-IP Next for Kubernetesは、ネットワーク、セキュリティ、トラフィックに関する処理の大部分をNVIDIA BlueField-3 DPUに移行することで、コスト削減を支援します。これにより、本来CPUとGPUのサイクルを消費するオーバーヘッドを解消します。また、トラフィックパターンとワークロードルーティングを改善し、プロバイダーがGPU使用率を最適な状態に近づけて運用できるようにします。
<p>その結果、プロバイダーはAIクラスター全体で、トークンあたりのコストを実質的に削減し、効率を大幅に向上できます。</p>
GPU使用率の向上により、この効果はさらに高まります。GPUに処理を安定して割り当てるほど、顧客あたりのコストが低下し、GPU稼働1時間あたりの総収益が増加します。アーキテクチャは経済性を直接左右します。
運用効率の向上
AIクラウドは、複数のクラスター、リージョン、GPU、モデルタイプにまたがって運用する必要があります。適切な制御ポイントがなければ、複雑さが急速に増し、チームの対応能力を超える可能性があります。
BIG-IP Next for Kubernetesは、Kubernetes環境全体にわたって、セキュアなマルチテナンシー、強力なセグメンテーション、API保護、詳細なオブザーバビリティを提供します。これらの機能により、プロバイダーはワークロードの動作、テナントの分離、ポリシーの適用を明確に制御できます。
特にLLMaaSでは、BIG-IP Next for Kubernetesにより、トークンを考慮したルーティング、キャッシュ効率の向上、異なるGPUやモデル間で一貫したトラフィック処理が可能になります。これにより、推論ワークフローの高速化、効率化、予測可能性の向上を実現します。
運用面では、プロバイダーはテナントのオンボーディングや問題のトラブルシューティングを迅速化し、オーバーヘッドを増大させることなくインフラストラクチャを拡張できます。これにより、経済性が向上し、より持続可能なサービスモデルを実現できます。
AIファクトリーを持続可能なビジネスへ
AIへの需要は、多くのプロバイダーがインフラを構築するペースを上回って拡大しています。長期的に成功するのは、単に最大規模のクラスターを持つプラットフォームではありません。パフォーマンスによって収益を伸ばし、効率化によってコストを削減し、明確な方針と統制のもとで運用できるプラットフォームです。
BIG-IP Next for Kubernetesは、特にNVIDIA BlueField-3 DPUと併用する場合、こうしたビジネスの現実に対応するために設計されています。テストで検証された方法により、スループットの向上、レイテンシの低減、マルチテナンシーの強化、GPU効率の最適化、トークンあたりのコスト削減を実現します。
AIワークロードの増加はとどまりません。持続可能な収益性を実現できるのは、今からスケールを見据えたアーキテクチャを設計できるプロバイダーです。
このF5とNVIDIAの共同アーキテクチャは、その実現に向けた明確な道筋を示します。
F5とNVIDIAが技術基盤をどのように構築しているかをご覧ください。それは、インテリジェントで目標指向型のAIシステムが切り拓く次の時代を支える基盤です。
著者について
関連するブログ記事
F5 Application Study Tool：OpenTelemetryによるF5 BIG-IP環境の監視
F5の新しいオープンソースツールは、BIG-IP環境を詳細に可視化し、データを追跡するとともに、強力でカスタマイズ可能なインサイトを得るための基盤を提供します。
F5 BIG-IPでAI防御を実現
F5 BIG-IP Advanced WAF、BIG-IP APM、BIG-IP SSL Orchestratorが、生成AIアプリ向けに包括的なセキュリティソリューションを提供する仕組みをご覧ください。
F5 Advanced WAFによるGraphQL APIの保護
ここ数年、多くの組織がデジタルトランスフォーメーションを進めており、COVID-19のパンデミックによってその動きは加速しています。
アプリケーションサービスの現状 通信業界版：リーダーとしての台頭
通信ネットワークが進化し、さまざまな業界の幅広いユースケースに対応するなか、通信業界の回答者がテクノロジーリーダーとしての存在感を高めていることがわかります。
デジタルトランスフォーメーションは、単なるペーパーレス化ではない
デジタルトランスフォーメーションは、単なるペーパーレス化ではありません。真のモダナイゼーションにアプリケーションアーキテクチャとセキュリティの再構築が必要な理由を、F5ブログでご覧ください。
やめましょう。もう本当にやめましょう。HTTPSはHTTPより高速ではありません。
もうやめましょう。HTTPSはHTTPより高速ではありません。プロトコルのパフォーマンスに関する微妙な違いと、暗号化トラフィックを適切に最適化する方法については、F5ブログをご覧ください。