マルチテナントAIクラウドのキャパシティプランナー
テナントの分離とフラグメンテーションが、必要なGPU数、実際の稼働率、確保できる利益率にどう影響するかをご確認ください。
AIクラウドプロバイダーは、テナントの分離とインフラストラクチャの効率性を両立させる必要があります。このプランナーでは、テナントごとの専用キャパシティと、ガバナンスを適用した共有プールを比較できます。
01: テナントのプロファイル
専有 vs 共有のテナントキャパシティ
専有プールはそれぞれ自身のピークに合わせてサイジングされます。ガバナンスされた共有プールは、テナントのピークが同時には訪れないという性質を活用します。
必要な専有キャパシティ768基のGPU
ガバナンスされた共有キャパシティ470基のGPU
プール内の予約バッファ61基のGPU
回復したキャパシティ298基のGPU
詳細情報
AIクラウドプロバイダーは、テナント分離とインフラ効率のバランスを取る必要があります。専有キャパシティは分離を単純化できる一方、高価なGPUリソースを遊休化させがちです。ガバナンスされた共有キャパシティは稼働率を高められますが、それはテナントポリシー、セキュリティ、オブザーバビリティ、サービスレベル制御が整っている場合に限られます。
よくあるご質問
この先に見えてくること
AIファクトリーの試算から、AIファクトリーの制御へ
マルチテナントのAIインフラには、分離、ポリシー、トラフィック制御、オブザーバビリティを統合できるAIサービスプレーンが必要です。