メガワット時あたりのトークン数計算ツール

施設で利用可能な電力からどれだけのAI出力を得られるか、また、エネルギーがどこで制約となるかを把握します。

電力がAIの成長を制約する要因になりつつあります。この計算ツールは、施設の電力を実際に提供されるトークン出力量に換算し、エネルギーのうちどれだけが有用なAIの処理に使われているかを示します。

01: 電力の上限枠

02: AIファクトリー

電力からトークンへの変換ファネル

各段階で何かが失われます。PUEは施設のオーバーヘッドを取り、IT予約分はGPU以外のシステムに電力を供給し、稼働率と効率がGPUの処理のうちどれだけが実配信出力になるかを決めます。

施設電力2.00 MW
PUE適用後のIT負荷1.54 MW
GPUの生産的負荷0.78 MW
実配信トークン出力58万 tok/s

詳細情報

電力はAI成長の制約要因になりつつあります。メガワット時あたりトークン数は、利用可能なエネルギーから施設がどれだけのAI出力を生み出すかを示します。電力が制約される状況では、インフラ効率の改善により、施設を拡張せずにAI出力を増やせます。

よくあるご質問

この先に見えてくること

AIファクトリーの試算から、AIファクトリーの制御へ

電力が制約となるとき、AIトラフィックの効率は戦略的な運用指標になります。無駄になった稼働率1ポイントは、AI出力を生まずに消費されたエネルギーであり、施設を拡張しても取り戻すことはできません。