タスク成功1件あたりのコスト計算ツール

エージェントは再試行やループを繰り返し、途中で処理を放棄することもあります。トークン単位のコストでは捉えられないこの違いを踏まえ、実際に完了したタスクに対して課金します。

トークン単価が示すのは、フリートが生成した出力のコストであり、処理が成功したかどうかはわかりません。処理経路にエージェントが加わると、タスクごとに多数の依存関係のある呼び出しが発生し、失敗時には再試行が行われ、ループが途中で打ち切られることもあります。そのため、実際のコストは完了したタスク単位で捉える必要があり、単純に計算した値の数倍になる可能性があります。

01: 設計どおりのタスク

02: 実際に実行されるタスク

タスクに費やされる1ドルの内訳

緑のセルは完了タスクを生み出した支出、中抜きのセルはリトライ、ループ、放棄による無駄です。

詳細情報

トークンあたりコストは本番運用の指標であり、成功タスクあたりコストはビジネス指標です。両者の差は、有用な呼び出しとまったく同じように課金される失敗・再実行によるリトライ増幅に加え、ループの無駄と、完了したタスクがその支出をすべて肩代わりする放棄チェーンによって生じます。エージェントがトラフィックの大半を占めるようになるにつれ、推論予算はこのギャップに静かに消えていきます。

よくあるご質問

この先に見えてくること

AIファクトリーの試算から、AIファクトリーの制御へ

ヘルス状態を考慮したルーティングがリトライを防ぎ、テナント単位の予算がループを止め、トークンの帰属管理がエージェント単位で放棄を可視化します。だからこそ無駄倍率は、モデル品質ではなくトラフィック制御の指標なのです。