タスク成功1件あたりのコスト計算ツール
エージェントは再試行やループを繰り返し、途中で処理を放棄することもあります。トークン単位のコストでは捉えられないこの違いを踏まえ、実際に完了したタスクに対して課金します。
トークン単価が示すのは、フリートが生成した出力のコストであり、処理が成功したかどうかはわかりません。処理経路にエージェントが加わると、タスクごとに多数の依存関係のある呼び出しが発生し、失敗時には再試行が行われ、ループが途中で打ち切られることもあります。そのため、実際のコストは完了したタスク単位で捉える必要があり、単純に計算した値の数倍になる可能性があります。
01: 設計どおりのタスク
02: 実際に実行されるタスク
タスクに費やされる1ドルの内訳
緑のセルは完了タスクを生み出した支出、中抜きのセルはリトライ、ループ、放棄による無駄です。
詳細情報
トークンあたりコストは本番運用の指標であり、成功タスクあたりコストはビジネス指標です。両者の差は、有用な呼び出しとまったく同じように課金される失敗・再実行によるリトライ増幅に加え、ループの無駄と、完了したタスクがその支出をすべて肩代わりする放棄チェーンによって生じます。エージェントがトラフィックの大半を占めるようになるにつれ、推論予算はこのギャップに静かに消えていきます。
よくあるご質問
この先に見えてくること
AIファクトリーの試算から、AIファクトリーの制御へ
ヘルス状態を考慮したルーティングがリトライを防ぎ、テナント単位の予算がループを止め、トークンの帰属管理がエージェント単位で放棄を可視化します。だからこそ無駄倍率は、モデル品質ではなくトラフィック制御の指標なのです。