Rechner für die Kosten pro erfolgreich abgeschlossener Aufgabe
Agenten starten neue Versuche, drehen Schleifen und brechen ab. Kosten pro Token bilden das nicht ab – hier zählt die tatsächlich abgeschlossene Aufgabe.
Die Kosten pro Token beziffern, was die Flotte produziert hat. Sie sagen nichts darüber aus, ob die Arbeit erfolgreich war. Sobald Agenten Teil des Ablaufs sind – mit vielen voneinander abhängigen Aufrufen pro Aufgabe, erneuten Versuchen bei Fehlern und Schleifen, die abgebrochen werden –, ist die abgeschlossene Aufgabe die eigentliche Bezugsgröße für die Kosten. Diese können ein Vielfaches dessen betragen, was eine einfache Rechnung vermuten lässt.
01: Die Aufgabe, wie konzipiert
02: Die Aufgabe, wie sie tatsächlich läuft
Wohin jeder für eine Aufgabe ausgegebene Dollar fließt
Grüne Zellen sind Ausgaben, die zu einer abgeschlossenen Aufgabe geführt haben. Leere Zellen sind Verschwendung durch Wiederholungen, Schleifen und Abbrüche.
Weitere Informationen
Kosten pro Token sind eine Produktionskennzahl; Kosten pro erfolgreicher Aufgabe sind eine Geschäftskennzahl. Die Lücke dazwischen entsteht durch Wiederholungsverstärkung – fehlgeschlagene und wiederholte Aufrufe werden genauso abgerechnet wie nützliche – sowie durch Schleifenverschwendung und abgebrochene Ketten, deren gesamte Kosten die abgeschlossenen Aufgaben tragen. Je mehr Agenten den Datenverkehr übernehmen, desto mehr verschwinden Inferenzbudgets still in dieser Lücke.
Häufig gestellte Fragen
Von der KI-Fabrik-Rechnung zur KI-Fabrik-Steuerung
Zustandsbewusstes Routing verhindert die Wiederholungen, mandantenbezogene Budgets stoppen die Schleifen, und Token-Zuordnung macht Abbrüche je Agent sichtbar – deshalb ist der Verschwendungsfaktor eine Kennzahl der Verkehrssteuerung und keine der Modellqualität.