Rechner für die Kosten pro erfolgreich abgeschlossener Aufgabe

Agenten starten neue Versuche, drehen Schleifen und brechen ab. Kosten pro Token bilden das nicht ab – hier zählt die tatsächlich abgeschlossene Aufgabe.

Die Kosten pro Token beziffern, was die Flotte produziert hat. Sie sagen nichts darüber aus, ob die Arbeit erfolgreich war. Sobald Agenten Teil des Ablaufs sind – mit vielen voneinander abhängigen Aufrufen pro Aufgabe, erneuten Versuchen bei Fehlern und Schleifen, die abgebrochen werden –, ist die abgeschlossene Aufgabe die eigentliche Bezugsgröße für die Kosten. Diese können ein Vielfaches dessen betragen, was eine einfache Rechnung vermuten lässt.

01: Die Aufgabe, wie konzipiert

02: Die Aufgabe, wie sie tatsächlich läuft

Wohin jeder für eine Aufgabe ausgegebene Dollar fließt

Grüne Zellen sind Ausgaben, die zu einer abgeschlossenen Aufgabe geführt haben. Leere Zellen sind Verschwendung durch Wiederholungen, Schleifen und Abbrüche.

Weitere Informationen

Kosten pro Token sind eine Produktionskennzahl; Kosten pro erfolgreicher Aufgabe sind eine Geschäftskennzahl. Die Lücke dazwischen entsteht durch Wiederholungsverstärkung – fehlgeschlagene und wiederholte Aufrufe werden genauso abgerechnet wie nützliche – sowie durch Schleifenverschwendung und abgebrochene Ketten, deren gesamte Kosten die abgeschlossenen Aufgaben tragen. Je mehr Agenten den Datenverkehr übernehmen, desto mehr verschwinden Inferenzbudgets still in dieser Lücke.

Häufig gestellte Fragen

Wohin das führt

Von der KI-Fabrik-Rechnung zur KI-Fabrik-Steuerung

Zustandsbewusstes Routing verhindert die Wiederholungen, mandantenbezogene Budgets stoppen die Schleifen, und Token-Zuordnung macht Abbrüche je Agent sichtbar – deshalb ist der Verschwendungsfaktor eine Kennzahl der Verkehrssteuerung und keine der Modellqualität.