Calculateur du coût par tâche réussie

Les agents réessaient, tournent en boucle et abandonnent. Le coût par token ne reflète pas cette réalité : ici, la tarification porte sur la tâche réellement menée à bien.

Le coût par token chiffre ce que le parc de modèles a produit, sans rien dire de la réussite du travail. Dès que des agents interviennent — multiples appels interdépendants par tâche, nouvelles tentatives en cas d’échec, boucles abandonnées en cours de route —, la véritable unité de coût devient la tâche menée à bien, et son coût peut être plusieurs fois supérieur à une estimation simpliste.

01: La tâche, telle que conçue

02: La tâche, telle qu’elle s’exécute réellement

À quoi sert chaque dollar dépensé par tâche

Les cellules vertes représentent les dépenses ayant produit une tâche achevée. Les cellules évidées représentent le gaspillage lié aux réessais, aux boucles et aux abandons.

En savoir plus

Le coût par token est un indicateur de production ; le coût par tâche réussie est un indicateur métier. L’écart entre les deux tient à l’amplification par les réessais — les appels en échec et répétés sont facturés comme les appels utiles — auquel s’ajoutent le gaspillage des boucles et les chaînes abandonnées, dont la dépense entière est supportée par les tâches qui aboutissent. À mesure que les agents prennent en charge une part croissante du trafic, c’est dans cet écart que s’évaporent discrètement les budgets d’inférence.

Questions fréquentes

Ce que cela implique

Des calculs de l’usine d’IA à son pilotage

Un routage tenant compte de l’état de santé évite les réessais, les budgets par locataire interrompent les boucles et l’imputation des tokens rend l’abandon visible agent par agent : c’est pourquoi le multiplicateur de gaspillage relève du contrôle du trafic, et non de la qualité des modèles.