Calculadora de coste por token

Calcula el coste de producir un millón de tokens a partir del rendimiento, el nivel de utilización, el coste de la GPU, el consumo energético y los gastos generales de la plataforma.

El coste por token relaciona el gasto en infraestructura con la producción de la IA. Introduce tus estimaciones de capacidad y costes para saber cuánto cuesta cada token generado y cómo varía ese coste en función del nivel de utilización.

01: Capacidad

02: Costes

Coste por 1M de tokens según la utilización

La mayoría de los costes de una fábrica de IA son fijos por hora. Una mayor utilización reparte el mismo gasto entre más tokens entregados. Su utilización actual aparece resaltada en la barra oscura.

3,3 US$
30 % de utilización
2,5 US$
40 % de utilización
2,0 US$
50 % de utilización
1,7 US$
60 % de utilización
1,4 US$
70 % de utilización
1,2 US$
80 % de utilización
1,1 US$
90 % de utilización

Más información

El coste por token conecta el gasto en infraestructura con la salida de IA. El coste por hora de GPU importa, pero la pregunta de fondo es cuántos tokens útiles puede entregar su entorno con ese gasto. Un mayor rendimiento entregado y una mejor utilización reducen el coste por token sin necesidad de añadir más GPUs.

Preguntas frecuentes

Adónde conduce esto

De las cuentas de la fábrica de IA al control de la fábrica de IA

Reducir el coste por token no es solo un problema de selección de modelo. Es un problema de control de la infraestructura. La forma en que el tráfico se enruta, se encola, se almacena en caché y se distribuye entre la capacidad de GPU determina qué parte de su gasto se convierte en salida entregada.