El impulso actual hacia una inferencia ultraeficiente, la compresión de tokens y los ingeniosos sistemas de codificación nos tienta a perseguir el rendimiento y la reducción de costes como si la disponibilidad fuera a venir dada. No será así. A la disponibilidad no le importa lo ingeniosa que parezca tu codificación en una diapositiva de resultados comparativos.
Recientemente, la tendencia de la eficiencia de los tokens desató el entusiasmo en las redes sociales en torno a Token-Oriented Object Notation (TOON), un formato diseñado para reducir el número de tokens durante la inferencia, ya que el precio se calcula en función de estos. Después llegaron las parodias, que se tomaron por innovaciones serias y se difundieron como «la muerte de JSON», demostrando una vez más que el sarcasmo no se transmite bien por escrito y que la expectación siempre se adelanta a los matices.
La verdadera cuestión aquí no es la guerra de formatos. Es el mismo reto operativo al que llevamos décadas enfrentándonos: equilibrar el rendimiento, la disponibilidad y la fiabilidad con los costes. Los costes directos se miden en recursos informáticos y de red. Los costes indirectos se reflejan en la confianza de los usuarios, el daño a la marca, la carga de trabajo de los operadores y la pérdida de clientes. Cualquiera que haya planificado la capacidad para un fin de semana festivo sabe que este ejercicio de equilibrio no es nada nuevo.
Sin embargo, con la inferencia de IA, la disponibilidad ahora también incluye la corrección. Un sistema que ofrece respuestas rápidamente, pero de forma inexacta, no está «disponible», sino que funciona mal. Que se lo pregunten a cualquier operador que haya revertido un cambio a las tres de la madrugada mientras sostenía un café tibio y se replanteaba su elección profesional.
No existe una solución única para todos
Por eso, TOON merece un enfoque realista, no idealizado, como cualquier técnica de compresión. Algunos recordarán que, aunque la compresión HTTP funcionaba muy bien con el contenido basado en texto, no aportaba nada a imágenes como las JPG, que ya estaban comprimidas de forma predeterminada. Hoy la distinción sigue siendo la misma: los datos estructurados no son instrucciones.
TOON está diseñado para optimizar los datos estructurados y afirma ofrecer un ahorro considerable de tokens, además de una ligera mejora en la precisión de la recuperación. Para algunos, esto podría resultar útil. Pero la estructura no lo es todo. Los sistemas de inferencia y los basados en agentes no se limitan a registros de bases de datos y respuestas de API. Trabajan con instrucciones, intenciones y procesos de razonamiento. Ahorrar tokens en los datos no equivale a mejorar las decisiones.
Consideremos una instrucción sencilla en JSON para un agente:
{
"action": "create_ticket",
"priority": "high",
"summary": "El usuario no puede acceder a su cuenta",
"user_id": 84713
}
En TOON, eso se comprime a:
action: create_ticket
priority: high
summary: El usuario no puede acceder a su cuenta
user_id: 84713
Bonito y compacto. Por desgracia, ahí terminan las ventajas. El agente aún debe interpretar qué significa la acción en ese contexto. ¿«Crear ticket» requiere confirmación, ubicación, asignación, categorización, enrutamiento o correlación? TOON ahorra espacio, pero no mejora la claridad del razonamiento.
Un artículo de arXiv de 2025 (2510.14453) propone una táctica diferente: generar la salida de las herramientas en lenguaje natural. Sus resultados mostraron una mejora de la precisión superior al 18 % y una reducción de tokens de más del 30 %. ¿Por qué? Porque los modelos se entrenan principalmente con lenguaje natural, no con lenguajes de datos personalizados y simplificados.
Siguiendo su enfoque, enviamos:
Crea un ticket de soporte de alta prioridad para el usuario 84713. El problema es: el usuario no puede acceder a su cuenta.
Menos tokens que JSON, más claridad que TOON y en consonancia con la forma en que ya piensan los modelos. No se trata de escritura creativa libre, sino de instrucciones delimitadas por una plantilla y formuladas en lenguaje natural. Esto ofrece la ventaja adicional de usar menos tokens y facilitar la detección de manipulaciones, es decir, aporta beneficios de seguridad imprevistos.
La lección es sencilla: no todas las entradas son iguales y un único formato no puede servir para todos los casos de uso. Los formatos de compresión como TOON pueden destacar al transmitir grandes conjuntos de datos estructurados. Las plantillas en lenguaje natural pueden ser la mejor opción para dar instrucciones a modelos de razonamiento. Fingir que una única solución sirve para todo es la receta perfecta para provocar interrupciones del servicio.
El número de tokens es importante, pero no es una métrica de éxito de primer nivel
El número de tokens no es una métrica principal para medir el éxito de la IA. Es una de las variables de un equilibrio multivariable que incluye el rendimiento, la fiabilidad y la disponibilidad. Cada vez más, también debemos tener en cuenta el coste. Se puede optimizar una variable sin mejorar el sistema en su conjunto e incluso, en ocasiones, empeorarlo. La historia está llena de ingenieros que persiguieron la métrica más visible en lugar del resultado más importante.
La prestación de servicios de inferencia debe equilibrar los pilares operativos y empresariales:
- Rendimiento: la rapidez con la que responde el sistema
- Disponibilidad: si responde correctamente
- Fiabilidad: si responde de forma coherente
- Coste: si la empresa puede asumirlo a gran escala
Reduce los tokens, pero no la claridad. Mejora la velocidad, pero no a costa del razonamiento. Optimiza el coste, pero no trasladándolo a reintentos, derivaciones o revisiones manuales.
Es casi seguro que el sector acabará adoptando varios formatos según el contexto: TOON para datos estructurados, plantillas en lenguaje natural para instrucciones, JSON por compatibilidad y, probablemente, otros para cargas de trabajo especializadas.
Aún estamos en una fase temprana, y quien proclame una victoria definitiva busca llamar la atención, no hacer ingeniería. El objetivo no es elegir el formato más pequeño ni el más novedoso, sino el que ofrezca resultados fiables.
Si el ahorro reduce la confianza, no estás mejorando el sistema; simplemente estás trasladando el fallo a una fase posterior.
Sobre el autor
Lori MacVittie es ingeniera distinguida y evangelista jefe en la Oficina del CTO de F5, y cuenta con una amplia experiencia en entrega de aplicaciones, estrategia de automatización e infraestructura. Es conocida por convertir la complejidad en claridad, ya sea definiendo mecanismos de protección para agentes de IA, analizando arquitecturas multinube frágiles o explorando los límites de los sistemas escalables. Aporta más de treinta años de experiencia en el sector en desarrollo de aplicaciones, arquitectura de TI y operaciones de redes y sistemas. Antes de incorporarse a F5, fue una galardonada editora de tecnología. MacVittie posee un máster en Informática y es una autora prolífica cuyas publicaciones abarcan la seguridad, la nube y la arquitectura empresarial. También es una apasionada de los juegos de mesa y los videojuegos, y expresa sin complejos sus firmes opiniones sobre el queso.
Más artículos de Lori Mac VittieArtículos relacionados del blog
Las 10 claves para la entrega de aplicaciones de IA: requisitos de las aplicaciones a medida
La IA convierte lo «personalizado» de caso excepcional en opción predeterminada: las solicitudes pasan a ser cadenas componibles (selección de modelos, recuperación, políticas y herramientas), por lo que la entrega debe adaptarse a cada solicitud, no a cada aplicación.
Las 10 principales amenazas para la entrega de aplicaciones de IA: observabilidad incompleta
La IA no escalará por sí sola. Sin un plano de control unificado que elimine las barreras entre herramientas y responsabilidades, la inferencia se convierte en la capa más frágil y que más coordinación requiere.
Las 10 principales amenazas en la entrega de aplicaciones de IA: prácticas de DNS deficientes
Para los sistemas de inferencia y los sistemas agénticos, la resiliencia del DNS es fundamental para la disponibilidad y el rendimiento: una resolución deficiente provoca errores de enrutamiento, picos de latencia e interrupciones del servicio en distintas regiones.
Comportamiento y límites: el cambio hacia la seguridad agéntica
Los agentes generan secuencias emergentes y sin límites en las que el riesgo se acumula con el tiempo. La seguridad debe pasar de validar solicitudes individuales a supervisar continuamente el comportamiento en flujos de varios pasos que evolucionan con el tiempo.
La IA está impulsando la aparición de nuevos tipos de tráfico
La adopción de la IA está dando lugar a nuevos tipos de tráfico de primer nivel: solicitudes de inferencia, tráfico de automatización generado por máquinas y tráfico de telemetría de gran volumen que alimenta los bucles de control.
La compresión ya no es una cuestión de velocidad, sino del coste de pensar
En la era de la IA, la compresión reduce el coste de pensar, no solo el ancho de banda. Descubre cómo la compresión de prompts, resultados y modelos permite controlar los gastos de inferencia de la IA.