La entrega de aplicaciones siempre ha consistido en garantizar tres aspectos: rendimiento, disponibilidad y fiabilidad. Estos principios han definido el éxito a lo largo de distintas generaciones de arquitecturas de aplicaciones, desde el modelo cliente-servidor hasta la web y la nube. Pero la inteligencia artificial, y en concreto la inferencia, cambia la ecuación.
Hoy en día, el 80 % de las empresas afirma utilizar sus propios servidores de inferencia. La inferencia ya no es un experimento, sino una carga de trabajo generalizada con un impacto empresarial real. Sin embargo, muchas organizaciones siguen tratando los endpoints de inferencia como «una API más». Esta suposición entraña riesgos. A diferencia de las API convencionales, las solicitudes de inferencia son probabilísticas, requieren una gran capacidad de procesamiento y dependen del contexto. Tratarlas como cargas de trabajo tradicionales pone en peligro los objetivos fundamentales de la entrega de aplicaciones y expone a las organizaciones a nuevas categorías de riesgos operativos y de seguridad.
Hoy vamos a analizar cómo la inferencia redefine la tríada de rendimiento, disponibilidad y fiabilidad (PAR) de la entrega de aplicaciones, exponer las diferencias algorítmicas que las empresas deben tener en cuenta y destacar las implicaciones para tecnologías de entrega como la supervisión del estado, el equilibrio de carga, la optimización del tráfico y la seguridad.
La tríada PAR: la base de la entrega de aplicaciones
Al igual que la seguridad se basa en la tríada CIA de confidencialidad, integridad y disponibilidad, la entrega de aplicaciones se sustenta en su propia tríada: rendimiento, disponibilidad y fiabilidad.
- Rendimiento: ¿La aplicación responde con la rapidez suficiente para satisfacer las expectativas de los usuarios?
- Disponibilidad: ¿Se puede acceder a la aplicación y devuelve resultados válidos bajo condiciones de estrés?
- Fiabilidad: ¿Se puede confiar en que la aplicación se comporte de forma coherente a lo largo del tiempo?
Durante décadas, esta tríada se aplicó a las cargas de trabajo deterministas. Las respuestas eran predecibles, se daba por sentada la corrección y los costes eran estables. Las cargas de trabajo de inferencia rompen con esos supuestos. Dado que la inferencia es probabilística y variable desde el punto de vista computacional, las definiciones de rendimiento, disponibilidad y fiabilidad deben evolucionar.
Rendimiento: de determinista a probabilístico
En los sistemas tradicionales, el rendimiento se medía en milisegundos. Las solicitudes idénticas producían resultados prácticamente idénticos. La inferencia es diferente. La latencia varía según el tamaño del modelo, la complejidad de la entrada, las estrategias de procesamiento por lotes y los ajustes de generación. Incluso dos instrucciones idénticas pueden tener tiempos de respuesta diferentes.
Para las empresas, esto significa que el rendimiento no debe definirse únicamente por la latencia media, sino también por la variabilidad y la eficiencia. Es decir, por la rapidez con la que se generan los tokens, la capacidad de procesamiento que se mantiene bajo carga y la previsibilidad de los costes.
Disponibilidad: la accesibilidad debe incluir la corrección
Tradicionalmente, la disponibilidad era binaria: el sistema estaba operativo o no lo estaba. Se daba por sentada la corrección porque la ejecución del código era determinista. Con la inferencia, la disponibilidad no puede limitarse a la accesibilidad. Un modelo puede estar en línea y, aun así, ser inservible por su lentitud, estar saturado de contexto o dar respuestas erróneas con total seguridad.
Ahora, la disponibilidad exige tanto corrección como capacidad de respuesta. Los sistemas no solo deben evaluarse en función de si ofrecen una respuesta, sino también de si esta llega a tiempo y es válida.
Fiabilidad: de la consistencia a la consistencia semántica
Antes, la fiabilidad significaba que, ante entradas idénticas, los sistemas producían resultados idénticos. Las cargas de trabajo de inferencia rompen esta expectativa. La variabilidad es inherente. Las actualizaciones de los modelos, el reentrenamiento y la generación estocástica introducen desviaciones. Los modelos de facturación basados en tokens complican aún más la previsibilidad.
Ahora, la fiabilidad debe medirse en términos de «coherencia semántica»: ¿puede el sistema ofrecer resultados con niveles aceptables de calidad, precisión y previsibilidad a lo largo del tiempo, pese al no determinismo?
Diferencias algorítmicas y de comunicación
Las cargas de trabajo de inferencia difieren fundamentalmente de las de los servidores web y de aplicaciones:
- Procesamiento por lotes: Las solicitudes pueden agruparse para mejorar la eficiencia de la GPU, lo que altera el orden FIFO y genera variaciones en la latencia.
- Streaming: Las respuestas se entregan token a token, por lo que los sistemas de entrega deben gestionar las salidas parciales y las cancelaciones.
- Estrategias de muestreo y búsqueda: La variabilidad de los resultados viene determinada por decisiones algorítmicas como la temperatura, el muestreo top-k o la búsqueda en haz.
- Enrutamiento: La selección de modelos y expertos añade una capa de comportamiento dinámico que no existe en los sistemas deterministas.
Estas diferencias modifican tanto el rendimiento como la semántica de la inferencia de formas que los productos de entrega tradicionales no fueron diseñados para abordar.
Implicaciones de seguridad
La inferencia también introduce nuevos riesgos. Según nuestra investigación , el 84 % de las organizaciones realizan pruebas o supervisan posibles inyecciones de prompts, jailbreaks o manipulaciones de los resultados. Más de la mitad (56 %) ya inspecciona la entrada y salida de la inferencia mediante puertas de enlace o middleware. Sin embargo, una de cada cinco empresas sigue permitiendo que los prompts sin procesar lleguen a los modelos sin inspección, lo que equivale a ejecutar una aplicación web sin cortafuegos.
La lección es clara: tratar la inferencia como una API convencional deja a las organizaciones expuestas. La disponibilidad y la fiabilidad se desploman cuando se ignoran la corrección y la integridad semántica. Las empresas deben integrar defensas específicas para la inferencia en su pila de entrega de aplicaciones, desde la aplicación de políticas en tiempo de ejecución hasta la detección de anomalías adversarias.
Conclusión
La inferencia ya no es algo que se vislumbra en el horizonte, sino que hoy está integrada en los entornos de producción empresariales. El 80 % de las organizaciones ya utiliza su propia infraestructura de inferencia. Sin embargo, la inferencia no es simplemente otra API. Introduce una ejecución probabilística, riesgos para la corrección y una variabilidad semántica que redefinen lo que significa ofrecer aplicaciones.
En la era de la IA, la entrega de aplicaciones debe evolucionar. Las empresas deben adaptar sus estrategias y tecnologías para garantizar que los sistemas basados en inferencia mantengan un alto rendimiento, estén disponibles y sean fiables (utilizables, predecibles, seguros y correctos), incluso cuando la ejecución subyacente sea intrínsecamente probabilística.
Sobre el autor
Lori MacVittie es ingeniera distinguida y evangelista jefe en la Oficina del CTO de F5, y cuenta con una amplia experiencia en entrega de aplicaciones, estrategia de automatización e infraestructura. Es conocida por convertir la complejidad en claridad, ya sea definiendo mecanismos de protección para agentes de IA, analizando arquitecturas multinube frágiles o explorando los límites de los sistemas escalables. Aporta más de treinta años de experiencia en el sector en desarrollo de aplicaciones, arquitectura de TI y operaciones de redes y sistemas. Antes de incorporarse a F5, fue una galardonada editora de tecnología. MacVittie posee un máster en Informática y es una autora prolífica cuyas publicaciones abarcan la seguridad, la nube y la arquitectura empresarial. También es una apasionada de los juegos de mesa y los videojuegos, y expresa sin complejos sus firmes opiniones sobre el queso.
Más artículos de Lori Mac VittieArtículos relacionados del blog
IA agéntica en ciberseguridad: promesas y riesgos
Descubre por qué el uso de la IA agéntica en ciberseguridad es esencial para combatir las amenazas impulsadas por IA y por qué los agentes también generan nuevos riesgos empresariales.
Cómo los clientes de F5 del sector financiero abordan la soberanía digital sin frenar la innovación
¿Cómo se materializa la soberanía digital en el mundo real? Dos proyectos recientes de F5 con clientes muestran cómo distintas empresas están afrontando estos retos.
Soberanía operativa: cómo desarrollar resiliencia en un mundo impredecible
Para muchas organizaciones, la cuestión ya no consiste únicamente en controlar los datos, sino en mantener la capacidad de operar, adaptarse y recuperarse a medida que evolucionan las leyes y las circunstancias.
No se puede proteger una conversación con un cortafuegos: cómo el red teaming de IA se volvió esencial
Dado que las implementaciones de IA avanzan a la velocidad de las máquinas, los métodos tradicionales de prueba de software ya no resultan adecuados.
Protege tu canalización de datos de IA sin ralentizarla
Proteger el flujo de datos de la IA no es opcional. Eso está claro. Lo que resulta mucho menos evidente —y mucho más difícil— es cómo protegerlo adecuadamente.
Las extranets no están muertas; solo necesitan una actualización
Modernice su extranet: descubra cómo F5 y Equinix ofrecen una conectividad para partners repetible, segura y escalable, sin la complejidad de las redes tradicionales.