Las políticas de entrega incompatibles solían ser uno de esos temas de «higiene arquitectónica» de los que solo se hablaba después de que algo fallara. Ya conoces el patrón. Un equipo modifica el enrutamiento en la nube A, otro actualiza las reglas de seguridad en la nube B y, de repente, producción se comporta como si fuera una especie distinta de preproducción. Nadie consigue reproducirlo de forma sistemática y lo único que se puede afirmar con seguridad es que «probablemente sea cosa de la red».
ADC07 lo llama por su nombre: cuando las políticas de entrega no están alineadas entre los distintos entornos, el rendimiento se vuelve impredecible, la conmutación por error deja de ser fiable, surgen cuellos de botella al escalar y se acumulan innumerables problemas operativos.
Ahora añadamos la IA: esto deja de ser un desastre a cámara lenta y se convierte en un acelerador.
Impacto en el rendimiento
Las políticas de entrega incompatibles se manifiestan como problemas de rendimiento que parecen aleatorios, y los problemas aleatorios son siempre los peores porque los ingenieros no pueden «corregir lo aleatorio». Solo pueden perseguirlo.
La IA hace que la resolución de problemas sea realmente complicada, porque las interacciones con ella suelen consistir en cadenas de varios pasos. Una sola solicitud de un usuario puede activar la recuperación de información, la reordenación de resultados, la inferencia, llamadas a herramientas y, después, otra fase de inferencia. Si alguna etapa cruza los límites de un entorno en el que se aplican políticas diferentes, se introduce variabilidad en toda la experiencia.
Las políticas incompatibles provocan un enrutamiento ineficiente y una mayor latencia entre proveedores, incluso al distribuir aplicaciones tradicionales o modernas. Esa es la realidad de partida. En la prestación de servicios de IA, esta ineficiencia se traduce en un sistema que parece vacilante e irregular, aunque técnicamente todo esté «operativo».
Impacto en la disponibilidad
Es aquí donde las políticas de entrega incompatibles pasan de ser una molestia a provocar interrupciones del servicio. La disponibilidad depende de un comportamiento coherente en situaciones de presión, y las políticas incompatibles tienden a manifestarse precisamente cuando el sistema está sometido a presión.
La conmutación por error es el ejemplo clásico. Si la lógica de conmutación por error de un proveedor no está alineada con la de otro, el tráfico puede no poder redirigirse correctamente o acabar redirigido a una región que, aunque técnicamente esté activa, presente problemas operativos. ADC07 señala directamente este problema en entornos híbridos multinube con enfoques de redundancia y conmutación por error incompatibles.
La IA añade otra capa: la orquestación y el comportamiento de los agentes. Cuando un agente experimenta un retraso o un fallo, suele volver a intentarlo o probar rutas alternativas. Si las políticas de entrega varían según el entorno, es posible que esas rutas alternativas no se comporten de la misma manera. Esto provoca «fallos leves» en los que el sistema devuelve resultados parciales, agota el tiempo de espera en mitad del flujo de trabajo u ofrece respuestas diferentes en función del endpoint de la herramienta al que haya accedido.
Impacto en la escalabilidad
El escalado en un entorno multicloud solo funciona cuando las políticas son lo suficientemente coherentes como para que el tráfico pueda desplazarse libremente allí donde haya capacidad. Cuando las políticas de entrega son incompatibles, el escalado queda limitado por la ubicación de las políticas «correctas», no por la de los recursos disponibles.
El resultado es que algunas regiones acaban sobrecargadas mientras que otras permanecen infrautilizadas. Eso es exactamente lo que ocurre en los sistemas de IA cuando se amplía la infraestructura, pero no se adapta en la misma medida la alineación de las políticas. Se acaba disponiendo de una gran capacidad de computación en un lugar, pero las reglas de enrutamiento, los límites de velocidad o las restricciones de seguridad impiden utilizarla.
La IA también rompe el modelo mental de «solicitudes por segundo». La carga se mide en sesiones, tokens y cadenas de varios pasos. Si un entorno impone límites más estrictos al tamaño de las cargas útiles, la concurrencia o los tiempos de espera, puede crearse accidentalmente un techo de escalabilidad para todo el sistema. Peor aún, cuando algunas sesiones se completan correctamente y otras fallan en función del entorno al que se dirigen, los reintentos de los usuarios aumentan la carga y se entra en la clásica espiral de la muerte, en la que la presión para escalar genera aún más presión para escalar.
Impacto en la eficiencia operativa
Las políticas de entrega incompatibles hacen que el equipo de operaciones acabe realizando tareas de traducción en lugar de ingeniería. Cada límite entre entornos se convierte en un punto en el que hay que reinterpretar la intención. Cada nube tiene sus propios controles, sus propios valores predeterminados y su particular forma de arruinarte el día.
Las diferencias entre los estándares de supervisión y generación de informes de los distintos proveedores ya dificultan obtener una visión global y ralentizan la respuesta ante incidentes. La IA agrava el problema porque la resolución de problemas debe abarcar todo el proceso de principio a fin. Si un usuario dice «el asistente va lento», hay que determinar si la causa está en la inferencia, la recuperación de información, el enrutamiento, las llamadas a herramientas o la aplicación de políticas.
Y la desviación de las políticas no es algo meramente teórico. Los procesos de entrega de IA agravan este problema porque se añaden nuevos componentes con rapidez y la coherencia de las políticas suele dejarse para «más adelante ya lo arreglaremos», unas palabras que suelen presagiar problemas en las operaciones.
Prácticas recomendadas para mitigar políticas de entrega incompatibles
La solución es tediosa, y por eso resulta difícil. Hay que tratar las políticas de entrega como artefactos de primer nivel, no como conocimiento informal que solo existe en los clics que alguien hace en una consola.
Eso significa que las políticas deben ser declarativas, portátiles y aplicarse de forma coherente en todos los entornos. Las reglas de enrutamiento, el comportamiento de conmutación por error, las decisiones de almacenamiento en caché, los límites de solicitudes y los controles de seguridad deben acompañar a la aplicación y validarse del mismo modo que se valida el código. Si se depende de la adaptación manual entre nubes, se corre el riesgo de que se produzcan divergencias, y estas son la causa principal de que «ayer funcionara».
También necesitas una observabilidad unificada, porque no puedes gestionar lo que no puedes ver. Una monitorización fragmentada entre distintas nubes genera puntos ciegos, y los sistemas de IA no dudarán en aprovecharlos. Una telemetría coherente y unas comprobaciones uniformes de validación de políticas son la clave para evitar que la resolución de problemas se convierta en arqueología.
Por último, en los sistemas de IA en particular, conviene contar con políticas que comprendan los patrones de tráfico modernos. Los agentes y las llamadas a herramientas generan comportamientos que las políticas de entrega tradicionales nunca se diseñaron para prever. Si aplicas las políticas como si cada solicitud fuera una llamada REST bien definida e iniciada por un usuario, acabarás bloqueando flujos de trabajo de IA legítimos o dejando pasar otros peligrosos. Ninguno de los dos resultados es bueno para la disponibilidad ni para el nivel de riesgo.
Conclusión
ADC07 trata fundamentalmente de la incoherencia, y la incoherencia es enemiga de una entrega fiable. La IA aumenta lo que está en juego porque multiplica las interacciones, encadena dependencias y hace que los usuarios sean mucho menos tolerantes con la imprevisibilidad.
Si quieres que los sistemas de IA sean rápidos, estables y fiables en entornos híbridos y multicloud, las políticas de entrega deben dejar de ser prácticas informales específicas de cada entorno. Deben estar armonizadas, ser portátiles y aplicarse de forma coherente; de lo contrario, toda la pila se comportará como un mosaico de soluciones que «funcionan más o menos» y que se viene abajo ante cargas reales.
Más información sobre los 10 principales retos de la entrega de aplicaciones a los que se enfrentan las organizaciones de todo el mundo.
Sobre el autor
Lori MacVittie es ingeniera distinguida y evangelista jefe en la Oficina del CTO de F5, y cuenta con una amplia experiencia en entrega de aplicaciones, estrategia de automatización e infraestructura. Es conocida por convertir la complejidad en claridad, ya sea definiendo mecanismos de protección para agentes de IA, analizando arquitecturas multinube frágiles o explorando los límites de los sistemas escalables. Aporta más de treinta años de experiencia en el sector en desarrollo de aplicaciones, arquitectura de TI y operaciones de redes y sistemas. Antes de incorporarse a F5, fue una galardonada editora de tecnología. MacVittie posee un máster en Informática y es una autora prolífica cuyas publicaciones abarcan la seguridad, la nube y la arquitectura empresarial. También es una apasionada de los juegos de mesa y los videojuegos, y expresa sin complejos sus firmes opiniones sobre el queso.
Más artículos de Lori Mac VittieArtículos relacionados del blog
¿Qué es el Top 10 de entrega de aplicaciones?
F5 tiene como objetivo ayudar a las organizaciones a afrontar los retos relacionados con la entrega y la protección de aplicaciones, API e IA generativa mediante la lista de los 10 principales desafíos de la entrega de aplicaciones.
Los 10 principales riesgos en la entrega de aplicaciones de IA: incapacidad para gestionar la latencia
La IA convierte la latencia en un problema de confianza, no solo de rendimiento: las respuestas lentas del «asistente» se perciben como vacilación o fallo, y los prompts y las respuestas con muchos tokens aumentan la carga de trabajo incluso en sistemas que funcionan correctamente.
Las 10 principales amenazas en la entrega de aplicaciones de IA: direccionamiento del tráfico no optimizado
La IA rompe con los supuestos tradicionales sobre el direccionamiento del tráfico: los backends no son intercambiables, los costes varían y los agentes distribuyen las solicitudes de forma impredecible, por lo que el enrutamiento debe tener en cuenta el modelo, el estado de las GPU y la ubicación de los datos.
Las 10 principales amenazas en la entrega de aplicaciones de IA: controles de tráfico insuficientes
Los límites de tasa y la limitación de tráfico tradicionales no reflejan el verdadero alcance del impacto. Las cargas de trabajo de IA se distribuyen entre modelos, almacenes vectoriales y servicios, lo que provoca picos de latencia, fallos en cascada y reintentos.
Las 10 principales amenazas para la entrega de aplicaciones de IA: observabilidad incompleta
La IA no escalará por sí sola. Sin un plano de control unificado que elimine las barreras entre herramientas y responsabilidades, la inferencia se convierte en la capa más frágil y que más coordinación requiere.
Top 10 de riesgos en la entrega de aplicaciones de IA: falta de tolerancia a fallos y resiliencia
La IA hace que las carencias clásicas de resiliencia resulten mucho más costosas: los fallos de una sola GPU o dependencia se propagan por las cadenas de inferencia síncronas, acumulando latencia y degradando los resultados.