El ADC10 original se centra en un problema que todos los equipos de operaciones conocen: el uso ineficiente de los recursos informáticos, de almacenamiento y de red aumenta los costes y limita la escalabilidad. Si se sobredimensionan los recursos, se malgasta dinero. Si se infradimensionan, el rendimiento se resiente. La solución, tal como se expone, consiste en mejorar la distribución del tráfico, implementar comprobaciones de estado inteligentes y disponer de un control programable para utilizar los recursos de forma eficiente en todo el sistema. Esto sigue siendo cierto.
Lo que cambia con la IA es que la utilización de los recursos deja de ser predecible.
Las aplicaciones tradicionales consumen recursos de forma bastante constante. Los sistemas de IA, en cambio, no. Presentan picos de actividad, requieren una gran capacidad de procesamiento y varían considerablemente en función de la solicitud. Esto convierte lo que antes era un problema de planificación de la capacidad en un problema de asignación en tiempo real.
Consecuencias de una utilización deficiente de los recursos
Impacto en el rendimiento
En un sistema convencional, el uso ineficiente de los recursos se manifiesta en una distribución desigual de la carga. Algunos servidores están inactivos mientras que otros están sobrecargados. El resultado son tiempos de respuesta más lentos y capacidad desaprovechada. La IA introduce un tipo de desequilibrio diferente.
Las cargas de trabajo de inferencia no son uniformes. Una solicitud puede ser trivial, mientras que otra puede requerir una capacidad de cómputo varios órdenes de magnitud mayor debido al tamaño del prompt, la longitud del contexto o la profundidad del razonamiento. Incluso dentro del mismo modelo, el rendimiento puede variar considerablemente de una solicitud a otra.
Esa variabilidad hace que sea mucho más difícil predecir y distribuir la carga de forma eficaz.
Si las solicitudes se enrutan sin tener en cuenta su carga computacional, se generan puntos de saturación. Las GPU o los nodos de inferencia se saturan de forma inesperada. Se acumulan las colas. La latencia se dispara. Mientras tanto, otros recursos quedan infrautilizados porque no se seleccionaron para esa carga de trabajo.
Así pues, el conocido problema de rendimiento persiste —una distribución desigual—, pero la causa cambia. Ya no se trata solo de cuántas solicitudes se envían, sino del coste de procesar cada una de ellas.
Impacto en la disponibilidad
El ADC10 original vincula el uso deficiente de los recursos con problemas más amplios relacionados con la prestación del servicio, incluida la capacidad de mantener las cargas de trabajo de forma eficiente. Con la IA, un uso ineficiente puede afectar directamente a la disponibilidad de manera desproporcionada.
Las cargas de trabajo de IA están limitadas por la escasez de recursos, especialmente de recursos informáticos especializados como las GPU. Cuando esos recursos se agotan, el sistema no reduce su rendimiento de forma gradual. Se bloquea. Las solicitudes quedan en cola o fallan. Aumentan los tiempos de espera agotados.
Lo que hace que esto sea aún más difícil es que la disponibilidad pasa a depender de las decisiones de asignación, no solo de la capacidad.
Puede que el sistema disponga de suficiente capacidad total, pero si esta no está disponible en el lugar y el momento adecuados, o para el tipo de solicitud correcto, el sistema se comporta como si se hubiera quedado sin recursos. Un endpoint de un modelo puede estar técnicamente operativo, pero no ser capaz de aceptar más carga de trabajo. Una región puede tener capacidad ociosa que no se puede utilizar debido a restricciones de latencia o de cumplimiento normativo. Puede haber un modelo más barato disponible, pero no seleccionarse porque la lógica de enrutamiento es demasiado rígida.
Esto crea un escenario en el que la disponibilidad está fragmentada. El sistema está disponible parcialmente, dependiendo de la ruta que se siga a través de él.
Ese es un problema más complejo que el mero tiempo de actividad. Requiere la capacidad de redistribuir las cargas de trabajo de forma inteligente entre modelos, regiones y niveles en tiempo real.
Impacto en la escalabilidad
El uso ineficiente de los recursos obliga a las organizaciones a ampliar su infraestructura antes de tiempo, añadiendo más recursos para gestionar cargas de trabajo que podrían haberse administrado de forma más eficiente. En el pasado, esto ha provocado un sobredimensionamiento que, en entornos de nube, puede disparar los costes. La IA acelera drásticamente este patrón.
La inferencia es costosa. El almacenamiento necesario para los embeddings y el contexto crece rápidamente. Los flujos de datos se amplían. Si los recursos no se utilizan de forma eficiente, la respuesta habitual es añadir más capacidad. Eso funciona durante un tiempo.
Pero pronto se vuelve insostenible, tanto desde el punto de vista financiero como operativo. Escalar sistemas de IA no consiste simplemente en añadir más servidores, sino en gestionar una combinación compleja de tipos de recursos informáticos, cada uno con distintas características de rendimiento y coste.
Si el nivel de utilización es bajo, el escalado amplifica la ineficiencia en lugar de resolverla.
La alternativa consiste en tomar decisiones más inteligentes sobre cómo se utilizan los recursos. Esto incluye seleccionar el modelo adecuado para cada tarea, optimizar cuándo y cómo se recupera el contexto y garantizar que las cargas de trabajo se distribuyan en función de las condiciones en tiempo real, en lugar de seguir reglas estáticas.
En otras palabras, la escalabilidad depende menos de la cantidad de infraestructura disponible y más de la inteligencia con la que se utiliza.
Impacto en la eficiencia operativa
El uso ineficiente de los recursos siempre ha aumentado los costes operativos y la complejidad. El sobredimensionamiento supone un derroche de dinero. El infradimensionamiento genera contención y obliga a escalar de forma reactiva. La IA agrava ambos aspectos del problema.
Dado que las cargas de trabajo son impredecibles, los equipos suelen compensarlo en exceso. Aprovisionan más capacidad de la que creen necesitar para evitar problemas de rendimiento. Esto da lugar a una cantidad considerable de recursos inactivos, especialmente cuando la demanda fluctúa.
Al mismo tiempo, siguen produciéndose picos inesperados. Un aumento repentino de solicitudes de inferencia complejas puede saturar los recursos disponibles a pesar de ese sobredimensionamiento. Así, los equipos tienen que hacer frente tanto al desaprovechamiento de capacidad como a la degradación del rendimiento.
Desde el punto de vista operativo, esto obliga a mantener un equilibrio constante.
Los equipos dedican tiempo a ajustar los umbrales y las reglas de enrutamiento, y a intentar comprender por qué determinadas cargas de trabajo consumen una cantidad desproporcionada de recursos. La observabilidad cobra mayor importancia, pero también se vuelve más difícil, porque la unidad de trabajo ya no es uniforme.
Por tanto, la eficiencia depende de la visibilidad y el control. Sin ambos, la gestión de los recursos se vuelve reactiva y costosa.
Mejores prácticas para optimizar el uso de los recursos
Infraestructura programable y asignación dinámica
Para las aplicaciones tradicionales, la infraestructura programable y el enrutamiento dinámico del tráfico son soluciones clave. Al dirigir el tráfico en función de métricas en tiempo real, las organizaciones pueden equilibrar la carga y mejorar el aprovechamiento de todo el sistema. Este enfoque se vuelve fundamental con la IA.
El balanceo de carga estático presupone que las solicitudes son más o menos equivalentes. La IA rompe esa premisa. Las solicitudes ya no permiten predecir el consumo de recursos. El enrutamiento debe basarse en algo más que el número de conexiones o una simple distribución algorítmica. Es necesario conocer el coste de las solicitudes, el rendimiento del modelo y el estado del sistema.
La programabilidad permite adaptarse en tiempo real. Las solicitudes pueden dirigirse a distintos modelos en función de la latencia, el coste o la disponibilidad. Las cargas de trabajo pueden trasladarse entre regiones o clústeres a medida que cambian las condiciones. Las operaciones costosas pueden limitarse o aplazarse cuando los recursos son escasos.
Esto convierte la utilización de los recursos en un bucle de control activo, en lugar de ser un resultado pasivo.
Eficiencia mediante un enrutamiento inteligente
En esencia, ADC10 consiste en utilizar los recursos de forma eficiente. La IA amplía el significado de «eficiente».
Ya no se trata solo de distribuir el tráfico de manera uniforme, sino de asignar la carga de trabajo adecuada al recurso adecuado.
Eso puede implicar utilizar un modelo más pequeño para las solicitudes más sencillas, en lugar de recurrir por defecto al más potente. Puede implicar limitar el tamaño del contexto para reducir el coste computacional. Puede implicar almacenar en caché o reutilizar los resultados en lugar de volver a calcularlos. Puede implicar reconocer cuándo no se debe utilizar la IA en absoluto.
Todas esas decisiones van más allá del equilibrio de carga tradicional. Requieren comprender la intención, no solo el tráfico.
Aquí es donde la entrega de aplicaciones vuelve a evolucionar. El enrutamiento se convierte en orquestación de recursos. El objetivo no es simplemente mantener los sistemas ocupados, sino garantizar que cada unidad de computación se utilice de forma eficaz.
Conclusión
ADC10 siempre ha buscado evitar el desperdicio y garantizar que la infraestructura se utilice de forma eficiente para favorecer el rendimiento, la disponibilidad y la escalabilidad.
Lo que introduce la IA es volatilidad.
El consumo de recursos ya no es predecible. El coste de las cargas de trabajo varía considerablemente. La computación especializada introduce nuevas limitaciones. Y las ineficiencias aumentan más rápido porque el coste de cada solicitud es mayor.
La respuesta sigue el mismo patrón que las directrices originales, pero con mayor urgencia.
Necesitas visibilidad sobre cómo se consumen los recursos. Necesitas capacidad de programación para adaptarte en tiempo real. Y necesitas decisiones de enrutamiento más inteligentes que tengan en cuenta el coste real de cada solicitud, no solo su número.
Porque, en un sistema basado en IA, una utilización deficiente de los recursos no solo supone un desperdicio.
Es la vía más rápida hacia un rendimiento deficiente, una disponibilidad limitada y unos costes descontrolados.
Más información sobre los 10 principales retos de la entrega de aplicaciones a los que se enfrentan las organizaciones de todo el mundo.
Sobre el autor
Lori MacVittie es ingeniera distinguida y evangelista jefe en la Oficina del CTO de F5, y cuenta con una amplia experiencia en entrega de aplicaciones, estrategia de automatización e infraestructura. Es conocida por convertir la complejidad en claridad, ya sea definiendo mecanismos de protección para agentes de IA, analizando arquitecturas multinube frágiles o explorando los límites de los sistemas escalables. Aporta más de treinta años de experiencia en el sector en desarrollo de aplicaciones, arquitectura de TI y operaciones de redes y sistemas. Antes de incorporarse a F5, fue una galardonada editora de tecnología. MacVittie posee un máster en Informática y es una autora prolífica cuyas publicaciones abarcan la seguridad, la nube y la arquitectura empresarial. También es una apasionada de los juegos de mesa y los videojuegos, y expresa sin complejos sus firmes opiniones sobre el queso.
Más artículos de Lori Mac VittieArtículos relacionados del blog
¿Qué es el Top 10 de entrega de aplicaciones?
F5 tiene como objetivo ayudar a las organizaciones a afrontar los retos relacionados con la entrega y la protección de aplicaciones, API e IA generativa mediante la lista de los 10 principales desafíos de la entrega de aplicaciones.
Las 10 claves para la entrega de aplicaciones de IA: requisitos de las aplicaciones a medida
La IA convierte lo «personalizado» de caso excepcional en opción predeterminada: las solicitudes pasan a ser cadenas componibles (selección de modelos, recuperación, políticas y herramientas), por lo que la entrega debe adaptarse a cada solicitud, no a cada aplicación.
Las 10 principales amenazas en la entrega de aplicaciones de IA: falta de seguridad y cumplimiento normativo
La IA amplía el alcance del cumplimiento normativo: ya no se limita a proteger rutas y almacenes, sino que también abarca la gobernanza del comportamiento en tiempo de ejecución —el acceso a los modelos, el contexto de recuperación, los resultados y las acciones de los agentes—, por lo que los controles deben situarse más cerca de la inferencia.
Las 10 principales amenazas para la entrega de aplicaciones de IA: políticas de entrega incompatibles
Las discrepancias entre políticas se convierten en generadores de interrupciones de la IA: la falta de coherencia en la conmutación por error, los tiempos de espera, los límites y los controles de seguridad provoca fallos leves, resultados parciales y resultados distintos según el endpoint.
Los 10 principales riesgos en la entrega de aplicaciones de IA: incapacidad para gestionar la latencia
La IA convierte la latencia en un problema de confianza, no solo de rendimiento: las respuestas lentas del «asistente» se perciben como vacilación o fallo, y los prompts y las respuestas con muchos tokens aumentan la carga de trabajo incluso en sistemas que funcionan correctamente.
Las 10 principales amenazas en la entrega de aplicaciones de IA: direccionamiento del tráfico no optimizado
La IA rompe con los supuestos tradicionales sobre el direccionamiento del tráfico: los backends no son intercambiables, los costes varían y los agentes distribuyen las solicitudes de forma impredecible, por lo que el enrutamiento debe tener en cuenta el modelo, el estado de las GPU y la ubicación de los datos.