¿Y si el próximo reto de la infraestructura de IA no fuera simplemente conseguir más GPU, sino sacar más partido a cada GPU ya implementada?
Esta cuestión cobra cada vez más importancia a medida que las organizaciones llevan la IA de la fase de experimentación a la producción.
Los primeros proyectos de IA suelen comenzar con el acceso a recursos informáticos. Los equipos necesitan capacidad de GPU para probar modelos, desarrollar aplicaciones y demostrar su valor. Sin embargo, a medida que los servicios de IA se amplían para abarcar más usuarios, aplicaciones, clientes y modelos, el reto de la infraestructura cambia.
La IA en producción no es solo un problema de capacidad de computación. Es un problema de eficiencia, gobernanza, enrutamiento y costes. Y, cada vez más, es un problema empresarial.
Ese es el objetivo de la reciente versión 2.3.0 de F5 BIG-IP Next for Kubernetes.
Con esta versión, F5 introdujo mejoras en la optimización de la IA para la inferencia de IA a escala de producción. BIG-IP Next for Kubernetes 2.3.0 incorpora funciones clave de optimización del tráfico de IA en una infraestructura nativa y lista para entornos de producción, lo que ayuda a las organizaciones a reducir el procesamiento de IA redundante, mejorar el uso de las GPU, enrutar las solicitudes de forma inteligente entre modelos y servicios, y controlar el consumo de tokens entre usuarios e inquilinos.
“El futuro de la IA no dependerá únicamente de la potencia de cálculo bruta, sino de las organizaciones capaces de hacer que cada solicitud sea más inteligente, que cada token esté sujeto a un mayor control y que cada GPU rinda más. F5 BIG-IP Next for Kubernetes 2.3.0 ayuda a los clientes a dar ese siguiente paso.”
Esta versión también amplía la compatibilidad con las plataformas de redes aceleradas NVIDIA de última generación, incluida la compatibilidad con ConnectX-8 SuperNIC en sistemas x86, así como con ConnectX-7 y BlueField-3 funcionando en modo SuperNIC.
El tráfico de IA se está convirtiendo en un punto de control
A medida que la IA pasa a producción, la gestión del tráfico se convierte en mucho más que conectividad.
Una sola solicitud puede generar miles de tokens. Es posible que se repitan indicaciones similares entre distintos usuarios o aplicaciones. Algunas solicitudes pueden requerir el modelo más avanzado disponible, mientras que para otras puede resultar más adecuado un modelo de menor coste o un servicio de IA especializado.
Cada solicitud de IA implica tomar una decisión. ¿Adónde debe dirigirse? ¿Qué modelo debe gestionarla? ¿Cuánto costará? ¿Cuánta capacidad de infraestructura consumirá? ¿Y quién decide?
Estas decisiones deben tomarse de forma coherente e inteligente, y cerca del propio tráfico. BIG-IP Next for Kubernetes 2.3.0 ayuda a crear ese punto de control más inteligente, optimizando la gestión de las solicitudes de IA antes de que consuman costosos recursos informáticos. Porque, en la IA en producción, la unidad de competencia no es solo el modelo, sino el sistema que lo rodea.
Preparación para flujos de trabajo de IA más dinámicos
Esto cobra aún más importancia a medida que las aplicaciones de IA evolucionan desde interacciones aisladas de instrucción y respuesta hacia flujos de trabajo con agentes más dinámicos.
En estos entornos, el tráfico de IA puede circular entre agentes, herramientas, servicios de inferencia y componentes de aplicaciones como parte de un proceso de varios pasos. Esto plantea nuevos requisitos en materia de control del tráfico, contexto de identidad, aplicación de políticas, continuidad de las sesiones y resiliencia.
Para las organizaciones, la conclusión es clara: la infraestructura de IA en producción debe hacer algo más que conectar las aplicaciones con los modelos. Debe proporcionar un punto de control coherente para determinar cómo se enrutan, gestionan, autentican y entregan las interacciones de IA en flujos de trabajo cada vez más distribuidos.
BIG-IP Next for Kubernetes 2.3.0 ayuda a sentar esas bases al incorporar capacidades mejoradas de optimización de la IA en una infraestructura nativa y lista para producción. Al mejorar la forma en que las solicitudes de IA se almacenan en caché, se enrutan, se equilibran, se gestionan y se aceleran, esta versión ayuda a las organizaciones a prepararse para un futuro en el que el tráfico de IA será más distribuido, más autónomo y más crítico para el negocio.
Reducción del procesamiento redundante de IA
Una de las formas más directas de mejorar la rentabilidad de la IA es evitar repetir una y otra vez el mismo trabajo costoso.
A medida que aumenta la adopción de la IA, los usuarios y las aplicaciones suelen generar instrucciones similares o repetidas. Sin optimización, cada una de esas solicitudes puede consumir capacidad de inferencia adicional, incluso cuando ya se ha generado una respuesta similar. Eso supone un desperdicio. Y, a escala de la IA, ese desperdicio se vuelve costoso rápidamente.
BIG-IP Next for Kubernetes 2.3.0 incorpora el almacenamiento en caché semántico de modelos de IA como una funcionalidad disponible de forma general. Ayuda a reducir el procesamiento redundante de la GPU para solicitudes similares o repetidas, lo que mejora la rentabilidad de los tokens, reduce la latencia y aumenta la eficiencia de la GPU.
A escala de producción, el procesamiento redundante de IA puede convertirse en una fuente importante de costes innecesarios. Esta versión ayuda a abordar este reto al mejorar la eficiencia de la inferencia de IA en la capa de tráfico.
Mejora del uso de la GPU y de la selección de modelos
El balanceo de carga tradicional no se diseñó para afrontar la complejidad de la inferencia de la IA moderna.
Las cargas de trabajo de IA introducen nuevas variables, como el uso de la GPU, la profundidad de la cola, la disponibilidad de los modelos, el rendimiento del backend y la capacidad de la infraestructura. No basta con enviar el tráfico al siguiente endpoint disponible. Las solicitudes de IA deben dirigirse al mejor recurso disponible en función de las condiciones en tiempo real.
BIG-IP Next for Kubernetes 2.3.0 incorpora el balanceo de carga inteligente para IA como una funcionalidad disponible de forma general. Distribuye dinámicamente el tráfico de inferencia de IA mediante telemetría en tiempo real y conocimiento de la infraestructura para ayudar a optimizar el uso de las GPU, reducir los cuellos de botella en las colas y mejorar los tiempos de respuesta.
La versión también incorpora la integración del enrutamiento de modelos de lenguaje de gran tamaño (LLM) como una funcionalidad disponible de forma general, lo que permite el enrutamiento inteligente entre distintos LLM y servicios de IA en función de políticas como el coste, el rendimiento, la especialización del modelo o los requisitos operativos.
La mayoría de las organizaciones no ejecutarán sistemas de IA en producción con un único modelo. El modelo adecuado dependerá del caso de uso, los requisitos de rendimiento, la política empresarial y el perfil de costes.
El modelo más potente no siempre es el más adecuado. A veces, la decisión más inteligente en materia de IA consiste en elegir un modelo que sea lo bastante bueno, rápido y rentable para la tarea. Para ello, se necesita una infraestructura que permita aplicar políticas a esa decisión.
Control del consumo de tokens
Los tokens se están convirtiendo en una de las unidades más importantes de la economía de la infraestructura de IA.
Influyen en los costes, la planificación de la capacidad, el uso por parte de los tenants y el rendimiento. También son el punto en el que el entusiasmo por la IA empieza a enfrentarse a la realidad financiera.
BIG-IP Next for Kubernetes 2.3.0 incorpora la gobernanza de tokens como una funcionalidad disponible de forma general, que permite supervisar y contabilizar los tokens, así como limitar su tasa de uso. Esto ayuda a las organizaciones a gestionar mejor los costes de la infraestructura de IA y a aplicar políticas de uso a usuarios, aplicaciones e inquilinos.
Para los responsables empresariales, esto ayuda a aportar una mayor transparencia al consumo de IA. Para los equipos de plataforma, ofrece una forma práctica de gestionar la infraestructura de IA compartida.
En entornos de IA en producción, la gobernanza de tokens permite a las organizaciones controlar de forma rigurosa uno de los factores de coste que más rápido crecen en las infraestructuras modernas.
Ampliación de la flexibilidad de la infraestructura
La infraestructura de IA está evolucionando rápidamente. Algunas organizaciones están adoptando arquitecturas basadas en DPU. Otras están optimizando los sistemas x86 con aceleración de red de última generación. Muchas están llevando a cabo la modernización por fases, buscando un equilibrio entre el rendimiento, el coste y la preparación operativa.
BIG-IP Next for Kubernetes 2.3.0 amplía la compatibilidad de hardware al incorporar ConnectX-8 SuperNIC en sistemas x86. Esta versión también es compatible con ConnectX-7 y BlueField-3 ejecutándose en modo SuperNIC.
Esto ofrece a las organizaciones una mayor flexibilidad a la hora de optimizar el rendimiento del procesamiento del tráfico de IA y la eficiencia de la CPU. Para los equipos que aún no estén preparados para adoptar DPU, la compatibilidad con SuperNIC ofrece otra vía para mejorar la eficiencia de la infraestructura y, al mismo tiempo, mantener la alineación con las plataformas de red NVIDIA de próxima generación.
La modernización de la infraestructura de IA no se lleva a cabo en un solo paso. Las organizaciones necesitan opciones que respondan a sus necesidades actuales y, al mismo tiempo, mantengan abierta la vía hacia arquitecturas aceleradas más avanzadas en el futuro.
Por qué es importante
BIG-IP Next for Kubernetes 2.3.0 refleja un cambio más amplio en la forma en que las organizaciones deben gestionar la infraestructura de IA.
La primera fase de la IA se centró en el acceso a la capacidad de computación. La siguiente fase se centra en el control.
A medida que los servicios de IA pasan a producción, los equipos deben abordar de forma conjunta el rendimiento, la eficiencia de costes, las políticas y la confianza. Deben optimizar las solicitudes antes de que consuman infraestructuras costosas, controlar el uso entre distintos clientes y aplicaciones, dirigir el tráfico de forma inteligente entre modelos y servicios, y ofrecer un rendimiento acelerado de la IA tanto hoy como en el futuro.
Ese es el valor de la optimización mejorada de la IA en BIG-IP Next for Kubernetes 2.3.0.
Esta reciente versión ayuda a las organizaciones a lograr que la infraestructura de IA sea más eficiente, esté más controlada y mejor preparada para operar a escala en entornos de producción.
El futuro de la IA no dependerá únicamente de la potencia de cálculo bruta, sino de las organizaciones capaces de hacer que cada solicitud sea más inteligente, que cada token esté sujeto a un mayor control y que cada GPU rinda más. F5 BIG-IP Next for Kubernetes 2.3.0 ayuda a los clientes a dar ese siguiente paso.
Para obtener más información, visite la página web de F5 BIG-IP Next for Kubernetes.
Sobre el autor
Artículos relacionados del blog
El imperativo empresarial de la IA en un mundo de nube híbrida y multinube
Cómo la IA redefine los patrones de tráfico, el riesgo de las API y el cumplimiento normativo, y por qué el paquete Distributed Cloud Services Enterprise ofrece la profundidad necesaria en entornos híbridos multicloud.
STIG de F5 NGINX: un plan de seguridad para el sector público y los entornos regulados
Descubra cómo las STIG de F5 NGINX proporcionan un modelo de seguridad para el Departamento de Defensa de EE. UU. y los entornos regulados, ayudándole a cumplir la normativa mientras crea una infraestructura sólida de confianza cero con mayor visibilidad y resiliencia.
Cómo el marco AEGIS de Forrester valida un enfoque centrado en la inferencia
El auge de la IA agéntica está transformando el panorama de la seguridad empresarial. Estos agentes de IA autodirigidos funcionan de forma autónoma, toman decisiones en tiempo real y pueden interactuar entre distintos sistemas de maneras para las que las arquitecturas tradicionales de ciberseguridad no fueron diseñadas. Aunque esto abre nuevas posibilidades, también introduce riesgos sistémicos: fallos en cascada, secuestro de objetivos y superficies de ataque hasta ahora invisibles. El reciente […] de Forrester
La nueva superficie de riesgo de la IA: invisible, autónoma y ya está dentro
James White, vicepresidente de Ingeniería de F5 A mediados de 2025, es un buen momento para hacer balance de la adopción de la IA en las empresas y del estado de la seguridad de la IA. El uso de la IA generativa ya es habitual en las empresas En general, las empresas cuentan al menos con unos conocimientos básicos sobre la IA generativa. Entienden qué es y dónde puede […]
Protegiendo el futuro: cómo CalypsoAI se alinea con el Top 10 de OWASP para los LLM
Cuando OWASP publicó su Top 10 de 2025 para grandes modelos de lenguaje (LLM), proporcionó al sector un referente de seguridad muy necesario. Pero los referentes no sirven de nada si no se actúa. CalypsoAI aborda el 80 % del Top 10 de OWASP, dando prioridad a los riesgos reales más urgentes. La plataforma combina protección en tiempo real durante la ejecución y pruebas adversariales exhaustivas, ofreciendo una cobertura inigualable frente a las […]
Implementación de LLM en la empresa: mediante una API local
Por sí solos, sin medidas de protección ni protocolos adicionales de seguridad para la IA, el despliegue de modelos de IA generativa —en particular, modelos de lenguaje de gran tamaño (LLM)— en toda la empresa supone una oportunidad de alto riesgo y grandes beneficios para cualquier organización. Sin embargo, determinar exactamente cómo debe dar su organización este gran paso hacia el ámbito de la IA generativa requiere una planificación minuciosa. Quizá […]