F5 y NVIDIA mejoran la rentabilidad de las fábricas de IA con nuevas capacidades para acelerar la inferencia de IA

F5 BIG-IP Next for Kubernetes, acelerado con DPU BlueField, mejora el rendimiento de los tokens, reduce el coste por token y permite disponer de una infraestructura de IA multiinquilino segura, transformando las fábricas de IA para la era de los agentes

SEATTLE – F5 (NASDAQ: FFIV), líder mundial en la entrega y protección de todas las aplicaciones y API, ha anunciado hoy la ampliación de las capacidades de su actual colaboración con NVIDIA para acelerar y optimizar las infraestructuras de inferencia de IA.

La integración ampliada combina F5 BIG-IP Next for Kubernetes con las DPU NVIDIA BlueField-3, creando una capa de infraestructura inteligente y basada en la telemetría que aumenta el rendimiento de los tokens mediante un mejor aprovechamiento de las GPU, reduce la latencia y permite implementar plataformas de IA multiinquilino seguras a gran escala.

En los sistemas de IA, los tokens representan la unidad medible de los resultados de la IA: las palabras, los símbolos o los fragmentos de datos generados y procesados durante la inferencia. El volumen y la velocidad de producción de tokens determinan, en última instancia, la experiencia del usuario, la eficiencia de la infraestructura y los ingresos por acelerador.

A medida que las empresas y los proveedores de GPUaaS compiten por monetizar la IA y pasar de la experimentación con IA a servicios que generen ingresos, la eficiencia de la infraestructura se ha convertido en una métrica determinante. El éxito ya no se mide únicamente por la capacidad de GPU desplegada, sino cada vez más por la economía de los tokens, el rendimiento sostenido de tokens, el tiempo hasta el primer token (TTFT), el coste por token y los ingresos por acelerador GPU. La solución conjunta de F5 y NVIDIA está diseñada para abordar directamente estas métricas.

Optimización de la economía de los tokens mediante una infraestructura de IA inteligente

El paso de una inferencia centrada en las aplicaciones a flujos de trabajo de IA impulsados por agentes exige nuevos enfoques arquitectónicos para optimizar el rendimiento de los tokens y reducir los costes. BIG-IP Next for Kubernetes ahora aprovecha las estadísticas de NVIDIA NIM, las señales de ejecución de Dynamo y la telemetría de las GPU para tomar decisiones de enrutamiento basadas en la inferencia antes de la ejecución. Al asignar las cargas de trabajo a los aceleradores más adecuados en tiempo real, la solución aumenta el uso sostenido al tiempo que reduce la latencia y la repetición de cálculos.

«La infraestructura de IA ya no consiste únicamente en acceder a las GPU o ampliar la escala de sus implementaciones. Ha evolucionado para maximizar el rendimiento económico de cada acelerador», afirmó Kunal Anand, director de Producto de F5. «Junto con NVIDIA, estamos haciendo posible que las fábricas de IA traten la producción de tokens como una métrica empresarial cuantificable. BIG-IP Next for Kubernetes proporciona la inteligencia y la gobernanza necesarias para aumentar el rendimiento de las GPU, reducir el coste por token y escalar con confianza las plataformas de IA compartidas».

Eficiencia de la infraestructura validada: una mejora estructural

Las cifras de rendimiento hablan por sí solas. En las pruebas validadas por The Tolly Group, BIG-IP Next for Kubernetes, acelerado mediante DPU NVIDIA BlueField-3, logró hasta un aumento del 40 % en el rendimiento de tokens, un tiempo hasta el primer token (TTFT) un 61 % más rápido y una reducción del 34 % en la latencia total de las solicitudes.

No se trata de mejoras incrementales. Al descargar las funciones de red, TLS/cifrado, el balanceo de carga con reconocimiento de IA y la gestión del tráfico en las DPU NVIDIA BlueField-3, BIG-IP Next for Kubernetes preserva la capacidad de la CPU del host y libera las GPU para que hagan aquello para lo que fueron diseñadas: ejecutar inferencias sostenidas, de alto rendimiento y a gran escala. El resultado es un mejor aprovechamiento de las GPU, una reducción de los retrasos en las colas y un mayor rendimiento de tokens, lo que permite reducir el coste por token con una infraestructura de tamaño fijo. Y, lo que es fundamental, no fue necesario modificar los modelos, por lo que estas mejoras pueden implementarse de inmediato en la infraestructura existente de las fábricas de IA. Para las empresas y los proveedores de NeoCloud que compiten en la economía de los tokens, esta es la diferencia entre una infraestructura que limita la producción de IA y otra que la acelera.

«La infraestructura de computación acelerada de NVIDIA, junto con la plataforma de seguridad y entrega de aplicaciones con capacidades de IA de F5, permite optimizar la economía de los tokens en las fábricas de IA, al ofrecer una inferencia escalable y rentable sin necesidad de modificar los modelos», afirmó Kevin Deierling, vicepresidente sénior de Redes de NVIDIA. «Juntas, F5 y NVIDIA permiten a las empresas ampliar la inferencia de las fábricas de IA de forma eficiente y rentable».

Diseñado para la IA basada en agentes y las plataformas de IA multiinquilino

Las cargas de trabajo de IA modernas están cada vez más impulsadas por agentes, son persistentes y tienen en cuenta el contexto. Requieren un control inteligente del tráfico que el balanceo de carga tradicional no puede ofrecer. La solución BIG-IP Next for Kubernetes mejorada ahora admite:

• Enrutamiento con reconocimiento de inferencia para flujos de trabajo de IA agéntica
• Integración con NVIDIA DOCA Platform Framework (DPF) para simplificar la implementación y la gestión del ciclo de vida de las DPU NVIDIA BlueField
• EVPN-VXLAN con VRF dinámicas para una tenencia múltiple segura a nivel de red
• Seguridad integrada, gobernanza de tokens y observabilidad en entornos de IA de Kubernetes

Estas capacidades permiten a las empresas y a los proveedores de NeoCloud compartir de forma segura la infraestructura de GPU entre distintas unidades de negocio o con clientes externos, al tiempo que mantienen el aislamiento del rendimiento y unos niveles de servicio predecibles.

Un plano de control para la economía de las fábricas de IA

F5 y NVIDIA proporcionan a las empresas herramientas validadas y prácticas recomendadas para optimizar la arquitectura de inferencia. Gracias a estos avances, BIG-IP Next for Kubernetes está en condiciones de convertirse en un plano de control estratégico para la economía de las fábricas de IA, gestionando el consumo de tokens, optimizando los flujos de tráfico y maximizando el retorno de la inversión en infraestructura.

En lugar de sobredimensionar los recursos para compensar las ineficiencias, las organizaciones ahora pueden obtener un mayor valor económico de cada GPU que ya está en producción. El resultado es un aumento de los ingresos por GPU, una reducción de los gastos operativos y unos servicios de IA escalables diseñados para un crecimiento sostenido. Al combinar la telemetría de infraestructura y la aceleración mediante DPU de NVIDIA con la inteligencia de tráfico y las capacidades de seguridad de F5, ambas empresas ayudan a las organizaciones a transformar las fábricas de IA en plataformas eficientes y monetizables, preparadas para la era de los agentes de IA.

Materiales de apoyo

• Blog: Las fábricas de IA necesitan una infraestructura inteligente. Los nuevos resultados de The Tolly Group explican por qué.
• Informe: Pruebas independientes de Tolly: F5 BIG-IP Next for Kubernetes

Acerca de F5

F5, Inc. (NASDAQ: FFIV) es el líder mundial en la entrega y protección de todas las aplicaciones. Con el respaldo de tres décadas de experiencia, F5 ha creado la plataforma líder del sector —F5 Application Delivery and Security Platform (ADSP)— para entregar y proteger todas las aplicaciones y API, estén donde estén: en las instalaciones, en la nube, en el extremo de la red y en entornos híbridos y multinube. F5 mantiene su compromiso con la innovación y la colaboración con las organizaciones más grandes y avanzadas del mundo para ofrecer experiencias digitales rápidas, disponibles y seguras. Juntos, nos ayudamos mutuamente a prosperar y hacemos realidad un mundo digital mejor.

Para obtener más información, visite f5.com
Consulte las investigaciones sobre amenazas de F5 Labs en f5.com/labs
Síganos para obtener más información sobre F5, nuestros socios y nuestras tecnologías: Blog | LinkedIn | X | YouTube | Instagram | Facebook

F5, BIG-IP y BIG-IP Next son marcas comerciales, marcas de servicio o nombres comerciales de F5, Inc. en Estados Unidos y otros países. Todos los demás nombres de productos y empresas mencionados en el presente documento pueden ser marcas comerciales de sus respectivos propietarios. La colaboración descrita en este comunicado de prensa no implica la existencia de una empresa conjunta, una asociación legal ni una relación de agencia entre F5 y NVIDIA.

Declaraciones prospectivas
Este comunicado de prensa contiene declaraciones prospectivas sobre el rendimiento, la eficiencia y los beneficios económicos previstos de la integración de F5 con NVIDIA, que están sujetos a riesgos e incertidumbres.