En NVIDIA GTC y, de nuevo, en CES, NVIDIA ha dejado claro hacia dónde se dirige la IA empresarial: las fábricas de IA, es decir, infraestructuras y pilas de software específicas y validadas, diseñadas para ofrecer un rendimiento predecible, reducir los costes y aportar confianza operativa para la inferencia y el entrenamiento de la IA.
NVIDIA Enterprise AI Factory hace realidad esta visión mediante un diseño validado que combina la computación acelerada, las redes, el software y la orquestación de NVIDIA en una solución integral que las empresas pueden implementar con confianza en sus propias instalaciones. Como parte de esta arquitectura, NVIDIA continúa ampliando su ecosistema de socios validados que resuelven retos reales a escala de producción en toda la infraestructura de IA.
Hoy nos complace anunciar que F5 BIG-IP Next for Kubernetes ha sido validado para ejecutarse en servidores NVIDIA RTX PRO, equipados con DPU NVIDIA BlueField-3, y se incluirá en el diseño validado de NVIDIA Enterprise AI Factory. Los clientes, entre las más de 20 000 organizaciones que utilizan F5 BIG-IP actualmente, pueden ampliar sin problemas las funcionalidades de confianza de F5 BIG-IP al implementar fábricas de IA empresarial de NVIDIA.
“F5 BIG-IP Next for Kubernetes en NVIDIA BlueField ofrece gestión del tráfico de alto rendimiento, seguridad y controles adaptados a la IA en una solución validada y preparada para entornos empresariales.”
El diseño validado de NVIDIA Enterprise AI Factory se basa en componentes modulares y reutilizables que garantizan un rendimiento, una seguridad y una escalabilidad predecibles a medida que las empresas llevan la IA a producción. En lugar de integrar soluciones aisladas, la arquitectura define cómo las GPU, las DPU, las redes y el software funcionan conjuntamente como un sistema cohesionado. La inclusión de F5 en este diseño validado refuerza este enfoque.
Además de validar el diseño, hemos realizado pruebas exhaustivas de rendimiento en laboratorio que cuantifican las ventajas reales en términos de rendimiento y eficiencia de ejecutar BIG-IP Next for Kubernetes con aceleración mediante DPU de NVIDIA en cargas de trabajo de inferencia de IA. Los resultados y la metodología están disponibles en nuestro informe «Rendimiento validado para la inferencia de IA».
Por qué las fábricas de IA necesitan un enfoque integral
El rendimiento de la inferencia de IA no depende únicamente de contar con GPU más rápidas. También depende de una pila tecnológica completa capaz de optimizar los sistemas. En los entornos de producción, las redes, la seguridad y la gestión del tráfico determinan cada vez más la rapidez con la que se generan los tokens, la uniformidad de las respuestas de los modelos y la eficiencia con la que se utiliza la infraestructura.
A medida que los servicios de IA se amplían para abarcar distintos inquilinos, modelos y usuarios, las empresas deben gestionar eficazmente múltiples elementos. Esto resulta especialmente importante para las organizaciones que implementan entornos de IA locales o soberanos, donde el rendimiento, la gobernanza y el control no pueden delegarse en servicios de nube pública.
Entre las necesidades de las empresas se incluyen maximizar el aprovechamiento de las CPU de los hosts, que actualmente deben gestionar tareas de red y seguridad; mantener una latencia constante para optimizar el tiempo hasta el primer token (TTFT); disponer de visibilidad y control sobre el uso de tokens; y poder aplicar políticas de gobernanza, equidad y cumplimiento normativo.
Aquí es donde las DPU —y el software que se ejecuta en ellas— se convierten en elementos fundamentales de la fábrica de IA.
Descargar las tareas adecuadas en el silicio adecuado
F5 BIG-IP Next for Kubernetes acelerado en DPU NVIDIA BlueField-3 descarga las funciones críticas de red y seguridad de la CPU del host en los núcleos ARM programables y los motores de aceleración por hardware de la DPU.
Estos servicios descargados incluyen el equilibrio de carga y el direccionamiento del tráfico, la terminación y el cifrado TLS, la aplicación de políticas de firewall y seguridad, así como la protección de API y la detección de intrusiones.
Al trasladar estas funciones a las DPU NVIDIA BlueField, las CPU del host quedan libres para cargas de trabajo de propósito general, mientras que las GPU siguen plenamente centradas en la inferencia de IA.
Los resultados son cuantificables y significativos: un aumento de más del 30 % en el rendimiento de generación de tokens y una reducción de hasta el 60 % en el TTFT.
Estas mejoras se traducen directamente en respuestas más rápidas, un mayor aprovechamiento de los modelos y una mayor eficiencia de la infraestructura: exactamente lo que exigen las fábricas de IA empresariales.
Más allá de la descarga: gobernanza de tokens y enrutamiento inteligente de LLM
La descarga es solo el punto de partida.
El plano de datos programable de BIG-IP Next for Kubernetes, que se ejecuta en DPU NVIDIA BlueField, permite ofrecer servicios avanzados con reconocimiento de IA que van más allá de las redes tradicionales.
Gobernanza de tokens integrada
BIG-IP Next for Kubernetes incorpora capacidades nativas de gobernanza de tokens que permiten a las empresas contabilizar y realizar un seguimiento de los tokens por inquilino, usuario o modelo; aplicar límites de frecuencia de tokens y políticas de uso; y cumplir los requisitos de conformidad, imputación de costes y equidad.
A medida que los precios basados en tokens se convierten en el modelo económico predominante para la IA, la gobernanza en la capa de infraestructura resulta esencial.
Enrutamiento inteligente de LLM con NVIDIA NIM
Mediante la integración con los microservicios NVIDIA NIM, BIG-IP Next for Kubernetes puede enrutar dinámicamente las solicitudes de inferencia al modelo más adecuado en función de la complejidad de la consulta, los requisitos de rendimiento o las restricciones de las políticas.
Esto permite responder con mayor rapidez a consultas sencillas, optimizar el uso de los modelos en distintas cargas de trabajo y aplicar un enrutamiento basado en políticas que se ajuste a los objetivos de costes, rendimiento y cumplimiento normativo.
En conjunto, la gobernanza de tokens y el enrutamiento inteligente transforman BIG-IP Next for Kubernetes, que pasa de ser un componente de red a convertirse en un plano de control para el tráfico de inferencia de IA.
Un componente validado de la fábrica de IA empresarial de NVIDIA
Servidores NVIDIA RTX PRO, complementados con DPU NVIDIA BlueField-3, constituyen los componentes clave de la plataforma de computación acelerada de este diseño integral validado para fábricas de IA empresariales.
Ahora que BIG-IP Next for Kubernetes ha sido validado en NVIDIA BlueField y se ha incluido en el diseño de fábrica de IA empresarial, los clientes disponen de una capa óptima de red y seguridad, lista para producción, que ofrece un rendimiento determinista para las cargas de trabajo de IA. También obtienen una mayor eficiencia de la GPU y la CPU, así como controles integrados para la economía y la gobernanza de los tokens.
Esta validación refuerza una visión compartida por F5 y NVIDIA: la infraestructura de IA debe diseñarse, no limitarse a ensamblarse.
De cara al futuro
A medida que las empresas pasan de experimentar con la IA a implantar fábricas de IA en producción, la infraestructura tecnológica debe evolucionar para ofrecer rendimiento, eficiencia y gobernanza a gran escala. A medida que NVIDIA siga desarrollando Enterprise AI Factory, F5 ampliará su papel en la gestión del tráfico, la seguridad y los controles adaptados a la IA para dar soporte a plataformas de inferencia de nueva generación a gran escala.
F5 BIG-IP Next for Kubernetes en DPU NVIDIA BlueField ofrece exactamente eso: combina la gestión del tráfico de alto rendimiento, la seguridad y los controles adaptados a la IA en una solución validada y lista para entornos empresariales.
Nos enorgullece colaborar con NVIDIA como parte del ecosistema Enterprise AI Factory y esperamos ampliar nuestros esfuerzos conjuntos de innovación y comercialización en los próximos meses.
Obtén más información sobre el diseño validado de NVIDIA Enterprise AI Factory y sobre cómo se integra F5.
Sobre el autor
Artículos relacionados del blog
Cree servicios públicos seguros, resilientes y preparados para la IA con F5 y AWS
Descubre cómo las organizaciones del sector público pueden modernizar de forma segura sus aplicaciones y soluciones de IA, al tiempo que gestionan los sistemas heredados, el cumplimiento normativo y el riesgo operativo.
Protección de los sistemas de IA: por qué la seguridad debe avanzar al ritmo de la innovación
Desde acelerar avances revolucionarios en medicina y educación hasta transformar la vida cotidiana, la IA está cambiando nuestra forma de vivir y trabajar. Pero también ofrece grandes oportunidades a los ciberdelincuentes.
Avanzar hacia la optimización digital tras la transformación
Descubre estrategias de optimización digital para garantizar políticas de seguridad coherentes, impulsar la madurez de la transformación digital y superar los retos de la transformación.
Proyecto de código abierto destacado: mayor observabilidad con F5 Cloud Logger iApp
En el punto de mira del código abierto: cómo aumentar la observabilidad. Lee el blog de F5 para descubrir cómo exportar fácilmente la telemetría de BIG-IP a plataformas modernas de análisis en la nube.
El estado de la entrega de aplicaciones en 2018: la transformación digital impulsa la automatización y la multinube pese a las preocupaciones de seguridad
Descubre las principales conclusiones del cuarto informe anual de F5 sobre el estado de la entrega de aplicaciones.
Estado de la entrega de aplicaciones en 2017: automatización, API y DevOps
Descubre el informe sobre el estado de la entrega de aplicaciones de 2017. Lee el blog retrospectivo de F5 sobre los inicios del auge de las redes declarativas y los flujos de DevOps.