BIG-IP Next for Kubernetes implementado en DPU NVIDIA BlueField

Name: BIG-IP Next for Kubernetes implementado en DPU NVIDIA BlueField
Brand: F5

Ofrece gestión del tráfico y seguridad de alto rendimiento para infraestructuras de IA a gran escala, lo que permite mejorar la eficiencia, el control y el rendimiento de las aplicaciones de IA.

Más información

Ofrecer multitenencia, aceleración y observabilidad

BIG-IP Next for Kubernetes implementado en DPU NVIDIA BlueField proporciona a empresas y proveedores de servicios un único punto de control para maximizar el uso de la infraestructura de nube de IA y acelerar el tráfico de IA para la ingesta de datos, el entrenamiento de modelos, la inferencia, la generación aumentada por recuperación (RAG) y la IA agéntica.

Maximice la eficiencia y reduzca los costes

Maximice la inversión en infraestructura de IA y reduzca el coste total de propiedad mediante una gestión del tráfico y un equilibrio de carga de alto rendimiento para infraestructuras de IA a escala de nube.

Compatibilidad con la multitenencia para proveedores de IA en la nube

Habilite la multitenencia segura basada en Kubernetes y el aislamiento de red para aplicaciones de IA, de modo que varios inquilinos y cargas de trabajo puedan compartir de forma eficiente una única infraestructura de IA, incluso a nivel de servidor.

Seguridad de confianza cero basada en DPU

Integre funciones de seguridad críticas y una arquitectura de «confianza cero», como firewall perimetral, mitigación de ataques DDoS, protección de API, prevención de intrusiones, cifrado y gestión de certificados, al tiempo que descarga, acelera y aísla estas funciones en la DPU.

Un único punto de control

Rendimiento mejorado

Maximice el potencial de la infraestructura Las aplicaciones de IA requieren capacidades de red aceleradas. BIG-IP Next for Kubernetes optimiza los flujos de tráfico hacia los clústeres de IA, lo que permite utilizar los recursos de GPU de forma más eficiente al interactuar directamente con las redes front-end. En el caso de los modelos de IA con miles de millones de parámetros, BIG-IP Next for Kubernetes reduce la latencia y proporciona un balanceo de carga de alto rendimiento para la ingesta de datos y las consultas entrantes.

Escale GPUaaS

La arquitectura multiinquilino potencia las fábricas de IA y los centros de datos en la nube para cargas de trabajo de IA Permite a las organizaciones dar servicio a más usuarios en clústeres informáticos compartidos y, al mismo tiempo, escalar las cargas de trabajo de entrenamiento e inferencia de IA. Acelera la conexión de los modelos de IA con el almacenamiento de datos en ubicaciones dispares y mejora significativamente la visibilidad del rendimiento de las aplicaciones mediante el uso de funcionalidades avanzadas de Kubernetes para automatizar las cargas de trabajo de IA y centralizar los controles de políticas.

Proteja los datos, los modelos y las aplicaciones

Proteja y optimice sus implementaciones de IA El rápido crecimiento de las API para modelos de IA plantea importantes retos de seguridad. BIG-IP Next for Kubernetes automatiza la detección y protección de los endpoints, protegiendo las aplicaciones de IA frente a amenazas en constante evolución. Al descargar el procesamiento de la seguridad de red de las CPU en las DPU NVIDIA BlueField y aprovechar su arquitectura de confianza cero, BIG-IP Next for Kubernetes ofrece una protección granular y garantiza un cifrado de datos sólido. Este enfoque no solo refuerza las ciberdefensas, sino que también optimiza la gestión de datos de IA, lo que se traduce en una infraestructura más segura, escalable y eficiente para proveedores de servicios y empresas.

Optimice el tráfico norte-sur

Obtenga una visión integrada de las redes, la gestión del tráfico y la seguridad La solución responde a las crecientes exigencias de las cargas de trabajo de IA y está diseñada específicamente para entornos Kubernetes. Mejora la eficiencia de los flujos de tráfico norte-sur y ofrece a las organizaciones una visión integrada de las redes, la gestión del tráfico y la seguridad para casos de uso de IA, como la inferencia y la IA agéntica.

Optimice el enrutamiento y la inferencia de los LLM

El enrutamiento avanzado de LLM dirige dinámicamente las tareas a los modelos más eficientes, lo que reduce la latencia, mejora el tiempo hasta el primer byte (TTFB) y aprovecha LLM específicos de cada dominio para obtener resultados de mayor calidad. La integración con NVIDIA Dynamo acelera aún más la inferencia distribuida mediante el almacenamiento en caché de KV rentable en CPU, lo que minimiza la dependencia de la memoria de la GPU y optimiza el rendimiento. F5 refuerza la seguridad de las implementaciones del Protocolo de Contexto de Modelo (MCP) al actuar como proxy inverso, proteger los LLM frente a amenazas en constante evolución y garantizar la adaptación a protocolos de IA que cambian rápidamente para ofrecer operaciones escalables y seguras.

Implementación a gran escala de la computación acelerada de NVIDIA

Maximiza tu inversión

El rendimiento, la eficiencia y la seguridad son fundamentales para el éxito de las organizaciones que implementan clústeres de GPU a gran escala en sus fábricas de IA y centros de datos en la nube. BIG-IP Next for Kubernetes aprovecha las plataformas DPU NVIDIA BlueField-3, liberando valiosos ciclos de CPU para aplicaciones que generan ingresos. BIG-IP Next for Kubernetes, implementado en DPU NVIDIA BlueField-3 (versiones B3220 y B3240), optimiza el movimiento de datos y mejora el uso de las GPU, al tiempo que optimiza el consumo energético.

Capacidades principales

BIG-IP Next for Kubernetes ofrece redes de alto rendimiento, seguridad avanzada y operaciones simplificadas para fábricas de IA, lo que permite un escalado fluido, la integración con Kubernetes y la visibilidad del tráfico en tiempo real para optimizar las cargas de trabajo de IA.

Maximice el rendimiento de la IA

Aumente el rendimiento de los datos y la utilización de la GPU para las cargas de trabajo de IA.

Multiinquilinato seguro

Habilite entornos seguros y aislados para varios inquilinos.

Seguridad de confianza cero

Proteja las cargas de trabajo de IA con funciones de seguridad avanzadas.

Gestión centralizada

Simplifique las operaciones con un único punto de control.

Redes de alta velocidad

Ofrezca una conectividad ultrarrápida para las tareas de IA más exigentes.

Escalabilidad sin complicaciones

Amplíe la infraestructura sin esfuerzo a medida que crecen las cargas de trabajo de IA.

Integración con Kubernetes

Intégrese a la perfección con los flujos de trabajo nativos de Kubernetes.

Observabilidad del tráfico

Obtenga información en tiempo real sobre el tráfico y el rendimiento de la red.

Recursos

DESTACADO

F5 BIG-IP Next for Kubernetes ofrece un rendimiento validado de inferencia de IA con las DPU NVIDIA BlueField.

Las pruebas independientes realizadas por The Tolly Group demuestran que la gestión inteligente del tráfico de IA de F5 mejora significativamente la eficiencia de la inferencia, lo que permite aumentar el rendimiento de tokens, reducir el tiempo hasta el primer token y disminuir la latencia de las cargas de trabajo de IA a gran escala que se ejecutan en infraestructuras aceleradas por NVIDIA.