Mejore el rendimiento de la fábrica de IA con F5 BNK y la DPU NVIDIA BlueField

Descubra avances revolucionarios en el rendimiento de la infraestructura de IA mientras analizamos las conclusiones validadas del informe Tolly n.º 226104. Este seminario web mostrará cómo F5 BIG-IP Next for Kubernetes (BNK) v2.2.0 transforma las fábricas de IA mediante el balanceo de carga inteligente en las DPU NVIDIA BlueField.

Entre los principales resultados validados se incluyen:

• Un 40 % más de rendimiento de tokens por segundo en comparación con las principales alternativas
• Tiempo hasta el primer token (TTFT) hasta un 61 % más rápido, lo que mejora significativamente la experiencia del usuario
• Reducción de alrededor del 80 % en el consumo de CPU del host, lo que libera recursos para aplicaciones de IA
• Mejoras constantes en modelos LLM grandes, de gama media y ligeros, con resultados aún mejores a medida que los modelos se hacen más pequeños y rápidos

Descubra cómo F5 BNK redefine la economía de las fábricas de IA al maximizar el uso de las GPU, eliminar ineficiencias y ofrecer una eficiencia de infraestructura sin precedentes, todo ello validado mediante rigurosas pruebas independientes realizadas por Tolly Group. Únase a nosotros para aprovechar todo el potencial de sus inversiones en IA y acelerar la innovación en este ámbito.

No pierda la oportunidad de obtener más información sobre las estrategias de despliegue nativas de Kubernetes y las pruebas de rendimiento que convierten a F5 BNK en la solución líder para el balanceo de carga de IA.