BIG-IP Next for Kubernetes déployé sur des DPU NVIDIA BlueField

Name: BIG-IP Next for Kubernetes déployé sur des DPU NVIDIA BlueField
Brand: F5

Bénéficiez d’une gestion du trafic et d’une sécurité hautes performances pour les infrastructures d’IA à grande échelle, afin d’optimiser l’efficacité, le contrôle et les performances des applications d’IA.

Assurer la multilocation, l’accélération et l’observabilité

BIG-IP Next for Kubernetes déployé sur des DPU NVIDIA BlueField offre aux entreprises et aux fournisseurs de services un point de contrôle unique pour optimiser l’utilisation de l’infrastructure cloud d’IA et accélérer le trafic d’IA pour l’ingestion de données, l’entraînement de modèles, l’inférence, la génération augmentée par récupération (RAG) et l’IA agentique.

Optimisez l’efficacité et réduisez les coûts

Optimisez vos investissements dans l’infrastructure d’IA et réduisez le coût total de possession grâce à une gestion du trafic et à un équilibrage de charge hautes performances pour les infrastructures d’IA à l’échelle du cloud.

Prise en charge de l’architecture mutualisée pour les fournisseurs de services d’IA dans le cloud

Activez une architecture mutualisée sécurisée basée sur Kubernetes ainsi que l’isolation réseau pour les applications d’IA, afin de permettre à plusieurs locataires et charges de travail de partager efficacement une même infrastructure d’IA, jusqu’au niveau des serveurs.

Sécurité Zero Trust pilotée par DPU

Intégrez des fonctionnalités de sécurité essentielles et une architecture Zero Trust comprenant un pare-feu en périphérie, une protection contre les attaques DDoS, une protection des API, la prévention des intrusions, le chiffrement et la gestion des certificats, tout en déchargeant, en accélérant et en isolant ces fonctions sur le DPU.

Un point de contrôle unique

Performances améliorées

Maximisez le potentiel de l’infrastructure Les applications d’IA nécessitent des capacités réseau accélérées. BIG-IP Next for Kubernetes optimise les flux de trafic vers les clusters d’IA, permettant ainsi une utilisation plus efficace des ressources GPU grâce à une interface directe avec les réseaux frontaux. Pour les modèles d’IA comptant plusieurs milliards de paramètres, BIG-IP Next for Kubernetes réduit la latence et assure un équilibrage de charge haute performance pour l’ingestion des données et les requêtes entrantes.

Faites évoluer le GPUaaS

Une architecture mutualisée qui décuple les performances des usines d’IA et des centres de données cloud pour les charges de travail d’IA Permet aux entreprises de prendre en charge davantage d’utilisateurs sur des clusters de calcul partagés, tout en faisant évoluer les charges de travail d’entraînement et d’inférence de l’IA. Accélérez la connexion des modèles d’IA aux systèmes de stockage de données répartis sur différents sites, tout en améliorant considérablement la visibilité sur les performances des applications grâce à des fonctionnalités Kubernetes avancées pour l’automatisation des charges de travail d’IA et à des contrôles centralisés des politiques.

Protégez les données, les modèles et les applications

Sécurisez et rationalisez vos déploiements d’IA La croissance rapide des API pour les modèles d’IA pose d’importants défis en matière de sécurité. BIG-IP Next for Kubernetes automatise la découverte et la protection des points de terminaison, sécurisant ainsi les applications d’IA contre les menaces en constante évolution. En déchargeant les processeurs du traitement de la sécurité réseau au profit des DPU NVIDIA BlueField et en tirant parti de leur architecture Zero Trust, BIG-IP Next for Kubernetes offre une protection granulaire et garantit un chiffrement robuste des données. Cette approche renforce non seulement les cyberdéfenses, mais optimise également la gestion des données d’IA, pour une infrastructure plus sécurisée, évolutive et efficace destinée aux fournisseurs de services et aux entreprises.

Optimisez le trafic nord-sud

Bénéficiez d’une vue intégrée du réseau, de la gestion du trafic et de la sécurité Cette solution répond aux exigences croissantes des charges de travail d’IA et est spécialement conçue pour les environnements Kubernetes. Elle améliore l’efficacité des flux de trafic nord-sud et offre aux entreprises une vue intégrée du réseau, de la gestion du trafic et de la sécurité pour des cas d’usage de l’IA tels que l’inférence et l’IA agentique.

Optimisez le routage et l’inférence des LLM

Le routage avancé des LLM dirige dynamiquement les tâches vers les modèles les plus efficaces, réduisant ainsi la latence et le délai avant réception du premier octet (TTFB), tout en tirant parti de LLM spécialisés par domaine pour produire des résultats de meilleure qualité. L’intégration de NVIDIA Dynamo accélère davantage l’inférence distribuée grâce à une mise en cache KV économique sur les processeurs, ce qui réduit la dépendance à la mémoire des GPU tout en optimisant les performances. F5 renforce la sécurité des déploiements du protocole MCP (Model Context Protocol) en faisant office de proxy inverse, protégeant les LLM contre les menaces émergentes et garantissant leur adaptation à l’évolution rapide des protocoles d’IA afin d’assurer des opérations évolutives et sécurisées.

Déployer le calcul accéléré NVIDIA à grande échelle

Maximisez votre investissement

Les performances, l’efficacité et la sécurité sont essentielles à la réussite des organisations qui déploient des clusters de GPU à grande échelle dans leurs usines d’IA et leurs centres de données cloud. BIG-IP Next for Kubernetes s’appuie sur les plateformes DPU NVIDIA BlueField-3, libérant ainsi de précieux cycles CPU au profit des applications génératrices de revenus. Déployé sur les DPU NVIDIA BlueField-3 (versions B3220 et B3240), BIG-IP Next for Kubernetes optimise le déplacement des données et améliore l’utilisation des GPU, tout en optimisant la consommation d’énergie.

Fonctionnalités principales

BIG-IP Next for Kubernetes offre des performances réseau élevées, une sécurité avancée et une gestion simplifiée des opérations pour les usines d’IA, permettant une mise à l’échelle fluide, une intégration à Kubernetes et une visibilité en temps réel sur le trafic afin d’optimiser les charges de travail d’IA.

Optimisez les performances de l’IA

Augmentez le débit des données et l’utilisation des GPU pour les charges de travail d’IA.

Multitenance sécurisée

Créez des environnements sécurisés et isolés pour plusieurs locataires.

Sécurité Zero Trust

Protégez les charges de travail d’IA grâce à des fonctionnalités de sécurité avancées.

Gestion centralisée

Simplifiez les opérations grâce à un point de contrôle unique.

Réseau haut débit

Offrez une connectivité ultrarapide pour les tâches d’IA les plus exigeantes.

Évolutivité fluide

Faites évoluer votre infrastructure sans effort à mesure que les charges de travail d’IA augmentent.

Intégration de Kubernetes

Intégrez-vous en toute transparence aux workflows natifs de Kubernetes.

Observabilité du trafic

Obtenez des informations en temps réel sur le trafic et les performances du réseau.

Ressources

À LA UNE

F5 BIG-IP Next for Kubernetes offre des performances validées pour l’inférence d’IA avec les DPU NVIDIA BlueField.

Des tests indépendants menés par The Tolly Group démontrent que la gestion intelligente du trafic d’IA de F5 améliore considérablement l’efficacité de l’inférence, en offrant un débit de jetons plus élevé, un délai réduit avant l’obtention du premier jeton et une latence plus faible pour les charges de travail d’IA à grande échelle exécutées sur une infrastructure accélérée par NVIDIA.