Alors que les organisations accélèrent l’innovation en développant des produits fondés sur l’IA et susceptibles de changer nos vies, tels que les voitures autonomes ou les grands modèles de langage (LLM), une infrastructure efficace est essentielle pour faire évoluer leurs opérations et rester compétitives. Historiquement, les centres de données se sont appuyés sur les unités centrales de traitement (CPU) pour les calculs généralistes et sur les processeurs graphiques (GPU) pour les tâches de traitement parallèle intensif au cœur de l’IA et de l’apprentissage automatique. À mesure que les modèles d’IA gagnent en taille et en complexité, les centres de données deviennent la nouvelle unité de calcul, repoussant les limites des réseaux cloud traditionnels. Pour permettre cette transition vers le calcul à l’échelle du centre de données, l’unité de traitement des données (DPU) s’est imposée comme le troisième pilier de l’informatique.
L’essor des usines d’IA
Plus tôt dans notre série consacrée aux usines d’IA, F5 a défini une usine d’IA comme un investissement massif dans le stockage, les réseaux et le calcul, destiné à répondre aux besoins d’entraînement et d’inférence à grande échelle et hautes performances. À l’instar des usines traditionnelles, les usines d’IA s’appuient sur des modèles d’IA préentraînés pour transformer les données brutes en informations exploitables.
Qu’est-ce qu’une unité de traitement des données (DPU) ?
Un DPU est un processeur programmable conçu pour gérer d’importants volumes de transfert et de traitement de données grâce à l’accélération matérielle, au débit maximal du réseau. Fin 2024, nous avons annoncé le déploiement de BIG-IP Next for Kubernetes sur des DPU NVIDIA BlueField-3. NVIDIA BlueField est une plateforme de calcul accéléré destinée aux infrastructures de centres de données, spécialement conçue pour alimenter les usines d’IA NVIDIA. Alors que le CPU assure les calculs génériques des applications informatiques et que le GPU excelle dans les tâches de calcul accéléré, telles que les calculs vectoriels et matriciels à grande échelle liés à l’IA et le rendu graphique, le DPU NVIDIA BlueField est souvent intégré à une carte d’interface réseau (NIC) PCIe (Peripheral Component Interconnect Express), qui assure la connectivité réseau de l’hôte ou du châssis d’un cluster d’IA. En d’autres termes, la carte réseau est désormais devenue un puissant processeur, optimisé pour traiter les données lors de leur transfert vers et depuis le serveur. Le DPU BlueField peut également servir de périphérique réseau intercluster lorsque plusieurs hôtes ou châssis sont regroupés au sein d’un même cluster d’IA.
“Un DPU est un processeur programmable conçu pour gérer le déplacement et le traitement de volumes considérables de données grâce à l’accélération matérielle, au débit nominal du réseau.”
Puissance libérée
En prenant en charge la mise en réseau définie par logiciel, la gestion du stockage et les services de sécurité, les DPU BlueField réduisent la charge de calcul des CPU, leur permettant ainsi de se concentrer sur les tâches dans lesquelles ils excellent. Cette capacité de déchargement est essentielle pour les usines d’IA, où d’immenses volumes de données doivent être traités et transférés rapidement afin de répondre aux exigences des modèles d’IA complexes et des tâches d’inférence en temps réel.
Les DPU BlueField contribuent de manière significative à l’efficacité énergétique et à l’évolutivité des usines d’IA. Celles-ci nécessitant d’immenses ressources de calcul, une gestion efficace de l’alimentation électrique et du refroidissement devient primordiale. Grâce à leurs moteurs d’accélération spécialisés et à leurs interfaces réseau hautes performances, les DPU garantissent le traitement et le transfert des données avec une latence et une consommation d’énergie minimales. Cette efficacité permet non seulement de réduire les coûts d’exploitation, mais aussi d’assurer une mise à l’échelle efficace des usines d’IA. Avec les DPU BlueField, les usines d’IA et les infrastructures à grande échelle peuvent bénéficier d’une infrastructure équilibrée, hautement performante et très efficace, qui favorise l’innovation et le déploiement continus des technologies d’IA.
Où les DPU BlueField sont-ils déployés dans les usines d’IA ?
Si l’on examine l’architecture de référence de F5 pour l’IA, les DPU sont couramment déployés dans les domaines fonctionnels de la gestion des corpus RAG, de l’ajustement fin, de l’entraînement et des services d’inférence, ainsi que dans les clusters de stockage prenant en charge ces fonctions. En outre, les DPU sont utilisés dans de nombreuses applications nécessitant un débit de données élevé et une grande efficacité énergétique, notamment pour prendre en charge les déploiements de réseaux d’accès radio (RAN) 5G.
L’architecture de référence de F5 pour l’IA met en évidence les zones où les DPU sont couramment déployés.
Décharger et accélérer la mise à disposition et la sécurité des applications sur le DPU
La nouvelle exigence en matière de gestion efficace du trafic et de sécurité robuste pour les usines d’IA marque une évolution importante, axée sur les flux de données et le renforcement de l’infrastructure afin de prévenir les menaces de sécurité. F5 BIG-IP Next for Kubernetes, déployé sur des DPU NVIDIA BlueField-3, assure une connectivité à faible latence et à haut débit en déchargeant le processeur des opérations de transfert de données et en les accélérant sur les DPU. Il intègre également des fonctionnalités de sécurité complètes, telles que des pare-feu, la protection contre les attaques DDoS, un WAF, la protection des API et la prévention des intrusions, directement sur le DPU programmable NVIDIA BlueField-3. Vous pouvez ainsi créer une architecture qui isole les modèles et les applications d’IA des menaces, tout en garantissant l’intégrité et la souveraineté des données.
BIG-IP Next for Kubernetes prend en charge la mutualisation, ce qui permet d’héberger plusieurs utilisateurs et charges de travail d’IA sur une infrastructure unique tout en assurant l’isolation du réseau. La gestion d’une infrastructure d’IA à grande échelle devient simple avec BIG-IP Next for Kubernetes, qui fournit un point central pour gérer le réseau, le trafic, la sécurité et les environnements mutualisés. Cela simplifie les opérations et réduit les dépenses d’exploitation grâce à des données détaillées sur le trafic, qui améliorent la visibilité du réseau et permettent d’optimiser les performances. L’intégration de BIG-IP Next for Kubernetes avec le DPU NVIDIA BlueField-3 contribue à garantir que les usines d’IA fonctionnent à leur plein potentiel, tout en réduisant la prolifération des outils et la complexité opérationnelle.
Propulsé par F5
Pour les entreprises qui investissent dans l’IA, il est impératif de veiller à ce que leur infrastructure soit optimisée et sécurisée. F5 BIG-IP Next for Kubernetes déployé sur des DPU NVIDIA BlueField-3 constitue un investissement stratégique permettant d’offrir des performances élevées, une grande évolutivité et une sécurité renforcée, tout en maximisant le retour sur investissement des infrastructures d’IA à grande échelle. Pour les organisations qui déploient des GPU et des DPU afin de soutenir leurs investissements dans des usines d’IA, contactez F5 pour découvrir comment BIG-IP Next for Kubernetes peut améliorer vos charges de travail d’IA.
L’engagement de F5 en faveur de l’IA ne s’arrête pas là : découvrez comment F5 sécurise et fournit des applications d’IA partout.
Vous souhaitez en savoir plus sur les usines d’IA ? Découvrez les autres articles de notre série consacrée aux usines d’IA :
- Qu’est-ce qu’une usine d’IA ? ›
- Génération augmentée par récupération (RAG) pour les usines d’IA ›
- Optimiser la gestion du trafic pour l’ingestion de données dans les usines d’IA ›
- Connecter de manière optimale les sources de données en périphérie aux usines d’IA ›
- L’évolutivité et la flexibilité multicloud au service des usines d’IA ›
- Protection des API pour les usines d’IA : la première étape vers la sécurité de l’IA ›
- L’importance de la segmentation réseau pour les usines d’IA ›
- Les usines d’IA produisent les applications les plus modernes qui soient : les applications d’IA ›
À propos de l’auteur
Hunter Smit est directeur principal du marketing produit pour les solutions et la stratégie chez F5. Il dirige le marketing des solutions pour l’ensemble du portefeuille de F5, notamment dans les domaines de l’infrastructure d’IA et de la sécurité des applications, et pilote l’entrée de F5 sur le marché émergent de la fourniture de données pour l’IA. Hunter est membre du conseil consultatif de l’École de commerce de l’université Whitworth et a enseigné le marketing produit en tant que chargé de cours vacataire. Il est titulaire d’un MBA et d’un Bachelor of Business Administration en management de l’université Whitworth.
Autres articles de Hunter SmitArticles de blog associés
F5 NGINXaaS pour Google Cloud : des applications résilientes et évolutives
Découvrez comment NGINXaaS s’intègre à Google Cloud pour renforcer les performances et la sécurité, et préparer vos applications critiques à un avenir propulsé par l’IA.
L’intégration de F5 Web Application Firewall (WAF) à AWS est disponible dès aujourd’hui
En faisant appel à un partenaire de déploiement AWS WAF tel que F5, vous pouvez renforcer la sécurité de vos applications web grâce à des règles personnalisées qui bloquent les schémas d’attaque courants, comme les injections SQL ou les attaques par scripts intersites (XSS).
Appliquer le principe de Peter Parker à l’inspection TLS
« Un grand pouvoir implique de grandes responsabilités. » Si l’on en trouve des échos chez Voltaire et Churchill, cette citation est surtout connue grâce aux bandes dessinées Spider-Man, où elle est attribuée à l’oncle Ben. Bien entendu, si cette phrase est si répandue dans la culture populaire, c’est notamment parce qu’elle peut s’appliquer à une multitude de situations et de sujets, y compris à l’inspection TLS.
Le NetOps a besoin de défenseurs, pas d’adversaires
Il est important de reconnaître que les équipes NetOps ne sont pas toujours celles qui font obstacle au déploiement de la dernière nouveauté, application ou service. Les freins à la rapidité sont souvent dus au fait que les organisations n’adoptent pas tous les principes du DevOps lorsqu’elles cherchent à transformer leurs opérations informatiques.
Mise à jour des services applicatifs : sécurité, rapidité et visiteurs suspects
Il est de nouveau temps de nous pencher sur les services applicatifs que les entreprises utilisent réellement pour rendre leurs applications plus rapides et plus sûres. On constate notamment une hausse du recours aux services de protection contre les bots, ainsi que la progression lente mais régulière de HTTP/2. Bien qu’il ne s’agisse pas d’une application…
Les templates prennent le contrôle du cloud
Les modèles s’imposent dans le cloud. Lisez le blog de F5 pour découvrir comment l’infrastructure en tant que code et les API déclaratives automatisent la mise à disposition des applications.