Optimisez la gestion du trafic pour l’ingestion de données dans les usines d’IA

Écosystème F5 | 29 octobre 2024

À l’été 2024, Jensen Huang, fondateur et PDG de Nvidia, a déclaré qu’« un nouveau type d’usines d’IA implantées dans des centres de données produit une nouvelle matière première : l’intelligence artificielle ». Considérons donc l’IA comme s’il s’agissait d’une matière première physique. Cette analogie évoque le complexe de River Rouge de Ford, incarnation de l’intégration verticale et de l’industrialisation. Le fer et le caoutchouc entraient d’un côté, les automobiles Ford ressortaient de l’autre. Doté de ses propres quais, de 160 kilomètres de voies ferrées internes, d’une centrale électrique dédiée et même de ses propres aciéries, verreries et papeteries intégrées, le complexe de River Rouge fonctionnait 24 heures sur 24 et produisait près de 1,5 million de voitures par an.

De même, les usines d’IA d’aujourd’hui et de demain, qui prennent en charge des modèles d’entraînement et d’inférence à haut volume et hautes performances, ingèrent d’énormes quantités de matières premières. À savoir, des données : structurées, non structurées, vidéo, texte, et bien plus encore. Ces usines transforment ces données en sorties tokenisées pouvant être exploitées dans une multitude d’applications. Et tout comme le complexe de la Rouge nécessitait un contrôle précis de chaque étape de la production, les charges de travail d’IA exigent des systèmes robustes de gestion du trafic pour assurer l’ingestion, le traitement et la livraison des données — en un mot : la logistique. Les solutions de gestion du trafic adaptées permettent aux usines d’IA de récupérer les matières premières sur le terrain et de les rendre exploitables. Grâce aux bons outils logistiques, les équipes peuvent garantir un flux de données fluide, un débit élevé, une faible latence et une sécurité optimale, comme sur une chaîne de montage fonctionnant sans accroc à chaque étape.

Ce dont toute usine d’IA a besoin

Harvard Business Review a expliqué en 2020 comment Ant Group, une société affiliée à Alibaba, tire de son usine d’IA des informations exploitables afin de « gérer diverses activités et servir [plus de] 10 fois plus de clients que les plus grandes banques américaines, avec moins d’un dixième de leurs effectifs ». La manière dont Ant Group conçoit la création d’une usine d’IA est tout aussi convaincante :

« Quatre composants sont essentiels à toute usine. Le premier est le pipeline de données, un processus semi-automatisé qui collecte, nettoie, intègre et protège les données de manière systématique, durable et évolutive. Le deuxième correspond aux algorithmes, qui génèrent des prédictions sur les futurs états ou les futures actions de l’entreprise. Le troisième est une plateforme d’expérimentation sur laquelle les hypothèses relatives aux nouveaux algorithmes sont testées afin de vérifier que leurs recommandations produisent l’effet escompté. Le quatrième est l’infrastructure, c’est-à-dire les systèmes qui intègrent ce processus dans des logiciels et le relient aux utilisateurs internes et externes. »

Précédemment dans notre série sur les usines d’IA, F5 a défini une usine d’IA comme un vaste investissement dans le stockage, les réseaux et le calcul, destiné à répondre à des besoins d’entraînement et d’inférence à grande échelle et hautes performances. C’est pourquoi les premier et quatrième composants de la liste d’Ant Group sont particulièrement intéressants : la difficulté de mettre en place les systèmes nécessaires pour gérer de manière sûre et efficace les données ingérées par les modèles d’IA place au premier plan la question de savoir comment les usines d’IA doivent développer l’infrastructure qui les entoure afin de créer de la valeur.

La gestion du trafic pour l’ingestion des données d’IA est un processus continu qui consiste à gérer et à acheminer vers une usine d’IA, à des fins d’apprentissage automatique et d’entraînement, des flux de données d’IA riches en contenus multimédias et destinés à des modèles comptant plusieurs milliards de paramètres. C’est là qu’intervient une solution de gestion du trafic hautes performances, chargée d’acheminer ces flux vers l’usine d’IA. Sans une telle solution, les équipes peuvent rapidement se retrouver contraintes de réutiliser des connexions pour maintenir la circulation des flux ou se heurter aux limites de l’infrastructure de stockage. Or, aucune de ces situations n’est adaptée aux exigences de transport de données à haute capacité et à faible latence auxquelles les usines d’IA doivent répondre pour fonctionner au rythme et à l’échelle souhaités et optimisés.

Schéma de gestion du trafic de données d’IA

Gérer le trafic de données d’IA à destination, au sein et entre les usines d’IA.

“Les usines d’IA nécessitent des solutions de gestion du trafic hautes performances pour l’ingestion des données de modèles d’IA comptant plusieurs milliards, et bientôt plusieurs milliers de milliards, de paramètres.”

Maintenir les usines d’IA en fonctionnement

Mais le rythme des avancées dans ce domaine est loin de stagner. Les modèles d’IA, toujours plus complexes, nécessitent des volumes de données plus importants, transmis à des fréquences croissantes. Cela pose un problème de gravité des données, car leur emplacement, dans le cloud ou sur site, joue un rôle déterminant au sein d’un modèle d’IA. Une usine d’IA conçue pour résister à l’attraction gravitationnelle qu’exerceront les besoins futurs en données d’IA doit disposer d’une infrastructure capable d’évoluer afin de répondre à la nécessité d’extraire plus rapidement des informations des données reçues. En définitive, l’infrastructure d’une usine d’IA peut faire ou défaire la réussite et la valeur commerciale du modèle d’IA qu’elle prend en charge. Cette croissance rapide de la consommation de contenus multimédias riches peut considérablement accroître le trafic réseau et les coûts associés lorsque leur traitement est confié à certains fournisseurs de cloud. Les entreprises confrontées à cette situation doivent donc relever un double défi : maintenir le débit de données élevé nécessaire à l’efficacité des modèles d’apprentissage de l’IA tout en maîtrisant la complexité et les dépenses liées au transfert et au traitement des données dans le cloud.

L’évaluation rigoureuse des quatre types de déploiement d’usines d’IA présentés dans le premier article consacré à ces dernières (IA en tant que service, hébergement dans le cloud, auto-hébergement ou hébergement en périphérie) peut aider les entreprises à gérer ces complexités en supprimant ou en réduisant leur dépendance à la bande passante du cloud. Le traitement local des données permet non seulement de s’affranchir des contraintes liées à la bande passante du cloud, mais aussi de conserver un contrôle total sur les jeux de données d’entraînement sensibles. Il devient ainsi plus facile de respecter les exigences réglementaires (par exemple, le RGPD, la loi HIPAA ou la norme PCI DSS), car les organisations peuvent contrôler la manière dont les données sont stockées, consultées et traitées, tout en limitant leur exposition grâce au maintien des informations sensibles au sein de leur réseau sécurisé.

Une meilleure infrastructure accroît la valeur des usines d’IA

Le trafic de données d’IA et le trafic applicatif interagissent de manière similaire avec F5 BIG-IP Local Traffic Manager (LTM) et les solutions de nouvelle génération matérielles. Ainsi, tout comme pour l’optimisation des flux de trafic applicatif traditionnels, les équipes peuvent optimiser leurs flux de données d’IA à l’aide d’outils tels que le profil FastL4, afin d’améliorer les performances et le débit des serveurs virtuels. Elles peuvent tirer parti des optimisations TCP pour affiner la gestion des connexions TCP par les systèmes, un aspect essentiel des performances réseau. Elles peuvent même déployer OneConnect de BIG-IP afin d’augmenter le débit réseau grâce à une gestion efficace des connexions établies entre leurs systèmes BIG-IP et les membres des pools back-end. Les entreprises à la recherche d’une solution pour répartir le trafic de données d’IA entre plusieurs usines d’IA n’ont pas besoin de chercher bien loin. Depuis plus de vingt ans, F5 développe des outils visant à optimiser la gestion du trafic applicatif, ce qui fait de BIG-IP LTM la solution idéale pour gérer le trafic d’ingestion des données d’IA.

Les applications d’IA sont ce qui se fait de plus moderne en matière d’applications. Sans une solution de gestion du trafic robuste et polyvalente, les données exploitables restent inutilisées sur le terrain et la valeur qu’un modèle d’IA pourrait en tirer s’évapore. Le complexe de la Rouge avait ses quais et ses kilomètres de voies ferrées ; les usines d’IA disposent de solutions F5 telles que BIG-IP.

L’engagement de F5 en faveur de l’IA ne s’arrête pas là : découvrez comment F5 sécurise et fournit des applications d’IA partout dans le monde.


Vous souhaitez en savoir plus sur les usines d’IA ? Découvrez d’autres articles de notre série consacrée aux usines d’IA :

Partager

À propos de l’auteur

Griff Shelley
Griff ShelleyResponsable marketing produit | F5

Griff Shelley est responsable marketing produit chez F5, où il se spécialise dans les solutions matérielles, logicielles et SaaS de mise à disposition d’applications. Animé par la volonté de mettre les technologies innovantes au service de la réussite des clients, Griff pilote des projets de mise sur le marché dans les domaines de la mise à disposition d’applications à l’échelle mondiale et locale, des services cloud et des infrastructures de trafic de données pour l’IA. Avant de faire carrière dans la technologie, il a été conseiller pédagogique dans l’enseignement supérieur et a obtenu des diplômes de l’Eastern Washington University et de l’Auburn University.

Autres articles de Griff Shelley

Articles de blog associés

F5 NGINXaaS pour Google Cloud : des applications résilientes et évolutives
Écosystème F5 | 08/09/2025

F5 NGINXaaS pour Google Cloud : des applications résilientes et évolutives

Découvrez comment NGINXaaS s’intègre à Google Cloud pour renforcer les performances et la sécurité, et préparer vos applications critiques à un avenir propulsé par l’IA.

L’intégration de F5 Web Application Firewall (WAF) à AWS est disponible dès aujourd’hui
Écosystème F5 | 24/04/2023

L’intégration de F5 Web Application Firewall (WAF) à AWS est disponible dès aujourd’hui

En faisant appel à un partenaire de déploiement AWS WAF tel que F5, vous pouvez renforcer la sécurité de vos applications web grâce à des règles personnalisées qui bloquent les schémas d’attaque courants, comme les injections SQL ou les attaques par scripts intersites (XSS).

Appliquer le principe de Peter Parker à l’inspection TLS
Écosystème F5 | 09/12/2019

Appliquer le principe de Peter Parker à l’inspection TLS

« Un grand pouvoir implique de grandes responsabilités. » Si l’on en trouve des échos chez Voltaire et Churchill, cette citation est surtout connue grâce aux bandes dessinées Spider-Man, où elle est attribuée à l’oncle Ben. Bien entendu, si cette phrase est si répandue dans la culture populaire, c’est notamment parce qu’elle peut s’appliquer à une multitude de situations et de sujets, y compris à l’inspection TLS.

Le NetOps a besoin de défenseurs, pas d’adversaires
Écosystème F5 | 13/12/2018

Le NetOps a besoin de défenseurs, pas d’adversaires

Il est important de reconnaître que les équipes NetOps ne sont pas toujours celles qui font obstacle au déploiement de la dernière nouveauté, application ou service. Les freins à la rapidité sont souvent dus au fait que les organisations n’adoptent pas tous les principes du DevOps lorsqu’elles cherchent à transformer leurs opérations informatiques.

Mise à jour des services applicatifs : sécurité, rapidité et visiteurs suspects
Écosystème F5 | 01/03/2018

Mise à jour des services applicatifs : sécurité, rapidité et visiteurs suspects

Il est de nouveau temps de nous pencher sur les services applicatifs que les entreprises utilisent réellement pour rendre leurs applications plus rapides et plus sûres. On constate notamment une hausse du recours aux services de protection contre les bots, ainsi que la progression lente mais régulière de HTTP/2. Bien qu’il ne s’agisse pas d’une application…

Les templates prennent le contrôle du cloud
Écosystème F5 | 02/02/2017

Les templates prennent le contrôle du cloud

Les modèles s’imposent dans le cloud. Lisez le blog de F5 pour découvrir comment l’infrastructure en tant que code et les API déclaratives automatisent la mise à disposition des applications.