La nécessité pour les solutions d’infrastructure d’IA de se concentrer sur l’optimisation des GPU

Lori Mac VittieIngénieur émérite et évangéliste en chef | F5

L’IA générative accélère l’impact de l’IA sur les infrastructures. Nous étions déjà entrés dans une renaissance des infrastructures, les spécialistes des technologies renouant avec leur intérêt et leur admiration pour les modestes couches réseau, calcul et stockage des centres de données. Principalement sous l’effet de la « mort » de la loi de Moore et de l’émergence de l’edge computing, nous assistions déjà, il y a plusieurs années, à l’essor d’unités de traitement spécialisées — les xPU.

Aujourd’hui, l’IA générative — et, il faut bien le reconnaître, les jeux vidéo — a fait entrer les GPU dans le langage courant et rendu nécessaire leur optimisation.

Cela s’explique par le fait que les GPU sont très demandés et que l’offre est limitée. Les entreprises consacrent déjà — ou prévoient de consacrer — une part importante de leur budget informatique global à ce matériel puissant. Une partie de cet investissement est destinée à leur propre infrastructure, tandis qu’une autre sert à financer l’infrastructure de cloud public.

Mais tous ces investissements visent à garantir la disponibilité des ressources GPU nécessaires au fonctionnement des applications d’IA.

Mais lorsque nous observons la situation, nous constatons que l’introduction d’un nouveau type de ressource dans l’infrastructure pose des difficultés. Pendant des années, les organisations ont considéré l’infrastructure comme une ressource banalisée, autrement dit, comme si tout se valait.

Et c’était en grande partie le cas. Les entreprises ont standardisé leur infrastructure autour de serveurs génériques ou de marque, tous dotés des mêmes capacités de mémoire et de calcul. Cela simplifiait l’exploitation de l’infrastructure, car il n’était pas nécessaire, dans le cadre de la gestion du trafic de se soucier de savoir si une charge de travail s’exécutait sur server8756 ou server4389. Ces serveurs offraient les mêmes capacités.

Mais aujourd’hui ? Les GPU changent complètement la donne. Les équipes chargées de l’exploitation de l’infrastructure doivent désormais savoir où se trouvent les ressources GPU et comment elles sont utilisées. Et certains signes indiquent que les choses ne se passent peut-être pas si bien.

Selon le rapport « État des infrastructures d’IA à grande échelle en 2024 », « 15 % des répondants indiquent que moins de 50 % des GPU dont ils disposent et qu’ils ont achetés sont utilisés. »

Il est tout à fait possible que ces 15 % d’organisations n’aient tout simplement pas une charge de travail suffisante pour utiliser plus de 50 % de leurs ressources GPU. Mais il est également possible qu’elles aient une charge suffisante sans pour autant les utiliser davantage.

Il est certain que certaines organisations se retrouveront dans cette dernière catégorie et se demanderont pourquoi leurs applications d’IA ne sont pas aussi performantes que les utilisateurs l’espèrent, alors qu’elles disposent d’une importante capacité GPU inutilisée.

Il s’agit en partie de l’infrastructure et de veiller à ce que les charges de travail soient correctement associées aux ressources requises. Après tout, toutes les charges de travail d’une application d’IA n’ont pas besoin de la puissance de calcul d’un GPU. C’est principalement le serveur d’inférence qui en bénéficiera. Il faut donc mener un travail stratégique sur l’architecture au niveau de l’infrastructure, afin de s’assurer que les charges de travail gourmandes en GPU s’exécutent sur des systèmes équipés de GPU, tandis que les autres charges de travail de l’application s’exécutent sur des systèmes classiques.

Cela implique des politiques de provisionnement capables de déterminer quels nœuds sont équipés de GPU et lesquels ne le sont pas. C’est un aspect essentiel de l’optimisation des GPU. Cela signifie également que les services applicatifs qui distribuent les requêtes à ces ressources doivent eux aussi être plus intelligents. L’équilibrage de charge, le contrôle des flux entrants et les passerelles qui distribuent les requêtes contribuent à l’efficacité de l’utilisation de l’infrastructure. Si toutes les requêtes sont dirigées vers un ou deux systèmes équipés de GPU, non seulement leurs performances en pâtiront, mais les entreprises se retrouveront aussi avec une capacité GPU « inutilisée » qu’elles ont payée au prix fort.

Cela peut également impliquer d’exploiter ces ressources GPU dans le cloud public. Et pour ce faire, il faut s’appuyer sur des services réseau afin de garantir la sécurité des données partagées.

En d’autres termes, les applications d’IA vont avoir un impact considérable sur l’infrastructure, tant sur le plan de sa distribution que sur la manière dont elle est provisionnée et gérée en temps réel. Le besoin en télémétrie va s’accroître afin que les équipes d’exploitation disposent d’une vue à jour des ressources disponibles et de leur emplacement, tandis qu’une automatisation efficace sera nécessaire pour garantir que le provisionnement répond aux exigences des charges de travail.

C’est pourquoi les organisations doivent moderniser l’ensemble de leur architecture d’entreprise. Car il ne s’agit plus seulement de couches ou de niveaux, mais de la manière dont ces couches et ces niveaux s’interconnectent et se complètent pour répondre aux besoins d’une entreprise mature sur le plan numérique capable d’exploiter la puissance de l’IA.

À propos de l’auteur

Lori Mac VittieIngénieur émérite et évangéliste en chef | F5

Lori MacVittie est ingénieure émérite et évangéliste en chef au sein du bureau du directeur technique de F5. Elle possède une expertise approfondie dans la fourniture d’applications, les stratégies d’automatisation et les infrastructures. Elle est réputée pour sa capacité à rendre la complexité intelligible, qu’elle définisse des garde-fous pour les agents d’IA, analyse des architectures multicloud fragiles ou explore les limites des systèmes évolutifs. Elle cumule plus de trente ans d’expérience dans le secteur, couvrant le développement d’applications, l’architecture informatique ainsi que l’exploitation des réseaux et des systèmes. Avant de rejoindre F5, elle a été rédactrice spécialisée dans les technologies et a reçu plusieurs distinctions. MacVittie est titulaire d’un master en informatique et est une autrice prolifique dont les publications couvrent la sécurité, le cloud et l’architecture d’entreprise. Elle est également une passionnée de jeux de société et de jeux vidéo, et assume pleinement ses avis bien tranchés sur le fromage.

Autres articles de Lori Mac Vittie