En très peu de temps, l’IA est passée du stade d’expérimentation prometteuse à celui de capacité métier essentielle. Pour suivre le rythme, les fournisseurs de services cloud développent des offres de GPU en tant que service (GPUaaS) et de grands modèles de langage en tant que service (LLMaaS), qui constituent l’épine dorsale des usines d’IA modernes. Ces environnements transforment les données, la puissance de calcul et les modèles en résultats à forte valeur ajoutée pour les clients.
Ces offres simplifient considérablement l’adoption de l’IA. Mais elles exposent également les fournisseurs à de nouvelles pressions financières et opérationnelles. Déployer une infrastructure d’IA est une chose. L’exploiter de manière rentable à grande échelle, avec une structure économique prévisible, en est une autre. Le coût des GPU, les difficultés liées à la monétisation basée sur les jetons, les enjeux de latence et la sécurité des environnements mutualisés se conjuguent pour former une équation économique complexe.
“Les fournisseurs d’IA dans le cloud qui parviendront à un modèle économique durable seront ceux qui commencent dès maintenant à concevoir leur architecture pour passer à l’échelle.”
C’est là que « F5 BIG-IP Next for Kubernetes, en particulier lorsqu’il est déployé sur des DPU NVIDIA BlueField-3 » a commencé à transformer le fonctionnement des clouds d’IA. La plateforme offre aux fournisseurs une approche structurée pour augmenter leurs revenus, réduire le coût par jeton et exploiter plus efficacement des environnements d’IA complexes.
L’évolution de l’économie des usines d’IA
Le GPUaaS et le LLMaaS ont connu un essor fulgurant, car ils éliminent d’importantes barrières à l’entrée.
Le GPUaaS permet aux clients d’entraîner et d’affiner des modèles sans investir dans des clusters de GPU ni dans une infrastructure spécialisée. Les prestataires de soins de santé, les entreprises industrielles et les autres organisations peuvent mener des projets d’IA à forte valeur ajoutée, tels que l’imagerie diagnostique ou l’automatisation prédictive, sans avoir à exploiter eux-mêmes l’infrastructure.
Le LLMaaS fait l’inverse. Il élimine totalement la nécessité d’entraîner des modèles. Les clients intègrent des modèles préentraînés comme Gemini ou les GPT à leurs applications via des API et se concentrent sur la création d’expériences telles que des chatbots, des copilotes ou des outils d’analyse en temps réel.
Ces modèles simplifient l’expérience des clients, mais reportent toute la complexité sur le fournisseur. Leur rentabilité devient très sensible au taux d’utilisation des GPU, à la latence (en particulier le délai avant le premier jeton), à la précision du comptage des jetons, à la sécurité des environnements mutualisés et aux coûts d’exploitation.
C’est là que l’architecture influe directement sur la rentabilité.
Stimuler les revenus grâce à davantage de jetons
Les revenus du GPUaaS et du LLMaaS augmentent avec la consommation. Plus le nombre de jetons traités et de charges de travail prises en charge est élevé, plus les revenus augmentent. Cela n’est possible que si la plateforme offre des expériences rapides et prévisibles.
BIG-IP Next for Kubernetes améliore le potentiel de revenus en permettant aux GPU de se concentrer sur les calculs d’IA plutôt que sur les tâches de mise en réseau, de routage ou d’inspection. Le transfert de ces fonctions vers les DPU NVIDIA BlueField-3 libère des cycles de calcul et réduit la charge pesant sur les GPU, ce qui leur permet de traiter davantage de charges de travail.
Les tests ont montré que cette architecture peut générer plus de 30 % de jetons supplémentaires avec la même infrastructure GPU et réduire considérablement le délai avant le premier jeton.
Ces améliorations ont un impact direct sur l’expérience client et l’utilisation du service. Lorsque les réponses des LLM sont rapides et interactives, les utilisateurs ont naturellement tendance à utiliser davantage le service. Lorsque le débit augmente, les mêmes GPU permettent de générer davantage d’activité facturable. C’est ainsi que les services d’IA augmentent leur chiffre d’affaires sans nécessiter de matériel supplémentaire.
Réduire les coûts en améliorant l’utilisation des GPU
Les GPU sont au cœur du modèle économique de tout cloud d’IA. Chaque inefficacité, période d’inactivité ou goulot d’étranglement au niveau du CPU se traduit directement par un coût par jeton plus élevé et des marges plus faibles.
BIG-IP Next for Kubernetes contribue à réduire les coûts en transférant une part importante du traitement réseau, de la sécurité et du trafic vers les DPU NVIDIA BlueField-3. Cela élimine la surcharge qui mobiliserait autrement des cycles CPU et GPU. Cette solution améliore également les schémas de trafic et le routage des charges de travail, afin que les fournisseurs puissent se rapprocher d’une utilisation optimale des GPU.
Ainsi, les fournisseurs peuvent réduire sensiblement le coût par jeton et améliorer considérablement l’efficacité de leurs clusters d’IA.
Une meilleure utilisation des GPU amplifie cet effet. Plus les GPU sont alimentés en tâches de manière régulière, plus le coût par client diminue et plus le chiffre d’affaires global généré par heure de GPU augmente. L’architecture influe directement sur la rentabilité.
Améliorer l’efficacité opérationnelle
Les clouds d’IA doivent fonctionner sur plusieurs clusters, régions, GPU et types de modèles. Cette complexité augmente rapidement et peut submerger les équipes si elles ne disposent pas des mécanismes de contrôle appropriés.
BIG-IP Next for Kubernetes offre une architecture mutualisée sécurisée, une segmentation robuste, une protection des API et une observabilité approfondie dans les environnements Kubernetes. Ces fonctionnalités permettent aux fournisseurs de contrôler précisément le comportement des charges de travail, l’isolation des locataires et l’application des politiques.
Pour le LLMaaS en particulier, BIG-IP Next for Kubernetes permet un routage tenant compte des jetons, une meilleure efficacité du cache et une gestion cohérente du trafic entre différents GPU et modèles. Les workflows d’inférence sont ainsi plus rapides, plus efficaces et plus prévisibles.
Sur le plan opérationnel, cela signifie que les fournisseurs peuvent intégrer plus rapidement de nouveaux clients, résoudre les problèmes plus vite et faire évoluer leur infrastructure sans multiplier les frais généraux. Tout cela améliore la rentabilité et favorise un modèle de service plus durable.
Transformer les usines d’IA en entreprises durables
La demande en IA augmente plus vite que la capacité de la plupart des fournisseurs à construire les infrastructures nécessaires. À long terme, les gagnants ne seront pas simplement les plateformes dotées des plus grands clusters. Ce seront celles qui augmenteront leurs revenus grâce aux performances, réduiront leurs coûts en gagnant en efficacité et piloteront leurs opérations avec clarté et maîtrise.
BIG-IP Next for Kubernetes, en particulier lorsqu’il est utilisé avec les DPU NVIDIA BlueField-3, est spécialement conçu pour répondre à cette réalité économique. Il améliore le débit, réduit la latence, renforce la mutualisation, optimise l’efficacité des GPU et diminue le coût par jeton, comme l’ont confirmé les tests.
Les charges de travail d’IA ne ralentissent pas. Les fournisseurs qui parviendront à une rentabilité durable seront ceux qui sauront dès maintenant concevoir une architecture capable de monter en charge.
Cette architecture conjointe de F5 et NVIDIA offre une voie claire pour atteindre cet objectif.
Découvrez comment F5 et NVIDIA posent les bases techniques de la prochaine ère de systèmes d’IA intelligents et orientés vers des objectifs.
À propos de l’auteur
Articles de blog associés
F5 NGINXaaS pour Google Cloud : des applications résilientes et évolutives
Découvrez comment NGINXaaS s’intègre à Google Cloud pour renforcer les performances et la sécurité, et préparer vos applications critiques à un avenir propulsé par l’IA.
L’intégration de F5 Web Application Firewall (WAF) à AWS est disponible dès aujourd’hui
En faisant appel à un partenaire de déploiement AWS WAF tel que F5, vous pouvez renforcer la sécurité de vos applications web grâce à des règles personnalisées qui bloquent les schémas d’attaque courants, comme les injections SQL ou les attaques par scripts intersites (XSS).
Appliquer le principe de Peter Parker à l’inspection TLS
« Un grand pouvoir implique de grandes responsabilités. » Si l’on en trouve des échos chez Voltaire et Churchill, cette citation est surtout connue grâce aux bandes dessinées Spider-Man, où elle est attribuée à l’oncle Ben. Bien entendu, si cette phrase est si répandue dans la culture populaire, c’est notamment parce qu’elle peut s’appliquer à une multitude de situations et de sujets, y compris à l’inspection TLS.
Le NetOps a besoin de défenseurs, pas d’adversaires
Il est important de reconnaître que les équipes NetOps ne sont pas toujours celles qui font obstacle au déploiement de la dernière nouveauté, application ou service. Les freins à la rapidité sont souvent dus au fait que les organisations n’adoptent pas tous les principes du DevOps lorsqu’elles cherchent à transformer leurs opérations informatiques.
Mise à jour des services applicatifs : sécurité, rapidité et visiteurs suspects
Il est de nouveau temps de nous pencher sur les services applicatifs que les entreprises utilisent réellement pour rendre leurs applications plus rapides et plus sûres. On constate notamment une hausse du recours aux services de protection contre les bots, ainsi que la progression lente mais régulière de HTTP/2. Bien qu’il ne s’agisse pas d’une application…
Les templates prennent le contrôle du cloud
Les modèles s’imposent dans le cloud. Lisez le blog de F5 pour découvrir comment l’infrastructure en tant que code et les API déclaratives automatisent la mise à disposition des applications.