L’ADC10 d’origine se concentre sur un problème bien connu de toutes les équipes d’exploitation : l’utilisation inefficace des ressources de calcul, de stockage et de réseau augmente les coûts et limite l’évolutivité. Un surdimensionnement entraîne un gaspillage d’argent. Un sous-dimensionnement nuit aux performances. Comme indiqué, la solution consiste à mieux répartir le trafic, à effectuer des contrôles d’intégrité intelligents et à mettre en place un contrôle programmable afin d’utiliser efficacement les ressources dans l’ensemble du système. Cela reste vrai.
Avec l’IA, l’utilisation des ressources devient imprévisible.
Les applications traditionnelles consomment les ressources de manière relativement constante. Ce n’est pas le cas des systèmes d’IA. Leur activité est irrégulière, ils nécessitent une grande puissance de calcul et leurs besoins varient fortement selon les requêtes. Ce qui relevait auparavant de la planification des capacités devient donc un problème d’allocation des ressources en temps réel.
Conséquences d’une mauvaise utilisation des ressources
Impact sur les performances
Dans un système conventionnel, une utilisation inefficace des ressources se traduit par une répartition inégale de la charge. Certains serveurs sont inactifs tandis que d’autres sont surchargés. Il en résulte des temps de réponse plus longs et une capacité gaspillée. L’IA introduit un autre type de déséquilibre.
Les charges de travail d’inférence ne sont pas uniformes. Une requête peut être triviale, tandis qu’une autre peut nécessiter une puissance de calcul plusieurs ordres de grandeur supérieure en raison de la taille du prompt, de la longueur du contexte ou de la profondeur du raisonnement. Même au sein d’un même modèle, les performances peuvent varier considérablement d’une requête à l’autre.
Cette variabilité complique considérablement la prévision et la répartition efficace de la charge.
Si les requêtes sont acheminées sans tenir compte de leur charge de calcul, des points de saturation apparaissent. Les GPU ou les nœuds d’inférence arrivent à saturation de manière inattendue. Les files d’attente s’allongent. La latence augmente brutalement. Pendant ce temps, d’autres ressources restent sous-utilisées, car elles n’ont pas été sélectionnées pour cette charge de travail.
Le problème de performance bien connu demeure — une répartition inégale — mais sa cause évolue. Il ne s’agit plus seulement du nombre de requêtes envoyées, mais du coût de traitement de chacune d’elles.
Impact sur la disponibilité
L’ADC10 d’origine établit un lien entre une mauvaise utilisation des ressources et des problématiques plus larges de fourniture de services, notamment la capacité à prendre en charge efficacement les charges de travail. Avec l’IA, une utilisation inefficace peut avoir un impact direct sur la disponibilité, dans des proportions qui peuvent sembler démesurées.
Les charges de travail d’IA sont limitées par la rareté des ressources, notamment des ressources de calcul spécialisées comme les GPU. Lorsque ces ressources sont épuisées, le système ne se dégrade pas progressivement. Il se bloque. Les requêtes sont mises en file d’attente ou échouent. Les délais d’expiration se multiplient.
Ce qui complique encore les choses, c’est que la disponibilité dépend alors des décisions d’allocation, et pas seulement de la capacité.
Vous disposez peut-être d’une capacité totale suffisante à l’échelle du système, mais si elle n’est pas accessible au bon endroit, au bon moment ou pour le bon type de requête, le système se comporte comme s’il n’avait plus de ressources. Le point de terminaison d’un modèle peut être techniquement en ligne, mais incapable d’accepter une charge de travail supplémentaire. Une région peut disposer de capacités inutilisées qui ne peuvent pas être exploitées en raison de contraintes de latence ou de conformité. Un modèle moins coûteux peut être disponible, mais ne pas être sélectionné parce que la logique de routage est trop rigide.
Cela crée une situation où la disponibilité est fragmentée. Le système n’est que partiellement disponible, selon le chemin emprunté pour y accéder.
Il s’agit d’un problème plus complexe que la simple disponibilité. Il faut pouvoir répartir intelligemment les charges de travail entre les modèles, les régions et les niveaux de service en temps réel.
Impact sur l’évolutivité
Une utilisation inefficace des ressources contraint les organisations à augmenter prématurément leur capacité, en ajoutant des infrastructures pour traiter des charges de travail qui auraient pu être gérées plus efficacement. Par le passé, cela a conduit à un surprovisionnement qui, dans les environnements cloud, peut faire exploser les coûts. L’IA accélère considérablement ce phénomène.
L’inférence est coûteuse. Le stockage des plongements vectoriels et du contexte augmente rapidement. Les pipelines de données se développent. Si les ressources ne sont pas utilisées efficacement, la réponse par défaut consiste à ajouter de la capacité. Cela fonctionne, pendant un certain temps.
Mais cette approche devient rapidement intenable, tant sur le plan financier qu’opérationnel. La mise à l’échelle des systèmes d’IA ne consiste pas simplement à ajouter davantage de serveurs. Il s’agit de gérer une combinaison complexe de types de ressources de calcul, chacun présentant des caractéristiques différentes en matière de performances et de coûts.
Si le taux d’utilisation est faible, le passage à l’échelle amplifie l’inefficacité au lieu de la résoudre.
L’alternative consiste à prendre des décisions plus judicieuses quant à l’utilisation des ressources. Cela implique de sélectionner le modèle adapté à la tâche, d’optimiser le moment et la manière dont le contexte est récupéré, et de veiller à ce que les charges de travail soient réparties en fonction des conditions en temps réel plutôt que de règles statiques.
En d’autres termes, l’évolutivité dépend moins de la quantité d’infrastructure dont vous disposez que de l’intelligence avec laquelle vous l’utilisez.
Impact sur l’efficacité opérationnelle
Une mauvaise utilisation des ressources a toujours entraîné une hausse des coûts d’exploitation et de la complexité. Le surprovisionnement entraîne des dépenses inutiles. Le sous-provisionnement crée des conflits d’accès aux ressources et impose une mise à l’échelle réactive. L’IA aggrave ces deux aspects du problème.
Comme les charges de travail sont imprévisibles, les équipes ont souvent tendance à prendre trop de précautions. Elles provisionnent davantage de capacité qu’elles ne pensent en avoir besoin afin d’éviter les problèmes de performances. Cela entraîne une importante sous-utilisation des ressources, en particulier lorsque la demande fluctue.
Dans le même temps, des pics inattendus continuent de se produire. Une hausse soudaine des requêtes d’inférence complexes peut saturer les ressources disponibles malgré ce surdimensionnement. Les équipes doivent alors composer à la fois avec une capacité inutilisée et une dégradation des performances.
Sur le plan opérationnel, cela impose un exercice d’équilibrage permanent.
Les équipes consacrent du temps à affiner les seuils, à ajuster les règles de routage et à tenter de comprendre pourquoi certaines charges de travail consomment une part disproportionnée des ressources. L’observabilité devient plus importante, mais aussi plus difficile, car l’unité de travail n’est plus uniforme.
L’efficacité dépend donc de la visibilité et du contrôle. Sans ces deux éléments, la gestion des ressources devient réactive et coûteuse.
Bonnes pratiques pour optimiser l’utilisation des ressources
Infrastructure programmable et allocation dynamique
Pour les applications traditionnelles, l’infrastructure programmable et l’acheminement dynamique du trafic constituent des solutions essentielles. En acheminant le trafic en fonction de métriques en temps réel, les organisations peuvent équilibrer la charge et optimiser l’utilisation de l’ensemble du système. Cette approche devient cruciale avec l’IA.
L’équilibrage de charge statique part du principe que les requêtes sont globalement équivalentes. L’IA remet en cause cette hypothèse. Les requêtes ne permettent plus de prévoir la consommation des ressources. Le routage doit donc reposer sur davantage de critères que le nombre de connexions ou une simple répartition algorithmique. Il faut tenir compte du coût des requêtes, des performances du modèle et de l’état du système.
La programmabilité vous permet de vous adapter en temps réel. Les requêtes peuvent être dirigées vers différents modèles en fonction de la latence, du coût ou de la disponibilité. Les charges de travail peuvent être transférées d’une région ou d’un cluster à l’autre à mesure que les conditions évoluent. Les opérations coûteuses peuvent être limitées ou différées lorsque les ressources sont restreintes.
L’utilisation des ressources devient ainsi une boucle de contrôle active plutôt qu’un simple résultat passif.
L’efficacité grâce au routage intelligent
Fondamentalement, ADC10 vise à utiliser efficacement les ressources. L’IA élargit la notion d’« efficacité ».
Il ne s’agit plus seulement de répartir le trafic de manière uniforme. Il s’agit d’affecter la bonne charge de travail à la bonne ressource.
Cela peut signifier utiliser un modèle plus petit pour les requêtes simples, plutôt que de recourir systématiquement au plus puissant. Cela peut aussi impliquer de limiter la taille du contexte afin de réduire les coûts de calcul, de mettre en cache ou de réutiliser les résultats au lieu de les recalculer, ou encore de savoir reconnaître les situations où il vaut mieux ne pas utiliser l’IA du tout.
Toutes ces décisions vont au-delà de l’équilibrage de charge traditionnel. Elles nécessitent de comprendre l’intention, et pas seulement le trafic.
C’est là que la mise à disposition des applications évolue une nouvelle fois. Le routage devient une orchestration des ressources. L’objectif n’est pas simplement de maintenir les systèmes en activité, mais de veiller à ce que chaque unité de calcul soit utilisée efficacement.
Conclusion
ADC10 a toujours eu pour objectif d’éviter le gaspillage et de garantir une utilisation efficace de l’infrastructure afin d’assurer les performances, la disponibilité et l’évolutivité.
Ce que l’IA introduit, c’est de la volatilité.
La consommation des ressources n’est plus prévisible. Le coût des charges de travail varie considérablement. Les ressources de calcul spécialisées imposent de nouvelles contraintes. Et les inefficacités s’amplifient plus rapidement, car le coût de chaque requête est plus élevé.
La réponse suit le même schéma que les recommandations initiales, mais avec un caractère d’urgence accru.
Vous devez savoir précisément comment les ressources sont consommées. Vous devez pouvoir programmer le système afin qu’il s’adapte en temps réel. Enfin, vous devez prendre des décisions de routage plus intelligentes, qui tiennent compte du coût réel de chaque requête, et pas seulement de leur nombre.
Car dans un système piloté par l’IA, une mauvaise utilisation des ressources n’est pas seulement synonyme de gaspillage.
C’est le moyen le plus rapide d’aboutir à une dégradation des performances, à une disponibilité limitée et à une explosion des coûts.
En savoir plus sur les 10 principaux défis liés à la mise à disposition des applications auxquels sont confrontées les organisations du monde entier.
À propos de l’auteur
Lori MacVittie est ingénieure émérite et évangéliste en chef au sein du bureau du directeur technique de F5. Elle possède une expertise approfondie dans la fourniture d’applications, les stratégies d’automatisation et les infrastructures. Elle est réputée pour sa capacité à rendre la complexité intelligible, qu’elle définisse des garde-fous pour les agents d’IA, analyse des architectures multicloud fragiles ou explore les limites des systèmes évolutifs. Elle cumule plus de trente ans d’expérience dans le secteur, couvrant le développement d’applications, l’architecture informatique ainsi que l’exploitation des réseaux et des systèmes. Avant de rejoindre F5, elle a été rédactrice spécialisée dans les technologies et a reçu plusieurs distinctions. MacVittie est titulaire d’un master en informatique et est une autrice prolifique dont les publications couvrent la sécurité, le cloud et l’architecture d’entreprise. Elle est également une passionnée de jeux de société et de jeux vidéo, et assume pleinement ses avis bien tranchés sur le fromage.
Autres articles de Lori Mac VittieArticles de blog associés
Qu’est-ce que le Top 10 de la distribution d’applications ?
F5 entend aider les organisations à relever les défis liés à la mise à disposition et à la sécurisation des applications, des API et de l’IA générative grâce à la liste des 10 principales priorités en matière de mise à disposition des applications.
Top 10 de la livraison d’applications d’IA : exigences relatives aux applications sur mesure
L’IA fait du « sur-mesure » la norme plutôt que l’exception : les requêtes deviennent des chaînes modulaires (sélection du modèle, recherche d’informations, règles, outils), si bien que l’exécution doit s’adapter à chaque requête, et non à chaque application.
Top 10 des risques liés à la mise en production d’applications d’IA : manque de sécurité et de conformité réglementaire
L’IA étend la conformité au-delà de la sécurisation des chemins d’accès et des espaces de stockage pour englober la gouvernance du comportement à l’exécution — accès aux modèles, contexte de récupération, résultats et actions des agents —, de sorte que les contrôles doivent être rapprochés de l’inférence.
Top 10 de la livraison d’applications d’IA : politiques de livraison incompatibles
Les divergences de politiques deviennent des sources de pannes pour l’IA : des mécanismes de basculement, des délais d’expiration, des limites et des contrôles de sécurité incohérents entraînent des défaillances silencieuses, des résultats partiels et des résultats différents selon le point de terminaison.
Top 10 de la livraison d’applications d’IA : incapacité à gérer la latence
Avec l’IA, la latence devient un enjeu de confiance, et plus seulement de performance : les réponses lentes d’un « assistant » donnent une impression d’hésitation ou d’échec, tandis que les requêtes et réponses riches en tokens alourdissent la charge, même sur des systèmes en parfait état de fonctionnement.
Top 10 de la mise à disposition d’applications d’IA : orientation du trafic non optimisée
L’IA remet en cause les principes traditionnels de répartition du trafic : les backends ne sont pas interchangeables, les coûts varient et les agents multiplient les requêtes de manière imprévisible. Le routage doit donc tenir compte du modèle, de l’état des GPU et de la localisation des données.