Les politiques de distribution incompatibles faisaient autrefois partie de ces sujets d’« hygiène architecturale » dont on ne parlait qu’après un incident. Vous connaissez le scénario : une équipe modifie le routage dans le cloud A, une autre met à jour les règles de sécurité dans le cloud B, et soudain, la production se comporte comme si elle n’avait plus rien à voir avec l’environnement de préproduction. Personne ne parvient à reproduire le problème de manière fiable, et la seule chose que l’on puisse affirmer avec certitude, c’est que cela vient « probablement du réseau ».
ADC07 désigne clairement le problème pour ce qu’il est: lorsque les politiques de distribution ne sont pas harmonisées entre les différents environnements, les performances deviennent imprévisibles, le basculement manque de fiabilité, la montée en charge se heurte à des goulets d’étranglement et les difficultés opérationnelles s’accumulent.
Ajoutez maintenant l’IA, et ce qui n’était qu’un désastre au ralenti devient un véritable accélérateur.
Impact sur les performances
Des politiques de diffusion incompatibles se manifestent par des problèmes de performances qui semblent aléatoires. Or, l’aléatoire est toujours le pire type de problème de performances, car les ingénieurs ne peuvent pas « corriger l’aléatoire ». Ils ne peuvent que tenter de le traquer.
L’IA rend le dépannage particulièrement pénible, car les interactions avec l’IA prennent souvent la forme de chaînes en plusieurs étapes. Une seule requête utilisateur peut déclencher une récupération d’informations, un reclassement, une inférence, des appels d’outils, puis une nouvelle passe d’inférence. Si l’une de ces étapes franchit la frontière d’un environnement où les politiques diffèrent, vous venez d’introduire de la gigue dans l’ensemble de l’expérience.
Des politiques incompatibles entraînent un routage inefficace et une latence accrue entre les différents fournisseurs, même pour la mise à disposition d’applications traditionnelles ou modernes. C’est la réalité de base. Dans le déploiement de l’IA, cette inefficacité se traduit par un système qui semble hésitant et irrégulier, même lorsque tout est techniquement « opérationnel ».
Impact sur la disponibilité
C’est là que des politiques de livraison incompatibles cessent d’être une simple nuisance pour devenir une source de pannes. La disponibilité repose sur un comportement cohérent en situation de forte sollicitation, et c’est précisément dans ces moments-là que les incompatibilités entre politiques ont tendance à se manifester.
Le basculement est l’exemple classique. Si la logique de basculement d’un fournisseur n’est pas compatible avec celle d’un autre, le trafic risque de ne pas pouvoir être redirigé correctement ou d’être redirigé vers une région techniquement disponible, mais dont le fonctionnement est dégradé. ADC07 souligne directement ce problème dans les environnements multicloud hybrides où les approches en matière de redondance et de basculement sont incompatibles.
L’IA ajoute une couche supplémentaire : l’orchestration et le comportement des agents. Lorsqu’un agent subit un retard ou rencontre une défaillance, il réessaie souvent ou tente d’emprunter d’autres chemins. Si vos politiques de diffusion diffèrent selon les environnements, ces chemins alternatifs risquent de ne pas se comporter de la même manière. Cela crée des « défaillances silencieuses » : le système renvoie des résultats partiels, dépasse le délai d’attente en cours de workflow ou fournit des réponses différentes selon le point de terminaison de l’outil qu’il a sollicité.
Impact sur l’évolutivité
La mise à l’échelle dans un environnement multicloud n’est possible que si les politiques sont suffisamment cohérentes pour que le trafic puisse être redirigé librement vers les ressources disposant de capacités. Lorsque les politiques de diffusion sont incompatibles, la mise à l’échelle est limitée par l’emplacement des politiques « correctes », et non par celui des ressources disponibles.
Résultat : certaines régions se retrouvent surchargées tandis que d’autres restent sous-utilisées. C’est exactement ce qui se produit dans les systèmes d’IA lorsque vous faites évoluer l’infrastructure sans harmoniser les politiques à la même échelle. Vous disposez alors d’une grande puissance de calcul à un endroit, mais les règles de routage, les limites de débit ou les contraintes de sécurité vous empêchent de l’exploiter.
L’IA remet également en cause le modèle mental des « requêtes par seconde ». La charge se mesure désormais en sessions, en jetons et en chaînes à plusieurs étapes. Si un environnement impose des limites plus strictes en matière de taille des charges utiles, de concurrence ou de délais d’expiration, vous risquez de créer involontairement un plafond de scalabilité pour l’ensemble du système. Pire encore, lorsque certaines sessions aboutissent et que d’autres échouent selon l’environnement vers lequel elles sont dirigées, les nouvelles tentatives des utilisateurs amplifient la charge, entraînant la spirale infernale classique où la pression liée à la montée en charge ne fait qu’accentuer cette même pression.
Impact sur l’efficacité opérationnelle
Des politiques de déploiement incompatibles finissent par contraindre l’équipe d’exploitation à faire de la traduction plutôt que de l’ingénierie. Chaque frontière entre environnements devient un point où il faut réinterpréter l’intention initiale. Chaque cloud a ses propres paramètres, ses propres valeurs par défaut et sa façon bien à lui de vous gâcher la journée.
Les différences entre les normes de surveillance et de reporting des fournisseurs compliquent déjà l’obtention d’une vue d’ensemble et ralentissent la réponse aux incidents. L’IA aggrave la situation, car le diagnostic doit couvrir l’ensemble de la chaîne. Si un utilisateur affirme que « l’assistant est lent », vous devez déterminer si le problème vient de l’inférence, de la récupération des données, du routage, des appels d’outils ou de l’application des politiques.
Et la dérive des politiques n’a rien de théorique. Les pipelines de déploiement de l’IA amplifient ce phénomène, car de nouveaux composants y sont ajoutés à la hâte, et la cohérence des politiques est souvent reléguée à « on fera le ménage plus tard », une formule qui, en exploitation, annonce généralement des problèmes.
Bonnes pratiques pour atténuer les incompatibilités entre les politiques de déploiement
La solution est fastidieuse, et c’est précisément ce qui la rend difficile à mettre en œuvre. Les politiques de diffusion doivent être traitées comme des artefacts à part entière, et non comme un savoir informel reposant sur les manipulations de quelqu’un dans une console.
Cela signifie que les politiques doivent être déclaratives, portables et appliquées de manière cohérente dans tous les environnements. Les règles de routage, le comportement de basculement, les décisions de mise en cache, les limites de débit et les contrôles de sécurité doivent accompagner l’application et être validés de la même manière que le code. Si vous vous appuyez sur une transposition manuelle d’un cloud à l’autre, vous vous exposez à des dérives de configuration, qui sont à l’origine du fameux « ça fonctionnait hier ».
Vous avez également besoin d’une observabilité unifiée, car vous ne pouvez pas gérer ce que vous ne voyez pas. Une supervision fragmentée entre les différents clouds crée des angles morts, que les systèmes d’IA ne manqueront pas d’exploiter. Une télémétrie cohérente et des contrôles uniformes de validation des politiques permettent d’éviter que le dépannage ne se transforme en fouilles archéologiques.
Enfin, dans le cas spécifique des systèmes d’IA, il vous faut des règles capables de prendre en compte les schémas de trafic modernes. Les agents et les appels d’outils engendrent des comportements que les règles traditionnelles de gestion du trafic n’ont jamais été conçues pour anticiper. Si vous appliquez les règles comme si chaque requête était un simple appel REST initié par un utilisateur, vous risquez soit de bloquer des workflows d’IA légitimes, soit de laisser passer des workflows dangereux. Aucun de ces scénarios n’est souhaitable en matière de disponibilité ou de gestion des risques.
Conclusion
ADC07 porte fondamentalement sur l’incohérence, laquelle est l’ennemie d’une prestation fiable. L’IA accroît les enjeux, car elle multiplie les interactions, enchaîne les dépendances et rend les utilisateurs beaucoup moins tolérants face à l’imprévisibilité.
Si vous voulez des systèmes d’IA rapides, stables et fiables dans des environnements hybrides et multicloud, les politiques de mise à disposition ne doivent plus relever de pratiques empiriques propres à chaque environnement. Elles doivent être harmonisées, portables et appliquées de manière cohérente, faute de quoi l’ensemble de la pile se comportera comme un assemblage disparate qui « fonctionne à peu près », mais s’effondre sous la charge en conditions réelles.
En savoir plus sur les 10 principaux défis liés à la mise à disposition des applications auxquels sont confrontées les organisations du monde entier.
À propos de l’auteur
Lori MacVittie est ingénieure émérite et évangéliste en chef au sein du bureau du directeur technique de F5. Elle possède une expertise approfondie dans la fourniture d’applications, les stratégies d’automatisation et les infrastructures. Elle est réputée pour sa capacité à rendre la complexité intelligible, qu’elle définisse des garde-fous pour les agents d’IA, analyse des architectures multicloud fragiles ou explore les limites des systèmes évolutifs. Elle cumule plus de trente ans d’expérience dans le secteur, couvrant le développement d’applications, l’architecture informatique ainsi que l’exploitation des réseaux et des systèmes. Avant de rejoindre F5, elle a été rédactrice spécialisée dans les technologies et a reçu plusieurs distinctions. MacVittie est titulaire d’un master en informatique et est une autrice prolifique dont les publications couvrent la sécurité, le cloud et l’architecture d’entreprise. Elle est également une passionnée de jeux de société et de jeux vidéo, et assume pleinement ses avis bien tranchés sur le fromage.
Autres articles de Lori Mac VittieArticles de blog associés
Qu’est-ce que le Top 10 de la distribution d’applications ?
F5 entend aider les organisations à relever les défis liés à la mise à disposition et à la sécurisation des applications, des API et de l’IA générative grâce à la liste des 10 principales priorités en matière de mise à disposition des applications.
Top 10 de la livraison d’applications d’IA : incapacité à gérer la latence
Avec l’IA, la latence devient un enjeu de confiance, et plus seulement de performance : les réponses lentes d’un « assistant » donnent une impression d’hésitation ou d’échec, tandis que les requêtes et réponses riches en tokens alourdissent la charge, même sur des systèmes en parfait état de fonctionnement.
Top 10 de la mise à disposition d’applications d’IA : orientation du trafic non optimisée
L’IA remet en cause les principes traditionnels de répartition du trafic : les backends ne sont pas interchangeables, les coûts varient et les agents multiplient les requêtes de manière imprévisible. Le routage doit donc tenir compte du modèle, de l’état des GPU et de la localisation des données.
Top 10 de la livraison d’applications d’IA : contrôles du trafic insuffisants
Les limites de débit et les mécanismes de régulation traditionnels ne tiennent pas compte de l’étendue réelle des répercussions. Les charges de travail d’IA se répartissent entre les modèles, les bases de données vectorielles et les services, provoquant des pics de latence, des défaillances en cascade et des nouvelles tentatives.
Top 10 de la mise à disposition d’applications d’IA : observabilité incomplète
L’IA ne passera pas à l’échelle toute seule. Sans un plan de contrôle unifié qui décloisonne les outils et les responsabilités, l’inférence devient la couche la plus fragile et la plus exigeante en matière de coordination.
Top 10 de la livraison d’applications d’IA : manque de tolérance aux pannes et de résilience
L’IA rend les failles de résilience classiques bien plus coûteuses : la défaillance d’un seul GPU ou d’une seule dépendance se propage en cascade dans les chaînes d’inférence synchrones, augmentant la latence et dégradant les résultats.