L’observabilité à l’ère des agents d’IA

Lori Mac VittieIngénieur émérite et évangéliste en chef | F5

Les agents d’IA sont là, et ils ne se contentent pas d’appeler des API ou de diffuser du contenu. Ils réfléchissent. Ils prennent des décisions. Ils planifient et délèguent. Et ils le font à l’échelle de votre infrastructure, de vos services et de votre pile de gestion du trafic.

Le problème ? La plupart de nos systèmes n’ont aucune idée de ce qu’ils font.

L’observabilité traditionnelle a été conçue pour surveiller les services. Vous savez, des choses concrètes : requêtes, réponses, latences, chemins. Elle n’a pas été conçue pour comprendre pourquoi une requête a eu lieu, mais seulement pour constater qu’elle a eu lieu. Or, votre trafic peut désormais provenir d’une boucle de raisonnement récursive au sein d’un agent, et tout ce que vous verrez dans vos journaux sera une requête POST vers /search, avec une charge utile et un code 200.

Ce n’est pas de l’observabilité. C’est de l’opacité.

Si nous voulons mettre en production des agents d’IA en toute sécurité, en particulier dans des environnements de production, les systèmes de gestion du trafic devront faire partie intégrante de votre stratégie.

Mais avant tout, l’observabilité doit rattraper son retard. Et cela commence par trois lacunes critiques.

1. Journalisez les décisions, pas seulement les requêtes

Les agents ne se contentent pas de répondre. Ils prennent des décisions. Ils évaluent. Ils reportent, réorientent, transmettent à un niveau supérieur ou font appel à des outils. Et si vous ne consignez que la couche HTTP, vous passez à côté de ce qui compte vraiment, à savoir pourquoi cela s’est produit.

Vous avez besoin de journaux structurés qui consignent l’intention de l’agent, l’action sélectionnée, les alternatives évaluées et le résultat. Vous devez pouvoir retracer les processus décisionnels, pas seulement les codes d’état.

Que faire :

• Étendez les formats de journaux afin d’y inclure des champs sémantiques tels que « intention, action effectuée, score de confiance, et contrainte de politique ».
• Étiquetez les décisions en fonction de l’agent dont elles proviennent et assurez leur traçabilité de bout en bout entre les appels d’outils.

2. Suivez la sémantique, pas seulement les chemins

Deux requêtes POST adressées au même point de terminaison peuvent avoir des significations radicalement différentes lorsqu’elles proviennent d’agents d’IA. L’une peut être une demande de vérification des faits, l’autre un déclencheur de génération de contenu. Le chemin est identique, mais la finalité, le contexte et le risque ne le sont pas.

Cela signifie que le balisage sémantique doit devenir un élément de premier plan du routage et de l’observabilité.

Que faire :

• Utilisez l’inspection en ligne (charges utiles ou en-têtes) pour extraire des balises d’intention telles que summarize, verify_identity ou generate.
• Utilisez ces balises pour orienter les décisions de routage, de limitation du débit et d’authentification. Ne traitez pas toutes les requêtes POST de la même manière.

3. Surveillez le comportement au fil du temps

Les agents ne se comportent pas comme des clients sans état. Ils évoluent. Ils réessaient. Ils marquent des temps d’arrêt. Ils s’adaptent. Les systèmes d’observabilité doivent donc aller au-delà des traces de requêtes individuelles et commencer à établir des profils comportementaux.

Vous devez savoir à quoi ressemble le comportement « normal » d’un agent : combien de tentatives il effectue, quels outils il utilise et combien de temps prennent ses tâches. Et lorsque cela change ? Vous devez également le savoir.

Que faire :

• Suivez les métriques glissantes pour chaque identité d’agent : nouvelles tentatives, profondeur des tâches et utilisation des outils.
• Déclencher une alerte en cas d’anomalies : boucles, dérive de la latence, utilisation frénétique des outils.

Ce que cela implique pour la gestion du trafic

Tout cela a des conséquences concrètes sur les systèmes auxquels nous faisons confiance pour acheminer le trafic, sécuriser nos applications et les faire évoluer à grande échelle :

Les agents d’IA ne sont pas des utilisateurs. Ce ne sont pas des clients. Ce ne sont même pas des services au sens traditionnel du terme. Ce sont des workflows autonomes. Et tant que nous ne les traiterons pas comme tels — à commencer par leur observabilité — nous continuerons d’avancer à l’aveugle.

Alors non, votre trafic n’est plus un simple trafic. Et votre infrastructure ne devrait pas le traiter comme tel.

Commencez à journaliser comme si un agent vous observait. Parce que c’est probablement le cas.

À propos de l’auteur

Lori Mac VittieIngénieur émérite et évangéliste en chef | F5

Lori MacVittie est ingénieure émérite et évangéliste en chef au sein du bureau du directeur technique de F5. Elle possède une expertise approfondie dans la fourniture d’applications, les stratégies d’automatisation et les infrastructures. Elle est réputée pour sa capacité à rendre la complexité intelligible, qu’elle définisse des garde-fous pour les agents d’IA, analyse des architectures multicloud fragiles ou explore les limites des systèmes évolutifs. Elle cumule plus de trente ans d’expérience dans le secteur, couvrant le développement d’applications, l’architecture informatique ainsi que l’exploitation des réseaux et des systèmes. Avant de rejoindre F5, elle a été rédactrice spécialisée dans les technologies et a reçu plusieurs distinctions. MacVittie est titulaire d’un master en informatique et est une autrice prolifique dont les publications couvrent la sécurité, le cloud et l’architecture d’entreprise. Elle est également une passionnée de jeux de société et de jeux vidéo, et assume pleinement ses avis bien tranchés sur le fromage.

Autres articles de Lori Mac Vittie