Un triumvirat sensible aux applications pour la gouvernance de l’IA agentique

James HendergartDirecteur principal de la recherche technique | F5

L’innovation est une chose. La gouvernance en est une autre. Un ensemble préoccupant de statistiques issues d’enquêtes confirme que les entreprises adoptent l’IA générative à toute vitesse, malgré des lacunes en matière de gouvernance qui devraient les inciter à la prudence.

Selon l’enquête de PwC sur les agents d’IA de mai 2025, 79 % des entreprises ont adopté l’IA et seules 2 % n’envisagent absolument pas de recourir à l’IA agentique. Que ces agents présentent de véritables caractéristiques agentiques — comme la capacité à élaborer des plans de travail et à exécuter des actions en plusieurs étapes, à évaluer les résultats et à s’adapter de manière autonome — ou qu’il s’agisse de chatbots transmettant des demandes ponctuelles à un grand modèle de langage (LLM) donné, le taux d’adoption est très élevé, et la quasi-totalité de ces entreprises prévoit d’augmenter ses dépenses en IA au cours de l’année à venir.

À titre de comparaison, selon nos propres recherches— qui s’appuient sur un indice de préparation à l’IA pour quantifier la capacité opérationnelle à déployer à grande échelle, sécuriser et pérenniser efficacement les systèmes d’IA — seules 2 % des organisations sont parfaitement préparées à relever les défis inhérents à la conception, au déploiement et à l’exploitation de systèmes intégrant l’IA.

Pourtant, les équipes informatiques et de sécurité n’ont pas vraiment le choix, au vu d’une étude d’EY, qui montre que la majorité des dirigeants d’entreprise estiment devoir adopter l’IA agentique cette année afin de devancer leurs concurrents d’ici à la même période l’année prochaine. En prenant le temps de combler de manière réfléchie les lacunes en matière de sécurité et de gouvernance, les organisations seront plus avancées en 2026 et leur activité sera moins vulnérable que celles qui les ignorent. Les trois pratiques suivantes forment un trio qui contribuera à réduire les risques liés à l’adoption de l’IA générative et agentique :

1. Sécurisez vos modèles

Toute nouveauté doit être sécurisée, et chaque forme d’IA générative repose sur un ou plusieurs grands modèles de langage (LLM). Il ne suffit pas de compter sur les créateurs de ces modèles pour en améliorer continuellement la précision, réduire les hallucinations et empêcher le contournement de leurs garde-fous. Les entreprises doivent investir dans des services dédiés aux prompts et aux modèles, capables de détecter et de bloquer de manière indépendante les comportements indésirables. En outre, comme toute entreprise qui utilise un LLM en exploite en réalité plusieurs, il est indispensable de dissocier les applications des appels à l’API d’inférence afin de répondre à leurs exigences en matière de disponibilité, de routage, de mise à l’échelle et de maîtrise des coûts.

2. Sécurisez vos données

Les données de l’entreprise exposées aux modèles peuvent être nouvelles ou non pour l’entreprise. Quoi qu’il en soit, elles doivent être sécurisées. Il ne suffit pas de protéger les données là où elles sont stockées ni de les chiffrer lorsqu’elles transitent sur le réseau. Toute donnée présente dans l’environnement privé de l’entreprise, sous quelque forme que ce soit, même si elle est destinée à être utilisée avec un service tiers approuvé ou par une entité tierce, doit également être détectée et protégée. Ne vous méprenez pas : l’enjeu n’est pas leur provenance, mais leur sortie.

3. Sécurisez vos agents

Les agents changent la donne, car ils utilisent des LLM pour déterminer les actions à entreprendre afin d’atteindre un objectif final qu’ils définissent eux-mêmes. Pour fonctionner, ils doivent être autorisés à effectuer des actions, à accéder à des ressources, ainsi qu’à créer, modifier et supprimer des informations. Ils doivent être surveillés et contrôlés par un dispositif extérieur à l’agent, mais suffisamment proche de celui-ci pour pouvoir l’observer et l’évaluer efficacement. Deux approches principales ont émergé et mériteront une attention particulière à mesure qu’elles gagneront en maturité dans les mois à venir : les frameworks de garde-fous (tels que MCP-Universe) et les frameworks de type « LLM-as-a-Judge » (tels que Microsoft LLM-as-a-Judge Framework).

La première approche définit une vérité de référence à l’aide d’opérations très précises, fondées sur des tâches, afin de comparer les résultats des actions lancées par l’agent à ceux d’actions distinctes, exécutées au préalable par un logiciel suivant des instructions explicites. Sa force réside dans sa bibliothèque toujours plus vaste d’exemples de code permettant de vérifier diverses données, telles que la météo ou des faits historiques, à partir de sources présélectionnées et reconnues comme fiables. Elle recueille les informations, puis compare ces résultats, considérés comme la vérité de référence, à ceux obtenus par un agent déployé.

La seconde utilise un autre LLM, voire plusieurs LLM, pour analyser le comportement d’un agent déployé et évaluer la qualité et la pertinence de ses résultats selon les critères définis par l’entreprise. Ces deux approches sont prometteuses, gagnent rapidement en maturité et restent sous le contrôle de l’entreprise. Mieux encore, elles peuvent toutes deux être renforcées, si nécessaire, par des mécanismes de contrôle avec intervention humaine.

Ce triumvirat de contrôles portant sur les modèles, les données et les agents comble les lacunes en matière de cybersécurité et de gouvernance qui, autrement, exposeraient l’entreprise aux nouveaux types de risques associés à l’IA générative et aux systèmes agentiques.

Pour en savoir plus sur l’utilisation de ces types de contrôles en tant que services d’infrastructure indépendants, consultez la récente annonce de F5 concernant CalypsoAI, pionnier des solutions de défense, de red teaming et de gouvernance pour les applications et agents d’IA.

À propos de l’auteur

James HendergartDirecteur principal de la recherche technique | F5

Autres articles de James Hendergart