Un triumvirat intégrant le contexte applicatif pour la gouvernance de l’IA agentique

Écosystème F5 | 16 septembre 2025

L’innovation est une chose. La gouvernance en est une autre. Un ensemble préoccupant de statistiques issues d’enquêtes confirme que l’adoption de l’IA générative par les entreprises se poursuit à toute allure, malgré des lacunes en matière de gouvernance qui devraient inciter à la prudence.

Selon l’enquête de PwC sur les agents d’IA de mai 2025, 79 % des entreprises ont adopté l’IA et seules 2 % n’envisagent aucunement de recourir à l’IA agentique. Que ces agents présentent des capacités véritablement agentiques — comme l’élaboration de plans de travail, l’exécution d’actions en plusieurs étapes, l’évaluation des résultats et l’ajustement autonome — ou qu’il s’agisse de chatbots qui transmettent des requêtes ponctuelles à un grand modèle de langage (LLM) donné, le taux d’adoption est très élevé, et la quasi-totalité de ces entreprises prévoit d’augmenter ses dépenses en IA au cours de l’année à venir.

À titre de comparaison, nos propres recherches — qui s’appuient sur un indice de préparation à l’IA pour quantifier la capacité opérationnelle à faire évoluer, à sécuriser et à pérenniser les systèmes d’IA — montrent que seules 2 % des organisations sont pleinement préparées à relever les défis inhérents à la conception, au déploiement et à l’exploitation de systèmes intégrant l’IA.

Pourtant, les équipes informatiques et de sécurité n’ont pas le choix, selon une étude d’EY, qui montre qu’une majorité de dirigeants estiment devoir adopter l’IA agentique cette année pour devancer leurs concurrents d’ici un an. Les organisations qui prennent le temps de combler de manière réfléchie les lacunes en matière de sécurité et de gouvernance seront, en 2026, plus avancées et moins vulnérables que celles qui les ignorent. Les trois pratiques suivantes forment un socle qui contribuera à réduire les risques liés à l’adoption de l’IA générative et agentique :

1. Sécurisez vos modèles

Toute nouvelle technologie doit être sécurisée, et chaque forme d’IA générative repose sur un ou plusieurs grands modèles de langage (LLM). Compter sur les concepteurs de modèles pour améliorer continuellement la précision, réduire les hallucinations et empêcher le contournement des garde-fous ne suffit pas. Les entreprises doivent investir dans des services de gestion des prompts et des modèles capables de détecter et de bloquer de manière indépendante les comportements indésirables. De plus, puisque toute entreprise qui utilise un LLM en utilise en réalité plusieurs, il est indispensable de découpler les applications des appels à l’API d’inférence afin de répondre à leurs exigences de disponibilité, de routage, de mise à l’échelle et de maîtrise des coûts.

2. Sécurisez vos données

Les données de l’entreprise exposées aux modèles peuvent être nouvelles pour l’entreprise, ou non. Il n’en reste pas moins qu’elles doivent être sécurisées, et cela ne consiste pas simplement à protéger les données au repos ou à les chiffrer lorsqu’elles transitent sur le réseau. Les données présentes dans l’environnement privé de l’entreprise, sous quelque forme que ce soit, doivent également être détectées et protégées, même lorsqu’elles sont destinées à être utilisées avec un service tiers approuvé ou par une entité tierce. Ne vous y trompez pas : ce n’est pas leur provenance qui importe, mais leur sortie.

3. Sécurisez vos agents

Les agents changent la donne, car ils utilisent des LLM pour décider des actions à entreprendre afin d’atteindre un objectif final qu’ils définissent eux-mêmes. Pour fonctionner, ils ont besoin d’autorisations pour effectuer des actions, accéder à des ressources, créer, modifier et supprimer des informations. Ils doivent être surveillés et contrôlés par un dispositif externe à l’agent, mais suffisamment proche de lui pour pouvoir l’observer et l’évaluer efficacement. Deux grandes approches ont émergé et méritent une attention particulière à mesure qu’elles gagneront en maturité au cours des prochains mois : les frameworks de garde-fous (tels que MCP-Universe) et les frameworks utilisant un LLM comme juge (tels que Microsoft LLM-as-a-Judge Framework).

La première approche établit une vérité de référence à l’aide d’opérations très précises, propres à chaque tâche, afin de comparer les résultats des actions lancées par l’agent à ceux d’actions distinctes exécutées au préalable par un logiciel suivant des instructions explicites. Sa force réside dans un éventail toujours plus large d’exemples de code permettant de vérifier diverses données, comme la météo ou des faits historiques, à partir de sources présélectionnées et reconnues comme fiables. Elle recueille ces informations, puis utilise les résultats comme vérité de référence pour les comparer à ceux obtenus par un agent déployé.

La seconde approche utilise un autre LLM, voire plusieurs LLM, pour analyser le comportement d’un agent déployé et évaluer la qualité et la pertinence de ses résultats selon les critères définis par l’entreprise. Les deux approches sont prometteuses, gagnent rapidement en maturité et restent sous le contrôle de l’entreprise. Mieux encore, toutes deux peuvent être renforcées, si nécessaire, par des mécanismes de contrôle intégrant une intervention humaine.

Ce trio de contrôles portant sur les modèles, les données et les agents comble les lacunes en matière de cybersécurité et de gouvernance qui, sans cela, exposeraient l’entreprise aux nouveaux types de risques associés à l’IA générative et aux systèmes agentiques.

Pour en savoir plus sur l’utilisation de ces types de contrôles en tant que services d’infrastructure indépendants, consultez la récente annonce de F5 concernant CalypsoAI, pionnier des solutions de défense, de tests de type red team et de gouvernance pour les applications et les agents d’IA.

Partager

À propos de l’auteur

James Hendergart
James HendergartDirecteur principal de la recherche technique | F5

Autres articles de James Hendergart

Articles de blog associés

F5 NGINXaaS pour Google Cloud : des applications résilientes et évolutives
Écosystème F5 | 08/09/2025

F5 NGINXaaS pour Google Cloud : des applications résilientes et évolutives

Découvrez comment NGINXaaS s’intègre à Google Cloud pour renforcer les performances et la sécurité, et préparer vos applications critiques à un avenir propulsé par l’IA.

L’intégration de F5 Web Application Firewall (WAF) à AWS est disponible dès aujourd’hui
Écosystème F5 | 24/04/2023

L’intégration de F5 Web Application Firewall (WAF) à AWS est disponible dès aujourd’hui

En faisant appel à un partenaire de déploiement AWS WAF tel que F5, vous pouvez renforcer la sécurité de vos applications web grâce à des règles personnalisées qui bloquent les schémas d’attaque courants, comme les injections SQL ou les attaques par scripts intersites (XSS).

Appliquer le principe de Peter Parker à l’inspection TLS
Écosystème F5 | 09/12/2019

Appliquer le principe de Peter Parker à l’inspection TLS

« Un grand pouvoir implique de grandes responsabilités. » Si l’on en trouve des échos chez Voltaire et Churchill, cette citation est surtout connue grâce aux bandes dessinées Spider-Man, où elle est attribuée à l’oncle Ben. Bien entendu, si cette phrase est si répandue dans la culture populaire, c’est notamment parce qu’elle peut s’appliquer à une multitude de situations et de sujets, y compris à l’inspection TLS.

Le NetOps a besoin de défenseurs, pas d’adversaires
Écosystème F5 | 13/12/2018

Le NetOps a besoin de défenseurs, pas d’adversaires

Il est important de reconnaître que les équipes NetOps ne sont pas toujours celles qui font obstacle au déploiement de la dernière nouveauté, application ou service. Les freins à la rapidité sont souvent dus au fait que les organisations n’adoptent pas tous les principes du DevOps lorsqu’elles cherchent à transformer leurs opérations informatiques.

Mise à jour des services applicatifs : sécurité, rapidité et visiteurs suspects
Écosystème F5 | 01/03/2018

Mise à jour des services applicatifs : sécurité, rapidité et visiteurs suspects

Il est de nouveau temps de nous pencher sur les services applicatifs que les entreprises utilisent réellement pour rendre leurs applications plus rapides et plus sûres. On constate notamment une hausse du recours aux services de protection contre les bots, ainsi que la progression lente mais régulière de HTTP/2. Bien qu’il ne s’agisse pas d’une application…

Les templates prennent le contrôle du cloud
Écosystème F5 | 02/02/2017

Les templates prennent le contrôle du cloud

Les modèles s’imposent dans le cloud. Lisez le blog de F5 pour découvrir comment l’infrastructure en tant que code et les API déclaratives automatisent la mise à disposition des applications.