Sécuriser l’ère des agents IA : de l’engouement aux enjeux critiques

James WhiteDirecteur technique, sécurité de l’IA | F5

Alors que l’engouement pour les agents d’IA se concrétise, des organisations du monde entier élaborent des cas d’usage pour les intégrer à leurs activités. En connectant des modèles de fondation à des outils et à des sources de données, et en leur confiant des tâches à accomplir de manière autonome, les entreprises espèrent réduire leurs coûts et gagner en efficacité.

Dans un premier temps, les RSSI cherchent à identifier les équivalents agentiques des tondeuses à gazon et des robots nettoyeurs, qui offrent un avantage évident avec un niveau de risque relativement faible. Le service client constitue un cas d’usage précoce tout indiqué et sert de banc d’essai aux solutions basées sur l’IA proposées par des entreprises telles que Intercom, Zendesk et ServiceNow, ainsi qu’aux systèmes développés en interne.

Gartner prévoit que, d’ici 2029, l’IA agentique résoudra de manière autonome 80 % des problèmes courants liés au service client, sans intervention humaine, ce qui entraînera une réduction de 30 % des coûts opérationnels. Au vu de tels chiffres, ce n’est qu’une question de temps avant que les agents ne prennent en charge un volume important d’autres tâches métier et ne soient, à terme, intégrés aux fonctionnalités essentielles des produits. 

Parallèlement, deux versions révisées de politiques américaines relatives à l’utilisation de l’IA au sein des agences fédérales offrent un aperçu utile de l’avenir de l’IA. Le mémorandum M-25-21 du Bureau de la gestion et du budget (OMB) de la Maison-Blanche, publié le 7 avril 2025, indique : « Les agences devraient s’attacher à améliorer l’efficacité de leurs missions grâce à l’utilisation de l’IA, en s’appuyant sur leurs capacités existantes pour stimuler une innovation responsable en matière d’IA, renforcer leurs compétences dans le domaine de l’IA et des technologies qui la rendent possible, et améliorer leur capacité à développer et à acquérir des solutions d’IA. » Dans les entreprises, les objectifs sont certainement les mêmes. 

La note impose à toutes les agences fédérales de maintenir en poste ou de désigner, dans un délai de 60 jours, un responsable en chef de l’IA possédant une « expertise significative en matière d’IA », et de publier, dans un délai de 180 jours, une stratégie visant à faire progresser l’IA. Elle comprend également une liste de catégories dans lesquelles le recours à l’IA comme fondement principal d’une décision ou d’une action est considéré comme « à fort impact ». À titre d’exemple, elle cite :

• Fonctions critiques pour la sécurité des infrastructures ou des installations gouvernementales, notamment les services d’urgence, la sécurité alimentaire et les systèmes de régulation de la circulation ;
• Dans le domaine de la santé, les fonctions médicalement pertinentes des dispositifs médicaux ; le diagnostic ou le traitement des patients ; le contrôle des coûts de l’assurance maladie et de la tarification des risques ;
• Contrôle de l’accès aux installations gouvernementales ou de leur sécurité ;
• Dans le domaine de l’application de la loi, réalisation d’évaluations des risques concernant des personnes ; identification de suspects ; prévision de la criminalité ; suivi de personnes et de véhicules ; recours à l’identification biométrique ; surveillance des réseaux sociaux ; détection d’armes ou d’activités violentes ; décisions relatives à la détention, à la détermination de la peine, à la libération conditionnelle ou à la mise en liberté sous caution
• Possibilité de déposer des demandes de services, de procédures et de prestations fédéraux essentiels, notamment de prêts et d’accès au logement social, ou de statuer sur ces demandes ;
• Détermination des modalités ou conditions d’emploi dans la fonction publique fédérale, notamment en matière de rémunération ou de promotion, de gestion des performances, de recrutement ou de licenciement, ou de mesures disciplinaires.

Attention : agents au travail

Cette liste non exhaustive laisse entendre que la Maison-Blanche considère ces activités, ainsi que d’autres activités à fort impact, comme des cas d’usage réalistes de l’IA. Bien que la note ne fasse pas spécifiquement référence aux agents d’IA, la plupart des cas d’usage — comme la prise de décisions concernant l’accès au logement, aux prêts ou aux prestations sociales — impliqueraient clairement de connecter des modèles à d’autres outils et bases de données, susceptibles de contenir des informations sensibles et permettant d’identifier personnellement des individus.

C’est problématique, car il a été démontré que tous les principaux modèles d’IA, qui font office de « cerveau » pour les agents d’IA, présentent des vulnérabilités — un aspect qui, à l’échelle de l’entreprise, doit être sérieusement pris en compte lorsque l’IA est utilisée dans le cadre d’activités professionnelles. Le dernier récapitulatif des incidents de sécurité et des exploitations de failles liés à l’IA générative publié par l’OWASP, par exemple, met en lumière des acteurs malveillants qui contournent les garde-fous des modèles et utilisent l’IA pour mener des campagnes d’hameçonnage et des escroqueries reposant sur le clonage vocal. Ajoutez à cela l’interconnexion et l’interopérabilité, et vous obtenez de nouveaux vecteurs d’attaque qui augmentent considérablement les enjeux en matière de sécurité.

Pour ne rien arranger, le niveau de menace est directement corrélé au nombre d’outils auxquels le ou les agents sont connectés. Si un agent a accès aux bases de données, toutes celles de l’organisation sont potentiellement vulnérables ; s’il a accès à la messagerie électronique et au navigateur, le système de messagerie pourrait être connecté à un agent malveillant capable de tenter sans relâche de s’introduire dans l’organisation par hameçonnage. (Contrairement aux attaquants humains, les agents ne se fatiguent jamais et peuvent réagir en temps réel, ce qui rend leurs tentatives encore plus crédibles.)

Considérons maintenant le facteur de combinaison : un agent ayant accès à la fois aux bases de données et aux e-mails pourrait être utilisé comme une arme par un acteur malveillant afin d’exfiltrer des données ou de mener une attaque par infiltration en injectant de nouvelles données dans le système. En outre, des personnes en interne risquent d’utiliser l’agent à mauvais escient, accidentellement ou délibérément, causant ainsi encore plus de dégâts puisqu’elles se trouvent déjà à l’intérieur du périmètre de défense de l’organisation.

À mesure que les modèles se banalisent, il apparaît clairement que la sécurité, plutôt que les performances, constitue le principal facteur de différenciation lors de l’évaluation des systèmes et agents d’IA utilisés dans le cadre professionnel. Un système très performant mais vulnérable aux attaques ou à l’exploitation n’a pas sa place dans une entreprise ou une administration fédérale.

De son côté, la note demande aux agences fédérales de déployer une « IA digne de confiance » et de mettre en œuvre des pratiques minimales de gestion des risques pour les systèmes d’IA à fort impact. Si ces derniers n’atteignent pas un niveau de performance approprié, les agences doivent prévoir d’en suspendre l’utilisation jusqu’à ce que des mesures soient prises pour assurer leur conformité. Les entreprises qui envisagent de recourir à des agents devraient mettre en place des plans similaires.

Une nouvelle réponse en matière de sécurité

Cependant, une gestion efficace des risques doit commencer en amont de l’événement, plutôt que de se concentrer sur ses conséquences. Comprendre la menace que représente l’agent constitue la première étape pour y faire face. Il est essentiel d’évaluer correctement le niveau de menace de chaque agent afin, premièrement, de déterminer si une intervention est nécessaire et, deuxièmement, de prendre une décision éclairée quant aux mesures appropriées.

Une réponse de sécurité excessive peut étouffer l’innovation ; insuffisante, elle ne permettra pas de réduire efficacement la menace. Cependant, les outils traditionnels tels que les tests d’intrusion manuels menés par une équipe rouge et les indicateurs rudimentaires comme le taux de réussite des attaques — qui considère toutes les attaques comme équivalentes — ne permettent pas de faire face aux menaces posées par l’IA, compte tenu de sa capacité à apprendre et à s’adapter.

Un nouveau vecteur de menace complexe exige une nouvelle réponse en matière de sécurité. Dans ce contexte, le meilleur moyen pour les organisations de renforcer efficacement leur sécurité consiste à bien comprendre la nature et la complexité de l’attaque, puis à mettre en œuvre les mesures appropriées.

Pour y parvenir au mieux, il faut combattre le feu par le feu en utilisant des agents d’IA intelligents et personnalisables afin de simuler des interactions adverses et d’automatiser les tests d’intrusion des systèmes d’IA avant leur lancement. F5 AI Red Team fournit aux entreprises une équipe d’agents de test, permettant aux responsables de la sécurité de quantifier le niveau de menace lié à l’IA et d’y remédier en conséquence.

En plus d’offrir ce qui se rapproche le plus d’une activité réelle, le red teaming automatisé réduit la fenêtre temporelle qui favorise traditionnellement les attaquants, permettant ainsi aux entreprises de bénéficier au plus vite de la couverture de sécurité la plus efficace possible. Chez F5, nous avons développé des indicateurs uniques d’évaluation de la sécurité, à savoir le Comprehensive AI Security Index (CASI) et l’Agentic Resistance Score (ARS), qui évaluent la sécurité des modèles d’IA et déterminent leur classement dans les tableaux de classement correspondants.

Bien entendu, la sécurité n’est jamais une affaire « ponctuelle », et les agents ne font pas exception. Une surveillance continue est essentielle pour garantir que l’exposition aux menaces reste limitée et qu’un niveau de sécurité approprié soit maintenu. À mesure que l’IA agentique gagne du terrain, une approche proactive de la sécurité offre les meilleures chances d’adopter les agents en toute sécurité et d’accélérer le déploiement de l’IA pour les usages auxquels elle est destinée.

À propos de l’auteur

James WhiteDirecteur technique, sécurité de l’IA | F5

James White est un ingénieur accompli et un dirigeant d’entreprise qui possède près de vingt ans d’expérience dans le secteur des logiciels d’entreprise.

Autres articles de James White