Solutions de sécurité pour l’exécution de l’IA

La sécurité des environnements d’exécution de l’IA protège les modèles lorsqu’ils traitent activement des données de production et des requêtes utilisateur. Les garde-fous à l’exécution, la protection des API, la surveillance du comportement des modèles et l’application des politiques contribuent à réduire les risques, notamment l’injection de prompts, les fuites de données, le contournement des modèles et l’utilisation abusive des API. Ces contrôles peuvent être appliqués aux environnements d’IA hébergés dans le cloud comme à ceux autohébergés, afin de sécuriser l’inférence et d’aligner les opérations d’exécution sur des référentiels tels que le cadre de gestion des risques liés à l’IA du NIST (AI RMF).

La sécurité d’exécution des agents d’IA contrôle les ressources auxquelles ils peuvent accéder, les outils et API qu’ils peuvent utiliser, ainsi que les actions qu’ils peuvent effectuer pendant leur exécution. Parmi les mesures efficaces figurent la limitation des privilèges, la protection des identifiants et des clés d’API, la surveillance des comportements anormaux des agents et l’application de garde-fous à l’utilisation des outils. Lorsque les agents sont autorisés à générer ou à exécuter du code, l’exécution en environnement isolé peut offrir une couche d’isolation supplémentaire pour les charges de travail à haut risque.

Les attaques par injection de prompt utilisent des instructions malveillantes pour manipuler le comportement d’un grand modèle de langage (LLM). Une injection indirecte de prompt peut s’introduire par l’intermédiaire de contenus externes, tels que des documents, des sites web, des données récupérées ou des réponses d’outils, et influencer un agent lorsque celui-ci traite ces contenus. Le Top 10 de l’OWASP pour les applications LLM 2026 considère l’injection de prompt comme un risque critique pour les applications LLM. La sécurité de l’IA à l’exécution peut inspecter les prompts, le contexte, les appels d’outils et les sorties en production, et appliquer des politiques avant que des interactions dangereuses n’atteignent des systèmes connectés ou des données sensibles.

Le red teaming manuel appliqué à l’IA repose sur des tests adversariaux menés par des experts afin d’explorer des vecteurs d’attaque inédits et propres au contexte. Le red teaming automatisé permet de déployer les tests à grande échelle sur des bibliothèques plus vastes de techniques adversariales et de les répéter à mesure que les modèles, les applications et les agents évoluent. La sécurité de l’IA à l’exécution applique des contrôles aux interactions en production et offre une visibilité continue sur les comportements et les menaces émergentes. Les solutions traditionnelles d’autoprotection des applications à l’exécution (RASP), les pare-feu d’applications web (WAF) et la sécurité des API restent des couches de protection importantes, tandis que les contrôles à l’exécution propres à l’IA traitent des risques tels que l’injection de prompts, les résultats préjudiciables, les fuites de données et l’utilisation abusive des outils par les agents.

Les organisations doivent disposer d’une visibilité sur le trafic à destination des systèmes d’IA, les points de terminaison des API d’IA, les modèles, les agents et les flux de données sensibles afin d’identifier les usages non autorisés de l’IA. La surveillance à l’exécution et les contrôles fondés sur des politiques peuvent aider les équipes de sécurité à détecter l’IA fantôme, à surveiller les comportements anormaux des modèles, à réduire les fuites de données et à orienter les utilisateurs vers des services approuvés. Pour les organisations réglementées, ces contrôles peuvent également soutenir des programmes plus larges de gouvernance de l’IA et de conformité, alignés sur des cadres tels que le NIST AI RMF et sur des exigences telles que le RGPD.