Top 10 de l’OWASP pour les applications d’IA agentique

Le Top 10 OWASP des risques liés à l’IA agentique aide les organisations à comprendre les principaux risques de sécurité introduits par les systèmes d’IA autonomes qui interagissent avec des outils, des API et des sources de données. Alors que les workflows agentiques élargissent la surface d’attaque lors de leur exécution, ce référentiel offre une approche pratique pour évaluer les risques, renforcer les contrôles et réduire l’exposition.

Cette page met en correspondance ces risques avec les capacités de F5 qui peuvent contribuer à les atténuer concrètement.

Qu’est-ce que le top 10 de l’OWASP sur l’IA agentique ?

Publié par l’OWASP GenAI Security Project, ce cadre se concentre sur les risques qui apparaissent lorsque les systèmes d’IA sont dotés d’objectifs, d’une mémoire, d’outils et de la capacité d’agir dans différents systèmes. Contrairement aux risques liés aux chatbots traditionnels, les menaces associées à l’IA agentique peuvent se propager dans des workflows en plusieurs étapes, des applications connectées et des décisions autonomes. Parmi les exemples courants figurent le détournement des objectifs des agents, l’utilisation abusive d’outils, les agents malveillants, les communications non sécurisées entre agents et les défaillances en cascade.

Pourquoi le top 10 de l’OWASP sur l’IA agentique est-il important ?

De nombreuses organisations en sont encore à la phase pilote de l’IA agentique, mais les premières charges de travail sont déjà connectées aux systèmes de production. Cela signifie que les défaillances peuvent désormais affecter des données réelles, des API, des workflows et des utilisateurs. Ce cadre offre aux RSSI, aux architectes et aux équipes de sécurité un moyen concret d’identifier les domaines où les risques sont les plus élevés, d’harmoniser les contrôles et de concevoir dès le départ des systèmes d’IA plus sûrs.

Comment fonctionne le Top 10 OWASP des risques liés à l’IA agentique ?

Le cadre classe les risques liés à l’IA agentique en dix catégories :

ASI01 Détournement de l’objectif de l’agent – Un attaquant manipule les objectifs, les instructions ou le processus décisionnel d’un agent afin de l’amener à poursuivre des résultats non souhaités.

Utilisation abusive et exploitation des outils ASI02 – Un agent utilise les outils connectés de manière dangereuse, ou des attaquants exploitent les interfaces de ces outils pour obtenir un accès ou causer des dommages.

ASI03 Abus d’identité et de privilèges – Les agents utilisent à mauvais escient des identifiants, des jetons ou des autorisations héritées pour accéder à des systèmes ou à des données au-delà des limites prévues.

ASI04 Vulnérabilités de la chaîne d’approvisionnement des agents – Risques introduits par des outils, plug-ins, registres, serveurs MCP ou composants externes tiers utilisés dans les workflows des agents.

ASI05 Exécution de code inattendue – Un agent génère, modifie ou exécute du code ou des commandes d’une manière qui crée un risque pour la sécurité ou les opérations.

ASI06 Gestion du contexte et manipulation de la récupération – Le contexte récupéré ou stocké est empoisonné, trompeur, obsolète ou altéré, ce qui influence le comportement futur de l’agent.

ASI07 Communication inter-agents non sécurisée – Les agents échangent des messages sans mécanismes suffisants d’authentification, d’intégrité ou de contrôle des politiques, ce qui crée des possibilités d’utilisation abusive.

ASI08 Défaillances en cascade – Une erreur, une compromission ou une mauvaise décision unique se propage à travers les agents, outils ou flux de travail interconnectés.

ASI09 Exploitation de la confiance entre humains et agents – Les agents utilisent des réponses persuasives ou trompeuses pour inciter les utilisateurs à effectuer ou à approuver des actions dangereuses.

ASI10 Agents incontrôlables – Des agents compromis, mal alignés ou dont le comportement dérive continuent de fonctionner de manière imprévue au sein de systèmes complexes.

Comment F5 prend-il en charge le Top 10 de l’OWASP pour l’IA agentique ?

Le Top 10 de l’OWASP consacré à l’IA agentique met en lumière les risques de sécurité les plus critiques associés aux systèmes d’IA autonomes et semi-autonomes. Nombre de ces risques ne se limitent pas au modèle lui-même. Ils apparaissent dans l’architecture globale de l’application, notamment au niveau des API, des flux de données, des outils tiers, des contrôles d’identité et des actions exécutées lors de l’exécution. Pour y remédier, il est nécessaire de mettre en place des contrôles couvrant l’ensemble de l’écosystème des applications d’IA.

F5 aide les organisations à relever ces défis grâce à la F5 Application Delivery and Security Platform (ADSP), qui réunit des fonctionnalités de mise à disposition des applications, de protection des API, de gestion du trafic, d’application des politiques et de sécurité pour les applications modernes et les charges de travail d’IA. Pour l’IA agentique, cette plateforme offre une base plus solide pour sécuriser les environnements dans lesquels les systèmes d’IA fonctionnent.

Au sein d’ADSP :

• F5 AI Guardrails contribue à faire respecter les politiques relatives aux prompts, aux sorties et au comportement des modèles au niveau de la couche d’inférence.
• F5 AI Red Team aide à identifier les faiblesses des modèles, des applications et des workflows agentiques grâce à des tests contradictoires.
• F5 WAAP contribue à protéger les applications web, les API et les services numériques sur lesquels les agents s’appuient pour accéder aux données et agir.
• F5 AI Remediate permet d’exploiter concrètement les résultats en transformant plus rapidement les risques identifiés en protections déployables.
• F5 BIG-IP contribue au déploiement, à la sécurisation et à la mise à l’échelle des applications d’IA dans des environnements hybrides et multiclouds complexes.

En réunissant ces fonctionnalités au sein d’une plateforme unique, F5 aide les entreprises à se conformer aux recommandations de l’OWASP, à réduire les risques opérationnels et à adopter l’IA agentique avec davantage de confiance.