Résistance agentique : accélérer l’IA au service de ses objectifs initiaux

Dans Jurassic Park, il y a une scène célèbre où le garde-chasse, Muldoon, explique comment les vélociraptors testent méthodiquement les clôtures à haute tension pour en repérer les points faibles. Ils ne vérifient jamais deux fois le même endroit. « Ils se souviennent », dit Muldoon, prenant soudain conscience de la situation.

C’est une bonne analogie de la situation dans laquelle nous nous trouvons, alors que les entreprises s’empressent d’adopter l’IA. Les acteurs malveillants sont prêts à sonder les faiblesses de ces nouveaux systèmes, en s’appuyant sur des outils optimisés par l’IA capables de mémoriser les méthodes efficaces. À l’heure actuelle, les barrières de protection ne sont pas à la hauteur.

C’est préoccupant, car l’IA se perfectionne à un rythme accéléré. D’ici 2028, 33 % des applications logicielles d’entreprise intégreront une IA agentique, contre moins de 1 % en 2024, selon les prévisions de Gartner. D’ici 2029, l’IA agentique résoudra de manière autonome 80 % des problèmes courants du service client sans intervention humaine, prévoit Gartner. 

Ces agents numériques autonomes se composent en pratique de trois couches :

• Un objectif : la tâche précise qui a été confiée à l’agent

• Un cerveau : le modèle d’IA sous-jacent, provenant très probablement de l’une des entreprises à la pointe de l’IA

• Outils : accès aux outils dont l’agent a besoin pour accomplir sa mission, qu’il s’agisse de systèmes logiciels internes, de navigateurs ou de la messagerie électronique

Par nature, chaque agent est différent. Un système peut comporter plusieurs agents, ouvrant la voie à un avenir où des milliards d’agents pourraient accomplir des tâches au sein d’organisations du monde entier. Celles-ci iront des opérations administratives les plus courantes à des tâches bien plus sensibles et essentielles à l’activité.

Un agent de planification de réunions peut accéder, via des API, aux calendriers de l’entreprise et à un système de gestion des congés, et être habilité à réserver des salles. Grâce à des interactions rapides et autonomes entre le cerveau et les outils, l’agent trouve les informations dont il a besoin et planifie la réunion.

Un utilisateur final n’a pas besoin de comprendre toutes les interactions au sein d’un système d’IA. Il doit toutefois pouvoir s’attendre à ce que le fournisseur de la solution ait anticipé les cas limites — les situations susceptibles d’entraîner un dysfonctionnement du système — et ait prévu des mesures de protection contre ceux-ci.

Le problème des permutations

Les organisations sont confrontées à des questions majeures : comment prouver que votre système d’IA est sécurisé ? Quelles mesures avez-vous prises pour tester votre périmètre de sécurité ? Pour y répondre, il faut assurer une supervision et une protection à chaque niveau, là où l’agent interagit avec le modèle et les outils, et inversement.

Sans tests ni mesures de protection, l’IA agentique est vulnérable aux défaillances et aux attaques externes, avec des conséquences allant du simple désagrément (une réunion mal organisée) à la catastrophe (un agent autorisé à effectuer des transactions financières ou à envoyer par e-mail des informations sur les clients à des tiers).

Pour éviter que ces cas limites ne se produisent dans le monde réel, vous devez être en mesure de les détecter. Or, cela pose problème, car chaque élément supplémentaire ajouté à un système agentique — comme de nouveaux outils ou un modèle mis à jour — en multiplie la complexité. Le nombre de combinaisons possibles dans la manière dont l’agent accomplit son travail augmente de façon exponentielle, tout comme la surface d’attaque dont peuvent profiter les acteurs malveillants.

À l’inverse, les tests de sécurité des modèles d’IA restent très centrés sur l’humain. Même les plus grandes organisations spécialisées dans l’IA ont recours à des exercices manuels de red teaming pour tester leurs modèles. Pour les humains, tenter de trouver toutes les permutations possibles dans un système agentique est une tâche d’une difficulté inimaginable et extrêmement chronophage.

Et ce n’est pas tout : outre le problème des permutations, la composition des agents d’IA évolue constamment. Si vous remplacez le modèle sur lequel reposent vos agents par une nouvelle version, vous devez reprendre les tests de sécurité depuis le début. Si l’API assurant la connexion à un outil est mise à jour, vous devez également tout recommencer.

Il faut aussi envisager qu’à terme, les agents capables de coder puissent mettre à jour eux-mêmes le modèle et/ou les outils. Même un spécialiste hautement qualifié ayant accès aux outils logiciels existants ne pourra jamais espérer suivre le rythme.

Présentation de la résistance agentique

Le défi que représente le test de nouvelles technologies exige une solution technologique nouvelle et supérieure : utiliser des agents d’IA dotés de capacités avancées pour automatiser les tests d’intrusion des systèmes d’IA afin d’en détecter les faiblesses et les failles. Nous appelons cette approche « Agentic Resistance » ; elle marque une nouvelle frontière dans le domaine de la sécurité de l’IA.

Agentic Resistance s’attaque de front au problème très complexe des permutations en exploitant les attributs des agents :

• Au niveau de la finalité, nous pouvons modifier à tout moment la finalité d’un agent ou ajouter des agents supplémentaires simplement en rédigeant une nouvelle description.

• Au niveau de la couche d’intelligence, nous effectuons des mises à jour en permanence afin de tirer parti des avantages des derniers modèles d’IA, comme les modèles de raisonnement récemment apparus.

• Au niveau de la couche d’outillage, nous pouvons créer des interfaces permettant à nos agents d’accéder à des suites d’outils de test d’intrusion open source.

Nous disposons désormais d’un puissant système agentique spécialement conçu pour détecter les failles et les cas limites des systèmes d’IA. Il mobilise ses capacités de raisonnement pour déterminer les tâches à accomplir, leur ordre d’exécution et les outils à utiliser afin d’atteindre son objectif. Grâce à sa mémoire intégrée, l’agent apprend à chaque étape.

Agentic Resistance est capable de relever le défi, jusqu’alors jugé insurmontable, de la sécurisation de l’IA agentique en combinant des capacités d’attaque par permutation en force brute à une couche d’intelligence intégrée. Le décalage actuel entre l’IA agentique et le red teaming manuel est ainsi éliminé.

Cette nouvelle approche dément également l’idée reçue selon laquelle la sécurité de l’IA constitue un frein. En permettant de détecter rapidement les failles de votre système d’IA avant son lancement, puis de manière continue, elle rend le système intrinsèquement plus sûr et accélère le rythme des itérations.

C’est précisément ce que permet Agentic Resistance : une détection des menaces concrète et rapide, qui offre les meilleures chances d’accélérer le développement de l’IA au service des objectifs auxquels elle est destinée.

Attention, spoiler : dans Jurassic Park, lorsque le courant a été coupé et que la clôture a cessé de fonctionner, les vélociraptors étaient prêts à s’échapper. Pour les entreprises, le message est clair : elles doivent penser comme les vélociraptors et utiliser les technologies les plus récentes pour tester systématiquement leurs périmètres afin de s’assurer qu’ils ne puissent pas être facilement compromis.

L’ indice complet de sécurité de l’IA de F5 classe les meilleurs modèles d’IA selon des tests de sécurité en conditions réelles, révélant des risques critiques négligés par les évaluations de performances. Basé sur F5 AI Red Team, c’est le seul outil qui vous aide à trouver le modèle le plus sûr avant de le déployer.