On ne peut pas se défendre contre ce que l’on ne voit pas. C’est tout le problème des tests d’intrusion appliqués aujourd’hui à l’IA générative. Ils indiquent si une attaque a réussi, mais pas comment elle s’est déroulée ni pourquoi vos défenses ont échoué. Pour les responsables de la sécurité qui cherchent à évaluer leur niveau de préparation à l’IA, c’est un angle mort majeur.
Agentic Fingerprints change la donne. Il s’agit d’une nouvelle fonctionnalité de la solution Inference Red-Team de CalypsoAI, qui vous offre une visibilité complète sur la manière dont les agents d’IA exécutent des attaques adverses, étape par étape et décision après décision. Imaginez un compte rendu détaillé de la façon dont un agent a compromis votre système d’IA.
Qu’est-ce qu’Agentic Fingerprints et comment fonctionne-t-il ?
Agentic Fingerprints est une nouvelle fonctionnalité d’Inference Red-Team, la solution de CalypsoAI dédiée aux tests automatisés de sécurité de l’IA générative. Elle offre une observabilité approfondie sur l’une des méthodes d’attaque adversariale les plus avancées actuellement dans le domaine de la sécurité de l’IA : Agentic Warfare.
Agentic Warfare utilise le Red Agent de CalypsoAI pour mener des attaques complexes en plusieurs étapes, en s’adaptant en temps réel afin de reformuler les prompts, de revenir en arrière en cas de blocage et d’élaborer une stratégie comme le ferait un véritable adversaire. Agentic Fingerprints vous fournit une cartographie visuelle et interactive du comportement du Red Agent, qui présente chaque décision, chaque prompt et chaque action effectuée, vous permettant ainsi de :
- Visualisez l’intégralité du parcours de l’attaque : de l’intention initiale jusqu’à la réussite ou à l’échec de l’intrusion
- Cliquez sur n’importe quel point de décision pour afficher :
- Le raisonnement de l’agent rouge à cette étape
- Les invites envoyées et les réponses reçues
- Pourquoi il a choisi de poursuivre, de s’adapter ou de changer de cap
- Comprendre les vulnérabilités du modèle et rechercher des tendances
Voici comment cela fonctionne :
Empreintes agentiques : visualisez chaque étape d’une attaque par IA | CalypsoAI
C’est le premier outil qui transforme les tests d’intrusion complexes appliqués à l’IA générative en une expérience claire et intuitive, permettant de comprendre en profondeur le raisonnement qui sous-tend les attaques agentiques.
Pourquoi est-ce important pour les tests d’intrusion de l’IA générative ?
La plupart des outils de test d’intrusion vous montrent ce qui a cédé. Les empreintes agentiques vous montrent comment cela s’est produit et pourquoi vos défenses existantes ne l’ont pas empêché. Voici pourquoi il s’agit d’une avancée majeure.
Comportement transparent des agents
L’Agent rouge se comporte comme un véritable attaquant : il ajuste ses prompts, planifie ses prochaines actions et change de tactique en pleine attaque. Les empreintes agentiques vous permettent de suivre son raisonnement étape par étape.
Explicabilité pour l’audit et la gouvernance
Les empreintes agentiques fournissent une piste d’audit de chaque décision prise au cours des tests. Ainsi, les responsables de la sécurité et les équipes chargées de la conformité peuvent :
- Remonter à la cause racine des comportements à risque du modèle
- Démontrez votre diligence raisonnable grâce à des rapports visuels et partageables
- Déboguez et améliorez les systèmes d’IA en toute confiance
Une base pour vos propres agents (bientôt disponible)
Aujourd’hui, Agentic Fingerprints prend en charge les Red Agents de CalypsoAI. Bientôt, les entreprises pourront visualiser et auditer leurs propres agents, jetant ainsi les bases d’une observabilité et d’une gouvernance des agents sur l’ensemble de leur cycle de vie.
Le résultat : un red teaming agentique visible, vérifiable et précieux
Avec Agentic Fingerprints, les équipes de sécurité disposent de bien plus que de résultats statiques ou de résumés en une ligne. Elles bénéficient d’une vue dynamique et entièrement traçable du déroulement des attaques. Ce niveau de transparence permet aux équipes de red team de repérer plus rapidement les faiblesses. Il permet aux responsables de la sécurité de valider la rigueur des tests et fournit aux équipes GRC des éléments probants et défendables pour les audits et les évaluations des risques.
Agentic Fingerprints établit une nouvelle référence pour sécuriser les systèmes d’IA contre les menaces intelligentes et adaptatives. Car il ne s’agit pas seulement de voir où le modèle ou l’application a échoué, mais de comprendre pourquoi et de savoir quoi faire ensuite.
À propos de l’auteur
Articles de blog associés
F5 rejoint le projet PQC du NIST pour contribuer à l’élaboration de normes résistantes aux attaques quantiques
En rejoignant le consortium du projet « Migration to PQC » du NIST, F5 contribue à élaborer des recommandations pratiques pour un monde résistant aux menaces quantiques.
La dernière version de F5 Distributed Cloud Bot Defense offre des fonctionnalités et des améliorations de nouvelle génération
Les mises à jour de la console de F5 Distributed Cloud Bot Defense améliorent la gestion des menaces automatisées et l’intégration dans des cadres de sécurité plus larges.
La nouvelle surface de risque liée à l’IA : invisible, autonome et déjà à l’intérieur
James White, vice-président de l’ingénierie chez F5 À mi-parcours de l’année 2025, le moment est bien choisi pour dresser un état des lieux de l’adoption de l’IA en entreprise et de la sécurité de l’IA. L’utilisation de l’IA générative est désormais la norme dans les entreprises De manière générale, les entreprises possèdent au moins une compréhension élémentaire de l’IA générative. Elles savent ce qu’elle est et où elle peut […]
Évaluation des LLM : renforcer la confiance grâce à la notation de sécurité
À mesure que l’adoption de l’IA s’accélère dans les entreprises, l’évaluation des LLM ne porte plus uniquement sur leurs performances, mais aussi sur la confiance qu’ils inspirent. Les équipes de sécurité doivent évaluer non seulement les performances d’un modèle, mais aussi la sûreté de son comportement. Pourtant, la plupart des cadres d’évaluation se concentrent sur des critères de précision, laissant les facteurs de sécurité et de risque dans le flou ou sans mesure.
Évaluer le niveau de préparation de votre organisation à la sécurité de l’IA
Dans un paysage de l’intelligence artificielle (IA) en constante évolution, il est non seulement important, mais impératif de savoir si votre organisation est prête à instaurer et à soutenir une culture de la sécurité de l’IA. À mesure que les technologies d’IA progressent, elles font émerger une multitude de nouveaux défis de sécurité qui, pour être gérés efficacement, exigent une approche réfléchie, globale et proactive […]
Déployer des LLM en entreprise : via une API dans un cloud privé
Pris isolément, sans mesures de protection spécialisées ni protocoles de sécurité en place, le déploiement de modèles d’IA générative (GenAI), en particulier de grands modèles de langage (LLM), à l’échelle de l’entreprise représente pour toute organisation une opportunité à haut risque, mais potentiellement très rentable. La manière précise dont votre organisation doit franchir ce grand pas dans l’univers de la GenAI nécessite une planification mûrement réfléchie. Peut-être serait-il […]