Comment le cadre AEGIS de Forrester valide une approche axée en priorité sur l’inférence

Jessica BrennanResponsable senior du marketing produit, sécurité de l’IA | F5

L’essor de l’IA agentique transforme le paysage de la sécurité des entreprises. Ces agents d’IA autonomes fonctionnent de manière indépendante, prennent des décisions en temps réel et peuvent interagir entre différents systèmes d’une manière que les architectures traditionnelles de cybersécurité n’ont pas été conçues pour gérer. Si cela ouvre de nouvelles possibilités, cela introduit également des risques systémiques : défaillances en cascade, détournement d’objectifs et surfaces d’attaque jusqu’alors invisibles.

Le récent rapport de Forrester, « Présentation du cadre AEGIS : Guardrails d’IA agentique pour la sécurité de l’information en entreprise », présente un cadre complet pour sécuriser l’IA agentique en entreprise. CalypsoAI (désormais F5) y est notamment cité parmi les fournisseurs potentiels dans le domaine de la sécurité des applications et du DevSecOps qui intègrent une protection tout au long du cycle de vie de l’IA.

Nous pensons que cette étude confirme une évolution que nous défendons depuis le premier jour : une sécurité proactive de l’IA, axée en priorité sur l’inférence (ou l’exécution), est essentielle.

Pourquoi l’IA agentique change la donne

Selon Forrester, l’IA agentique pose cinq défis majeurs en matière de sécurité aux RSSI :

1. Les comportements émergents sont encouragés: les agents peuvent s’adapter aux obstacles, avec le risque d’élever leurs privilèges ou de contourner les contrôles.
2. La surface de détection n’existe pas encore: à mesure que les écosystèmes d’agents se développent, les capacités d’observabilité et de réponse peinent à suivre.
3. L’intention devient aussi importante que les résultats: une intention compromise, que ce soit par injection de prompt ou par détournement d’objectif, peut entraîner de graves failles de sécurité.
4. Les défaillances en cascade amplifient les risques: des données corrompues ou des hallucinations peuvent se propager d’un agent à l’autre et provoquer des défaillances systémiques.
5. Les agents autonomes, capables de passer à l’échelle sans limites, accentuent la pression opérationnelle: les humains impliqués dans le processus sont confrontés à de nouveaux défis, comme la fatigue décisionnelle à grande échelle.

Ces dynamiques nécessitent des garde-fous continus et adaptatifs, précisément comme le préconise le cadre AEGIS de Forrester.

Le cadre AEGIS en un coup d’œil

Le cadre AEGIS de Forrester définit six domaines clés pour la sécurité de l’IA agentique :

1. Gouvernance, gestion des risques et conformité (GRC): moderniser les politiques grâce à une application contextuelle et exécutable par machine.
2. Gestion des identités et des accès (IAM): considérer les agents comme des identités hybrides disposant de privilèges accordés juste à temps et soumises à une supervision humaine.
3. Sécurité et confidentialité des données: garantir l’intégrité des données, une gouvernance unifiée et des opérations d’IA respectueuses de la vie privée.
4. Sécurité des applications et DevSecOps: intégrer la sécurité tout au long du cycle de vie de l’IA, notamment dans l’ingénierie des prompts et la validation de la chaîne d’approvisionnement.
5. Gestion des menaces et opérations de sécurité : mise en œuvre d’une surveillance en temps réel, de la journalisation et de l’ingénierie de la détection pour les risques propres à l’IA.
6. Principes du Zero Trust: appliquer le principe de « capacité d’action minimale », selon lequel un agent ne dispose que des autorisations strictement nécessaires pour atteindre ses objectifs.

Une approche progressive est recommandée, en commençant par la GRC, puis en passant par l’IAM, la sécurité des données et la sécurité des applications, avant d’étendre la démarche à l’ensemble des SecOps et d’atteindre une maturité complète en matière de Zero Trust.

Comment F5 s’aligne sur AEGIS

F5 propose des solutions de sécurité spécialement conçues pour les environnements d’exécution de l’IA qui répondent précisément aux exigences d’AEGIS :

Red teaming proactif (sécurité des applications et gestion des menaces)

Notre solution de red teaming pour l’IA détecte les vulnérabilités en simulant des comportements adverses réalistes sur plusieurs échanges. Cette approche s’inscrit dans la priorité accordée par AEGIS aux tests continus, à la validation de la chaîne d’approvisionnement et aux exercices de purple teaming.

Défense en temps réel (GRC et Zero Trust)

F5 AI Guardrails bloque en temps réel les injections de prompts, les jailbreaks et les tentatives d’exfiltration de données, tout en imposant le principe de capacité d’action minimale et des politiques sous forme de code à l’ensemble des modèles et des applications. Notre pack Guardrails pour le règlement européen sur l’IA et la gestion des versions de Guardrails permettent une sécurité dynamique et conforme aux exigences réglementaires, essentielle pour répondre à l’appel d’AEGIS en faveur d’une gouvernance exécutable et sensible au contexte.

Observabilité et journalisation continues (gestion des menaces et opérations de sécurité)

F5 AI Guardrails offre également une visibilité unifiée, des journaux prêts pour l’audit et une détection des anomalies sur l’ensemble des interactions avec l’IA.

Grâce à notre nouvelle intégration Splunk, les équipes de sécurité peuvent intégrer directement les journaux d’AI Guardrails à leurs workflows SIEM/SOAR, répondant ainsi aux exigences d’AEGIS en matière de journalisation et de surveillance complètes, ainsi que de préparation à la réponse aux incidents. Cette intégration accélère l’ingénierie de la détection et simplifie la mise en conformité en alignant la télémétrie de l’IA sur les normes de journalisation de l’entreprise.

Résultats explicables et assurance continue (tous les domaines)

Grâce à l’analyse des résultats et à l’évaluation de la sécurité, F5 rend la sécurité de l’IA transparente et exploitable. Les équipes peuvent comprendre précisément pourquoi un garde-fou a signalé un événement, suivre les menaces potentielles et hiérarchiser les interventions, conformément au principe d’AEGIS selon lequel les garde-fous agentiques doivent être explicables aussi bien aux personnes qu’aux systèmes.

Ensemble, ces fonctionnalités s’inscrivent directement dans la vision d’AEGIS d’une sécurité de l’IA adaptée aux entreprises, continue et adaptative.

L’essentiel

Le framework AEGIS de Forrester confirme une réalité que les responsables de la sécurité ne peuvent plus ignorer : l’IA agentique est désormais une réalité, et les contrôles statiques ne suffisent plus.

Les organisations qui mettent en œuvre une sécurité axée sur l’inférence et pilotée par des agents pourront :

• Réduire le risque systémique lié aux comportements autonomes de l’IA.
• Bénéficiez d’une visibilité et d’un contrôle en temps réel sur les workflows agentiques.
• Accélérez l’adoption sécurisée et conforme de l’IA agentique à l’échelle de l’entreprise.

F5 est conçu pour répondre aux enjeux actuels. Nos solutions de sécurité de l’IA à l’exécution réunissent les tests d’intrusion, la défense en temps réel, l’observabilité et la conformité au sein d’une plateforme unique, permettant aux entreprises de déployer l’IA agentique de manière sûre et responsable, en toute confiance.

Prêt à vous aligner sur AEGIS et à sécuriser l’avenir de votre IA ? Contactez notre équipe dès aujourd’hui.

À propos de l’auteur

Jessica BrennanResponsable senior du marketing produit, sécurité de l’IA | F5

Autres articles de Jessica Brennan