La sécurité de l’IA vue par les analystes : les éclairages de Gartner®, Forrester et KuppingerCole

Jessica BrennanResponsable senior du marketing produit, sécurité de l’IA | F5

Les entreprises constatent que la sécurisation de l’IA nécessite des solutions spécialement conçues à cet effet. Les dispositifs de contrôle traditionnels montrent leurs limites lorsque les modèles adoptent un comportement dynamique, que les agents agissent de manière autonome et que les risques évoluent rapidement après le déploiement. Maintenant que l’IA générative est activement utilisée en production, les responsables de la sécurité, des risques et de la gouvernance doivent gérer des menaces qui apparaissent en temps réel et échappent souvent aux approches traditionnelles de sécurité des applications.

Les études des analystes témoignent de cette évolution et offrent différents points de vue sur la manière dont les organisations devraient adapter leurs stratégies de sécurité aux systèmes intégrant l’IA. Plutôt que de présenter ces perspectives comme faisant l’objet d’un consensus, cet article examine la manière dont les différents cadres d’analyse de Gartner, Forrester et KuppingerCole abordent les risques liés à l’IA, ainsi que la façon dont les organisations peuvent traduire ces perspectives en garde-fous à l’exécution et en exercices de red teaming propres à l’IA.

Risques liés à l’IA lors de l’exécution

Les études des analystes font ressortir une réalité de plus en plus évidente : les risques liés à l’IA sont dynamiques. Contrairement aux applications traditionnelles, les systèmes d’IA peuvent modifier leur comportement en fonction des invites, du contexte et des intégrations en aval, ce qui crée de nouveaux vecteurs d’attaque bien après leur déploiement.

Bien que les différents analystes abordent le défi sous des angles différents, leurs recherches mettent en évidence des enjeux récurrents pour les entreprises qui déploient l’IA à grande échelle :

• De nombreuses menaces liées à l’IA se concrétisent lors de son utilisation en conditions réelles
• Les mesures de protection mises en place par les fournisseurs de modèles ne suffisent pas à assurer la gouvernance des entreprises
• La supervision exige une visibilité, une traçabilité et une application des règles en continu
• Les tests doivent évoluer pour prendre en compte les attaques agentiques, adaptatives et en plusieurs étapes

Ces conditions ont conduit les travaux de recherche de pointe à s’intéresser aux contrôles de sécurité qui s’exécutent lors de l’utilisation, lorsque les systèmes d’IA interagissent avec les utilisateurs, les données et les processus métier. C’est également la raison pour laquelle nous lançons officiellement F5 AI Guardrails et F5 AI Red Team en tant que deux nouvelles solutions intégrées à la F5 Application Delivery and Security Platform (ADSP), conçues pour sécuriser les systèmes d’IA d’entreprise lors de leur utilisation.

Guide du marché Gartner® pour la gestion de la confiance, des risques et de la sécurité liés à l’IA

Dans son « Guide du marché pour la gestion de la confiance, des risques et de la sécurité liés à l’IA », Gartner explique que « les responsables de l’IA doivent collaborer avec les parties prenantes de l’ensemble de l’organisation afin de gérer la confiance, les risques et la sécurité liés à l’IA. Ils doivent mettre en place une structure organisationnelle chargée de créer et de mettre à jour les politiques de gouvernance de l’IA générative, ainsi que d’évaluer et de déployer les technologies AI TRiSM qui permettent d’appliquer et de faire respecter ces politiques. L’organisation pourra ainsi garantir de manière systématique une utilisation de l’IA plus sûre, plus fiable, digne de confiance et sécurisée. »

Notre point de vue à ce sujet, et la raison pour laquelle nous considérons le TRiSM comme une référence majeure pour les programmes de sécurité de l’IA, tiennent au fait qu’il traite les systèmes d’IA comme des actifs opérationnels permanents nécessitant une supervision continue, et non une validation ponctuelle. En outre, l’inspection et l’application des règles lors de l’exécution constituent une composante essentielle du cadre TRiSM, que Gartner définit comme suit :

« Appliqué aux modèles, aux applications et aux interactions des agents afin de garantir l’alignement des transactions sur les politiques de gouvernance de l’organisation. Les connexions, processus, communications, entrées et sorties concernés sont contrôlés afin de détecter toute violation des politiques et tout écart par rapport au comportement attendu. Les anomalies sont signalées, puis bloquées, corrigées automatiquement ou transmises à des personnes ou à des systèmes de réponse aux incidents à des fins d’analyse, de triage, de traitement et, le cas échéant, de correction. »

Nous estimons que cette description correspond étroitement à l’approche de F5 en matière de sécurité de l’IA lors de l’exécution. Grâce à F5 AI Guardrails, F5 se concentre sur l’inspection et l’application des politiques pendant les interactions en direct avec l’IA, au niveau des modèles, des applications et des workflows d’agents, afin d’aider les organisations à appliquer des contrôles de gouvernance là où les systèmes d’IA fonctionnent réellement.*

Forrester : définir le red teaming et les garde-fous de l’IA dans un modèle d’assurance continue

Diverses études de Forrester examinent la sécurité de l’IA sous un angle opérationnel, en s’intéressant aux systèmes qui fonctionnent de manière autonome et évoluent au fil du temps. Plutôt que de mettre l’accent sur des évaluations ponctuelles, nous estimons que les travaux de Forrester analysent la manière dont les organisations maintiennent leur supervision et leur niveau d’assurance lorsque les systèmes d’IA opèrent dans des environnements dynamiques.

Dans son étude « Utiliser le red teaming appliqué à l’IA pour évaluer la posture de sécurité des applications intégrant l’IA »,^[i] Forrester définit les évaluations de red teaming appliqué à l’IA comme suit :

« Une évaluation menée par une équipe rouge spécialisée en IA associe les concepts traditionnels des équipes rouges en cybersécurité à l’analyse des risques propres à l’intelligence artificielle en matière de sûreté, de toxicité et de préjudice. Les missions de ces équipes devraient combiner l’intervention de participants humains chargés de réaliser des tests de cybersécurité sur la pile technologique prenant en charge l’IA — notamment l’infrastructure, les applications, les API, les adaptations apportées à l’IA telles que la génération augmentée par récupération (RAG), ainsi que le grand modèle de langage sous-jacent — et des tests automatisés utilisant l’IA pour évaluer la sécurité et la sûreté des prompts. »

Cette définition reflète le type de tests adverses propres à l’IA réalisés par F5 AI Red Team. En présentant ainsi les missions de red teaming, nous constatons que ces travaux soulignent la nécessité, pour garantir l’efficacité des tests, de tenir compte de la manière dont l’IA est intégrée et exploitée au sein de systèmes réels, plutôt que de l’évaluer de manière isolée.

Parallèlement, Présentation du cadre AEGIS de Forrester : Guardrails d’entreprise pour la sécurité de l’information appliqués à l’IA agentique,^[ii] indique que « la mise en place de Guardrails d’entreprise est essentielle à un déploiement sécurisé ». F5 soutient cette approche en permettant aux organisations d’utiliser les Guardrails d’IA comme des mécanismes appliqués pendant le fonctionnement du système afin d’assurer la supervision et l’application des politiques, en particulier lorsque les systèmes d’IA interagissent directement avec les utilisateurs, les données sensibles et les applications connectées.

Dans l’ensemble de ces domaines de recherche, notre conclusion est claire : Forrester présente les garde-fous et le red teaming comme des pratiques distinctes mais complémentaires, susceptibles d’être utilisées dans le cadre d’une approche d’assurance continue de la sécurité de l’IA, privilégiant une supervision permanente plutôt qu’une validation ponctuelle.**

KuppingerCole : reconnaître la défense de l’IA générative comme une catégorie de marché à part entière

Dans son rapport « Generative AI Defense Leadership Compass », KuppingerCole étudie la défense de l’IA générative comme une discipline émergente dont les exigences vont au-delà des contrôles traditionnels de sécurité des applications et des données. Pour ce faire, le cabinet évalue la manière dont les organisations gèrent les risques introduits par les grands modèles de langage et les applications basées sur l’IA dans les environnements de production.

L’une des principales recommandations du rapport est de mettre en place des contrôles de sécurité là où les systèmes d’IA sont effectivement utilisés, afin d’assurer une protection en temps réel, l’application des politiques et l’auditabilité dans différents modèles de déploiement. Plutôt que de se concentrer uniquement sur le développement des modèles ou sur les mesures de protection mises en œuvre par les fournisseurs, cette analyse témoigne de l’attention croissante portée à la sécurisation des interactions avec l’IA une fois les systèmes déployés et connectés aux utilisateurs, aux applications et aux données sensibles.

Ce Leadership Compass servant de guide du marché pour aider les organisations à trouver les meilleures solutions, après avoir évalué nos produits AI Guardrails et AI Red Team, KuppingerCole a positionné F5 parmi les leaders dans les catégories Produit, Innovation et Marché. Comme indiqué dans le rapport, ce positionnement met en avant les « produits de pointe de F5, conçus non seulement pour répondre aux demandes des clients, mais aussi pour impulser les évolutions techniques du marché en anticipant les besoins des mois et des années à venir ».***

Mettre en pratique les perspectives des analystes

Bien que Gartner, Forrester et KuppingerCole abordent la sécurité de l’IA sous des angles d’analyse différents, leurs recherches mettent en lumière les défis concrets que les entreprises s’efforcent activement de relever, notamment :

• Appliquer les politiques de manière cohérente lors des interactions avec l’IA
• Comprendre l’exposition réelle à l’IA avant que des incidents ne surviennent
• Maintenir une supervision à mesure que les systèmes d’IA évoluent et se déploient à grande échelle

C’est là que F5 AI Guardrails et F5 AI Red Team s’inscrivent dans un contexte plus large. AI Guardrails assure l’application de règles lors de l’exécution afin de mieux gérer le comportement de l’IA en production, tandis que AI Red Team permet de réaliser des tests contradictoires conçus pour reproduire les usages et les schémas d’attaque observés dans le monde réel.

(Remarque : cette correspondance ne doit pas être interprétée comme une approbation de la part des analystes. Elle illustre plutôt la manière dont les fonctionnalités de sécurité de l’IA à l’exécution de F5 correspondent aux types de contrôles et aux modèles opérationnels décrits dans les études des analystes.)

Sécuriser et optimiser les investissements dans l’IA

À mesure que les systèmes d’IA gagnent en autonomie et deviennent essentiels aux activités de l’entreprise, les risques liés à une sécurité insuffisante ne se limitent plus aux violations de données : ils englobent également les risques de non-conformité, les atteintes à la réputation et le ralentissement de l’innovation. Les cadres d’analyse — de Gartner TRiSM aux travaux de Forrester sur AEGIS, en passant par les recherches de KuppingerCole sur la défense des systèmes d’IA générative — montrent pourquoi les garde-fous à l’exécution et les tests d’intrusion appliqués à l’IA occupent une place de plus en plus centrale dans les stratégies de sécurité de l’IA en entreprise.

En termes simples, les solutions de sécurité de l’IA à l’exécution de F5 aident les organisations à mettre en pratique ces enseignements, en favorisant une adoption sécurisée de l’IA tout en préservant la flexibilité nécessaire à l’innovation.

Pour en savoir plus, consultez nos pages web F5 AI Guardrails et F5 AI Red Team .

Avertissements des analystes

*Source : rapport Gartner, Market Guide for AI Trust, Risk and Security Management, par Avivah Litan, Max Goss, etc., février 2025. GARTNER est une marque déposée et une marque de service de Gartner, Inc. et/ou de ses sociétés affiliées aux États-Unis et dans le monde entier, et est utilisée ici avec autorisation. Tous droits réservés.

**Forrester Research ne recommande aucune entreprise, aucun produit ni aucun service. Cette analyse repose sur une interprétation des études de Forrester accessibles au public et est fournie uniquement à titre informatif.

***KuppingerCole ne recommande aucun fournisseur, produit ou service. Cette présentation s’appuie sur des études de KuppingerCole utilisées sous licence et est fournie uniquement à titre informatif.

[i] Utiliser le red teaming de l’IA pour évaluer la posture de sécurité des applications intégrant l’IA, Forrester Research Inc., 29 septembre 2025
[ii] Présentation du framework AEGIS de Forrester : Guardrails d’entreprise pour l’IA agentique appliqués à la sécurité de l’information, Forrester Research, Inc., 3 août 2025

À propos de l’auteur

Jessica BrennanResponsable senior du marketing produit, sécurité de l’IA | F5

Autres articles de Jessica Brennan