Gouvernez votre IA d’aujourd’hui et anticipez celle de demain

Chuck HerrinRSSI de terrain | F5

On entend souvent dire que l’IA est le stagiaire le plus enthousiaste que vous ayez jamais eu. Elle est infatigable et créative, mais il lui arrive d’inventer des choses ou de se persuader qu’elle sait mieux que vous. De nombreuses entreprises confient aux modèles d’IA et aux applications qui les utilisent des données sensibles et des processus critiques avant même que les garde-fous appropriés aient été mis en place. C’est la recette idéale pour nuire à l’image de marque, s’exposer à des risques de non-conformité et imposer de nombreuses nuits blanches à des équipes de sécurité frustrées, qui ignorent souvent qu’un nouveau modèle a été mis en production ou rendu accessible avant de le découvrir après coup.

Cette approche doit changer, et nous allons la changer. Ces derniers mois, chez F5, nous avons franchi deux étapes clés dans notre parcours en matière de sécurité de l’IA. Tout d’abord, à la suite de l’acquisition de CalypsoAI, nous avons lancé deux nouveaux produits, F5 AI Guardrails et F5 AI Red Team, afin d’offrir une sécurité avancée de l’IA aux grandes entreprises. Ensuite, nous avons expliqué comment sécuriser les modèles et agents d’IA sans compromis. Aujourd’hui, je souhaite faire le lien entre ces avancées afin de montrer comment elles aident les clients de F5 à adopter l’IA avec confiance, rapidement et, surtout, sans compromis. Il est temps d’innover en toute confiance et, pour les équipes de sécurité, d’apprendre à repérer très rapidement les vulnérabilités.

Notre récente analyse de la perception de l’IA par les équipes de sécurité a révélé de nombreuses préoccupations. Trois autres constats se dégagent :

1. 71 % des professionnels de la sécurité craignent avant tout les risques d’exposition liés à une mauvaise utilisation en interne ou au comportement des modèles.
2. Les préoccupations concernant l’utilisation abusive des modèles d’IA dépassent de 134 % celles liées aux actes malveillants.
3. Parmi les préoccupations des équipes de sécurité en matière de protection des données, 52 % concernent l’utilisation d’IA fantômes et la divulgation de données sensibles aux grands modèles de langage (LLM).

En d’autres termes, les attaquants externes représentent bien sûr une menace, mais les risques quotidiens qui préoccupent le plus les équipes SecOps proviennent d’utilisateurs (généralement) bien intentionnés, de modèles trop sûrs d’eux et de contrôles fragmentés ou inexistants. Ces données issues du terrain expliquent pourquoi nous accordons autant d’importance à la sécurité à l’exécution et à l’application des politiques : c’est au moment de l’exécution que les risques se concrétisent réellement, dans les prompts, les réponses, les outils et les actions des agents.

Ce que l’accent mis par F5 sur la sécurité de l’IA signifie pour les clients

Compte tenu du rythme effréné de l’adoption de l’IA, nous accélérons la concrétisation de la vision de F5, qui consiste à fournir une sécurité complète et indépendante des modèles pour les applications, les modèles, les agents et les données d’IA, de la phase pilote à la mise en production. Pour ce faire, nous intégrons deux produits importants et complémentaires à la F5 Application Delivery and Security Platform (ADSP):

• F5 AI Guardrails : Un plan de sécurité et de gouvernance à l’exécution qui inspecte, régit et protège les prompts, les réponses et les actions des agents et des outils sur n’importe quel modèle ou fournisseur. Il permet aux équipes de détecter et de prévenir les fuites de données, de modérer les contenus préjudiciables ou biaisés et d’appliquer le principe du moindre privilège aux modèles et aux agents, sans nuire à l’expérience utilisateur.
• F5 AI Red Team: Des capacités de red teaming propres à l’IA, avec des tests adversariaux à grande échelle permettant de mettre continuellement vos systèmes d’IA à l’épreuve au moyen de milliers de schémas d’attaque et de plus de 10 000 nouveaux prompts d’attaque ajoutés chaque mois. Cet ensemble de tests en constante amélioration couvre notamment l’injection de prompts, les jailbreaks, la distillation de modèles et l’exfiltration de données, et fournit des journaux et des empreintes détaillés, prêts pour l’audit.

C’est dans la boucle de rétroaction que la magie opère

Les enseignements et les résultats des tests se traduisent directement par des protections dynamiques, autrement dit des garde-fous actifs. Vos défenses évoluent ainsi au rythme des nouvelles menaces et des changements apportés au système, sans attendre une revue trimestrielle ni le prochain cycle de correctifs d’un fournisseur. Plus les tests s’améliorent, plus votre protection se renforce, mois après mois.

Cette approche est absolument essentielle pour suivre le rythme des évolutions constantes des acteurs malveillants, qui ont récemment entièrement automatisé, grâce à l’IA, le développement de code d’exploitation à partir de vulnérabilités CVE. Nous devons utiliser l’IA pour nous défendre contre les attaques alimentées par l’IA ; sinon, l’asymétrie est tout simplement trop importante. Cette amélioration continue deviendra la marque distinctive de la défense alimentée par l’IA, et F5 adopte cette méthodologie en l’intégrant directement à F5 ADSP.

Une IA efficace sans compromettre la sécurité

Dans notre récent article de blog, « Sécuriser les modèles et agents d’IA sans compromis », nous affirmions que vous ne devriez pas avoir à choisir entre expérience utilisateur, rapidité et sécurité. C’est facile à dire, mais pour concrétiser cette promesse, nous proposons les éléments suivants :

1. Une cohérence quel que soit le modèle ou le cloud. Les modèles changeront, les fournisseurs changeront, mais pas vos garde-fous. F5 fournit des politiques uniformes dans un environnement hybride et multimodèle, y compris pour les déploiements sur site et les modèles open source.
2. Une protection à faible latence dès la conception. La prévention du basculement garantit des expériences rapides et résilientes, même lorsque les politiques de sécurité sont appliquées en ligne.
3. Une conformité intégrée dès la conception, et non ajoutée après coup. Des modèles d’audit prédéfinis et personnalisés pour répondre aux exigences réglementaires telles que le règlement général sur la protection des données (RGPD), la loi HIPAA et le règlement européen sur l’IA, associés à une observabilité de bout en bout et à des intégrations SIEM/SOAR tierces, facilitent la collecte de preuves et la rendent reproductible et fiable.

À quoi s’attendre avec le nouveau chapitre de F5 dans la sécurité de l’IA

Vous connaissez déjà F5 pour sa capacité à garantir la rapidité, la disponibilité et la sécurité des applications. La sécurité de l’IA s’intègre naturellement à cet écosystème existant. Ce nouveau chapitre de la sécurité de l’IA permet de réduire et de mettre en lumière les risques, quelle que soit leur origine. Luttez contre les nouvelles menaces adverses, telles que l’injection de prompts, le contournement des garde-fous, la distillation de modèles et les tentatives d’exfiltration de données, grâce à une veille agentique sur les menaces qui apprend chaque mois à partir de plus de 10 000 nouveaux prompts d’attaque. Détectez et empêchez en temps réel la divulgation de données sensibles à des LLM publics et privés, et appliquez des politiques de DLP et d’accès conformes à vos classifications de données.

Enfin, encadrez l’utilisation responsable de l’IA en modérant les résultats préjudiciables ou biaisés, en appliquant des privilèges fondés sur les rôles et tenant compte du contexte pour les modèles et les agents, et en mettant en œuvre des cadres d’évaluation des risques pour les modèles publics comme internes. Pour l’ensemble de ces mesures de protection, simplifiez l’observabilité grâce à une visibilité et une traçabilité centralisées de toutes les interactions avec l’IA, à des journaux détaillés, à des empreintes d’agents et à des intégrations avec vos solutions SIEM/SOAR existantes, afin de réduire le bruit et d’améliorer la pertinence des signaux.

S’attaquer de front aux écueils actuels

S’appuyer uniquement sur les protections des modèles de pointe est risqué. Les acteurs malveillants les ciblent en priorité, et les risques auxquels vous êtes exposé dépassent largement le cadre d’un seul fournisseur. Des outils ponctuels disparates multiplient les alertes parasites et créent des angles morts. Quant à la magie opaque « alimentée par l’IA », elle ne constitue pas une gouvernance. Vous avez besoin de contrôles transparents intégrant une intervention humaine, ainsi que de preuves prêtes pour l’audit et de politiques que vous pouvez expliquer aux autorités de réglementation et à votre conseil d’administration.

Si vous débutez avec l’IA, commencez par les domaines où les risques sont les plus élevés — détection de l’IA fantôme, protection des données sensibles ou tests contradictoires — puis élargissez progressivement votre démarche. Si vos systèmes sont déjà en production, cartographiez les chaînes d’outils de vos agents et les flux de données, puis appliquez le principe du moindre privilège et des garde-fous à l’exécution aux points de contrôle.

Pour conclure

F5 AI Guardrails et F5 AI Red Team accélèrent la mission de F5, qui consiste à proposer la plateforme la plus complète pour sécuriser l’IA. Ces solutions s’inscrivent dans notre engagement à sécuriser les modèles et les agents sans compromis, et visent à relever les défis auxquels les équipes SecOps sont réellement confrontées sur le terrain. La surface d’attaque de l’IA évolue chaque jour. Grâce à ces nouvelles fonctionnalités, vous bénéficiez d’une protection adaptative à l’exécution et de renseignements agentiques sur les menaces qui évoluent au même rythme, afin de protéger vos modèles, vos agents et vos données, de la phase pilote à la production.

Apportez vos modèles — nous vous montrerons des protections indépendantes des modèles sur l’ensemble de votre pile technologique. Pour en savoir plus, regardez notre récente vidéo.

À propos de l’auteur

Chuck HerrinRSSI de terrain | F5

Chuck Herrin est directeur de la sécurité sur le terrain chez F5.

Autres articles de Chuck Herrin