F5 finalise l’acquisition de CalypsoAI et lance F5 AI Guardrails et F5 AI Red Team

Shawn WormkeVice-président et directeur général | F5 NGINX

Toute nouvelle technologie apporte son lot d’opportunités et de risques. L’IA ne fait pas exception : elle permet des avancées révolutionnaires, notamment l’automatisation de processus complexes, l’amélioration de la prise de décision grâce à l’analyse prédictive et la création de contenus synthétiques réalistes. Elle introduit également des vulnérabilités, telles que les violations de données, l’exploitation des modèles et l’amplification des biais. Alors que les capacités de l’IA évoluent rapidement, les mesures de sécurité peinent souvent à suivre, exposant les organisations à des dangers manifestes comme à des menaces imprévues. Lorsque la technologie progresse plus vite que les dispositifs destinés à la sécuriser, la responsabilité de la sécurité passe souvent des créateurs aux professionnels qui la mettent en œuvre.

Depuis des décennies, F5 aide les organisations à s’adapter à un paysage numérique en constante évolution, en accélérant l’innovation, en garantissant une connectivité fiable et en protégeant les systèmes sensibles contre les risques potentiels. Alors que l’IA est désormais au premier plan du progrès technologique, elle exige non seulement une adoption réfléchie, mais aussi des mesures de sécurité adaptatives afin de protéger les utilisateurs, de sécuriser les données, de lutter contre les menaces adverses et de garantir une gouvernance éthique de l’IA. Les organisations qui s’empressent de tirer parti des avantages de l’IA ont besoin de « garde-fous » adaptatifs pour protéger chaque utilisateur et les données qui circulent à grande vitesse et à grande échelle, tout en se défendant sur tous les fronts contre les acteurs malveillants.

Présentation de F5 AI Guardrails

Aujourd’hui, F5 a le plaisir d’annoncer la finalisation de l’acquisition de CalypsoAI, pionnier à la pointe de la sécurité de l’IA, ainsi que le lancement du tout dernier dispositif destiné à sécuriser nos voies numériques : F5 AI Guardrails, une solution complète de sécurité à l’exécution pour les modèles et agents d’IA. Grâce à cette nouveauté, F5 peut désormais proposer une solution indépendante des modèles qui sécurise les données d’IA, lutte contre les menaces adverses et garantit une gouvernance responsable de l’IA dans toutes les interactions. Le paysage de l’IA évolue constamment, avec des millions de modèles propriétaires et open source, ainsi que leurs variantes affinées. Le présent et l’avenir de la sécurité de l’IA ne se limitent pas à quelques grands LLM monolithiques, mais reposent plutôt sur une succession d’innovations publiques et propriétaires en matière d’IA, chacune nécessitant une protection cohérente de la confidentialité et de la sécurité, indépendamment de tout fournisseur de modèles. Chaque modèle présente un éventail de risques différent et nécessite donc des Guardrails adaptés afin d’empêcher les interactions avec l’IA de dépasser les limites acceptables.

F5 AI Red Team identifie les menaces, qu’elles soient évidentes ou difficiles à déceler

On ne peut pas sécuriser ce que l’on ne voit pas. Sur l’ensemble des voies de circulation, physiques comme numériques, d’innombrables endroits pourraient bénéficier de glissières de sécurité. Si les zones connues pour être accidentogènes ou les intersections très fréquentées sont naturellement prioritaires, une approche plus stratégique et préventive s’impose. F5 AI Red Team joue le rôle d’un observateur aérien : elle analyse le terrain afin de simuler le chaos réel de la circulation aux heures de pointe, le comportement des conducteurs les plus agressifs et les vulnérabilités qu’ils pourraient mettre au jour. En déterminant non seulement où des accidents sont susceptibles de se produire dans les systèmes d’IA, mais aussi où ils auraient les conséquences les plus graves, AI Red Team indique précisément où installer des glissières de sécurité et avec quel degré d’urgence.

Nous lançons AI Red Team pour fournir cette capacité à grande échelle, en déployant des essaims d’agents autonomes afin de simuler des milliers de schémas d’attaque et de traquer les vulnérabilités des systèmes d’IA. Ces essaims d’agents accélèrent la détection aussi bien des vulnérabilités courantes de l’IA que des exploits les plus obscurs et les plus redoutables, que les équipes de sécurité n’ont pas le temps d’envisager. De plus, les techniques d’attaque simulées s’appuient sur notre base de données de référence consacrée aux vulnérabilités de l’IA, une vaste bibliothèque régulièrement enrichie de plus de 10 000 nouveaux schémas d’attaque chaque mois afin de tenir compte des tendances émergentes. Ces informations sont précieuses en elles-mêmes, mais en quelques clics, les équipes peuvent transformer chacune d’elles en AI Guardrails actives.

Plongez au cœur de la boîte noire de l’IA

Le « quoi » et le « où » des menaces liées à l’IA sont des éléments fondamentaux pour maintenir une posture de sécurité, mais comprendre le « comment » et le « pourquoi » est essentiel pour améliorer cette posture. La nature opaque des systèmes d’IA, véritables « boîtes noires », a toujours compliqué cette tâche, nécessitant une approche entièrement nouvelle. Supposons que votre IA rencontre un Guardrail et qu’une invite soit bloquée. Avec des méthodes traditionnelles telles que le filtrage statique par mots-clés ou expressions régulières, vous connaîtriez l’utilisateur, la date et l’heure, ainsi que l’élément déclencheur, mais vous n’auriez pas une vision complète de ce qui s’est passé. Surtout, F5 AI Guardrails et AI Red Team privilégient l’explicabilité, aidant ainsi les clients à comprendre pourquoi un système d’IA a pris une décision ou effectué une action donnée.

Grâce à des fonctionnalités avancées telles qu’Agentic Fingerprints et Outcome Analysis, les équipes disposent désormais d’une visibilité granulaire sur chaque interaction avec l’IA, notamment d’explications détaillées sur les raisons pour lesquelles une requête a été acceptée ou bloquée, ainsi que sur le contexte ayant conduit à cette décision. Ce niveau de granularité est non seulement essentiel pour éclairer les équipes de sécurité, mais il simplifie aussi considérablement la mise en conformité grâce à des pistes d’audit facilement accessibles et à des modèles prêts à l’emploi adaptés à chaque cadre réglementaire.

Sécurisez votre IA d’aujourd’hui et anticipez celle de demain

L’IA ne va pas disparaître et son essor ne ralentit pas. Les serveurs MCP, le protocole A2A, la génération augmentée par récupération (RAG) et toutes les innovations à venir alimenteront de manière exponentielle les moteurs mondiaux de l’efficacité de l’IA. Toutefois, cette efficacité ne peut progresser au détriment de la sécurité de l’IA. F5 s’est forgé une réputation d’excellence au niveau de la couche applicative, en aidant les organisations à avancer plus rapidement et plus intelligemment sur les autoroutes du numérique, et nous ne voyons aucune raison de changer d’approche à l’ère de l’IA. F5 AI Guardrails et AI Red Team nous permettent de tenir cette promesse de rapidité intelligente et d’assurer une sécurité complète des modèles d’IA, des agents et des données connectées.

Nous ne pouvons pas prédire avec exactitude à quoi ressemblera le paysage de l’IA dans un an. Chez F5, nous pensons que la meilleure façon de se préparer à l’avenir consiste à fournir aux organisations des outils capables de s’adapter à leurs besoins, sans leur imposer une voie à suivre. Avec AI Guardrails et AI Red Team, ainsi que la puissance combinée de la F5 Application Delivery and Security Platform (ADSP), nous vous offrons la flexibilité nécessaire pour vous adapter à n’importe quel environnement, cloud et modèle d’IA, car nous savons que vous êtes les mieux placés pour déterminer vos besoins futurs.

À propos de l’auteur

Shawn WormkeVice-président et directeur général | F5 NGINX

Autres articles de Shawn Wormke