Lorsque l’OWASP a publié en 2025 son Top 10 des risques liés aux grands modèles de langage (LLM), elle a fourni au secteur un référentiel de sécurité dont il avait grand besoin. Mais les référentiels ne servent à rien sans mesures concrètes.
CalypsoAI couvre 80 % du Top 10 de l’OWASP, en donnant la priorité aux risques concrets les plus urgents. La plateforme associe une protection en temps réel lors de l’exécution à des tests adversariaux approfondis, offrant une couverture inégalée des risques les plus critiques auxquels sont aujourd’hui exposés les grands modèles de langage (LLM). De l’injection de prompts et des fuites de données à l’autonomie excessive et à la consommation sans limites, nous avons créé un « périmètre d’inférence » adapté à l’utilisation réelle de l’IA en entreprise.
Là où d’autres fournisseurs se contentent de survoler le sujet ou de sécuriser une seule partie de la pile technologique, CalypsoAI va plus loin en établissant une correspondance avec les risques de l’OWASP, tant au niveau des équipes rouges que des couches défensives. Il ne s’agit pas simplement de cocher des cases, mais de fournir aux équipes de sécurité la visibilité, le contrôle et les moyens d’application dont elles ont besoin pour protéger les systèmes d’IA générative à grande échelle.
Voici comment nous répondons aux principaux risques identifiés par l’OWASP — et allons encore plus loin.
LLM01 : Injection de prompt
Bloqué, testé et atténué.
CalypsoAI propose des tests approfondis des vulnérabilités aux injections de prompts à l’aide de plus de 20 000 prompts d’évaluation. La plateforme intègre des protections visant à empêcher toute manipulation non autorisée des prompts.
LLM02 : Divulgation d’informations sensibles
Les données sensibles restent confidentielles.
CalypsoAI identifie les vulnérabilités susceptibles d’entraîner la divulgation de données sensibles. La plateforme comprend un outil d’analyse des informations personnelles (PII) prêt à l’emploi (OOTB) et permet de créer des analyses personnalisées à l’aide de mots-clés, d’expressions régulières et de modèles d’IA générative.
LLM03 : Chaîne d’approvisionnement
Nous atténuons les risques pour que vous n’ayez pas à le faire.
La plateforme atténue les risques liés notamment aux modèles obsolètes, aux modèles préentraînés vulnérables et à la traçabilité insuffisante des modèles grâce à des tests d’intrusion menés par une équipe rouge et à une surveillance continue.
LLM04 : Empoisonnement des données et des modèles
Nous protégeons l’inférence, même contre les erreurs en amont.
Bien qu’il s’agisse principalement d’un risque lié à l’entraînement, CalypsoAI aide à identifier les modèles mal entraînés ou empoisonnés et protège les applications de génération augmentée par récupération (RAG) lors de l’inférence.
LLM05 : gestion incorrecte des sorties
Des interactions plus sûres dès la conception.
CalypsoAI détecte et bloque les tentatives d’injection XSS et de code dans les réponses des LLM, garantissant ainsi des interactions plus sûres.
LLM06 : Autonomie excessive
Une autonomie assortie de responsabilités.
La plateforme assure une protection intégrée des agents en analysant les entrées et les sorties afin d’atténuer les risques associés aux plateformes de collaboration multi-agents (MCP).
LLM07 : Fuite du prompt système
Nous assurons la sécurité de vos systèmes.
CalypsoAI intègre des mécanismes de protection contre la divulgation des prompts système, et des fonctionnalités supplémentaires sont prévues dans la feuille de route afin de renforcer cette protection.
LLM08 : Faiblesses des vecteurs et des plongements
Non applicable — par conception.
CalypsoAI intervient au niveau de la couche d’inférence et ne traite pas directement les vulnérabilités liées au stockage vectoriel.
LLM09 : Désinformation
Non applicable — traité en amont de l’inférence.
CalypsoAI ne propose actuellement pas de détection des hallucinations, car cette problématique est traitée au niveau des modèles par des fournisseurs en amont tels qu’OpenAI. Nous restons concentrés sur la sécurisation de l’inférence afin de garantir des résultats d’IA sûrs et fiables.
LLM10 : Consommation sans limites
L’efficacité au service de l’application des règles.
CalypsoAI empêche la consommation excessive et l’utilisation abusive des API, garantissant ainsi une utilisation efficace et sécurisée des ressources des LLM.
Conçu pour l’IA dans le monde réel
Il ne s’agit pas simplement de cocher des cases pour assurer la conformité. CalypsoAI a été spécialement conçu pour protéger l’IA en production, là où les risques sont réels et les conséquences importantes. Des tests d’intrusion couvrant plus de 30 000 attaques agentiques à la protection en temps réel des environnements d’exécution, notre plateforme s’adapte aux nouvelles menaces avant qu’elles n’affectent votre activité.
À propos de l’auteur
Louise Scully est Senior Manager en marketing produit pour la sécurité de l’IA et le renseignement sur les menaces chez F5. Au cours de sa carrière, elle a exercé dans les domaines du marketing produit, de la gestion de produits, de la stratégie de mise sur le marché, de la communication, du leadership d’opinion et du développement de catégories, dans les secteurs de la sécurité de l’IA et des technologies d’entreprise. Avant de rejoindre F5, Louise a dirigé le marketing chez CalypsoAI et Artomatix, contribuant à la commercialisation de technologies et de travaux de recherche en IA.
Autres articles de Louise ScullyArticles de blog associés
F5 rejoint le projet PQC du NIST pour contribuer à l’élaboration de normes résistantes aux attaques quantiques
En rejoignant le consortium du projet « Migration to PQC » du NIST, F5 contribue à élaborer des recommandations pratiques pour un monde résistant aux menaces quantiques.
La dernière version de F5 Distributed Cloud Bot Defense offre des fonctionnalités et des améliorations de nouvelle génération
Les mises à jour de la console de F5 Distributed Cloud Bot Defense améliorent la gestion des menaces automatisées et l’intégration dans des cadres de sécurité plus larges.
La nouvelle surface de risque liée à l’IA : invisible, autonome et déjà à l’intérieur
James White, vice-président de l’ingénierie chez F5 À mi-parcours de l’année 2025, le moment est bien choisi pour dresser un état des lieux de l’adoption de l’IA en entreprise et de la sécurité de l’IA. L’utilisation de l’IA générative est désormais la norme dans les entreprises De manière générale, les entreprises possèdent au moins une compréhension élémentaire de l’IA générative. Elles savent ce qu’elle est et où elle peut […]
Évaluation des LLM : renforcer la confiance grâce à la notation de sécurité
À mesure que l’adoption de l’IA s’accélère dans les entreprises, l’évaluation des LLM ne porte plus uniquement sur leurs performances, mais aussi sur la confiance qu’ils inspirent. Les équipes de sécurité doivent évaluer non seulement les performances d’un modèle, mais aussi la sûreté de son comportement. Pourtant, la plupart des cadres d’évaluation se concentrent sur des critères de précision, laissant les facteurs de sécurité et de risque dans le flou ou sans mesure.
Évaluer le niveau de préparation de votre organisation à la sécurité de l’IA
Dans un paysage de l’intelligence artificielle (IA) en constante évolution, il est non seulement important, mais impératif de savoir si votre organisation est prête à instaurer et à soutenir une culture de la sécurité de l’IA. À mesure que les technologies d’IA progressent, elles font émerger une multitude de nouveaux défis de sécurité qui, pour être gérés efficacement, exigent une approche réfléchie, globale et proactive […]
Déployer des LLM en entreprise : via une API dans un cloud privé
Pris isolément, sans mesures de protection spécialisées ni protocoles de sécurité en place, le déploiement de modèles d’IA générative (GenAI), en particulier de grands modèles de langage (LLM), à l’échelle de l’entreprise représente pour toute organisation une opportunité à haut risque, mais potentiellement très rentable. La manière précise dont votre organisation doit franchir ce grand pas dans l’univers de la GenAI nécessite une planification mûrement réfléchie. Peut-être serait-il […]