Sécuriser les modèles et agents d’IA sans compromis : comment l’acquisition de CalypsoAI par F5 assurera une protection de bout en bout des environnements d’exécution de l’IA

Kunal AnandDirecteur des produits | F5

La gestion de la cybersécurité dans un monde dominé par l’IA est plus complexe que jamais. Alors que les entreprises adoptent rapidement des outils d’IA générative et agentique, elles sont confrontées à des risques croissants, tels que les attaques par injection de prompts, les fuites de données et les difficultés de mise en conformité. La nature dynamique et fortement interconnectée des applications, des modèles et des API d’IA élargit la surface d’attaque, renforce la surveillance réglementaire et crée des angles morts opérationnels.

Les outils de sécurité traditionnels spécialisés peinent à suivre l’évolution rapide et la complexité des menaces liées à l’IA. Les entreprises doivent intégrer ces outils puissants à leurs activités tout en assurant leur conformité, en protégeant les données sensibles et en évitant les retards opérationnels, le tout à une vitesse et à une échelle sans précédent.

Chez F5, nous sommes convaincus que la sécurisation des workflows d’IA ne doit se faire ni au détriment de la rapidité, ni de l’expérience utilisateur, ni de l’évolutivité. C’est pourquoi nous sommes ravis d’annoncer l’acquisition de CalypsoAI, pionnier de la sécurité de l’IA en entreprise, qui offre une protection adaptative, une surveillance des menaces en temps réel et une gouvernance des systèmes d’IA prête pour les audits. Grâce à cette acquisition, F5 devient la première entreprise à proposer une protection de bout en bout pour chaque application, chaque API et désormais chaque modèle et agent d’IA, où qu’ils se trouvent.

Avec CalypsoAI, nous redéfinissons la sécurité de l’IA en entreprise, afin de permettre aux organisations de changer d’échelle en toute sécurité, tout en atténuant les risques, en simplifiant la conformité et en assurant des workflows d’IA hautes performances. Grâce à l’intégration des fonctionnalités de CalypsoAI à la F5 Application Delivery and Security Platform (ADSP), les entreprises accèdent à la solution de sécurité de l’IA de bout en bout la plus complète au monde, ce qui leur permet de sécuriser leurs systèmes d’IA, de la phase pilote à la mise en production, sans compromis.

Nous nous sommes entretenus avec James White, directeur technique de CalypsoAI, et Kunal Anand, directeur de l’innovation chez F5, afin d’évoquer la manière dont cette solution révolutionnaire simplifie la sécurité de l’IA en entreprise tout au long du cycle de vie des systèmes d’IA.

Q : Bienvenue chez F5, James ! Pouvez-vous nous parler de la mission de CalypsoAI et de ce qui vous a amené à nouer ce partenariat ?

James White : Merci ! Chez CalypsoAI, notre mission a toujours été de permettre aux organisations d’adopter l’IA en toute confiance et en toute sécurité. Alors que les entreprises déploient rapidement l’IA à grande échelle, elles sont confrontées à des risques croissants, tels que les attaques adverses, les comportements incontrôlés des modèles, les violations des politiques et l’évolution des exigences de conformité. Compte tenu de la rapidité avec laquelle l’IA évolue, les outils traditionnels ne permettent pas de faire face à ces risques et laissent subsister des lacunes en matière de protection et de gouvernance.

Pour y remédier, nous avons développé des solutions qui sécurisent les flux de travail d’IA à tous les stades de maturité. Cela comprend des tests d’attaque proactifs au moyen d’exercices de red teaming appliqués à l’IA, des défenses en temps réel assurées par des solutions telles que l’inspection et l’application de règles lors de l’exécution, ainsi qu’une observabilité et une gestion de la conformité centralisées afin de respecter des normes réglementaires comme le RGPD et le règlement européen sur l’IA.

Rejoindre F5 nous permet d’élargir notre vision et d’intégrer harmonieusement ces fonctionnalités au sein d’une plateforme unifiée, afin que les entreprises puissent tester, déployer et faire évoluer l’IA sans compromettre la sécurité.

Q : Kunal, en quoi cette acquisition soutient-elle la vision de F5 pour la réussite des entreprises ?

Kunal Anand : L’IA n’est pas une simple charge de travail supplémentaire ; elle constitue une nouvelle surface d’attaque dynamique qui échappe aux dispositifs de sécurité traditionnels. Depuis des décennies, F5 occupe une position stratégique à l’intersection entre les applications et les utilisateurs. Sécuriser les modèles d’IA, les agents et les flux de données s’inscrit dans le prolongement logique de notre mission principale.

Notre vision est celle d’une plateforme unique et adaptative qui sécurise le code, les API et, désormais, les composants d’IA qui alimentent les applications modernes. En intégrant la sécurité native pour l’IA de CalypsoAI à notre ADSP, nous concrétisons cette vision. Il ne s’agit pas simplement d’ajouter une nouvelle fonctionnalité, mais d’intégrer la protection de l’IA au cœur même de l’architecture applicative. Les entreprises peuvent désormais concevoir des solutions avec l’IA, et non plus seulement réagir aux risques qu’elle présente. C’est ce qui distingue ceux qui mènent cette transformation de ceux qui se contentent d’y participer.

Q : James, pouvez-vous nous en dire plus sur les défis spécifiques auxquels CalypsoAI a été conçu pour répondre ?

James White : Alors que les entreprises cherchent à mettre en œuvre une nouvelle pile technologique d’IA, les flux de travail d’IA créent une surface d’attaque dynamique qui présente des défis spécifiques :

• Vulnérabilités de l’IA : les risques comprennent les attaques par injection de prompts, l’empoisonnement des données et les manipulations adverses, qui peuvent compromettre l’intégrité des systèmes d’IA. L’un des défis les plus urgents signalés par les professionnels de la sécurité est l’essor de l’IA fantôme, où l’utilisation non autorisée de services d’IA tiers amplifie les risques tels que l’exfiltration de données et le manque de visibilité sur les opérations. Les professionnels soulignent que concilier les besoins de l’IA en matière de données avec les principes de cybersécurité impose souvent des compromis qui obligent les entreprises à choisir entre une IA efficace et une sécurité robuste.
• Lacunes en matière de conformité : des réglementations telles que le RGPD et le règlement européen sur l’IA exigent une supervision centralisée et une responsabilisation claire, mais de nombreuses organisations ne disposent pas d’outils efficaces pour simplifier la mise en conformité des systèmes d’IA.
• IA fantôme : l’utilisation non surveillée ou non autorisée de services d’IA tiers accroît les risques, notamment l’exfiltration de données et le manque de visibilité sur les opérations.
• Outils de sécurité fragmentés : de nombreuses entreprises s’appuient sur des outils déconnectés ou des processus manuels, ce qui entraîne des inefficacités et crée des goulets d’étranglement.

L’intégration des solutions spécialement conçues par CalypsoAI au sein de F5 ADSP répond directement à ces défis en assurant une protection proactive et en temps réel à chaque étape, du projet pilote à la mise en production.

Q : Kunal, quels sont les principaux avantages auxquels les clients peuvent s’attendre avec l’intégration de CalypsoAI à la F5 ADSP ?

Kunal Anand : Elle assure la sécurité de l’IA sur l’ensemble de son cycle de vie. Trois avantages sont immédiats :

• Renforcez les modèles avant leur déploiement. Considérez cela comme un red teaming continu et automatisé pour votre IA. CalypsoAI soumet vos modèles à des milliers de prompts adversariaux afin de détecter et de corriger les vulnérabilités en quelques heures plutôt qu’en plusieurs semaines. Les équipes déploient ainsi plus rapidement des systèmes résilients.
• Protégez l’IA en cours d’exécution. Il ne s’agit pas d’un simple analyseur passif de journaux. C’est un bouclier en temps réel placé sur le chemin des données, qui bloque activement les injections de prompts, l’exfiltration de données et d’autres attaques sans compromettre les performances. Nous empêchons les intrusions au lieu de nous contenter de les signaler.
• Observabilité unifiée pour l’IA. Les systèmes d’IA peuvent donner l’impression d’être une boîte noire, créant ainsi d’importants angles morts opérationnels. CalypsoAI observe chaque prompt, chaque réponse et chaque interaction avec les données dans l’ensemble de votre environnement d’IA. L’ambiguïté laisse ainsi place à une vision claire, permettant aux équipes de résoudre les problèmes, de détecter les dérives et de conserver un historique complet et prêt à être audité du comportement de l’IA. Vous ne pouvez pas sécuriser ce que vous ne pouvez pas voir.

Q : James, en quoi l’approche de CalypsoAI est-elle transformatrice pour les entreprises ?

James White : Notre approche est à la fois proactive et continue. Par exemple, pendant la phase de développement, nos outils de Red Teaming simulent des attaques adverses afin de tester les systèmes d’IA dans des conditions extrêmes et de garantir que les vulnérabilités sont corrigées avant leur déploiement. Après le déploiement, les systèmes de surveillance en direct et de protection à l’exécution détectent les comportements anormaux et les attaques telles que l’exfiltration de données, et y répondent en temps réel.

Cette approche de sécurité multicouche fournit aux entreprises les outils nécessaires pour se protéger contre les risques, de la phase pilote à la mise en production, simplifier la conformité et accélérer leurs innovations en matière d’IA, en toute sécurité. CalypsoAI est l’expert reconnu du secteur en matière de sécurité des modèles d’IA après leur déploiement. Nos solutions nous apportent des informations uniques pour mesurer et comparer le degré de vulnérabilité des modèles d’IA générative et d’IA agentique les plus utilisés au monde. Notre indice de sécurité CASI et notre classement Agentic Warfare Resistance répertorient les 10 meilleurs modèles dans chacun de ces domaines, aidant ainsi les entreprises à mieux déterminer les modèles à déployer et à comprendre les risques inhérents à leur déploiement.

Q : Kunal, pourquoi ce partenariat va-t-il changer la donne en matière de sécurité de l’IA en entreprise ?

Kunal Anand : L’approche actuelle ne fonctionne pas, et les entreprises le savent. Le marché propose un assemblage disparate d’outils spécialisés dans la sécurité de l’IA qui ne résolvent que 10 % du problème, tout en augmentant de 100 % la charge opérationnelle. Les entreprises sont contraintes de jouer elles-mêmes le rôle d’intégrateurs de systèmes pour assurer leur propre sécurité.

Cela change la donne, car il s’agit d’une intégration et non d’un module complémentaire. Nous consolidons la pile technologique. Nous intégrons la sécurité de l’IA à l’ensemble de notre F5 ADSP. Elle devient une fonctionnalité native de l’infrastructure, et non un énième dispositif à gérer. Et puisqu’il s’agit de F5, cette plateforme fonctionne partout où vous en avez besoin — sur du matériel, sous forme de logiciel ou en mode SaaS, dans n’importe quel cloud. Une plateforme unifiée l’emporte toujours sur un assemblage disparate de solutions ponctuelles. Voilà ce qui change la donne.

Dans un monde où l’IA est au premier plan, la sécurisation des opérations d’IA n’est pas facultative : elle est essentielle à la mission. Grâce à l’association de F5 et CalypsoAI, les entreprises disposent désormais des outils, de la gouvernance et du contrôle nécessaires pour innover sans compromis.

À propos de l’auteur

Kunal AnandDirecteur des produits | F5

Kunal Anand dirige l’organisation produit de F5 en tant que directeur des produits. Responsable de la vision, de la stratégie et de l’exécution des produits, il veille au développement de solutions révolutionnaires qui répondent à des enjeux critiques et offrent aux clients des expériences exceptionnelles. Dans ses précédentes fonctions de directeur de la technologie et de l’IA, Kunal a défini la stratégie et la vision de l’entreprise en matière de technologie et d’intelligence artificielle. Avant de rejoindre F5, Kunal a occupé le double poste de directeur de la technologie et de directeur de la sécurité des systèmes d’information chez Imperva. Son parcours chez Imperva a débuté en 2018 avec l’acquisition de Prevoty, une start-up spécialisée dans la sécurité des applications qu’il avait cofondée en 2013. Avant de rejoindre Prevoty, il était directeur de la technologie chez BBC Worldwide. Fort d’une longue expérience en matière d’innovation et d’une solide expertise technique, Kunal a dirigé des équipes chargées de la sécurité, des données, de la technologie et de l’ingénierie chez Gravity, MySpace et au Jet Propulsion Laboratory de la NASA. Kunal possède plus de 15 ans d’expérience dans les domaines de l’IA et de l’apprentissage automatique, notamment dans l’entraînement de modèles, l’utilisation d’algorithmes fondés sur l’IA pour améliorer les produits, ainsi que la conception et la mise en œuvre d’architectures d’IA. Kunal est titulaire d’une licence en informatique du Babson College.

Autres articles de Kunal Anand