Sécuriser les modèles et agents d’IA sans compromis : Comment CalypsoAI, acquis par F5, assure une protection complète du fonctionnement de l’IA

Gérer la cybersécurité dans un univers dominé par l’IA s’avère plus complexe que jamais. À mesure que vous adoptez rapidement des outils d’IA générative et agentive, vous faites face à des risques croissants comme les attaques par injection de commandes, les fuites de données et les défis de conformité. La nature dynamique et très interconnectée des applications, modèles et API d’IA élargit la surface d’attaque, accroît la vigilance réglementaire et crée des zones d’ombres opérationnelles.

Les outils de sécurité traditionnels à solutions ponctuelles peinent à suivre l’évolution rapide et complexe des menaces liées à l’IA. Vous devez intégrer ces outils puissants à vos opérations tout en assurant la conformité, en protégeant les données sensibles et en évitant les retards opérationnels, le tout à une vitesse et à une échelle inédites.

Chez F5, nous affirmons que sécuriser les workflows d’IA ne doit pas compromettre la rapidité, l’expérience utilisateur ni l’évolutivité. Voilà pourquoi nous sommes fiers d’annoncer l’acquisition de CalypsoAI, un pionnier en sécurité de l’IA d’entreprise, qui offre une protection adaptative, une surveillance des menaces en temps réel et une gouvernance prête pour l’audit des systèmes d’IA. Grâce à cette acquisition, F5 devient la première entreprise à fournir une protection complète à chaque application, API, ainsi qu’à chaque modèle et agent IA, où qu’ils soient.

Avec CalypsoAI, nous repoussons les limites de la sécurité de l’IA pour les entreprises, vous permettant de croître en toute confiance, de réduire les risques, de simplifier la conformité et d’optimiser vos flux de travail IA performants. En intégrant les capacités de CalypsoAI à la plateforme F5 Application Delivery and Security Platform (ADSP), vous bénéficiez de la solution de sécurité IA la plus complète et globale, qui sécurise vos systèmes IA du pilote jusqu’à la production, sans compromis.

Nous avons échangé avec James White, CTO de CalypsoAI, et Kunal Anand, directeur de l'innovation chez F5, pour expliquer comment cette solution innovante facilite la sécurité de l'IA en entreprise tout au long du cycle de vie des systèmes d'IA.

James White : Merci ! Chez CalypsoAI, nous aidons les organisations à adopter l’IA avec confiance et sécurité. Avec l’adoption rapide de l’IA par les entreprises, elles doivent également gérer des risques croissants comme les attaques adverses, les comportements imprévisibles des modèles, les violations de politiques et des exigences de conformité en constante évolution. Face à l’évolution rapide de l’IA, vous ne pouvez pas compter sur les outils traditionnels, qui laissent des failles dans la protection et la gouvernance.

Pour répondre à ce défi, nous avons développé des solutions qui sécurisent les flux de travail IA à chaque étape de maturité. Elles intègrent des tests d’attaque proactifs via AI Red Teaming, des protections en temps réel grâce à des solutions comme l’inspection et l’application en continu, ainsi qu’une observabilité et une conformité centralisées pour respecter des normes telles que le RGPD et la loi européenne sur l’IA.

Rejoindre F5 nous offre l'opportunité d'élargir notre vision et d'intégrer ces capacités au sein d'une plateforme unifiée, pour que vous puissiez tester, déployer et faire évoluer l'IA sans jamais sacrifier la sécurité.

Kunal Anand : L’IA ne représente pas simplement une nouvelle charge de travail ; elle ouvre une surface d’attaque dynamique qui contourne les protections traditionnelles. Depuis des décennies, F5 joue un rôle clé au point d’interaction entre applications et utilisateurs. Sécuriser les modèles d’IA, les agents et les flux de données prolonge naturellement notre mission essentielle.

Nous aspirons à une plateforme unique et adaptative qui sécurise le code, les API et désormais les constructions d’IA qui alimentent les applications modernes. En intégrant la sécurité native de l’IA de CalypsoAI dans notre ADSP, nous concrétisons cette ambition. Il ne s’agit pas simplement d’ajouter une nouvelle fonctionnalité. Nous intégrons la protection de l’IA directement dans le tissu même des applications. Vous pouvez désormais développer avec l’IA, et non plus seulement gérer ses risques. C’est ce qui différencie ceux qui mènent ce changement de ceux qui s’y contentent de participer.

James White : À mesure que les entreprises déploient une nouvelle pile d’IA, les flux de travail liés à l’IA génèrent une surface d’attaque dynamique qui pose des défis spécifiques :

• Vulnérabilités de l’IA : Les risques comprennent les attaques par injection de requêtes, l’empoisonnement des données et les manipulations adverses, qui peuvent compromettre l’intégrité des systèmes d’IA. Un des défis majeurs souligné par les experts en sécurité est la montée de l’IA fantôme, où l’usage non autorisé de services d’IA tiers amplifie les risques comme l’exfiltration de données et les angles morts opérationnels. Les professionnels rappellent que concilier les besoins en données de l’IA avec les principes de cybersécurité impose souvent des compromis, forçant les entreprises à choisir entre une IA performante et une sécurité renforcée.
• Lacunes en matière de conformité : Des réglementations comme le RGPD et la loi européenne sur l’IA exigent une supervision centralisée et une responsabilité claire. Pourtant, vous constatez que beaucoup d’organisations ne disposent pas d’outils efficaces pour simplifier la conformité des systèmes d’IA.
• IA occulte : Lorsque vous utilisez sans surveillance ou sans autorisation des services d’IA tiers, vous exposez votre organisation à des risques comme l’exfiltration de données et des zones d’ombre opérationnelles.
• Outils de sécurité dispersés : Beaucoup d'entreprises utilisent des outils non connectés ou des processus manuels, ce qui entraîne des inefficacités et crée des goulots d’étranglement.

L’intégration des solutions dédiées de CalypsoAI dans le F5 ADSP répond directement à ces défis en vous offrant une protection proactive et instantanée à chaque étape, du pilote à la production.

Kunal Anand : Nous fournissons une sécurité IA couvrant l'ensemble du cycle de vie. Vous bénéficiez immédiatement de trois avantages :

• Renforcez vos modèles avant déploiement. Imaginez un red-teaming automatisé et continu pour votre IA. CalypsoAI teste vos modèles avec des milliers de requêtes adverses, identifie et corrige les vulnérabilités en quelques heures, au lieu de semaines. Vos équipes livrent des systèmes plus solides, plus vite.
• Protégez l'IA en temps réel. Ce n’est pas un simple scanner de journaux passif. C’est un bouclier en temps réel placé dans le chemin des données, qui bloque activement les injections de commandes, l’exfiltration de données et d’autres attaques, sans affecter vos performances. Nous empêchons la brèche, nous ne nous contentons pas de la signaler.
• Observabilité unifiée pour l’IA. Les systèmes d’IA ressemblent souvent à une boîte noire, générant d’importants angles morts opérationnels. CalypsoAI surveille chaque requête, réponse et interaction de données dans toute votre infrastructure IA. Nous transformons ainsi toute incertitude en informations précises, vous permettant de résoudre les problèmes, détecter les dérives et conserver un historique complet prêt pour l’audit du comportement des IA. Vous ne pouvez pas sécuriser ce que vous ne voyez pas.

James White : Nous adoptons une approche proactive et continue. Par exemple, pendant le développement, nos outils Red Teaming simulent des attaques adverses pour soumettre les systèmes d’IA à rude épreuve, afin de corriger les vulnérabilités avant le déploiement. Après le déploiement, nos systèmes de surveillance en temps réel et de protection à l’exécution détectent et réagissent instantanément aux comportements anormaux et aux attaques telles que l’exfiltration de données.

Cette approche de sécurité en couches vous équipe pour vous protéger des risques, du pilote à la production, simplifier la conformité et accélérer votre innovation en IA, en toute sécurité. CalypsoAI est l’expert reconnu du secteur en matière de sécurité des modèles d’IA après déploiement. Nos solutions nous donnent des éclairages uniques pour mesurer et comparer la vulnérabilité des modèles d’IA générative et agentique les plus utilisés dans le monde. Notre indice de sécurité CASI et nos classements Agentic Warfare Resistance positionnent les 10 meilleurs modèles dans chacun de ces domaines, vous aidant à choisir les modèles à déployer et à saisir les risques associés.