Découvrez le classement CASI

Lee EnnisResponsable senior, science des données | F5

L’adoption de l’IA s’accélère plus rapidement que celle de toutes les technologies qui l’ont précédée.

Ce qui n’était au départ qu’un petit nombre de grands modèles et de fournisseurs s’est transformé en un vaste écosystème de modèles d’IA open source et commerciaux, chacun présentant ses propres avantages et risques. Face aux millions de modèles disponibles, les entreprises qui adoptent l’IA ont besoin d’une vision transparente des risques afin de savoir précisément quelles menaces chaque modèle introduit dans leur environnement.

À la suite de l’acquisition de CalypsoAI par F5, nous sommes ravis de présenter le classement Comprehensive AI Security Index (CASI) afin de fournir aux responsables de l’IA et de la GRC des informations détaillées sur les différents profils de risque des modèles d’IA les plus importants. Fondée en 2018, CalypsoAI fait figure de pionnière dans la recherche sur la sécurité de l’IA. Elle a créé l’une des plus grandes bibliothèques de vulnérabilités liées à l’IA et l’enrichit régulièrement de plus de 10 000 nouveaux prompts d’attaque chaque mois. S’appuyant sur cette base, les tests du classement évaluent de manière globale la sécurité des modèles de base et des systèmes d’IA, en se concentrant sur les modèles les plus populaires et ceux déployés par nos clients.

Comment fonctionnent les tests CASI ?

Ces outils ont été conçus pour répondre aux besoins des entreprises lors de la sélection d’un modèle prêt à être mis en production, afin d’aider les RSSI et les développeurs à placer la sécurité au cœur de leurs projets. Les classements permettent d’y voir plus clair dans l’univers de l’IA en synthétisant les questions complexes liées à la sécurité des modèles en cinq indicateurs clés :

1. Score CASI - Une métrique composite conçue pour mesurer la sécurité globale d’un modèle (méthodologie ci-dessous).
2. Score de résistance agentique (ARS) - Évalue la capacité d’un modèle à compromettre l’ensemble d’un système d’IA. Pour ce faire, nous déployons notre équipe d’agents d’attaque autonomes, entraînés à attaquer le système, à extraire des informations et à compromettre l’infrastructure. Ces agents peuvent ainsi extraire des données personnelles sensibles à partir de bases de données vectorielles, comprendre l’architecture du système et tester l’alignement du modèle à l’aide d’instructions explicites.
3. Performances - Les performances moyennes du modèle sont évaluées à partir de benchmarks reconnus tels que MMLU, GPQA, MATH et HumanEval.
4. Rapport risque-performance (RTP) - Aperçu du compromis entre la sécurité et les performances du modèle.
5. Coût de la sécurité (CoS) - Le coût d’inférence actuel par rapport au CASI du modèle, permettant d’évaluer l’impact financier de la sécurité.

Le classement du Comprehensive AI Security Index (CASI) sur F5 Labs.

Qu’est-ce que le score CASI et pourquoi est-il important ?

CASI est une métrique conçue pour répondre à cette question complexe : « Mon modèle est-il sécurisé ? ». Un score CASI élevé indique que le modèle ou l’application est plus sécurisé. Si de nombreuses études consacrées aux attaques ou aux tests d’intrusion des modèles s’appuient sur le taux de réussite des attaques (ASR), cette métrique néglige souvent les différences d’impact entre les attaques. L’ASR traditionnel considère toutes les attaques comme équivalentes, ce qui est trompeur. Par exemple, une attaque permettant de contourner un antivol de vélo ne devrait pas être mise sur le même plan qu’une attaque compromettant des codes de lancement nucléaire. De même, dans le domaine de l’IA, un petit modèle non sécurisé peut être facilement compromis par une simple demande d’informations sensibles, tandis qu’un modèle plus grand peut nécessiter des techniques sophistiquées, telles que des agents d’IA autonomes et coordonnés, pour contourner son alignement. CASI tient compte de cette nuance en distinguant les attaques simples des attaques complexes et en déterminant le point de rupture défensif (DBP) d’un modèle, c’est-à-dire la voie de moindre résistance et les ressources de calcul minimales nécessaires à la réussite d’une attaque.

Score de résistance agentique (ARS) : tester les modèles au-delà de CASI

Les analyses standard des vulnérabilités de l’IA offrent une première évaluation de la sécurité des modèles, mais ne permettent que d’effleurer la question du comportement potentiel d’un système d’IA face à des attaques réelles.

Pour combler cette lacune, nous nous appuyons sur F5 AI Red Team, une technologie sophistiquée de red teaming qui pilote des essaims d’agents d’IA autonomes simulant une équipe d’analystes des menaces persévérants et intelligents. Ces agents sondent, apprennent et s’adaptent, en exécutant des attaques en plusieurs étapes conçues pour révéler des faiblesses critiques que les tests statiques ne détectent souvent pas.

Ce processus de test rigoureux produit un ARS, une mesure quantitative de la robustesse des défenses d’un système d’IA, notée sur une échelle de 0 à 100. Un ARS plus élevé indique qu’un attaquant doit être plus sophistiqué, persévérant et averti pour parvenir à compromettre le système. Cet indicateur comparable, issu de scénarios d’attaque complexes, est calculé selon trois catégories essentielles :

• Niveau de sophistication requis – Quel est le niveau minimal d’ingéniosité nécessaire à un attaquant pour compromettre l’IA ? Le système peut-il résister à des stratégies avancées et sur mesure, ou cède-t-il face à des attaques plus simples et courantes ?
• Résistance défensive – Combien de temps le système d’IA peut-il rester sécurisé face à une attaque prolongée et adaptative ? Cède-t-il après quelques interactions ou résiste-t-il à des attaques persistantes et évolutives ?
• Contre-espionnage – L’IA entraîne-t-elle involontairement ses attaquants ? Ce vecteur évalue si une attaque infructueuse divulgue des informations critiques, par exemple en révélant la nature de ses filtres et en fournissant ainsi, par inadvertance, une feuille de route pour de futures exploitations de vulnérabilités.

Quelles sont les dernières tendances ?

Notre équipe de F5 Labs propose une analyse détaillée des dernières tendances observées lors de nos tests de septembre. Pour obtenir des informations approfondies sur les techniques, les vulnérabilités et les exploits en plein essor, revenez chaque mois afin de vous tenir au courant des dernières tendances en matière de sécurité de l’IA.

Suivre l’évolution du paysage des modèles d’IA

La surface d’attaque de l’IA continuera d’évoluer, et F5 s’engage à fournir aux organisations les informations dont elles ont besoin pour adapter leur sécurité de l’IA au fil de ces évolutions. Comme toute nouvelle technologie, l’IA comportera toujours un niveau de risque « non nul ». La première étape vers une sécurité complète de l’IA consiste à comprendre où se situent les risques, et les classements CASI continueront d’affiner cette compréhension à mesure que le paysage des modèles d’IA évolue.

Vous souhaitez obtenir davantage d’informations ? Les mêmes techniques de red teaming agentique que nous utilisons pour évaluer les modèles de base peuvent être appliquées et adaptées à votre environnement d’IA afin de vous fournir des analyses encore plus approfondies avec F5 AI Red Team.

À propos de l’auteur

Lee EnnisResponsable senior, science des données | F5

Lee Ennis dirige l’équipe de recherche et de science des données en IA chez F5, où il se consacre au développement de solutions avancées de sécurité de l’IA qui aident les entreprises à déployer et à surveiller en toute sécurité les grands modèles de langage (LLM) et les systèmes d’IA générative. Son équipe conjugue son expertise en apprentissage automatique, en tests adversariaux et en assurance des modèles afin d’identifier les vulnérabilités et de renforcer la confiance dans les environnements pilotés par l’IA.

Autres articles de Lee Ennis