Une sécurité de l’IA qui évolue au même rythme

Tendances en matière de sécurité de l’IA : les principaux enseignements de notre récent webinaire

Vous voulez mesurer le chemin parcouru par l’IA ? Pensez simplement au test de Will Smith mangeant des spaghettis. En moins de cinq ans, nous sommes passés d’une IA limitée et fondée sur le texte à une utilisation de plus en plus répandue de l’IA agentique.

Aujourd’hui, de nombreuses organisations ont intégré l’IA, à des degrés divers, dans leurs applications web. Mais comment peuvent-elles protéger efficacement leurs applications d’IA, en particulier dans un environnement qui évolue aussi rapidement ? À mesure que la maturité mondiale en matière d’IA progresse, les préoccupations liées à l’IA se répartissent plus uniformément parmi les professionnels de la sécurité. ​

Lors de notre récent webinaire, « Une sécurité de l’IA qui évolue au même rythme », Mark Toler et David Warburton ont partagé des analyses novatrices sur les défis et les solutions qui façonnent cette nouvelle réalité. Voici un résumé des principaux enseignements de cette session riche en réflexions.

1. L’évolution des perceptions en matière de sécurité de l’IA

Mark a commencé par étudier le sentiment actuel des professionnels de la sécurité à l’égard de l’IA. Grâce à un ensemble de modèles de langage d’IA entraînés à analyser les échanges des utilisateurs sur les principaux forums consacrés à la cybersécurité, son équipe a dégagé les préoccupations les plus pressantes.

Dans l’ensemble, il a constaté que le secteur délaissait les déploiements d’IA non gérés au profit de solutions administrées par les clients, signe d’une maturité croissante dans la gestion des intégrations de l’IA. Toutefois, des préoccupations telles que l’IA fantôme et l’autonomie excessive des systèmes d’IA restent au premier plan.

2. L’expansion rapide des menaces induites par l’IA

Le webinaire a mis en lumière l’évolution du paysage des menaces, en soulignant que les systèmes d’IA permettent désormais de mener des attaques plus sophistiquées. Qu’il s’agisse d’utiliser l’IA pour réaliser des attaques par injection SQL à l’aveugle ou d’automatiser à grande échelle la détection et l’exploitation des vulnérabilités, les attaquants tirent parti de ces outils avancés de manière inédite. Cette évolution a démocratisé les cyberattaques complexes, permettant même à des attaquants peu expérimentés de représenter une menace importante.

3. Solutions pratiques : Guardrails et red teaming

Pour contrer ces menaces, des solutions telles que F5 AI Guardrails et AI Red Team jouent un rôle crucial. Alors que les tests d’intrusion traditionnels peinent à suivre le rythme face à l’immense diversité des modes d’attaque visant l’IA, le red teaming appliqué à l’IA s’impose comme un outil fondamental. Cette approche basée sur l’IA accélère les tests et simule des scénarios d’attaque réels, aidant ainsi les professionnels à renforcer leurs défenses de manière proactive.

En outre, les garde-fous constituent un outil essentiel pour empêcher les systèmes d’IA de dépasser le périmètre qui leur a été défini. Mark a souligné l’importance du « principe du moindre privilège » en tant que pratique interne de sécurité de l’IA, afin de garantir que les systèmes n’accèdent qu’aux ressources nécessaires à leur fonctionnement. Associé à des garde-fous personnalisables pour l’IA, ce principe offre une protection robuste contre les injections de prompts, les attaques par jailbreak et d’autres vulnérabilités.

4. La prochaine frontière : distinguer le trafic humain du trafic généré par l’IA

Un autre sujet urgent abordé concernait la difficulté de distinguer le trafic humain du trafic généré par l’IA. Alors que les identités non humaines se généralisent, de nouveaux protocoles tels que le Model Context Protocol (MCP) et l’Agent Gateway Protocol (AGP) semblent prometteurs pour répondre à cette préoccupation croissante. Toutefois, le secteur ne fait encore l’objet d’aucun consensus, ce qui en fait un domaine dont il faudra suivre l’évolution.

5. Quantifier la sécurité des LLM

Lors du webinaire, David a mis en avant les scores mensuels CASI et ARS de F5. Ceux-ci permettent d’évaluer des dizaines de grands modèles de langage (LLM) en matière de performances, de vulnérabilité et d’efficacité de la sécurité. Ces scores aident les organisations à comparer les modèles selon leur coût, leur rapidité et leurs fonctionnalités de sécurité, afin de sélectionner ceux qui répondent le mieux à leurs cas d’usage. David a présenté en détail plusieurs LLM disponibles sur le marché, en soulignant l’importance de trouver le juste équilibre entre accessibilité financière, hautes performances et sécurité.

Conclusion :

L’IA recèle un immense potentiel, mais s’accompagne de risques tout aussi importants. Les équipes de sécurité doivent donc faire la distinction entre le battage médiatique et la réalité quant aux capacités réelles de leur IA et de leurs outils de sécurité dédiés à l’IA.

En s’appuyant sur des outils de pointe tels qu’AI Guardrails et AI Red Team, et en adoptant des principes comme l’accès selon le moindre privilège, les organisations peuvent garder une longueur d’avance dans cet environnement en constante évolution. L’avenir de la sécurité de l’IA repose sur des mesures proactives, une gouvernance solide et un ensemble de bonnes pratiques en constante évolution.

Vous souhaitez approfondir le sujet ? Regardez le webinaire complet à la demande pour écouter directement Mark et David.