Défense GenAI : contrôle, puissance, flexibilité

Kim BielerResponsable senior de la gestion des produits | F5

Une bonne sécurité commence par une bonne défense et, à cet égard, l’IA générative ne diffère pas des autres nouvelles technologies apparues ces dernières années. La prévention, la détection et la réponse sont tout aussi indispensables pour les menaces ciblant l’IA que pour toute autre application ou surface d’attaque. Les attaquants poursuivent toujours les mêmes objectifs : s’introduire dans l’environnement, accéder à des secrets et à des données propriétaires, perturber les opérations, détourner des systèmes ou nuire à l’image de marque.

Ce qui change, c’est l’adoption rapide de l’IA générative par les utilisateurs finaux, ainsi que le sentiment, au sein des organisations, que si elles ne prennent pas le train en marche, elles se laisseront distancer par leurs concurrents. Les équipes de sécurité sont prises de court par l’ampleur de l’utilisation, par les employés, de grands modèles de langage (LLM) non autorisés, ou par la rapidité avec laquelle la direction cherche à mettre en production des applications basées sur des LLM. La menace vient de l’intérieur !

Une autre différence réside dans l’interface en langage naturel des LLM les plus couramment utilisés, qui facilite leur prise en main aussi bien par les utilisateurs bienveillants que malveillants. Lorsque des techniques d’attaque de prompts efficaces reposent sur de simples sauts de ligne, des émojis ou de la poésie, les équipes de défense doivent apprendre de nouvelles astuces (et peut-être même ressortir leur dictionnaire des synonymes).

La convergence de ces forces place les équipes de sécurité dans une situation délicate. Face à des situations à haut risque et marquées par une forte incertitude, la stratégie de défense traditionnelle consiste à limiter l’exposition en restreignant le champ des activités autorisées. Pour les grands modèles de langage (LLM), cela implique de contrôler les modèles pouvant être utilisés, les personnes qui y ont accès, ainsi que les requêtes et les réponses autorisées. Mais si les contrôles sont trop stricts, la productivité, le moral des employés et l’expérience client en pâtiront. Imaginez que vous interagissiez avec un chatbot médical et que vous ne puissiez pas décrire vos symptômes parce qu’ils contreviennent à une politique relative aux termes à caractère sexuel.

Ce dont les équipes de sécurité ont besoin, c’est de contrôle, de puissance, et de flexibilité pour protéger l’organisation, ses employés et ses clients, tout en assurant le bon déroulement des opérations, la réussite des projets et une expérience de qualité. 

Solutions pour la sécurité de l’IA

Contrôle

• Sécurité des données : Les organisations qui détiennent des données sensibles ou propriétaires et développent des applications d’IA internes destinées à leurs employés ont souvent intérêt à opter pour une solution sur site qui conserve les données au sein de l’entreprise.
• Contrôles d’accès robustes : Des autorisations granulaires pour les individus et les équipes — et, de plus en plus, les agents d’IA — afin de limiter l’accès aux modèles, aux garde-fous et aux indicateurs opérationnels, tout en maîtrisant les coûts.
• Conformité réglementaire : Fonctionnalités qui aident les organisations à respecter les cadres réglementaires de plus en plus nombreux en matière d’utilisation de l’IA et de confidentialité des données, couvrant les exigences propres aux différents secteurs et zones géographiques.

Puissance

• Délai de rentabilisation rapide : Le déploiement et la configuration des solutions de sécurité doivent être simples et rapides, en particulier pour une installation sur site, afin que les organisations puissent développer, tester et publier leurs applications plus rapidement.
• Défenses optimisées par l’IA générative : Si les garde-fous basés sur les expressions régulières et les réseaux neuronaux conservent certains atouts, ils sont loin d’offrir l’adaptabilité et la compréhension du contexte que permet l’IA générative.
• Tests d’intrusion en équipe rouge : Les solutions des fournisseurs doivent proposer des outils reproduisant des attaques adverses réalistes afin que les applications puissent être correctement testées avant leur mise en production, ainsi qu’à chaque découverte de nouvelles attaques et vulnérabilités.

Flexibilité

• Indépendance vis-à-vis des modèles : Les entreprises doivent pouvoir sélectionner les meilleurs modèles publics pour leurs cas d’usage, en changer lorsque de meilleurs modèles apparaissent, et utiliser leurs propres modèles internes ainsi que leurs données RAG.
• Personnalisation : Aucune solution de sécurité ne peut anticiper chaque cas d’usage et profil de risque spécifique. Les organisations doivent donc pouvoir ajuster et affiner les contrôles et les attaques prêts à l’emploi.
• API robuste : Il va sans dire que tout produit de sécurité destiné aux entreprises doit disposer d’une API performante permettant d’intégrer les données aux flux de travail existants.
• Options de déploiement : Chaque workflow applicatif étant différent, les équipes chargées de l’infrastructure souhaitent pouvoir choisir où placer les outils de sécurité de l’IA dans la pile technologique.

Il existe actuellement sur le marché un petit nombre de solutions qui s’attaquent au problème de la sécurité des applications d’IA. Parmi celles-ci, seules les solutions de sécurité d’exécution de l’IA de F5 visent explicitement à aider l’équipe de sécurité à mettre en place une défense efficace pour les applications internes et destinées aux clients basées sur l’IA générative.

À propos de l’auteur

Kim BielerResponsable senior de la gestion des produits | F5

Autres articles de Kim Bieler