Comment rédiger des politiques de sécurité de l’IA propres à votre organisation

F5 Newsroom Staff

Introduction

Depuis le lancement de ChatGPT en novembre 2022, nous assistons à l’adoption rapide des modèles d’intelligence artificielle générative (IA générative) au sein des entreprises, sans qu’aucun garde-fou ni dispositif de contrôle ne soit en place pour freiner leur progression ou les arrêter.

Les organismes gouvernementaux peinent à élaborer des réglementations qui protégeront à la fois les utilisateurs et l’innovation, tout en empêchant les comportements criminels ou simplement prédateurs d’acteurs malveillants individuels, d’organisations criminelles, d’entités non étatiques, de nations et d’entreprises, y compris celles qui créent ces modèles et en tirent profit. 

La lourde tâche de la gouvernance des LLM incombe désormais aux RSSI. Élaborer un ensemble de politiques de sécurité de l’IA et de contrôles correspondants pour une organisation est une tâche ardue, car il est impossible de définir un seul ensemble de politiques couvrant tous les aspects de l’IA. Par exemple, les politiques propres à l’IA devront modifier, élargir, voire remplacer les politiques existantes en matière d’acquisition, de déploiement, de sécurité et d’utilisation des technologies de l’information ; les politiques juridiques et de conformité portant sur des sujets allant de la conservation des documents à la propriété intellectuelle et à la rédaction des contrats ; les politiques de ressources humaines relatives aux applications automatisées d’analyse de CV ; et ainsi de suite pour chaque fonction et unité opérationnelle de l’entreprise.

Cet article de blog constitue un point de départ pour élaborer des politiques de base répondant aux préoccupations les plus urgentes de l’écosystème qui adopte l’IA : le déploiement sûr et l’utilisation sécurisée des modèles d’IA générative dans toute l’entreprise. Notre solution AI Guardrails répond à bon nombre des enjeux clés recensés dans les exemples de politiques présentés ci-dessous.

En complément des grandes lignes de ces politiques, nous avons créé un modèle pour vous aider à élaborer vos propres politiques de sécurité en matière d’IA. Ces exemples ne constituent pas des conseils juridiques. Veuillez consulter un conseiller juridique avant de mettre en œuvre des politiques de sécurité en matière d’IA.

Exemples de politiques

Politique d’intégration des modèles

La première étape du déploiement d’un modèle d’IA à l’échelle de votre organisation consiste à déterminer comment procéder. Les points à prendre en compte sont notamment les suivants : 

• Le nombre de modèles dont votre organisation a actuellement besoin
  • Prévoyez dès les premières étapes une capacité supplémentaire afin de pouvoir augmenter le nombre d’utilisateurs et de modèles
• Déterminez si vos modèles doivent être publics (ChatGPT, Claude, Bard, etc.), privés (sur mesure ou intégrés à d’autres applications, telles que Salesforce), internes, ou combiner plusieurs de ces options
• Quel type de plateforme convient le mieux à un déploiement dans l’ensemble de votre organisation : SaaS, cloud privé, cloud public, sur site, isolée du réseau ou autre ?
  • Remarque : Il n’est pas vraiment possible de restreindre l’utilisation des applications SaaS en fonction des modèles, compte tenu du grand nombre de modèles déjà utilisés par les fournisseurs SaaS
  • Veillez à ce que chaque plateforme puisse augmenter ou réduire sa capacité en fonction des besoins.
• Segmentation du réseau
• Compatibilité avec les logiciels et systèmes existants afin de limiter la prolifération technologique
• Redondances
• Failles de sécurité

Politique d’accès des utilisateurs

Définissez clairement qui sera autorisé à utiliser quels modèles, à quelle fréquence et à quelles fins.

• L’utilisation est-elle limitée aux employés et aux prestataires, ou d’autres personnes, telles que des partenaires commerciaux, des clients, etc., bénéficieront-elles d’un accès complet ou limité ?
• L’accès au réseau/système permettra-t-il un accès complet au(x) modèle(s), ou des autorisations segmentées ou des contrôles d’accès fondés sur des politiques (PBAC) seront-ils appliqués au(x) modèle(s) ?
• Différents groupes ou services auront-ils besoin de fonctionnalités distinctes au sein d’un même modèle, ou certains groupes devraient-ils être empêchés d’utiliser certaines fonctionnalités ?
• Comment/pourquoi les accès ou les autorisations permettant d’effectuer des activités administratives sont-ils attribués ?

Politique d’utilisation acceptable

La définition de ce qui peut être considéré comme une utilisation acceptable ou inacceptable des modèles varie considérablement d’une organisation à l’autre. Parmi les questions générales à prendre en compte figurent notamment :

• Comment le modèle doit-il être utilisé ? Par exemple, uniquement dans le cadre des activités de l’entreprise et conformément aux autres politiques applicables : pas d’utilisation personnelle, pas d’utilisation pour le compte d’autres entreprises (activités professionnelles annexes), pas d’utilisation à des fins criminelles ou à d’autres fins illégales, contraires à l’éthique ou dangereuses, etc.
• Que contiendrait un filtre de termes interdits ? Par exemple, certains termes anatomiques pourraient être interdits dans une entreprise de génie civil, mais pas dans une entreprise pharmaceutique ou spécialisée dans les équipements de diagnostic médical.
• L’allocation des ressources peut également avoir une incidence sur l’utilisation. Lors des premières phases de déploiement et d’adoption, il peut être utile d’établir une hiérarchie des tâches afin de planifier une extension progressive à d’autres tâches, à mesure que les cas d’usage et les besoins de l’entreprise évoluent.

Politique relative au contenu des prompts

Le contenu des prompts est conforme aux règles d’utilisation acceptable, mais son périmètre est différent. Les points à définir comprennent :

• Contenu autorisé lors de l’utilisation d’un modèle public, tel qu’une terminologie non spécifique, des questions générales, etc.
• Contenu interdit dans tous les modèles, notamment les termes grossiers, biaisés, désobligeants, toxiques ou de nature similaire, ainsi que les informations personnelles identifiables (PII)
• Contenu interdit lors de l’utilisation d’un modèle public, notamment les termes propres à l’entreprise (noms de marques, noms de projets, etc.) ; le nom de l’entreprise ; les noms des concurrents ; les documents de l’entreprise (contrats, e-mails, ordres du jour, calendriers, comptes rendus de réunions, données brutes, code source, politiques, procédures, directives, etc.)
• Contenu interdit lors de l’utilisation de modèles privés ou internes, notamment les sujets concernant de petits groupes d’utilisateurs internes, tels que la paie ou les stratégies commerciales

Politique d’utilisation des résultats du modèle

La gestion des résultats générés par les modèles est un sujet épineux, compte tenu de la faiblesse des contrôles internes de la plupart des modèles accessibles au public. Les organisations doivent donc élaborer et appliquer des politiques internes rigoureuses afin de guider les utilisateurs. Parmi les questions à prendre en compte figurent :

• Vérification humaine 
  • Avant que tout contenu généré par un modèle puisse être utilisé à quelque fin que ce soit, notamment intégré à tout type de documentation de l’entreprise, l’ensemble des résultats produits par le modèle doit être vérifié par une personne afin de s’assurer qu’ils sont exacts, factuels et/ou authentiques, selon le cas, et qu’ils ne sont ni fictifs, ni imaginaires, ni dénués de fondement.
  • La vérification doit inclure le nom de la personne ayant effectué la vérification ainsi qu’un horodatage.
• Utilisation de contenu non modifié 
  • Tout contenu généré par un modèle qui n’a pas été modifié de manière significative avant d’être intégré à la documentation de l’entreprise doit être signalé comme tel, par exemple au moyen d’une note de bas de page, d’une note de fin ou d’un lien vers le prompt.
  • Le code fourni par un modèle ne doit pas être utilisé sans avoir été examiné et vérifié par [deux] membres expérimentés du personnel maîtrisant le langage de programmation dans lequel ce code est écrit.
  • La vérification doit inclure le nom de la personne chargée de la vérification ainsi qu’un horodatage.

Politique de surveillance et d’audit de l’utilisation

À mesure que l’adoption des modèles se généralise, l’observabilité devient de plus en plus essentielle. Savoir ce que font vos utilisateurs et comprendre les performances des modèles sont indispensables pour garantir efficacité et efficience.

• Inspirez-vous de la politique de confidentialité des e-mails de votre organisation pour élaborer cette politique (par exemple, absence d’attente en matière de confidentialité), si la législation de l’État relative à la surveillance électronique l’autorise.
• Veillez à ce que les employés comprennent que leur utilisation du modèle, que ce soit depuis un appareil personnel ou appartenant à l’entreprise, est surveillée et suivie par des applications automatisées, qui génèrent des alertes en temps réel destinées, selon les cas, à l’utilisateur ou à l’administrateur.
  • Le suivi de certaines informations, telles que le ressenti des utilisateurs, n’est pas autorisé dans certaines juridictions.
  • La suppression des données utilisateur peut être exigée dans certaines juridictions ou dans certaines circonstances.
• Identifiez les informations qui font l’objet d’un suivi et les raisons de ce suivi, par exemple les paramètres d’utilisation du modèle (coût, précision, etc.), le contenu (requêtes/réponses), les vérifications ou l’engagement des utilisateurs.

Politique de conservation de l’historique des requêtes et des réponses

Comme indiqué précédemment, la possibilité de suivre et d’auditer les interactions des utilisateurs peut fournir de nombreuses données très utiles, mais certains organismes de réglementation ont commencé à prendre en compte la confidentialité des utilisateurs dans ce contexte. Assurez-vous que votre organisation comprend ces règles et les met en œuvre de manière appropriée. Les points à prendre en considération sont notamment les suivants :

• Déterminer la durée de conservation par défaut du contenu (invites, réponses, alertes, etc.), si ce contenu peut être conservé plus longtemps à des fins spécifiques et quels rôles seraient habilités à prendre cette décision.
• Décrivez le processus de suppression du contenu (fréquence, automatisé ou manuel, etc.).
• Toutes les requêtes et réponses sont conservées pendant au moins (X), voire plus longtemps si cela est jugé nécessaire par (le ou les rôles concernés).

Politique de contrôle des solutions SaaS tierces

L’utilisation de logiciels tiers, notamment par l’intermédiaire d’un fournisseur SaaS, nécessite de prendre en compte des considérations supplémentaires.

• Les fournisseurs de solutions SaaS doivent indiquer si un grand modèle de langage (LLM) est utilisé dans leur application ou produit, et préciser à quelles fins.
• Les fournisseurs de solutions SaaS devraient fournir à leurs clients professionnels une nomenclature des composants d’IA (ABOM) décrivant l’utilisation du LLM et le processus de validation humaine.
• Les politiques applicables aux fournisseurs SaaS doivent être mises en œuvre par la fonction de gouvernance des tiers, en coordination avec le processus d’approvisionnement et de gestion des licences.

Pour en savoir plus sur les solutions de sécurité de l’exécution de l’IA de F5, cliquez ici.

À propos de l’auteur

F5 Newsroom Staff

Autres articles de F5 Newsroom Staff