L’adoption rapide des grands modèles de langage (LLM) et d’autres outils d’IA au sein des entreprises révolutionne leurs activités et améliore leur productivité. Toutefois, ces outils posent également d’importants défis en matière de sécurité et de conformité, car ils élargissent la surface d’attaque des organisations. Historiquement, celles-ci privilégient l’utilité et la rapidité de mise sur le marché au détriment de mesures robustes de gouvernance et de contrôle, et l’évolution de la gouvernance de l’IA ne fait pas exception. À mesure que les entreprises intègrent des capacités d’intelligence artificielle et d’apprentissage automatique (ML) à un nombre croissant de tâches, il est essentiel qu’elles mettent en place un cadre complet de gouvernance de l’IA qui prenne en compte ces nouveaux risques afin de garantir leur conformité et leur sécurité, tant en interne qu’en externe.
La nécessité d’une gouvernance de l’IA
À mesure que les outils d’IA/ML gagnent du terrain dans différents services, notamment les opérations, les ventes, les affaires juridiques et les ressources humaines, les responsables de la sécurité de l’organisation — parmi lesquels peuvent figurer les RSSI, DSI, directeurs techniques, directeurs de la sécurité, directeurs des données, responsables de la conformité et/ou directeurs juridiques — doivent entreprendre d’élaborer et de mettre en œuvre un cadre de gouvernance de l’IA à l’échelle de l’entreprise. Cette démarche est essentielle pour concilier la demande croissante d’outils d’IA avec la nécessité de protéger une surface d’attaque en constante expansion.
Cette mission consiste à constituer une équipe pluridisciplinaire réunissant des représentants de toutes les grandes fonctions de l’organisation, afin de parvenir à un consensus sur les principes de gouvernance et d’obtenir l’adhésion des parties prenantes, notamment des membres de la direction générale. Limiter l’équipe à six à huit participants peut fluidifier les processus de prise de décision et de mise en œuvre. Le responsable de la sécurité le plus directement impliqué dans cette technologie doit piloter l’équipe ; son rôle n’est toutefois pas celui d’un expert du domaine, mais celui d’un facilitateur faisant preuve de neutralité et évitant tout parti pris.
Paysage actuel et défis
L’essor des grands modèles de langage (LLM) et d’autres produits d’intelligence artificielle générative (GenAI) offre aux entreprises une multitude de possibilités pour optimiser leurs processus métier, améliorer l’expérience client et accroître la productivité professionnelle. Ces possibilités comprennent notamment la mise en place de modèles internes développés sur mesure, qui s’appuient sur des données propriétaires afin de répondre à des cas d’usage propres à un secteur ou à une entreprise. L’adoption rapide de ces outils, ainsi que la grande diversité des modèles et de leurs options de personnalisation, impose une charge cognitive aux utilisateurs qui, jusqu’à présent, n’avaient peut-être jamais eu recours à des outils numériques aussi sophistiqués.
Les responsables de la sécurité doivent sensibiliser les parties prenantes — employés, sous-traitants, consommateurs, clients et toute autre personne concernée — aux risques, aux responsabilités, aux résultats et aux avantages liés à l’utilisation de ces solutions révolutionnaires.
Cadre de gouvernance de l’IA
Lors de la mise en place d’un cadre de gouvernance de l’IA, les responsables de la sécurité doivent se concentrer sur plusieurs domaines clés, notamment :
- Personnes : Les responsables de la sécurité doivent sensibiliser les responsables de département, d’équipe et de domaine métier, dans toutes les fonctions, à l’importance d’une gouvernance de l’IA fondée sur le consensus.
- Principes : Les principes de gouvernance doivent être en adéquation avec les valeurs de l’organisation et la réputation de la marque, afin d’établir une base claire en matière de valeur commerciale et de fournir un socle solide aux politiques propres à l’IA, notamment sur des questions telles que les usages acceptables et les conséquences d’une utilisation abusive. Ces principes peuvent, par exemple, imposer une vérification humaine de tous les résultats produits par les LLM et exiger que l’utilisation de LLM soit signalée dans les communications internes. La définition précoce de ces principes permet de modifier les politiques existantes de l’entreprise et d’en créer de nouvelles.
- Réglementation : La gouvernance de l’IA doit tenir compte des réglementations régionales, nationales et internationales influencées par les lois existantes sur la protection de la vie privée, telles que le règlement général sur la protection des données (RGPD) de l’Union européenne et le California Consumer Privacy Act (CCPA). Les cadres responsables de la protection de la vie privée et de la conformité doivent faire partie intégrante du cadre de gouvernance afin de garantir que les modèles, outils et pratiques liés à l’IA ou qui en dépendent respectent les exigences réglementaires en matière de consentement, d’anonymisation des données et de suppression des données.
- Éthique : La gouvernance de l’IA nécessite beaucoup de travail humain et s’intéresse davantage à la manière dont les personnes travaillent qu’aux outils qu’elles utilisent. Les considérations éthiques doivent être intégrées au développement de l’IA, les humains jouant le rôle d’arbitres en matière de jugement éthique dans la conception des technologies.
- Contrôles : La gouvernance de l’IA doit intégrer trois niveaux d’intervention humaine : l’humain dans la boucle (HITL), l’humain supervisant la boucle (HOTL) et l’humain aux commandes (HIC). Cette approche garantit une supervision humaine et une responsabilisation dans l’ensemble des opérations d’IA, tout en atténuant les risques liés à la prise de décision autonome par l’IA.
L’intérêt économique de la gouvernance de l’IA
La mise en œuvre d’une gouvernance de l’IA nécessite des investissements dans les technologies et les ressources humaines. Toutefois, les gains de productivité et les économies de coûts de main-d’œuvre découlant de l’utilisation de grands modèles de langage (LLM) dans les principaux processus métier peuvent être suffisamment importants pour justifier ces investissements. La mise en place d’un modèle de responsabilisation, dans lequel des collaborateurs désignés sont responsables des résultats produits par l’IA, peut réduire le besoin de personnel d’assistance supplémentaire. Lorsqu’un tel cadre est instauré et bénéficie de l’adhésion de la direction comme des collaborateurs, l’entreprise peut gérer efficacement et en toute sécurité les risques étendus, tout en obtenant des bénéfices mesurables conformes à ses valeurs et à ses politiques.
Cliquez ici pour planifier une démonstration de notre plateforme de sécurité et d’accompagnement dédiée à l’IA générative.
À propos de l’auteur
Articles de blog associés
F5 rejoint le projet PQC du NIST pour contribuer à l’élaboration de normes résistantes aux attaques quantiques
En rejoignant le consortium du projet « Migration to PQC » du NIST, F5 contribue à élaborer des recommandations pratiques pour un monde résistant aux menaces quantiques.
La dernière version de F5 Distributed Cloud Bot Defense offre des fonctionnalités et des améliorations de nouvelle génération
Les mises à jour de la console de F5 Distributed Cloud Bot Defense améliorent la gestion des menaces automatisées et l’intégration dans des cadres de sécurité plus larges.
La nouvelle surface de risque liée à l’IA : invisible, autonome et déjà à l’intérieur
James White, vice-président de l’ingénierie chez F5 À mi-parcours de l’année 2025, le moment est bien choisi pour dresser un état des lieux de l’adoption de l’IA en entreprise et de la sécurité de l’IA. L’utilisation de l’IA générative est désormais la norme dans les entreprises De manière générale, les entreprises possèdent au moins une compréhension élémentaire de l’IA générative. Elles savent ce qu’elle est et où elle peut […]
Évaluation des LLM : renforcer la confiance grâce à la notation de sécurité
À mesure que l’adoption de l’IA s’accélère dans les entreprises, l’évaluation des LLM ne porte plus uniquement sur leurs performances, mais aussi sur la confiance qu’ils inspirent. Les équipes de sécurité doivent évaluer non seulement les performances d’un modèle, mais aussi la sûreté de son comportement. Pourtant, la plupart des cadres d’évaluation se concentrent sur des critères de précision, laissant les facteurs de sécurité et de risque dans le flou ou sans mesure.
Évaluer le niveau de préparation de votre organisation à la sécurité de l’IA
Dans un paysage de l’intelligence artificielle (IA) en constante évolution, il est non seulement important, mais impératif de savoir si votre organisation est prête à instaurer et à soutenir une culture de la sécurité de l’IA. À mesure que les technologies d’IA progressent, elles font émerger une multitude de nouveaux défis de sécurité qui, pour être gérés efficacement, exigent une approche réfléchie, globale et proactive […]
Déployer des LLM en entreprise : via une API dans un cloud privé
Pris isolément, sans mesures de protection spécialisées ni protocoles de sécurité en place, le déploiement de modèles d’IA générative (GenAI), en particulier de grands modèles de langage (LLM), à l’échelle de l’entreprise représente pour toute organisation une opportunité à haut risque, mais potentiellement très rentable. La manière précise dont votre organisation doit franchir ce grand pas dans l’univers de la GenAI nécessite une planification mûrement réfléchie. Peut-être serait-il […]