L’intelligence artificielle est là pour durer : impossible de revenir à l’époque d’avant les années 2010. Les gains en matière de productivité, d’innovation et d’impact économique sont tout simplement trop considérables.
Mais ces avantages extraordinaires s’accompagnent de risques importants pour les organisations qui adoptent l’IA. L’un des plus urgents est l’IA fantôme (« Shadow AI »), c’est-à-dire l’utilisation croissante d’outils d’IA par les employés à l’insu des responsables informatiques ou sans leur approbation. Cette pratique s’impose rapidement comme une menace majeure pour la sécurité et la conformité, bien qu’elle soit encore relativement récente et continue d’évoluer.
“Même si les pertes financières exactes liées à l’IA fantôme sont encore en cours d’évaluation, le risque de préjudice est évident — et ne cesse de croître.”
La Shadow AI est une émanation en plein essor de la Shadow IT, un problème de longue date qui survient lorsque des employés déploient au sein de l’entreprise des logiciels, des services cloud ou des systèmes non autorisés. Alors que la Shadow IT met déjà à rude épreuve la gouvernance et la sécurité, la Shadow AI ajoute un nouveau niveau de complexité particulièrement dangereux.
Quelques exemples d’IA fantôme :
- Un ingénieur logiciel utilise un compte personnel ChatGPT, Gemini ou Copilot pour générer du code standard, traduire du contenu, remanier du code existant ou écrire des cas de test, tout en copiant involontairement du code propriétaire dans un modèle public. Ce code pourrait être stocké, journalisé ou exposé. Pire encore, le contenu généré par l’IA pourrait comporter une logique non sécurisée, des API inventées ou du code qui enfreint les conditions de licence.
- Un spécialiste de la communication importe une note stratégique confidentielle dans un outil d’IA afin de la résumer ou de rédiger un message destiné aux clients. Ce contenu propriétaire se retrouve alors stocké sur des serveurs tiers, hors du contrôle du service informatique.
- Un commercial installe une extension Chrome qui génère automatiquement des e-mails de prospection à l’aide d’une IA connectée à la fois à sa messagerie et à son système CRM. Les risques ? Une possible fuite de données, des violations des politiques internes et le non-respect de réglementations telles que le RGPD ou le California Consumer Privacy Act.
Ces exemples ne sont qu’un début. Chaque jour, d’innombrables autres scénarios d’IA fantôme se produisent dans tous les secteurs. Le phénomène est d’une telle ampleur que Gartner® prévoit que « d’ici 2027, 75 % des employés acquerront, modifieront ou créeront des technologies sans que le service informatique en ait connaissance, contre 41 % en 2022. Par conséquent, les modèles opérationnels de cybersécurité descendants et fortement centralisés échoueront. Les RSSI devront plutôt restructurer la cybersécurité pour en faire une fonction centralisée et allégée, soutenant un vaste réseau fédéré d’experts et d’équipes pluridisciplinaires intégrés dans toute l’entreprise. Cela permettra de déployer la cybersécurité à la périphérie de l’entreprise, au plus près des lieux où les décisions relatives aux technologies et aux risques sont prises et mises en œuvre. »1
Injection de prompts et fuite de données : les principales préoccupations
Bien que les pertes financières exactes liées à l’IA fantôme soient encore en cours d’évaluation, les risques sont manifestes — et ne cessent de croître. Les organisations qui n’agissent pas dès maintenant s’exposent à des incidents graves, à des risques réglementaires et à une érosion de la confiance de leurs clients.
Parmi les vulnérabilités les plus préoccupantes figure l’injection de prompt, une attaque au cours de laquelle un utilisateur malveillant manipule les données d’entrée de l’IA afin de contourner les restrictions, de divulguer des données sensibles ou d’exécuter des actions non prévues. Les modèles d’IA ont tendance à faire confiance par défaut aux données qui leur sont fournies, ce qui les rend vulnérables à ce type d’exploitation. Une injection de prompt réussie pourrait amener l’IA à révéler des données internes, à altérer des processus automatisés ou à compromettre les systèmes d’aide à la décision.
Une autre préoccupation majeure concerne les fuites de données, notamment les informations personnelles identifiables (PII), les informations de santé protégées (PHI), les coordonnées bancaires et les données financières, le code source et la propriété intellectuelle exclusive, les identifiants et les clés d’accès, ou encore les dossiers clients.
À cela s’ajoute le risque de non-conformité réglementaire. L’utilisation non autorisée de l’IA peut facilement enfreindre des réglementations et normes telles que le RGPD, la HIPAA, la norme PCI DSS et la loi Sarbanes-Oxley, exposant ainsi les entreprises à des sanctions et à une atteinte à leur réputation.
Certaines entreprises réagissent en imposant des interdictions, mais est-ce vraiment efficace ?
Face à ces risques, certaines organisations ont interdit à leurs employés d’utiliser des outils d’IA générative non approuvés. Samsung, par exemple, a été l’une des premières entreprises, en 2023, à interdire l’utilisation de ChatGPT et d’autres agents conversationnels similaires basés sur l’IA, invoquant le risque de fuite d’informations internes sensibles. Depuis, plusieurs banques et autres entreprises ont mis en place des restrictions ou émis des avertissements similaires.
Pourtant, les experts du secteur déconseillent très largement les interdictions générales.
Pourquoi la gouvernance, plutôt que les interdictions, est la meilleure voie à suivre
Malgré les risques légitimes, les analystes du secteur recommandent des politiques préventives et des cadres de gouvernance plutôt que des interdictions pures et simples.
Les interdictions ont tendance à être contre-productives. Elles sont difficiles à faire respecter, freinent souvent l’innovation et sapent le moral, et peuvent rendre l’utilisation de l’IA encore plus clandestine, ce qui la rend d’autant plus difficile à détecter et à contrôler.
Comme l’a déclaré un responsable informatique lors d’une discussion de la communauté Gartner Peer sur l’interdiction des outils d’IA : « Les interdictions ne fonctionnent tout simplement pas. Même en l’absence de politiques, cette mesure nuit à l’innovation et envoie un mauvais message au personnel et au monde entier au sujet de notre organisation. »
Ce que les organisations devraient faire à la place
Voici quelques mesures concrètes de gouvernance que les organisations peuvent prendre dès maintenant :
- Établissez une politique claire d’utilisation de l’IA
Définissez les outils autorisés, la manière dont les données doivent être gérées, les cas d’usage acceptables et les garde-fous à mettre en place. Indiquez très clairement ce qui est autorisé — et pourquoi. - Tenez à jour une liste d’outils d’IA approuvés
Évaluez les outils au regard de la confidentialité des données, de la sécurité et de la conformité réglementaire. Encouragez les collaborateurs à les utiliser plutôt que des plateformes non approuvées. Par exemple, utilisez des versions professionnelles d’outils tels que ChatGPT, dotées de fonctionnalités de journalisation et de protection contre la perte de données, et adoptez des assistants d’IA internes intégrés aux plateformes de l’entreprise. - Former les employés et les sensibiliser
Aidez le personnel à comprendre les risques, qu’il s’agisse de fuites de données, de contenus hallucinés ou de manquements aux obligations de conformité. La plupart des utilisations inappropriées sont involontaires. - Surveillez, puis adaptez-vous
Envisagez de mettre en place une surveillance conforme aux exigences éthiques et légales afin de détecter les utilisations non autorisées. Privilégiez la sensibilisation plutôt que les sanctions. Faites continuellement évoluer vos politiques au rythme des avancées de l’IA.
Bientôt disponible : la technologie F5 pour mieux gérer l’IA fantôme
La technologie peut-elle offrir une solution évolutive ? Absolument.
F5 a annoncé aujourd’hui une solution de détection et de prévention des fuites de données pour sécuriser les charges de travail d’IA et lancera dans les mois à venir de nouvelles fonctionnalités puissantes conçues pour aider les organisations à réduire de manière globale les risques liés à l’IA fantôme, notamment ceux associés à l’utilisation non autorisée d’outils d’IA via des canaux chiffrés (utilisés par défaut par la plupart des API d’IA et des plateformes SaaS).
Restez à l’écoute de nos prochaines annonces. En attendant, retrouvez toutes les dernières actualités de F5 sur l’IA sur notre page web Accelerate AI.
GARTNER est une marque déposée et une marque de service de Gartner, Inc. et/ou de ses sociétés affiliées aux États-Unis et dans le monde entier, et est utilisée dans le présent document avec son autorisation. Tous droits réservés.
1Gartner, Maverick Research : les RSSI doivent transformer leur rôle sous peine de devenir obsolètes, 19 juin 2025
À propos de l’auteur
Articles de blog associés
F5 NGINXaaS pour Google Cloud : des applications résilientes et évolutives
Découvrez comment NGINXaaS s’intègre à Google Cloud pour renforcer les performances et la sécurité, et préparer vos applications critiques à un avenir propulsé par l’IA.
L’intégration de F5 Web Application Firewall (WAF) à AWS est disponible dès aujourd’hui
En faisant appel à un partenaire de déploiement AWS WAF tel que F5, vous pouvez renforcer la sécurité de vos applications web grâce à des règles personnalisées qui bloquent les schémas d’attaque courants, comme les injections SQL ou les attaques par scripts intersites (XSS).
Appliquer le principe de Peter Parker à l’inspection TLS
« Un grand pouvoir implique de grandes responsabilités. » Si l’on en trouve des échos chez Voltaire et Churchill, cette citation est surtout connue grâce aux bandes dessinées Spider-Man, où elle est attribuée à l’oncle Ben. Bien entendu, si cette phrase est si répandue dans la culture populaire, c’est notamment parce qu’elle peut s’appliquer à une multitude de situations et de sujets, y compris à l’inspection TLS.
Le NetOps a besoin de défenseurs, pas d’adversaires
Il est important de reconnaître que les équipes NetOps ne sont pas toujours celles qui font obstacle au déploiement de la dernière nouveauté, application ou service. Les freins à la rapidité sont souvent dus au fait que les organisations n’adoptent pas tous les principes du DevOps lorsqu’elles cherchent à transformer leurs opérations informatiques.
Mise à jour des services applicatifs : sécurité, rapidité et visiteurs suspects
Il est de nouveau temps de nous pencher sur les services applicatifs que les entreprises utilisent réellement pour rendre leurs applications plus rapides et plus sûres. On constate notamment une hausse du recours aux services de protection contre les bots, ainsi que la progression lente mais régulière de HTTP/2. Bien qu’il ne s’agisse pas d’une application…
Les templates prennent le contrôle du cloud
Les modèles s’imposent dans le cloud. Lisez le blog de F5 pour découvrir comment l’infrastructure en tant que code et les API déclaratives automatisent la mise à disposition des applications.