Il n’y a pas si longtemps, l’IA en entreprise servait principalement à aider les collaborateurs à travailler plus vite. Ils utilisaient des copilotes pour écrire du code, synthétiser des informations, générer du contenu et répondre à des questions. Puis l’IA s’est intégrée plus profondément dans l’entreprise, alimentant des assistants internes et des applications destinées aux clients.
Nous entrons désormais dans une phase fondamentalement différente. Les systèmes d’IA agentique ne se contentent pas de répondre aux questions. Ils peuvent naviguer sur le Web, récupérer des données, appeler des API, utiliser des outils, exécuter des workflows et agir, parfois avec peu ou pas d’intervention humaine.
C’est un bond en avant extraordinaire en matière de capacités. C’est aussi un élargissement considérable de la surface d’attaque, un sujet que j’aborde dans ma présentation intitulée « Sécuriser l’IA en production », dans le cadre du F5 Post-Mythos Security Summit, que F5 propose à la demande jusqu’au 31 octobre.
“L’IA devient plus performante, plus connectée et plus autonome. La question n’est pas de savoir si cela élargira votre surface d’attaque, mais si votre stratégie de sécurité évoluera en conséquence.”
Quand l’IA peut agir, son comportement devient la surface d’attaque
Les applications traditionnelles sont relativement prévisibles. À données d’entrée identiques et dans les mêmes conditions, on s’attend généralement à obtenir le même résultat. Les équipes de sécurité ont passé des décennies à développer des moyens de protéger l’infrastructure, les applications, les API, les identités et les données associées à ces interactions.
L’IA change la donne, car son comportement peut être non déterministe. Avec les applications d’IA, le comportement lui-même fait partie de la surface d’attaque.
Pensez à tout ce qui entre en jeu dans une interaction moderne avec l’IA : les prompts, les modèles, les données d’entreprise, les API, les systèmes de génération augmentée par récupération (RAG), les outils, les agents et les actions qu’ils effectuent. Chaque connexion crée un point supplémentaire où un dysfonctionnement peut survenir ou un attaquant peut tenter de manipuler le système.
Les risques sont nombreux. L’injection de prompts peut influencer le comportement d’un système d’IA, une autonomie excessive peut permettre à un agent d’entreprendre des actions au-delà de ce qui était prévu, et des serveurs Model Context Protocol (MCP) mal sécurisés ainsi que l’utilisation non autorisée d’outils peuvent créer de nouvelles voies d’accès à des systèmes et à des données sensibles. Par ailleurs, les flux de travail RAG peuvent être manipulés, et les applications d’IA peuvent divulguer des informations sensibles ou générer des contenus nuisibles ou inappropriés.
Tous ces risques s’ajoutent aux défis de sécurité auxquels les organisations sont déjà confrontées. À mesure que l’IA évolue, passant des copilotes aux applications destinées aux clients, puis aux agents autonomes, les organisations conservent les risques existants tout en en ajoutant de nouveaux.
Une évolution technologique, deux surfaces d’attaque qui s’étendent
Voici une autre raison pour laquelle ce problème devient si complexe : les organisations ne sont pas confrontées à une seule surface d’attaque liée à l’IA.
La première est l’IA que les utilisateurs, et de plus en plus les agents, utilisent déjà. Les services d’IA tiers ont rendu des modèles et des outils puissants facilement accessibles dans toute l’entreprise. Les employés sont poussés à utiliser l’IA pour travailler plus vite et plus efficacement, souvent sans comprendre quelles informations ils risquent d’exposer ni quels risques présente un service d’IA donné.
Bloquer purement et simplement l’IA n’est pas une réponse réaliste. Les utilisateurs trouvent des moyens de contourner les restrictions, et les organisations risquent de rendre les usages de l’IA encore moins visibles pour les équipes de sécurité et les équipes informatiques.
La deuxième surface d’attaque est l’IA que les organisations développent et déploient elles-mêmes. Ici, l’exposition potentielle s’étend aux applications, aux modèles, aux prompts, aux agents, aux API, aux outils, aux données d’entreprise et aux interactions entre ces différents éléments.
Certaines défaillances peuvent survenir sans qu’aucun attaquant n’intervienne : une réponse dangereuse, des informations sensibles divulguées par inadvertance ou un agent qui fait appel à un outil qu’il ne devrait pas utiliser. D’autres résultent d’attaques délibérées visant à manipuler les modèles, à empoisonner les sources de connaissances, à extraire des informations ou à amener les agents à effectuer des actions non prévues.
Du point de vue d’un client, d’une autorité de régulation ou d’une équipe de sécurité, les conséquences peuvent sembler étonnamment similaires.
La sécurité de l’IA ne doit pas être sacrifiée au nom de l’innovation en IA
Cela pose un défi de taille aux responsables de la sécurité. Les organisations souhaitent avancer rapidement avec l’IA, et c’est de plus en plus une nécessité. Mais chaque nouvelle application, chaque nouvel agent, modèle ou outil d’IA, ainsi que chaque nouvelle connexion, peut introduire des risques auxquels les approches traditionnelles de la sécurité n’ont pas été conçues pour répondre.
Pour relever ces défis, les organisations ont besoin d’une visibilité et d’un contrôle accrus sur ces surfaces d’attaque liées à l’IA en pleine expansion, tout en permettant à leurs activités de suivre leur cours. Elles doivent protéger les interactions avec l’IA, où qu’elles aient lieu, prendre en compte aussi bien les comportements accidentels que malveillants et mettre en place des mesures de contrôle adaptées sans créer un obstacle supplémentaire à l’adoption de l’IA.
Chez F5, nous sommes convaincus qu’il existe un moyen d’y parvenir. Nous avons développé une approche conçue pour aider les organisations à découvrir, tester, gouverner et protéger l’IA, tant dans les applications qu’elles développent que dans les outils d’IA utilisés par leurs collaborateurs, tout en mettant en place des contrôles là où les interactions avec l’IA ont réellement lieu.
J’approfondirai cette approche lors du sommet virtuel F5 Post-Mythos Security Summit, dans ma session intitulée « Votre IA est désormais une surface d’attaque ». Nous examinerons l’évolution du paysage des menaces liées à l’IA, ce que les organisations doivent protéger à mesure que l’IA devient de plus en plus agentique, et comment F5 peut les aider à sécuriser leurs applications d’IA, modèles, agents, outils, API et données sans freiner l’adoption de l’IA.
L’IA devient plus performante, plus connectée et plus autonome. La question n’est pas de savoir si cela va élargir votre surface d’attaque, mais si votre stratégie de sécurité évoluera en conséquence.
Rejoignez-moi au F5 Post-Mythos Security Summit pour découvrir comment maîtriser la nouvelle surface d’attaque liée à l’IA.
À propos de l’auteur
Articles de blog associés
IA et cybersécurité
Découvrez comment l’IA et la cybersécurité fonctionnent de concert. Découvrez comment l’IA et le machine learning (ML) permettent à votre entreprise de rester sécurisée, efficace et prête à innover avec F5.
Suivre le rythme de l’innovation de pointe ne suffit pas à faire avancer l’entreprise : se préparer à la réglementation de l’IA
À mesure que la réglementation de l’IA évolue, réfléchissez aux mesures de protection que vous pouvez mettre en place dès maintenant.
Les contrôleurs de mise à disposition d’applications reviennent au cœur des priorités stratégiques
L’IA rebat les cartes de la livraison d’applications. Nirav Shah de F5 revient sur la nouvelle étude de Gartner® consacrée aux ADC et explique ce qu’elle implique pour les décisions des entreprises en matière d’infrastructure.
Ce que nos clients nous disent sur l’IA, le multicloud hybride et la sécurité des applications
Le nouveau vice-président senior du marketing produit de F5 explique les pressions liées à l’IA auxquelles sont confrontés les dirigeants d’entreprise et ce dont ils ont besoin pour renforcer leur organisation.
Cinq niveaux de cyberrésilience antifragile transforment les pratiques en résultats
Découvrez comment cinq niveaux de résilience antifragile transforment les perturbations en comportements adaptatifs qui limitent les défaillances et renforcent l’architecture multicloud hybride.
Optimiser les pipelines d’IA en éliminant les goulets d’étranglement dans les charges de travail modernes
À mesure que les charges de travail d’IA montent en puissance, les entreprises constatent des ralentissements provenant du pipeline de données en amont qui alimente le modèle d’IA. Voici comment F5 BIG-IP peut les aider.