La nouvelle surface de risque liée à l’IA : invisible, autonome et déjà à l’intérieur

James WhiteDirecteur technique, sécurité de l’IA | F5

À mi-parcours de l’année 2025, le moment est bien choisi pour dresser un état des lieux de l’adoption de l’IA par les entreprises et de la sécurité de l’IA.

L’utilisation de l’IA générative en entreprise est désormais la norme

Dans l’ensemble, les entreprises ont au moins une compréhension élémentaire de l’IA générative. Elles savent de quoi il s’agit et dans quels domaines elle peut être utilisée. Si vous occupez un poste qui ne vous donne pas accès à l’IA générative, vous êtes actuellement à la traîne.

Le développement d’applications basées sur l’IA générative devient rapidement la norme dans les entreprises. Nous constatons directement que nos clients déploient des applications d’IA en production, aussi bien en interne qu’à destination de leurs utilisateurs externes.

En matière d’adoption des agents, deux approches se distinguent : l’adoption par l’intermédiaire de solutions tierces et le développement d’agents propriétaires. L’adoption d’agents via des solutions tierces est déjà bien avancée, mais les entreprises n’en ont pas toujours conscience. Les organisations qui ont commencé par utiliser l’interface d’un modèle d’IA générative dans un navigateur ignorent peut-être qu’elles utilisent également une IA agentique.

Par exemple, lors du lancement de Google Gemini, aucun élément agentique n’y était intégré ; désormais, Deep Research est un agent au sein de Gemini. Lorsqu’une requête lui est soumise, Deep Research détermine les tâches à effectuer et les recherches à mener sur le Web, puis recueille les informations et crée des rapports. De même, Microsoft 365 Copilot intègre également des agents.

Le développement d’agents propriétaires en est encore principalement au stade du prototypage et de l’expérimentation, mais les agents progressent beaucoup plus rapidement que l’IA générative. En 2024, les questions étaient les suivantes : cela va-t-il vraiment se concrétiser ? Les risques sont-ils réellement différents ? Aujourd’hui, ces questions ne se posent plus. Les entreprises n’ont plus aucun doute.

C’est pourquoi il est si important de comprendre les agents et la résistance agentique.

MCP n’est pas synonyme de sécurité

De nombreuses entreprises ont commencé à considérer le Model Context Protocol (MCP) comme le moyen d’introduire l’IA agentique. Les organisations en viennent presque à remplacer le mot « agent » par MCP et parlent de « créer un MCP ».

Ce n’est pas tout à fait exact. Le MCP représente en réalité l’éventail des options qu’un agent peut utiliser pour effectuer des tâches. Imaginez que le serveur MCP dise : « Voici ce qui est proposé », puis que le client MCP décide : « Je vais utiliser cette option de cette manière. » Il s’appuie ensuite sur un modèle d’IA pour déterminer quoi faire et comment procéder.

Dans cette architecture, le risque provient toujours du modèle. D’autres risques résident dans le logiciel serveur. Ces risques ne sont pas automatiquement éliminés par MCP. Le protocole est très performant, mais il n’est en aucun cas sécurisé par défaut, comme l’ont montré de récents incidents de sécurité. Par exemple, Asana a récemment identifié et divulgué un bug qui aurait pu exposer les données d’utilisateurs d’Asana MCP à des utilisateurs d’autres comptes.

En partant du principe que MCP réduit les risques, les entreprises peuvent en réalité accroître leur exposition. Nombre de nos clients et prospects nous demandent désormais : « Expliquez-nous comment vous sécurisez MCP. » Ils doivent adopter une approche globale qui prenne en compte et mette à l’épreuve le cas d’usage, le modèle, les modes de déploiement ainsi que les interactions avec les outils via MCP et d’autres normes.

Avec l’IA agentique, le « comment » est crucial

En effet, il existe de nombreuses façons d’atteindre un « quoi », mais beaucoup d’entre elles sont inappropriées ou incorrectes. Imaginons qu’un agent soit chargé de tenir une base de données à jour et qu’il dispose des accès et autorisations nécessaires pour supprimer ou insérer des données. Il pourrait, par exemple, supprimer les entrées relatives à F5 en repérant avec précision toutes les occurrences exactes du nom de l’entreprise et en les supprimant.

Cependant, l’agent pourrait tout aussi bien décider d’émettre une instruction visant à « supprimer les enregistrements F* », supprimant ainsi les enregistrements de toutes les entreprises dont le nom commence par F. Cette action rudimentaire permettrait d’atteindre le même objectif, mais entraînerait une cascade de conséquences imprévues auxquelles il pourrait être difficile de remédier. À l’ère des agents, où les actions sont pilotées par des modèles non déterministes, tout comportement involontaire constitue la faille, en particulier si les mesures de protection sont insuffisantes. Comprendre le comportement des agents est absolument essentiel à la réussite de leur adoption.

La pile de sécurité des entreprises est mise à rude épreuve

Sécuriser l’IA implique une toute nouvelle façon de fonctionner, et pas seulement quelques ajustements mineurs des solutions de sécurité existantes. Au fil du temps, tous les logiciels traditionnels utilisés par les entreprises commenceront à évoluer vers d’autres formes. Et la manière de protéger ces nouvelles formes n’est pas encore tout à fait claire à l’heure actuelle.

Pour les organisations qui disposent d’une pile de sécurité traditionnelle, des signes montrent déjà qu’elle craque de toutes parts. En effet, ces solutions ont été conçues et développées avant l’ère de l’IA. À l’ère de l’IA, le volume de nouvelles informations générées — allant de données sans valeur à des données de haute qualité essentielles aux activités — connaît une croissance exponentielle.

Les systèmes qui analysaient depuis plusieurs décennies le trafic généré par les humains doivent désormais composer avec le trafic généré par des humains utilisant l’IA. Cela représente déjà un facteur multiplicateur considérable. Imaginez maintenant ce qu’il en sera lorsque le trafic sera constitué d’informations générées par des agents. La croissance devient alors exponentielle.

L’architecture de sécurité traditionnelle n’est pas conçue pour cette réalité ; elle devra évoluer en profondeur pour suivre le rythme — et ce, au plus vite.

Un aperçu de l’avenir : les agents atomiques

Aujourd’hui, un agent a besoin d’un modèle d’IA qui lui serve de cerveau. Ce cerveau est généralement hébergé de manière centralisée, et le framework de l’agent interroge le modèle, qui lui renvoie ses réponses. C’est un cycle d’échanges entre l’agent et le modèle.

Si un agent devient incontrôlable dans ce scénario, une organisation peut appliquer une simple règle réseau pour lui bloquer l’accès au modèle. Dans le pire des cas, le modèle peut être désactivé.

À l’avenir, les modèles deviendront suffisamment compacts pour ne plus nécessiter de GPU ni devoir être hébergés dans des salles de serveurs ou dans le cloud. Le « cerveau » fonctionnera au même endroit que l’agent, ce qui permettra à ce dernier d’opérer efficacement partout et d’adapter ses capacités à la hausse comme à la baisse. Lorsque cela se produira, les risques de sécurité exploseront.

Le concept clé ici est celui des agents atomiques, et certains éléments indiquent qu’ils sont en passe d’arriver. Le modèle BitNet b1.58 2B4T de Microsoft, un modèle 1 bit qui fonctionne sur processeur, montre ce qu’il est possible de faire. Il n’est pas encore assez compact, assez rapide, ni probablement assez performant. Mais à l’ère de l’IA, ce « pas encore » devient très vite réalité.

À propos de l’auteur

James WhiteDirecteur technique, sécurité de l’IA | F5

James White est un ingénieur accompli et un dirigeant d’entreprise qui possède près de vingt ans d’expérience dans le secteur des logiciels d’entreprise.

Autres articles de James White