Les distributeurs développent des outils d’IA agentique adaptés à des tâches spécifiques afin de générer un impact commercial concret sur l’expérience client et les opérations de leurs plateformes en ligne.
Avec l’émergence des agents d’achat personnels, les organisations font évoluer leur infrastructure pour prendre en charge les achats pilotés par des machines, ce qui entraîne d’importants enjeux de sécurité.
“Les détaillants doivent adapter leurs stratégies de gestion des risques et leurs dispositifs de sécurité afin d’encadrer correctement les agents autonomes.”
Les équipes de défense sont submergées par les données, les alertes et les journaux. Elles ont besoin d’un contexte exploitable pour réduire la complexité et réagir efficacement en donnant la priorité aux menaces les plus critiques avant qu’un indicateur de compromission ne soit détecté dans l’environnement.
Dans cet article, nous examinons comment des agents autonomes peuvent échapper à tout contrôle, et pourquoi les équipes chargées de la sécurité et des risques doivent faire preuve de prudence quant aux actions qu’elles les autorisent à effectuer.
La réalité du commerce de détail
Pour les détaillants, le potentiel de l’IA agentique est extraordinaire. Un fournisseur de solutions e-commerce de premier plan déploie déjà des assistants d’achat personnels sophistiqués capables de comprendre en temps réel les signaux d’achat des clients et l’évolution de l’environnement commercial.
Si la valeur commerciale et l’avantage concurrentiel qu’offre une interaction client optimisée constituent de puissants moteurs, les enjeux de sécurité sont considérables. Contrairement aux agents d’IA, l’IA agentique est conçue pour percevoir, raisonner et agir de manière autonome . Cette autonomie soulève des questions en matière de traçabilité, de responsabilité et de gouvernance.
“Les principaux acteurs du e-commerce déploient déjà des assistants d’achat personnels sophistiqués.”
Le secteur du e-commerce affiche déjà l’une des plus fortes proportions d’attaques avancées visant les API web et mobiles, les bots de revendeurs représentant une transaction d’ajout au panier sur cinq. Les adversaires continueront d’utiliser des bots pour mener des cyberattaques à grande échelle contre les grands modèles de langage (LLM) backend, tandis que les groupes de pirates informatiques, qui ont déjà perturbé d’importants services en ligne tels que le click and collect chez de grands distributeurs, adapteront sans aucun doute leurs tactiques, techniques et procédures (TTP) afin de cibler les workflows agentiques.
Les distributeurs doivent adopter une nouvelle approche pour garantir un déploiement sécurisé de l’IA agentique. Ne pas adapter les stratégies de gestion des risques et les dispositifs de sécurité afin de tenir compte de l’architecture et du comportement propres aux agents autonomes constitue un risque pour l’entreprise.
Laissez les outils traditionnels au placard
Ah, le bon vieux temps ! Protéger le périmètre. Déployer des contrôles de sécurité tels que des pare-feu réseau et des pare-feu applicatifs web. Effectuer des tests statiques et dynamiques. Si cette approche était viable dans les architectures client-serveur, où les flux de trafic nord-sud prédominaient et où les dispositifs traditionnels de sécurité des applications web permettaient de limiter les risques, la modernisation rapide des applications, l’essor des systèmes basés sur des API et les écosystèmes d’IA fortement interconnectés ont considérablement élargi la surface de risque et entraîné une croissance exponentielle du trafic de machine à machine (est-ouest).
De nombreuses entreprises ont ensuite introduit des interfaces de traitement automatique du langage naturel (TALN). Alors que les équipes de sécurité s’efforçaient de rattraper leur retard, les entreprises déploient désormais des systèmes d’IA agentique.
“Les bonnes pratiques de sécurité, les cadres de référence et la surveillance réglementaire sont mis à rude épreuve par l’IA agentique.”
Les paradigmes existants, tels que la défense en profondeur, restent pertinents, car les nouvelles attaques visant l’IA côté front-end ont souvent conduit à des exploitations classiques, comme l’exécution de code à distance (RCE) côté back-end.
Cependant, les bonnes pratiques de sécurité établies, telles que la divulgation responsable, les cadres existants comme le système Common Vulnerabilities and Exposures (CVE), ainsi que la supervision réglementaire peinent à suivre le rythme de la course aux armements dans le domaine de l’IA agentique.
Qui est partant pour le MCP ?
Le Model Context Protocol à la rescousse ! La norme proposée par Anthropic ainsi que le protocole Agent2Agent (A2A) proposé par Google permettent de répondre respectivement aux besoins de communication entre les modèles et les ressources, et entre les agents, mais aucun des deux ne couvre l’ensemble des exigences d’interopérabilité de l’IA agentique.
MCP et A2A constituent des avancées majeures en matière de normalisation et d’interopérabilité, mais qu’en est-il de la sécurité ? Vos contrôles de sécurité existants sont-ils adaptés au MCP ?
La prolifération des outils et des applications favorise l’essor d’une IA fantôme, tandis que les agents d’IA sont incapables de détecter les nouvelles invites d’attaque, ce qui les rend vulnérables par conception et susceptibles d’entraîner des fuites de données sensibles.
“Les défenseurs doivent agir pour garantir la gouvernance en adaptant les contrôles existants et en en déployant de nouveaux.”
Les équipes chargées de la sécurité et des risques doivent agir pour garantir la gouvernance en adaptant les contrôles existants et en en déployant de nouveaux afin de maîtriser les risques liés aux agents d’IA. En particulier, les pare-feu d’applications web et les solutions de sécurité des API doivent prendre en charge MCP. En outre, les outils de gestion des bots doivent rester résilients à mesure que les boîtes à outils d’automatisation s’enrichissent de fonctionnalités d’IA et que les attaquants sont en mesure de transformer rapidement leurs attaques en armes. Par exemple, afin d’empêcher l’extraction des données d’entraînement des LLM et du contenu des pipelines de génération augmentée par récupération (RAG), les outils de gestion des bots doivent détecter les nouvelles techniques des attaquants à l’aide de modèles de ML capables de repérer les schémas malveillants, et recourir au chiffrement et à l’obfuscation pour empêcher tout contournement.
Les équipes de défense doivent également soumettre les modèles et applications d’IA à des tests de vulnérabilité, parallèlement à une inspection lors de leur exécution. Ces améliorations sont indispensables pour assurer la traçabilité et fournir les informations nécessaires à une supervision humaine (HITL).
L’étoile polaire : Voir. Définir. Synthétiser. Enregistrer.
La recette d’une sécurité agentique consiste à réduire le délai de détection, à accélérer la remédiation et à alléger la charge qui pèse sur les équipes de sécurité.
Le choix des modèles d’IA peut compromettre l’ensemble de votre système d’IA. Ils doivent donc être renforcés avant leur déploiement et pendant leur exécution. F5 AI Red Team associé à F5 AI Guardrails permet d’effectuer des tests permanents et d’établir en continu des référentiels comportementaux capables de détecter d’éventuelles activités malveillantes.
“La gestion des risques liés à l’IA agentique exige d’anticiper les problèmes potentiels, de mettre en place des garde-fous appropriés et de synthétiser les tendances afin d’automatiser la réponse aux incidents.”
Plutôt que de contrer des attaques spécifiques et identifiées qui ont été rendues publiques, tout en laissant la possibilité d’exploiter la même faiblesse fondamentale, une approche proactive axée sur la détection des faiblesses fondamentales au moyen de tests continus offrira une protection supérieure.
Red teaming permet de simuler des attaques adverses afin de tester la résistance des systèmes d’IA et de s’assurer que les risques sont traités avant leur déploiement. Associés à une surveillance en temps réel et à des systèmes de protection à l’exécution, les contrôles de sécurité peuvent détecter en continu les comportements anormaux et les attaques telles que l’exfiltration de données et y répondre automatiquement.
Avec l’entrée en vigueur de réglementations telles que le règlement européen sur l’IA et le caractère obligatoire de référentiels comme ceux du NIST, les entreprises devront être en mesure de démontrer la robustesse de leur dispositif de sécurité en matière d’IA.
En anticipant les problèmes potentiels, en mettant en place des garde-fous appropriés et en synthétisant des modèles afin d’automatiser la réponse aux incidents, les commerçants gagneront du temps et, à terme, économiseront de l’argent.
L’avenir, c’est maintenant
Les risques liés à l’IA agentique ne peuvent pas être entièrement pris en charge par les outils traditionnels, qui laissent subsister des lacunes en matière de protection et de gouvernance.
Pour y remédier, les acteurs du e-commerce doivent sécuriser les workflows d’IA à tous les stades de maturité de l’IA. Cela comprend des tests d’attaque proactifs, l’inspection et l’application de mesures de sécurité lors de l’exécution, ainsi qu’une observabilité centralisée et la mise en conformité avec les nouvelles normes réglementaires.
En intégrant des capacités de red teaming et de garde-fous à l’exécution à la F5 Application Delivery and Security Platform (ADSP) les commerçants peuvent sécuriser en continu les déploiements d’IA agentique, de la phase pilote à la production.
Pour en savoir plus, consultez la page « Solutions F5 pour l’e-commerce ».
À propos de l’auteur
Articles de blog associés
IA et cybersécurité
Découvrez comment l’IA et la cybersécurité fonctionnent de concert. Découvrez comment l’IA et le machine learning (ML) permettent à votre entreprise de rester sécurisée, efficace et prête à innover avec F5.
Suivre le rythme de l’innovation de pointe ne suffit pas à faire avancer l’entreprise : se préparer à la réglementation de l’IA
À mesure que la réglementation de l’IA évolue, réfléchissez aux mesures de protection que vous pouvez mettre en place dès maintenant.
Les contrôleurs de mise à disposition d’applications reviennent au cœur des priorités stratégiques
L’IA rebat les cartes de la livraison d’applications. Nirav Shah de F5 revient sur la nouvelle étude de Gartner® consacrée aux ADC et explique ce qu’elle implique pour les décisions des entreprises en matière d’infrastructure.
Ce que nos clients nous disent sur l’IA, le multicloud hybride et la sécurité des applications
Le nouveau vice-président senior du marketing produit de F5 explique les pressions liées à l’IA auxquelles sont confrontés les dirigeants d’entreprise et ce dont ils ont besoin pour renforcer leur organisation.
Cinq niveaux de cyberrésilience antifragile transforment les pratiques en résultats
Découvrez comment cinq niveaux de résilience antifragile transforment les perturbations en comportements adaptatifs qui limitent les défaillances et renforcent l’architecture multicloud hybride.
Optimiser les pipelines d’IA en éliminant les goulets d’étranglement dans les charges de travail modernes
À mesure que les charges de travail d’IA montent en puissance, les entreprises constatent des ralentissements provenant du pipeline de données en amont qui alimente le modèle d’IA. Voici comment F5 BIG-IP peut les aider.