Alignement de F5 sur le Top 10 de l’OWASP pour les LLM
Le Top 10 de l’OWASP pour les applications basées sur des LLM (2025) souligne que l’IA introduit de nouveaux risques en matière de sécurité et de gouvernance, tout en renforçant les enjeux liés à la protection traditionnelle des applications. À mesure que les organisations passent des projets pilotes d’IA à la mise en production, les équipes de sécurité ont besoin de contrôles capables de suivre l’évolution des techniques adverses, tout en répondant aux exigences de confidentialité et de conformité.
Les sections suivantes mettent en correspondance chaque catégorie de risque OWASP pour les LLM avec les fonctionnalités F5 pertinentes : F5 AI Guardrails pour une protection à l’exécution indépendante du modèle et l’application de politiques à l’ensemble des interactions avec l’IA, F5 Web App and API Protection (WAAP) pour sécuriser les surfaces applicatives et API qui prennent en charge les workflows d’IA, et F5 AI Red Team pour évaluer de manière proactive les vulnérabilités des modèles et des applications avant que les attaquants ne le fassent.
LLM01 : Injection de prompt
L’injection de prompt se produit lorsque les entrées utilisateur manipulent un modèle afin de lui faire adopter un comportement nuisible, par exemple divulguer des informations sensibles, accorder un accès non autorisé ou générer du contenu biaisé ou toxique. F5 AI Guardrails réduit ces risques en analysant à la fois les prompts et les sorties du modèle afin de détecter toute activité malveillante et de bloquer les interactions dangereuses ou non conformes. La solution offre des protections prêtes à l’emploi contre des milliers de techniques d’injection de prompt connues, ainsi qu’une interface permettant de créer rapidement des Guardrails personnalisés à mesure que de nouvelles menaces apparaissent.
LLM02 : Divulgation d’informations sensibles
La divulgation d’informations sensibles présente un risque à double sens : les applications d’IA peuvent exposer des données non autorisées aux utilisateurs, tandis que ces derniers peuvent soumettre des informations sensibles, telles que des données à caractère personnel ou des données propriétaires, que le système n’est pas autorisé à traiter. F5 AI Guardrails répond à ces deux risques en filtrant les types de données sensibles, notamment les données à caractère personnel (PII), les données de cartes de paiement (PCI) et les données de santé protégées (PHI), afin d’empêcher les interactions non conformes. Les équipes peuvent également définir des modèles de données personnalisés pour surveiller ou bloquer les entrées des utilisateurs, les sorties du modèle, ou les deux. En outre, AI Guardrails prend en charge des fonctions classiques de gestion des accès, telles que le provisionnement de groupes selon le contrôle d’accès basé sur les rôles (RBAC), afin d’adapter l’application des politiques en fonction de l’utilisateur ou du groupe.
LLM03 : Chaîne d’approvisionnement
Les vulnérabilités de la chaîne d’approvisionnement des LLM menacent l’intégrité des données d’entraînement, des modèles et des plateformes de déploiement. Le risque le plus important découle de l’adoption de modèles tiers préentraînés et d’adaptateurs de faible rang (LoRA), utilisés pour affiner un modèle de base sans le réentraîner. Avec des millions de modèles et de LoRA disponibles sur des plateformes telles que Hugging Face, la surface d’attaque s’étend considérablement, créant des possibilités de falsification et d’empoisonnement des données dans d’innombrables variantes de modèles. F5 AI Guardrails crée une couche cohérente d’application des politiques dans l’ensemble des applications d’IA, quelle que soit la source du modèle. Déployé sous la forme d’un proxy qui inspecte les interactions entre les utilisateurs, les agents et les applications, AI Guardrails applique des contrôles de sécurité communs à l’exécution afin d’atténuer les risques liés aux données d’entraînement biaisées, à la variabilité des modèles et aux exploitations potentielles avant que des résultats préjudiciables n’atteignent les utilisateurs. En outre, F5 AI Red Team mène des simulations d’attaques à grande échelle afin d’évaluer les risques spécifiques et les tendances comportementales de chaque modèle. Comme les profils de risque peuvent varier considérablement, même au sein d’une même famille de modèles, AI Red Team fournit rapidement des informations exploitables sur les vulnérabilités avant que les attaquants ne puissent les exploiter.
LLM04 : Empoisonnement des données et des modèles
L’empoisonnement des données et des modèles consiste à manipuler de manière malveillante les données d’entraînement, d’affinage ou de récupération, ce qui peut dégrader la qualité des résultats, introduire des biais ou intégrer des déclencheurs de portes dérobées. F5 atténue les risques d’empoisonnement en protégeant les surfaces exposées des applications et des API grâce à F5 Web App and API Protection (WAAP). Les fonctionnalités de F5 WAAP, telles que Bot Defense et DDoS Mitigation, réduisent l’injection automatisée de contenu malveillant dans les workflows d’ingestion et de retour d’information, tandis qu’API Discovery and Security aide à identifier et à régir les API de collecte et de récupération des données, qui constituent l’un des vecteurs d’attaque les plus couramment utilisés pour influencer le comportement des modèles. En outre, F5 AI Guardrails peut servir de contrôle compensatoire à l’exécution en détectant et en bloquant, au moyen de Guardrails personnalisés, les indicateurs d’empoisonnement connus, tels que des phrases ou des motifs déclencheurs.
LLM05 : gestion incorrecte des sorties
Une gestion inadéquate des sorties se produit lorsque les résultats générés par un LLM ne sont pas suffisamment validés ou assainis avant d’être transmis à des systèmes en aval. Comme les attaquants peuvent influencer les sorties du modèle au moyen de prompts spécialement conçus, cela peut leur donner un accès indirect à des fonctionnalités sensibles et entraîner des conséquences en aval, telles que des attaques XSS ou CSRF dans les navigateurs, ou des attaques SSRF, une élévation de privilèges et l’exécution de code à distance dans les systèmes back-end. F5 AI Guardrails atténue ce risque en inspectant les sorties du modèle avant qu’elles ne soient transmises aux utilisateurs ou acheminées vers des outils en aval, et en bloquant ou en journalisant les contenus dangereux selon les politiques définies. F5 Web App and API Protection (WAAP) réduit davantage l’exposition en appliquant des contrôles de sécurité éprouvés pour le Web et les API — notamment la découverte des API, la validation des schémas et les protections contre les menaces — aux applications et aux API qui utilisent les sorties du LLM, empêchant ainsi les charges utiles malveillantes de se transformer en attaques exécutables.
LLM06 : Autonomie excessive
L’excès d’autonomie survient lorsqu’un modèle ou un agent se voit accorder davantage d’autonomie, d’autorisations ou d’accès à des outils que nécessaire, ce qui permet à des entrées manipulées de déclencher des actions involontaires, telles que l’envoi de messages, l’exécution de transactions ou l’exfiltration de données. F5 AI Guardrails atténue ce risque en imposant des limites fondées sur des politiques quant à ce que les modèles peuvent demander ou générer, et en bloquant les interactions non conformes avant qu’elles n’atteignent les outils ou les systèmes en aval. F5 Web App and API Protection (WAAP) offre une protection supplémentaire en imposant l’authentification, l’autorisation et la limitation du débit sur les API des outils et des plug-ins, afin que les services sous-jacents restent protégés même si un agent tente d’effectuer une action dangereuse.
LLM07 : Fuite du prompt système
La fuite de prompts système se produit lorsque des attaquants extraient des instructions cachées, des identifiants ou une logique de politique intégrés aux prompts système, puis exploitent ces informations pour contourner les contrôles ou intensifier leurs attaques. F5 AI Guardrails atténue ce risque en détectant et en bloquant les schémas d’extraction courants dans les entrées utilisateur, ainsi qu’en filtrant les réponses afin d’empêcher le modèle de renvoyer du contenu restreint provenant des prompts. F5 AI Red Team teste de manière proactive et à grande échelle les modèles et les applications afin d’identifier les risques de fuite de prompts et leur vulnérabilité à l’extraction des prompts système. Il fournit des résultats exploitables permettant de renforcer les prompts, les politiques et les contrôles d’exécution avant le déploiement.
LLM08 : Faiblesses des vecteurs et des plongements
Les faiblesses liées aux vecteurs et aux plongements surviennent dans les systèmes de génération augmentée par récupération (RAG) et ceux fondés sur les plongements lorsque des attaquants manipulent, empoisonnent ou exploitent le contenu récupéré afin d’influencer les réponses, de provoquer l’exposition de données sensibles ou de contourner les contrôles de sécurité. F5 Web App and API Protection (WAAP) contribue à atténuer ces risques en protégeant les API utilisées pour ingérer des documents, gérer des collections et exécuter des requêtes de récupération, notamment grâce à la découverte des API, à l’application des schémas et à la prévention des bots et des abus. F5 AI Guardrails réduit davantage les répercussions en aval en appliquant une inspection à l’exécution et des politiques personnalisées aux sorties du modèle, ce qui permet de détecter les schémas suspects, les contenus dangereux ou les données sensibles avant que les réponses ne soient transmises aux utilisateurs.
LLM09 : Désinformation
Le risque de désinformation survient lorsqu’un LLM produit des réponses incorrectes ou trompeuses susceptibles d’entraîner des décisions dangereuses, de nuire à la réputation ou de provoquer des manquements à la conformité. F5 AI Guardrails atténue ce risque grâce à des Guardrails de modération de contenu qui signalent ou bloquent les catégories de contenu à haut risque, imposent des structures de réponse spécifiques ou déclenchent des contrôles supplémentaires lorsque le contenu semble incertain ou non conforme. F5 AI Red Team évalue le comportement des systèmes d’IA face à des questions contradictoires et à des cas limites, aidant ainsi les équipes à quantifier les tendances à la désinformation et à ajuster les politiques et les workflows avant la mise en production.
LLM10 : Consommation non limitée
La consommation non limitée se produit lorsque des attaquants ou des clients mal configurés entraînent une utilisation excessive du modèle, provoquant l’épuisement des ressources, une dégradation de la disponibilité ou une hausse imprévue des coûts en raison d’un volume élevé de requêtes, de prompts surdimensionnés ou d’une automatisation abusive. F5 Web App and API Protection (WAAP) atténue ce risque en appliquant une limitation du débit et une protection contre les attaques DDoS au niveau des applications et des API, afin de réduire le trafic abusif avant qu’il n’atteigne l’infrastructure du modèle. Associé à des fonctionnalités de découverte et à des contrôles de sécurité pour les API exposées à l’IA, F5 WAAP contribue à maîtriser les risques liés à la disponibilité et aux coûts découlant d’une utilisation incontrôlée des LLM.
La sécurité de l’IA est une cible mouvante
La sécurisation des applications basées sur des LLM ne peut se limiter à des tests ponctuels ni aux paramètres par défaut des fournisseurs de modèles. Une stratégie efficace de sécurité de l’IA exige l’application continue de politiques lors de l’exécution, ainsi qu’une protection robuste des API, des outils et des systèmes de données dont dépendent les LLM. Pour répondre aux dix principaux risques de l’OWASP pour les applications basées sur des LLM (2025), F5 combine :
- F5 AI Guardrails - Sécurité adaptative à l’exécution, indépendante du modèle, avec F5 AI Guardrails pour empêcher les fuites de données, les manipulations malveillantes et les résultats préjudiciables
- F5 AI Red Team - Tests proactifs avec F5 AI Red Team pour détecter rapidement les faiblesses propres aux modèles et aux workflows, et convertir les résultats en défenses actives
- F5 Web App and API Protection (WAAP) - Contrôles des applications et des API visant à réduire les risques d’exposition, d’utilisation abusive et de consommation excessive des ressources
Ensemble, ces différentes couches permettent aux entreprises de déployer l’IA à grande échelle tout en préservant la résilience, la conformité et la confiance des utilisateurs à mesure que les expériences basées sur les LLM évoluent.