Alignement de F5 sur le Top 10 de l’OWASP pour les LLM
Le Top 10 de l’OWASP pour les applications LLM (2025) souligne que l’IA introduit de nouveaux risques en matière de sécurité et de gouvernance, tout en renforçant les enjeux liés à la protection traditionnelle des applications. À mesure que les organisations passent des projets pilotes d’IA à la mise en production, les équipes de sécurité ont besoin de mécanismes de contrôle capables de suivre l’évolution des techniques d’attaque tout en respectant les exigences de confidentialité et de conformité.
Les sections suivantes associent chaque catégorie de risque de l’OWASP pour les LLM aux fonctionnalités F5 pertinentes : F5 AI Guardrails pour une protection à l’exécution indépendante du modèle et l’application des politiques à l’ensemble des interactions avec l’IA, F5 Web App and API Protection (WAAP) pour sécuriser les surfaces applicatives et les API qui sous-tendent les workflows d’IA, et F5 AI Red Team pour évaluer de manière proactive les vulnérabilités des modèles et des applications avant que les attaquants ne le fassent.
LLM01 : Injection de prompt
L’injection de prompt se produit lorsque les entrées utilisateur manipulent un modèle pour l’amener à adopter un comportement nuisible, comme divulguer des informations sensibles, accorder un accès non autorisé ou générer du contenu biaisé ou toxique. F5 AI Guardrails atténue ces risques en inspectant les prompts et les réponses du modèle afin de détecter toute activité malveillante et de bloquer les interactions dangereuses ou non conformes. La solution offre des protections prêtes à l’emploi contre des milliers de techniques connues d’injection de prompt, ainsi qu’une interface permettant de créer rapidement des garde-fous personnalisés à mesure que de nouvelles menaces apparaissent.
LLM02 : Divulgation d’informations sensibles
La divulgation d’informations sensibles présente un double risque : les applications d’IA peuvent exposer des données à des utilisateurs non autorisés à y accéder, et les utilisateurs peuvent soumettre des informations sensibles, telles que des données à caractère personnel ou des données propriétaires, que le système n’est pas autorisé à traiter. F5 AI Guardrails répond à ces deux risques en filtrant les types de données sensibles, notamment les données à caractère personnel (PII), les données de cartes de paiement (PCI) et les données de santé protégées (PHI), afin d’empêcher les interactions non conformes. Les équipes peuvent également définir des motifs de données personnalisés pour surveiller ou bloquer les entrées utilisateur, les sorties des modèles, ou les deux. En outre, AI Guardrails prend en charge les fonctions classiques de gestion des accès, comme le provisionnement de groupes RBAC, afin d’adapter l’application des politiques à chaque utilisateur ou groupe.
LLM03 : Chaîne d’approvisionnement
Les vulnérabilités de la chaîne d’approvisionnement des LLM menacent l’intégrité des données d’entraînement, des modèles et des plateformes de déploiement. Le risque le plus important découle de l’adoption de modèles tiers préentraînés et d’adaptateurs de faible rang (LoRA), utilisés pour ajuster un modèle de base sans le réentraîner. Avec des millions de modèles et de LoRA disponibles sur des plateformes comme Hugging Face, la surface d’attaque s’élargit considérablement, multipliant les possibilités d’altération et d’empoisonnement des données dans d’innombrables variantes de modèles. F5 AI Guardrails crée une couche cohérente d’application des politiques à travers les applications d’IA, quelle que soit l’origine des modèles. Déployé sous la forme d’un proxy qui inspecte les interactions entre les utilisateurs, les agents et les applications, AI Guardrails applique des contrôles de sécurité communs à l’exécution pour atténuer les risques liés aux biais des données d’entraînement, à la variabilité des modèles et aux exploitations potentielles de vulnérabilités, avant que des réponses préjudiciables ne parviennent aux utilisateurs. De plus, F5 AI Red Team effectue des simulations d’attaques à grande échelle pour évaluer les risques spécifiques et les tendances comportementales de chaque modèle. Les profils de risque pouvant varier considérablement, même au sein d’une même famille de modèles, AI Red Team fournit rapidement des informations exploitables sur les vulnérabilités, avant que les attaquants ne puissent les exploiter.
LLM04 : Empoisonnement des données et des modèles
L’empoisonnement des données et des modèles consiste à manipuler de manière malveillante les données d’entraînement, d’ajustement fin ou de récupération, ce qui peut dégrader la qualité des résultats, introduire des biais ou intégrer des déclencheurs de portes dérobées. F5 atténue les risques d’empoisonnement en protégeant les surfaces exposées des applications et des API avec F5 Web App and API Protection (WAAP). Les fonctionnalités de F5 WAAP, telles que Bot Defense et DDoS Mitigation, réduisent l’injection automatisée de contenus malveillants dans les flux d’ingestion et de retour d’information, tandis qu’API Discovery and Security aide à identifier et à encadrer les API de collecte et de récupération des données, l’un des vecteurs d’attaque les plus couramment utilisés pour influencer le comportement des modèles. De plus, F5 AI Guardrails peut servir de mesure de sécurité compensatoire à l’exécution en détectant et en bloquant les indicateurs d’empoisonnement connus, tels que des expressions ou des motifs déclencheurs, à l’aide de garde-fous personnalisés.
LLM05 : Gestion inadéquate des sorties
Une gestion inadéquate des sorties se produit lorsque les contenus générés par un LLM ne sont pas suffisamment validés ou assainis avant d’être transmis aux systèmes en aval. Les attaquants pouvant influencer les sorties du modèle au moyen de requêtes spécialement conçues, cette situation peut permettre un accès indirect à des fonctionnalités sensibles et entraîner des conséquences en aval, telles que des attaques XSS ou CSRF dans les navigateurs, ou encore des attaques SSRF, une élévation de privilèges et l’exécution de code à distance dans les systèmes backend. F5 AI Guardrails atténue ce risque en inspectant les sorties du modèle avant leur transmission aux utilisateurs ou leur acheminement vers des outils en aval, et en bloquant ou en journalisant les contenus dangereux selon les politiques définies. F5 Web App and API Protection (WAAP) réduit davantage l’exposition en appliquant des contrôles éprouvés de sécurité web et des API — notamment la découverte des API, la validation des schémas et la protection contre les menaces — aux applications et aux API qui exploitent les sorties des LLM, empêchant ainsi les charges utiles malveillantes de se transformer en attaques exécutables.
LLM06 : Autonomie excessive
L’autonomie excessive survient lorsqu’un modèle ou un agent se voit accorder davantage d’autonomie, d’autorisations ou d’accès aux outils que nécessaire, ce qui permet à des entrées manipulées de déclencher des actions non souhaitées, telles que l’envoi de messages, l’exécution de transactions ou l’exfiltration de données. F5 AI Guardrails atténue ce risque en imposant des limites fondées sur des politiques aux requêtes et aux réponses des modèles, et en bloquant les interactions non conformes avant qu’elles n’atteignent les outils ou les systèmes en aval. F5 Web App and API Protection (WAAP) offre une protection supplémentaire en imposant l’authentification, le contrôle des autorisations et la limitation du débit sur les API des outils et des plug-ins, afin de garantir que les services sous-jacents restent protégés même si un agent tente d’effectuer une action dangereuse.
LLM07 : Fuite du prompt système
La divulgation du prompt système se produit lorsque des attaquants extraient des instructions cachées, des identifiants ou des règles de sécurité intégrés aux prompts système, puis exploitent ces informations pour contourner les contrôles ou intensifier leurs attaques. F5 AI Guardrails atténue ce risque en détectant et en bloquant les schémas d’extraction courants dans les entrées utilisateur, et en filtrant les réponses pour empêcher le modèle de restituer du contenu confidentiel du prompt. F5 AI Red Team teste de manière proactive et à grande échelle les modèles et les applications afin d’évaluer leur vulnérabilité à la divulgation de prompts et à l’extraction de prompts système. Il fournit des résultats exploitables pour renforcer les prompts, les politiques de sécurité et les contrôles à l’exécution avant le déploiement.
LLM08 : Faiblesses des vecteurs et des plongements
Les vulnérabilités liées aux vecteurs et aux plongements apparaissent dans les systèmes de génération augmentée par récupération (RAG) et les systèmes fondés sur les plongements lorsque des attaquants manipulent, empoisonnent ou exploitent les contenus récupérés pour influencer les réponses, provoquer la divulgation de données sensibles ou contourner les contrôles de sécurité. F5 Web App and API Protection (WAAP) contribue à atténuer ces risques en protégeant les API utilisées pour ingérer des documents, gérer des collections et exécuter des requêtes de récupération, notamment grâce à la découverte des API, à la validation de la conformité aux schémas et à la prévention des activités de bots et des abus. F5 AI Guardrails réduit davantage les répercussions en aval en appliquant une inspection à l’exécution et des politiques personnalisées aux sorties des modèles, ce qui aide à détecter les schémas suspects, les contenus dangereux ou les données sensibles avant que les réponses ne soient transmises aux utilisateurs.
LLM09 : Désinformation
Le risque de désinformation survient lorsqu’un LLM produit des réponses incorrectes ou trompeuses susceptibles d’entraîner des décisions dangereuses, une atteinte à la réputation ou des manquements aux obligations de conformité. F5 AI Guardrails atténue ce risque grâce à des garde-fous de modération des contenus qui signalent ou bloquent les catégories de contenus à haut risque, imposent des structures de réponse spécifiques ou déclenchent des contrôles supplémentaires lorsque le contenu semble incertain ou non conforme. F5 AI Red Team évalue le comportement des systèmes d’IA face à des questions adversariales et à des cas limites, aidant ainsi les équipes à quantifier leur propension à générer de la désinformation et à ajuster les politiques et les processus avant le déploiement en production.
LLM10 : Consommation sans limites
La consommation sans limites survient lorsque des attaquants ou des clients mal configurés provoquent une utilisation excessive du modèle, entraînant un épuisement des ressources, une dégradation de la disponibilité ou une hausse imprévue des coûts en raison d’un volume élevé de requêtes, de prompts surdimensionnés ou d’une automatisation abusive. F5 Web App and API Protection (WAAP) atténue ce risque en appliquant une limitation du débit et une protection contre les attaques DDoS au niveau des applications et des API afin de réduire le trafic abusif avant qu’il n’atteigne l’infrastructure du modèle. Associé à la découverte des API exposant des services d’IA et à des contrôles de sécurité, F5 WAAP contribue à maîtriser les risques liés à la disponibilité et aux coûts qu’entraîne une utilisation incontrôlée des LLM.
La sécurité de l’IA est une cible mouvante
La sécurisation des applications basées sur les LLM ne se limite pas à des tests ponctuels ou aux paramètres par défaut des fournisseurs de modèles. Une stratégie efficace de sécurité de l’IA exige l’application continue de politiques de sécurité à l’exécution et une protection robuste des API, des outils et des systèmes de données dont dépendent les LLM. Pour répondre aux risques du Top 10 OWASP pour les applications LLM (2025), F5 combine :
- F5 AI Guardrails - Une sécurité adaptative à l’exécution, indépendante du modèle, avec F5 AI Guardrails pour prévenir les fuites de données, les manipulations malveillantes et les réponses préjudiciables
- F5 AI Red Team - Tests proactifs avec F5 AI Red Team pour détecter en amont les faiblesses propres aux modèles et aux workflows et transformer les résultats en mesures de défense actives
- F5 Web App and API Protection (WAAP) - Contrôles des applications et des API pour réduire l’exposition aux menaces, les abus et les risques liés aux ressources
Ensemble, ces couches permettent aux entreprises de déployer l’IA à grande échelle tout en préservant leur résilience, leur conformité et la confiance des utilisateurs, à mesure qu’évoluent les expériences reposant sur les LLM.