Cet article de blog est le sixième d’une série consacrée aux garde-fous de l’IA.
Tous les garde-fous de l’IA ne fonctionnent pas de la même manière. Cette différence devient de plus en plus difficile à ignorer. Alors que les organisations mettent en place des mécanismes de contrôle lors de l’inférence, c’est-à-dire au moment où un modèle traite une requête et génère une réponse, deux approches sont souvent confondues.
L’une repose sur des classificateurs spécialement entraînés et optimisés pour la rapidité. L’autre utilise des mécanismes de contrôle pilotés par des LLM, conçus pour analyser l’intention, le contexte et les règles applicables. Ces deux approches sont souvent qualifiées de garde-fous à l’exécution, mais leur comportement en production diffère considérablement. Il en résulte une confusion croissante quant à ce que les garde-fous protègent réellement, à leurs limites et aux raisons pour lesquelles les seules mesures de performance ne suffisent pas à rendre compte de la situation dans son ensemble.
À mesure que les systèmes d’IA gagnent en maturité après leur déploiement initial, les limites des classificateurs statiques deviennent plus manifestes, en particulier lorsque les garde-fous sont censés évoluer au rythme des usages réels, des menaces émergentes et de l’évolution des exigences réglementaires.
“La confusion autour des garde-fous de l’IA n’est pas qu’une question de sémantique. Elle détermine la manière dont les systèmes d’IA sont protégés en pratique. Les garde-fous fondés sur le machine learning et ceux pilotés par des LLM répondent à des problématiques différentes, privilégient des compromis différents et présentent des modes de défaillance distincts.”
Ce que nous entendons par garde-fous lors de l’exécution
Avant de comparer les différentes approches, il est important de distinguer les garde-fous au niveau du modèle de ceux appliqués lors de l’exécution.
Les garde-fous au niveau du modèle sont généralement mis en place lors de l’entraînement ou de l’alignement. Ils influencent le comportement attendu du modèle. Les garde-fous à l’exécution interviennent pendant l’inférence. Ils analysent les prompts et les réponses en temps réel et veillent au respect des politiques lorsque les systèmes d’IA interagissent avec des utilisateurs, des agents, des API et des données d’entreprise.
Cette distinction est importante, car la plupart des défaillances graves ne se manifestent pas lors de l’entraînement ou des évaluations comparatives. L’injection de prompts, les fuites indirectes de données, l’élévation de privilèges et le contournement des politiques apparaissent lors des interactions en conditions réelles, où les mécanismes de contrôle doivent prendre des décisions en continu, souvent dans des conditions hostiles.
Domaines dans lesquels les garde-fous basés sur le machine learning sont efficaces
Les garde-fous basés sur le ML, notamment ceux que de nombreux fournisseurs qualifient de classificateurs spécialisés, utilisent des techniques traditionnelles d’apprentissage automatique (ML) ou de petits modèles de langage (SLM) entraînés sur des données étiquetées afin de détecter des catégories de risques connues. Ils sont particulièrement efficaces lorsque les schémas sont stables, les définitions précises et les décisions doivent être prises extrêmement rapidement.
Ces approches sont appréciées pour leur faible latence et leurs performances prévisibles, leur rentabilité à grande échelle et leur grande précision dans la détection de risques bien définis, tels que les catégories de toxicité connues, les formats courants d’informations personnelles identifiables (PII) ou les schémas d’injection de prompt fondés sur des signatures.
Les classificateurs spécialement conçus peuvent être très efficaces dans leur domaine d’application. Lorsqu’ils sont régulièrement mis à jour, ils assurent une protection fiable contre les menaces récurrentes et bien comprises. Comme dans la sécurité traditionnelle, ces contrôles restent un élément indispensable d’une stratégie de défense en profondeur.
Les garde-fous basés sur le machine learning montrent leurs limites lorsque le contexte est déterminant
Les systèmes d’IA générative fonctionnent dans des conditions pour lesquelles les classificateurs traditionnels n’ont jamais été conçus. Les requêtes sont ouvertes. Les attaques s’adaptent. Les violations sont souvent indirectes et peuvent ne devenir apparentes qu’au fil de plusieurs échanges ou interactions.
Ces limites sont structurelles. Les classificateurs conçus à des fins spécifiques s’appuient sur des exemples antérieurs et peinent à traiter les cas limites, tels que les formulations inédites, l’obfuscation ou le chaînage de prompts. Les modèles de machine learning peuvent détecter des schémas, mais ils ne sont pas capables de raisonner sur l’intention, le rôle ou les subtilités des politiques. Élargir la couverture nécessite généralement un nouvel entraînement ou un réétiquetage, ce qui entraîne des délais à mesure que les menaces évoluent. Il est souvent difficile, en pratique, de traduire des politiques commerciales, juridiques ou réglementaires complexes en catégories fixes.
Ces contraintes deviennent particulièrement visibles après le déploiement initial. Les garde-fous fondés sur le machine learning sont plus efficaces lorsque les risques correspondent à des schémas statiques et que les politiques évoluent lentement. Or, les systèmes d’IA générative ne fonctionnent pas dans de telles conditions. À mesure que les prompts, les utilisateurs, les agents et les intégrations évoluent, les contrôles doivent s’adapter sans nécessiter de réentraînement constant ni d’ajout manuel de règles. C’est là que les approches reposant uniquement sur le machine learning montrent leurs limites, non pas parce qu’elles sont dénuées de valeur, mais parce qu’elles n’ont pas été conçues pour assurer une application continue et adaptative des politiques au fil du temps.
Pourquoi les garde-fous pilotés par les LLM changent la donne
Les garde-fous pilotés par des LLM utilisent de grands modèles de langage pour évaluer les prompts et les réponses dans leur contexte. Au lieu de chercher à déterminer si une interaction correspond à un schéma connu, ils évaluent si elle enfreint les règles en tenant compte de l’intention, du cas d’usage, des données concernées et de l’historique des interactions qui l’entourent.
Cela permet d’offrir des fonctionnalités que les classificateurs seuls peinent à fournir.
Les garde-fous pilotés par des LLM peuvent interpréter les requêtes indirectes, les attaques en plusieurs étapes et les intentions dissimulées. Cette capacité est essentielle pour détecter les techniques modernes d’injection de prompts et de contournement des restrictions qui échappent à la détection fondée sur des motifs.
Ils permettent également d’évaluer les interactions au regard de politiques formulées en langage naturel. Cependant, toutes les implémentations basées sur des LLM ne permettent pas une véritable personnalisation. Beaucoup s’appuient sur des politiques fixes définies par le fournisseur et appliquées uniformément à tous les cas d’usage.
Les garde-fous personnalisables pilotés par des LLM permettent aux organisations de définir, d’ajuster et d’appliquer à l’exécution des politiques sur mesure. Ces politiques peuvent être adaptées à des applications spécifiques, à la sensibilité des données, aux rôles des utilisateurs et au niveau de tolérance au risque. Cette distinction est essentielle dans les environnements d’entreprise, où un même modèle peut être utilisé pour la recherche interne, des processus destinés aux clients et des activités réglementées, chacun ayant des exigences d’application différentes.
Parce que les garde-fous pilotés par des LLM raisonnent plutôt qu’ils ne se contentent de classifier, ils s’adaptent plus efficacement aux nouvelles techniques d’attaque. Associées à des données de tests adversariaux continuellement actualisées, les défenses évoluent au rythme des menaces observées dans le monde réel, au lieu d’accuser un temps de retard.
Cependant, à elles seules, les mesures de protection pilotées par des LLM ne garantissent ni une application continue, ni la personnalisation, ni la résilience opérationnelle. Ces capacités dépendent de la manière dont le raisonnement fondé sur les LLM est intégré à un cadre plus large de contrôle de l’exécution.
Pourquoi les garde-fous de l’IA générative restent essentiels après le premier jour
Les garde-fous pilotés par des LLM permettent de raisonner sur l’intention et le contexte. Les garde-fous de l’IA générative étendent cette capacité à un plan de contrôle à l’exécution, conçu pour fonctionner, s’adapter et faire appliquer les politiques dans l’ensemble des systèmes d’IA générative bien après leur déploiement initial. Cette distinction est importante, car le raisonnement seul ne suffit plus dès lors que les systèmes d’IA sont confrontés à de vrais utilisateurs, à des données réelles et à de véritables comportements malveillants.
Les premiers déploiements d’IA peuvent souvent être sécurisés à l’aide de contrôles statiques et de la détection de schémas connus. Ces approches peuvent s’avérer efficaces lors des premières phases du déploiement, lorsque l’utilisation est limitée et que les risques sont relativement prévisibles. Au fil du temps, les systèmes d’IA générative évoluent, les prompts changent, de nouveaux agents sont introduits, les intégrations se multiplient, les techniques d’attaque s’adaptent et les politiques évoluent en fonction des exigences réglementaires, commerciales ou opérationnelles.
À ce stade, souvent appelé « opérations du deuxième jour », les garde-fous ne doivent plus se contenter de détecter les violations connues. Ils doivent interpréter en permanence les intentions, s’adapter aux nouvelles techniques d’exploitation et appliquer des politiques qui reflètent l’utilisation réelle de l’IA en production. Cela nécessite des contrôles à l’exécution capables d’évoluer sans réentraînement, redéploiement ou ajout manuel constant de règles.
Les garde-fous de l’IA générative sont conçus pour répondre à cette réalité. Ils s’appuient sur le raisonnement des LLM dans un cadre opérationnel permettant la personnalisation, l’application continue des règles et l’évolution des politiques à l’échelle des modèles, des agents, des utilisateurs et des flux de données. Plutôt que de remplacer les contrôles existants, ils complètent les garde-fous fondés sur le machine learning en apportant la flexibilité et la compréhension sémantique nécessaires pour maintenir la sécurité à mesure que les systèmes d’IA générative gagnent en maturité.
Le rôle des défenses hybrides
Les stratégies de sécurité à l’exécution les plus efficaces ne choisissent pas entre les garde-fous basés sur le machine learning et ceux basés sur les LLM. Elles les combinent au moyen de garde-fous pour l’IA générative, qui appliquent un raisonnement au sein d’une couche cohérente de contrôle à l’exécution.
Les classificateurs spécialement conçus bloquent efficacement les menaces connues et récurrentes. Le raisonnement fondé sur les LLM permet de gérer l’ambiguïté, les situations inédites et les subtilités des politiques. Ensemble, ils constituent une approche de défense en profondeur conforme aux pratiques de sécurité établies de longue date. La différence avec l’IA générative tient au fait que l’utilisation après la mise en production est la norme plutôt que l’exception. Les contrôles qui ne peuvent pas s’adapter au fil du temps perdront inévitablement en efficacité.
La clarté est essentielle lors de l’exécution
La confusion autour des garde-fous de l’IA n’est pas seulement d’ordre sémantique. Elle influe sur la manière dont les systèmes d’IA sont protégés en pratique. Les garde-fous fondés sur le machine learning et ceux pilotés par des LLM répondent à des problématiques différentes, privilégient des compromis distincts et présentent des modes de défaillance différents.
La rapidité et le coût restent des critères importants, mais ils ne suffisent pas à eux seuls. Une protection efficace lors de l’exécution dépend du contexte, de la capacité d’adaptation et de l’aptitude à appliquer des politiques qui tiennent compte de l’évolution des cas d’usage réels. Les garde-fous fondés sur le machine learning, notamment les classificateurs spécialement conçus à cet effet, jouent un rôle précieux, mais ne peuvent à eux seuls répondre aux exigences permanentes de l’IA générative en production.
Une sécurité durable lors de l’inférence nécessite des garde-fous pour l’IA générative capables de transformer le raisonnement fondé sur les LLM en contrôles adaptatifs et applicables à l’exécution pour les opérations du deuxième jour et au-delà, lorsque les risques réels apparaissent et que les défenses statiques ne suffisent plus.
Découvrez comment F5 AI Guardrails assurent l’application des contrôles à l’exécution sur l’ensemble des modèles, des agents et des cas d’usage.
N’oubliez pas non plus de consulter les précédents articles de notre série :
IA responsable : les Guardrails concilient innovation et éthique
Confidentialité des données de l’IA : Guardrails qui protègent les données sensibles
Gestion des risques liés à l’IA : comment les garde-fous peuvent les atténuer
À propos de l’auteur
Articles de blog associés
IA et cybersécurité
Découvrez comment l’IA et la cybersécurité fonctionnent de concert. Découvrez comment l’IA et le machine learning (ML) permettent à votre entreprise de rester sécurisée, efficace et prête à innover avec F5.
Suivre le rythme de l’innovation de pointe ne suffit pas à faire avancer l’entreprise : se préparer à la réglementation de l’IA
À mesure que la réglementation de l’IA évolue, réfléchissez aux mesures de protection que vous pouvez mettre en place dès maintenant.
Les contrôleurs de mise à disposition d’applications reviennent au cœur des priorités stratégiques
L’IA rebat les cartes de la livraison d’applications. Nirav Shah de F5 revient sur la nouvelle étude de Gartner® consacrée aux ADC et explique ce qu’elle implique pour les décisions des entreprises en matière d’infrastructure.
Ce que nos clients nous disent sur l’IA, le multicloud hybride et la sécurité des applications
Le nouveau vice-président senior du marketing produit de F5 explique les pressions liées à l’IA auxquelles sont confrontés les dirigeants d’entreprise et ce dont ils ont besoin pour renforcer leur organisation.
Cinq niveaux de cyberrésilience antifragile transforment les pratiques en résultats
Découvrez comment cinq niveaux de résilience antifragile transforment les perturbations en comportements adaptatifs qui limitent les défaillances et renforcent l’architecture multicloud hybride.
Optimiser les pipelines d’IA en éliminant les goulets d’étranglement dans les charges de travail modernes
À mesure que les charges de travail d’IA montent en puissance, les entreprises constatent des ralentissements provenant du pipeline de données en amont qui alimente le modèle d’IA. Voici comment F5 BIG-IP peut les aider.