F5 a récemment annoncé deux nouveaux produits de sécurité pour l’IA, F5 AI Guardrails et F5 AI Red Team. Cette annonce intervient à un moment charnière, alors que les autorités de réglementation du secteur examinent de plus en plus attentivement l’utilisation de l’IA pour fournir des services aux consommateurs.
Bien qu’il existe certaines réglementations propres à l’IA, telles que le règlement européen sur l’IA, qui a fait l’objet d’une large couverture médiatique, les autorités de réglementation de nombreux pays s’appuient sur les cadres réglementaires existants pour veiller à ce que les entreprises utilisent l’IA de manière responsable. Par conséquent, même dans les pays où il n’existe aucune réglementation propre à l’IA, les entreprises doivent souvent satisfaire à de lourdes exigences de conformité pour intégrer les innovations en matière d’IA à leurs environnements technologiques. En outre, de nombreux modèles, notamment les grands modèles de langage (LLM), fonctionnent comme des boîtes noires, ce qui rend leur utilisation plus complexe au regard des obligations de conformité des entreprises en matière d’équité, de transparence et d’explicabilité.
F5 AI Guardrails et AI Red Team, les tout derniers ajouts à la F5 Application Delivery and Security Platform (ADSP) , offrent des contrôles de conformité robustes qui aident les entreprises à mieux comprendre et mettre en corrélation les entrées et les sorties des modèles d’IA, à éliminer les biais et à renforcer la supervision humaine.
Tout cela peut être réalisé en quelques clics, transformant ainsi ces informations en défenses actives qui garantissent que les modèles restent conformes aux obligations réglementaires de l’organisation et à ses normes internes en matière d’utilisation responsable et éthique de l’IA. Pour les entreprises qui freinent le déploiement de l’IA en raison de risques juridiques ou réglementaires, il s’agit d’une avancée révolutionnaire.
Simplifiez et atténuez les facteurs de risque liés aux modèles d’IA, quel que soit le cas d’usage
Les fonctionnalités de F5 AI Guardrails jouent un rôle déterminant pour aider les organisations à renforcer leurs stratégies de gouvernance de l’IA, lesquelles sont essentielles dès lors que l’IA a une incidence directe sur la vie des personnes. Prenons, par exemple, les établissements financiers qui souhaitent utiliser l’IA pour traiter les demandes de prêt. Ces établissements pourraient s’exposer à des risques chaque fois que l’IA refuse un prêt qu’un évaluateur humain aurait accordé. Or, la difficulté tient au fait qu’il existe très peu d’outils efficaces permettant de comprendre pourquoi un modèle peut refuser un prêt. Même si un modèle est soumis à des tests approfondis avant son utilisation, son manque d’explicabilité ne permettra ni de satisfaire aux contrôles réglementaires ni de répondre aux propres exigences de transparence de l’organisation.
“Pour les entreprises qui freinent le déploiement de leurs solutions d’IA en raison de risques juridiques ou réglementaires, il s’agit d’une avancée révolutionnaire.”
Lors du déploiement initial d’un modèle d’IA, les organisations souhaitent le tester et le valider rigoureusement afin de s’assurer qu’il ne dérape pas en divulguant des informations sensibles, en reproduisant des biais ou en aboutissant à des décisions injustes susceptibles d’engager la responsabilité juridique de l’entreprise.
F5 AI Red Team permet de tester les systèmes d’IA de manière étendue et stratégique grâce à des tests adverses automatisés à grande échelle, qui identifient les comportements et les vulnérabilités, aussi bien manifestes que difficiles à détecter, afin que les équipes disposent d’une vue d’ensemble de tous les risques. Ces capacités de red teaming s’appuient sur une base de données de pointe, enrichie chaque mois de plus de 10 000 nouvelles invites d’attaque. Les entreprises peuvent également créer leurs propres tests afin de garantir la cohérence des comportements à mesure que les modèles sont mis à jour. Cette démarche aide les équipes à vérifier que les modèles se comportent comme prévu, ainsi qu’à orienter et à adapter leurs stratégies de sécurité des données, de gestion des menaces et de gouvernance pour garder une longueur d’avance sur les risques émergents.
Avec F5 AI Guardrails, les organisations peuvent mettre en corrélation les invites et les réponses, définir des alertes lorsque le volume d’invites portant sur un sujet donné atteint certains seuils, et signaler les invites critiques afin qu’elles soient évaluées et corrigées. La solution fournit les outils de supervision humaine et de tenue de registres dont les équipes chargées de la gouvernance de l’IA ont besoin.
F5 AI Red Team offre à la fois une vue d’ensemble des raisons pour lesquelles un modèle se comporte d’une certaine manière et une vue détaillée permettant d’expliquer quelles caractéristiques ou quels jetons d’une invite ont le plus influencé une inférence donnée. Pour reprendre l’exemple des services financiers, une entreprise peut utiliser les fonctionnalités de F5 AI Red Team afin de déterminer quelles données d’une demande de prêt ont eu le plus d’incidence sur l’inférence ou le résultat d’un modèle, et sur quelles sources de données précises celui-ci s’est le plus appuyé pour prendre sa décision. Les organisations disposent ainsi de davantage de points de données pour comprendre le fonctionnement d’un modèle, repérer les caractéristiques surpondérées ou sous-pondérées et fournir des informations utiles à un nouvel entraînement ou à un ajustement plus poussé. Elles peuvent également générer rapidement la documentation nécessaire aux audits et aux démarches de conformité.
Lever les obstacles à l’adoption de l’IA et accélérer la mise en conformité
La simplicité constitue un facteur de différenciation essentiel. Cette solution intuitive évite d’avoir à créer des outils internes sur mesure et complète le reste de F5 ADSP en offrant des fonctionnalités agiles de test, de surveillance et d’ajustement qui vont au-delà du simple respect des normes. Les organisations peuvent accélérer leurs initiatives en matière d’IA et le déploiement de plusieurs modèles d’IA complexes malgré les obstacles réglementaires, tout en faisant de la confidentialité des consommateurs et de l’équité les piliers de leurs propres offres de services.
Il est important de noter que, même dans les environnements où aucune réglementation explicite sur l’utilisation de l’IA n’a encore été élaborée, les autorités de réglementation réinterprètent les cadres juridiques existants afin de les appliquer aux processus d’IA. Pour revenir une nouvelle fois aux services financiers, les autorités de réglementation évaluent actuellement l’utilisation de l’IA par les entreprises au regard du Fair Credit Reporting Act (FCRA), adopté initialement en 1970. AI Guardrails aide les organisations à satisfaire dès maintenant à leurs obligations, tout en les préparant mieux aux nouvelles réglementations susceptibles de voir le jour à l’avenir.
Accélérez le déploiement d’une IA conforme, transparente et peu risquée
À la suite de cette acquisition et de l’élargissement des capacités de F5 ADSP, les organisations disposeront des moyens nécessaires pour résoudre le problème de la boîte noire de l’IA, tout en démontrant aux autorités de réglementation la solidité de leur gestion des risques et de leur gouvernance des données. Certains des cas d’usage de l’IA les plus prometteurs, jusqu’alors considérés comme présentant un risque élevé, peuvent désormais être mis en œuvre avec des garde-fous adaptés, une supervision humaine et des outils d’explicabilité. F5 peut aider les organisations à y parvenir plus rapidement grâce à une plateforme complète et à des outils simples, conçus pour tous les environnements.
Pour en savoir plus, consultez notre précédent article de blog.
À propos de l’auteur
Articles de blog associés
F5 rejoint le projet PQC du NIST pour contribuer à l’élaboration de normes résistantes aux attaques quantiques
En rejoignant le consortium du projet « Migration to PQC » du NIST, F5 contribue à élaborer des recommandations pratiques pour un monde résistant aux menaces quantiques.
La dernière version de F5 Distributed Cloud Bot Defense offre des fonctionnalités et des améliorations de nouvelle génération
Les mises à jour de la console de F5 Distributed Cloud Bot Defense améliorent la gestion des menaces automatisées et l’intégration dans des cadres de sécurité plus larges.
La nouvelle surface de risque liée à l’IA : invisible, autonome et déjà à l’intérieur
James White, vice-président de l’ingénierie chez F5 À mi-parcours de l’année 2025, le moment est bien choisi pour dresser un état des lieux de l’adoption de l’IA en entreprise et de la sécurité de l’IA. L’utilisation de l’IA générative est désormais la norme dans les entreprises De manière générale, les entreprises possèdent au moins une compréhension élémentaire de l’IA générative. Elles savent ce qu’elle est et où elle peut […]
Évaluation des LLM : renforcer la confiance grâce à la notation de sécurité
À mesure que l’adoption de l’IA s’accélère dans les entreprises, l’évaluation des LLM ne porte plus uniquement sur leurs performances, mais aussi sur la confiance qu’ils inspirent. Les équipes de sécurité doivent évaluer non seulement les performances d’un modèle, mais aussi la sûreté de son comportement. Pourtant, la plupart des cadres d’évaluation se concentrent sur des critères de précision, laissant les facteurs de sécurité et de risque dans le flou ou sans mesure.
Évaluer le niveau de préparation de votre organisation à la sécurité de l’IA
Dans un paysage de l’intelligence artificielle (IA) en constante évolution, il est non seulement important, mais impératif de savoir si votre organisation est prête à instaurer et à soutenir une culture de la sécurité de l’IA. À mesure que les technologies d’IA progressent, elles font émerger une multitude de nouveaux défis de sécurité qui, pour être gérés efficacement, exigent une approche réfléchie, globale et proactive […]
Déployer des LLM en entreprise : via une API dans un cloud privé
Pris isolément, sans mesures de protection spécialisées ni protocoles de sécurité en place, le déploiement de modèles d’IA générative (GenAI), en particulier de grands modèles de langage (LLM), à l’échelle de l’entreprise représente pour toute organisation une opportunité à haut risque, mais potentiellement très rentable. La manière précise dont votre organisation doit franchir ce grand pas dans l’univers de la GenAI nécessite une planification mûrement réfléchie. Peut-être serait-il […]