Un leader des technologies de gestion des effectifs sécurise l’IA à grande échelle avec F5

Un fournisseur mondial de technologies de gestion des ressources humaines avait besoin d’une gouvernance de l’IA sans faille au sein de dizaines d’équipes produit internes avant de pouvoir déployer à grande échelle et en toute sécurité des services basés sur l’IA. F5 AI Guardrails a apporté à l’équipe de sécurité de l’entreprise la visibilité et le contrôle nécessaires pour passer de quelques cas d’usage en production à une adoption à l’échelle de toute l’entreprise.

Défi commercial

Les grands fournisseurs de technologies destinées aux entreprises sont confrontés à une version particulièrement complexe d’un problème bien connu : ils doivent avancer rapidement dans le domaine de l’IA, mais une seule exposition de données mal gérée peut avoir des conséquences catastrophiques sur les plans réglementaire et réputationnel. C’est particulièrement vrai pour les entreprises qui gèrent des données sensibles relatives aux effectifs pour le compte de centaines de milliers d’organisations clientes.

L’un des plus grands fournisseurs mondiaux de solutions de gestion du capital humain et de technologies dédiées aux ressources humaines s’est retrouvé précisément dans cette situation. Son programme interne d’IA s’était développé rapidement, avec plus de 50 équipes produit chargées de concevoir des outils et des services intégrant l’IA. Alors que des dizaines d’applications d’IA étaient déjà en production, des centaines d’autres figuraient sur la feuille de route. Ce rythme de croissance mettait la gouvernance sous pression : une seule équipe était chargée d’examiner et de valider chaque application d’IA avant son déploiement en production à l’échelle de l’entreprise. Il lui fallait une méthode cohérente pour démontrer que chaque application pouvait être utilisée à grande échelle en toute sécurité.

Un haut responsable de la sécurité était chargé de superviser l’IA au sein de toutes les équipes produit, tout en rendant compte aux plus hauts responsables de l’entreprise en matière de technologie et de protection de la vie privée. Ce modèle de gouvernance garantissait la rigueur du programme, mais impliquait également que toute solution de sécurité de l’IA devait répondre aux attentes d’un large éventail de parties prenantes et résister à l’examen minutieux de la direction.

L’entreprise avait besoin d’un moyen de sécuriser les flux d’IA entrants et sortants, notamment les informations et les requêtes envoyées aux modèles d’IA par les employés et les systèmes, ainsi que les résultats renvoyés par ces modèles. Cette protection devait être mise en place sans ralentir les dizaines d’équipes produit qui développaient déjà des solutions s’appuyant sur l’infrastructure et les applications d’IA existantes. La solution devait offrir des performances fiables, fonctionner sur l’infrastructure existante de l’entreprise, s’intégrer à d’autres outils de sécurité et pouvoir évoluer afin de gérer les volumes de trafic d’une entreprise internationale.

Solutions

L’entreprise a choisi F5 AI Guardrails, auto-hébergé dans son propre environnement cloud et directement intégré à la couche middleware interne qui achemine l’ensemble du trafic d’IA entre les équipes produit. À sa demande, F5 a également développé des fonctionnalités de détection personnalisées afin d’adapter la solution à l’environnement de déploiement. Ces fonctionnalités permettaient notamment de détecter les tentatives d’extraction de prompts, de manipulation du modèle, ainsi que d’obscurcissement ou de modification des données visant à contourner l’analyse standard. Une fois la solution déployée, chaque prompt envoyé à un modèle d’IA et chaque réponse renvoyée sont analysés en ligne et dans les deux sens.

Résultats

Protégez les données sensibles lors de chaque interaction avec l’IA

AI Guardrails analyse les requêtes et les réponses à la volée et en temps réel, sur l’ensemble du trafic acheminé par chaque équipe produit via la couche middleware d’IA de l’entreprise. L’équipe de sécurité bénéficie ainsi d’une visibilité sur les deux volets de chaque interaction avec l’IA.

Chaque équipe produit peut configurer la sécurité de manière autonome, en bloquant les violations des politiques en temps réel, en auditant l’activité sans la bloquer ou en contournant les contrôles lorsque cela est approprié. Un « bouton d’arrêt d’urgence » à l’échelle de la plateforme offre à l’équipe de sécurité un point de contrôle unique en cas d’incident. Les résultats sont automatiquement transmis au système de gestion des informations et des événements de sécurité (SIEM) existant de l’entreprise, offrant ainsi à l’équipe de sécurité une visibilité complète sur l’activité liée à l’IA, parallèlement à tous les autres signaux de sécurité qu’elle surveille déjà, sans nécessiter l’adoption d’un outil distinct et déconnecté.

Déployez facilement l’IA à grande échelle en toute confiance

L’entreprise a commencé avec une dizaine d’applications d’IA en production. Les premières interrogations concernant les performances ont été rapidement levées, et la solution est restée stable dans des conditions réelles de production et sous l’étroite surveillance de la direction. Tous les délais ont été respectés sans perturber les processus en cours.

L’entreprise vise désormais des centaines de cas d’usage dans plus de 50 groupes de produits. Grâce à une architecture de sécurité qui a déjà fait ses preuves à grande échelle, son équipe de gouvernance peut examiner et valider plus rapidement les nouveaux cas d’usage de l’IA, offrant ainsi aux équipes produit du monde entier un parcours vers la mise en production plus clair et plus cohérent. AI Guardrails soutient cette croissance dans le cadre d’un calendrier ambitieux fixé par la direction, en augmentant les capacités à mesure que l’adoption s’accélère.

Renforcer la gouvernance tout en simplifiant la conformité

La centralisation des rapports fournit à l’entreprise une piste d’audit solide lui permettant de respecter les normes de conformité. Au fil d’une série d’examens menés par la direction et les instances de gouvernance, AI Guardrails a fourni les éléments nécessaires pour démontrer que les systèmes faisaient l’objet d’une surveillance et d’un contrôle constants. Cette visibilité a permis de faire de la gouvernance, auparavant perçue comme un frein, un processus reproductible et défendable, auquel les responsables de tous niveaux pouvaient pleinement adhérer.

Garantir la fiabilité et la résilience opérationnelle

Après la résolution des premières interrogations sur les performances grâce à une collaboration directe et concrète avec les experts de F5, AI Guardrails est devenu l’un des composants les plus fiables de l’arsenal de sécurité de l’entreprise.

Le responsable de la plateforme d’IA de l’entreprise déclare : « La solution F5 est tellement fiable et stable que nous en avons presque oublié votre existence… ce qui est exactement ce que nous recherchons chez nos fournisseurs de solutions de sécurité. »

Les performances d’AI Guardrails ayant fait leurs preuves à grande échelle, l’entreprise explore désormais d’autres fonctionnalités de F5 AI Security Platform, notamment le red teaming et la remédiation, afin d’étendre ce même niveau de confiance à un éventail plus large de risques liés à l’IA.