Sécuriser les nouveaux points de contrôle du parcours vers l’IA

Kunal AnandDirecteur des produits | F5

J’ai récemment rencontré les représentants d’une société de services financiers qui cherche à tout automatiser, de l’exécution des transactions à l’analyse à grande échelle. Pour y parvenir, elle prévoit de déployer 100 000 agents d’IA, soit cinq fois plus que le nombre de ses employés.

Et elles ne sont pas les seules. De nombreuses entreprises issues de secteurs très divers se tournent vers l’IA pour améliorer leur efficacité opérationnelle.

Cette augmentation spectaculaire de l’utilisation de l’IA aura de profondes répercussions sur la manière dont les organisations sécurisent leurs environnements. Je rappelle souvent aux entreprises qu’elles ne peuvent pas se contenter de sécuriser un seul aspect de leur infrastructure d’IA. L’IA d’entreprise exige une nouvelle architecture qui nécessite, à son tour, un nouveau modèle de sécurité protégeant l’infrastructure et les charges de travail tout au long du parcours de l’IA, de bout en bout.

Alors, où exactement faut-il appliquer les mesures de sécurité ? Pour mieux protéger leur architecture d’IA, les organisations doivent sécuriser les nouveaux points de contrôle tout au long du parcours de l’IA.

Voici une façon simple de comprendre ce parcours : le prompt arrive d’abord dans une application. C’est ce que nous appellerons le point d’entrée. À partir de là, les workflows rassemblent le contexte, appellent des API internes et coordonnent les agents. Le prompt enrichi passe ensuite à la couche du modèle, où l’inférence le convertit en tokens, lesquels produisent des résultats qui sont renvoyés à l’utilisateur.

Voici la nouvelle chaîne de valeur, et je vais vous montrer comment F5 contribue à sécuriser les points de contrôle critiques tout au long du parcours.

Là où tout commence : le prompt

Le parcours de l’IA commence par un prompt, qui constitue le premier point d’interaction entre le monde extérieur et le système d’IA. Un prompt peut provenir d’une requête saisie par un utilisateur dans une interface de chat, d’un appel d’API ou d’un événement généré par une machine. Le prompt lui-même peut contenir du langage naturel, des instructions structurées ou système, ou encore prendre la forme de contenus photo, audio ou vidéo.

Entrée : le prompt entre dans le système

Les prompts entrent dans votre infrastructure d’IA par la couche d’entrée, qui constitue la première ligne de défense et de gestion du trafic du système d’IA, où convergent l’inspection, l’application des politiques, l’assainissement et le routage du trafic.

C’est la porte d’entrée. Et le fait est que les visiteurs qui y frappent ne sont désormais plus seulement des humains. Il s’agit également de systèmes adverses automatisés, alimentés par l’IA, qui cherchent à contourner la sécurité des terminaux et les protections WAF traditionnelles afin de cibler les systèmes de sécurité des données et des applications.

Les attaquants utilisant l’IA peuvent désormais générer à la volée des charges utiles inédites. Si les acteurs malveillants peuvent apprendre et adapter leur stratégie en temps réel, vos défenses doivent pouvoir en faire autant.

C’est pourquoi F5 développe une nouvelle génération de solutions WAF reposant sur un réseau neuronal entièrement conçu à partir de zéro et entraîné sur des données réelles d’attaques en cours, afin de détecter les menaces et d’y répondre sans dépendre de signatures préexistantes ni de règles WAF statiques. Nous concevons des systèmes de défense capables d’apprendre et de s’adapter en temps réel, dotés de fonctionnalités basées sur l’IA qui peuvent identifier de nouvelles attaques et agir immédiatement.

Les résultats observés lors de nos tests internes sont significatifs : détection des attaques zero-day sans définitions préexistantes, baisse du taux de faux positifs de 28 % à 1 % et hausse de la précision dès la mise en service de 64 % à 98 %. Il ne s’agit pas d’un WAF traditionnel, mais de quelque chose de fondamentalement différent, que nous intégrons à F5 Distributed Cloud Services ainsi qu’à d’autres composants de la F5 Application Delivery and Security Platform (ADSP).

Workflows : les prompts deviennent des actions

Une invite est généralement enrichie d’un contexte supplémentaire afin de générer des résultats utiles. Ce contexte provient de workflows qui relient des sources de données, des applications, des agents et des API. Ces workflows introduisent également d’importantes vulnérabilités de sécurité, notamment une gestion non sécurisée des résultats, des fuites de données et d’autres menaces difficiles à détecter en raison de la complexité du système et d’une observabilité limitée.

Parce que de nouvelles menaces apparaissent chaque jour, les organisations doivent sécuriser et encadrer les workflows d’IA dans tous les environnements, grâce à des protections multicouches qui fonctionnent ensemble de manière fluide pour contrer les attaques complexes pilotées par l’IA. Et c’est exactement ce que nous proposons. F5 AI Red Team fournit des tests adversariaux automatisés en plusieurs étapes, en synergie avec  F5 AI Guardrails afin de garantir que les systèmes d’IA fonctionnent de manière sécurisée et responsable, dans des limites définies. Lorsque ces solutions détectent une faiblesse, F5 AI Remediate transforme automatiquement les résultats adversariaux prioritaires en protections d’exécution validées et optimisées.

La véritable valeur de ces solutions interconnectées ne réside pas seulement dans une détection plus rapide. Elle tient à la réduction du délai entre la découverte d’une vulnérabilité et sa correction. Lorsque la détection des risques débouche directement sur leur atténuation, l’équation de la sécurité de l’IA s’en trouve fondamentalement transformée.

Inférence : les jetons créent de la valeur

Le prompt enrichi, désormais converti en jetons numériques, est ensuite transmis au modèle entraîné. Les jetons y sont traités au moyen d’une série de calculs probabilistes qui permettent d’effectuer des tâches de classification ou de raisonnement, d’évaluer des probabilités, d’établir des prédictions et de générer des résultats.

Les tokens représentent le coût d’exécution de l’IA et sont régis par cinq variables : le débit, le délai avant le premier token, le coût par token, la latence et le nombre de tokens par watt. Pour chacune d’elles, l’énergie constitue la contrainte ultime. Si votre infrastructure d’IA n’est pas optimisée, vous gaspillez de l’énergie et réduisez vos marges à néant. Dans l’IA, la performance détermine la rentabilité, et la rentabilité constitue un levier.

C’est là que F5 contribue à changer la donne en veillant à ce que les données et les charges de travail d’IA soient traitées et acheminées avec une latence et une consommation d’énergie minimales, réduisant ainsi les coûts d’exploitation et favorisant une mise à l’échelle efficace des usines d’IA. En déchargeant les tâches énergivores de mise en réseau, de gestion et de sécurité sur des DPU à haut rendement, les architectures d’IA modernes basées sur les technologies F5 et NVIDIA permettent de prétraiter les données avec une latence et une consommation d’énergie minimales avant même que les requêtes d’inférence n’atteignent les GPU gourmands en ressources.

Les organisations qui ont déployé cette solution conjointe constatent une augmentation allant jusqu’à 40 % du débit de jetons, une réduction de 61 % du délai avant le premier jeton et une amélioration de 34 % du temps de réponse, comme l’ont confirmé des tests indépendants réalisés par The Tolly Group. C’est le type de transformation qui découle de la prise de conscience que les usines d’IA doivent être programmables et gouvernables, et pas seulement rapides.

Mener des initiatives d’IA en toute confiance

En réalité, l’innovation en matière d’IA nécessite une architecture robuste et adaptable. En comprenant et en sécurisant les nouveaux points de contrôle, les organisations peuvent rendre l’IA d’entreprise plus sûre, plus rapide et plus fiable à grande échelle.

F5 a été à l’avant-garde de la protection des architectures informatiques à l’ère d’Internet et du cloud. Aujourd’hui, alors que l’IA transforme à nouveau l’architecture des entreprises, F5 ADSP propose une plateforme convergée conçue pour aider les organisations à protéger leurs données, leurs modèles et leurs systèmes tout au long de leur parcours d’adoption de l’IA, grâce à des mécanismes de défense capables d’apprendre, de s’adapter et de réagir immédiatement aux menaces en temps réel.

Pour en savoir plus, je vous invite à consulter notre page consacrée aux solutions de sécurité de l’IA.

À propos de l’auteur

Kunal AnandDirecteur des produits | F5

Kunal Anand dirige l’organisation produit de F5 en tant que directeur des produits. Responsable de la vision, de la stratégie et de l’exécution des produits, il veille au développement de solutions révolutionnaires qui répondent à des enjeux critiques et offrent aux clients des expériences exceptionnelles. Dans ses précédentes fonctions de directeur de la technologie et de l’IA, Kunal a défini la stratégie et la vision de l’entreprise en matière de technologie et d’intelligence artificielle. Avant de rejoindre F5, Kunal a occupé le double poste de directeur de la technologie et de directeur de la sécurité des systèmes d’information chez Imperva. Son parcours chez Imperva a débuté en 2018 avec l’acquisition de Prevoty, une start-up spécialisée dans la sécurité des applications qu’il avait cofondée en 2013. Avant de rejoindre Prevoty, il était directeur de la technologie chez BBC Worldwide. Fort d’une longue expérience en matière d’innovation et d’une solide expertise technique, Kunal a dirigé des équipes chargées de la sécurité, des données, de la technologie et de l’ingénierie chez Gravity, MySpace et au Jet Propulsion Laboratory de la NASA. Kunal possède plus de 15 ans d’expérience dans les domaines de l’IA et de l’apprentissage automatique, notamment dans l’entraînement de modèles, l’utilisation d’algorithmes fondés sur l’IA pour améliorer les produits, ainsi que la conception et la mise en œuvre d’architectures d’IA. Kunal est titulaire d’une licence en informatique du Babson College.

Autres articles de Kunal Anand