J’ai récemment rencontré une entreprise de services financiers qui s’efforce de tout automatiser, de l’exécution des transactions à la réalisation d’analyses à grande échelle. Pour y parvenir, elle prévoit de déployer 100 000 agents d’IA, soit cinq fois le nombre de ses employés.
Et cette entreprise n’est pas la seule. De nombreuses entreprises de secteurs variés se tournent vers l’IA pour améliorer leur efficacité opérationnelle.
Cette forte augmentation de l’utilisation de l’IA aura des répercussions majeures sur la manière dont les organisations sécurisent leurs environnements. Je rappelle souvent aux entreprises qu’elles ne peuvent pas se contenter de sécuriser un seul aspect de leur infrastructure d’IA. L’IA en entreprise exige une nouvelle architecture, qui nécessite à son tour un nouveau modèle de sécurité protégeant l’infrastructure et les charges de travail tout au long du parcours de l’IA, de bout en bout.
“En sécurisant les nouveaux points de contrôle, les organisations peuvent rendre l’IA d’entreprise plus sûre, plus rapide et plus fiable à grande échelle.”
Où faut-il donc précisément appliquer les mesures de sécurité ? Pour mieux protéger leur architecture d’IA, les organisations doivent sécuriser les nouveaux points de contrôle qui émergent tout au long du parcours de l’IA.
Voici une façon simple de comprendre ce parcours : le prompt arrive d’abord dans une application. C’est ce que nous appellerons le point d’entrée. À partir de là, les workflows rassemblent les éléments de contexte, appellent des API internes et coordonnent les agents. Le prompt enrichi passe ensuite à la couche du modèle, où l’inférence le convertit en tokens, qui deviennent des résultats renvoyés à l’utilisateur.
C’est la nouvelle chaîne d’approvisionnement de la valeur, et je vais vous montrer comment F5 contribue à en sécuriser les points de contrôle critiques.
Là où tout commence : le prompt
Le parcours de l’IA commence par un prompt, qui constitue le premier point d’interaction entre le monde extérieur et le système d’IA. Ce prompt peut provenir d’une requête saisie par un utilisateur dans une interface de discussion, d’un appel API ou d’un événement généré par une machine. Le prompt lui-même peut contenir du langage naturel, des instructions structurées ou système, ou encore prendre la forme de photos, d’enregistrements audio ou de vidéos.
Entrée : le prompt entre dans le système
Les prompts entrent dans votre infrastructure d’IA par la couche d’entrée, qui constitue la première ligne de défense et de gestion du trafic du système d’IA. C’est à ce niveau que s’effectuent l’inspection, l’application des politiques, l’assainissement des données et le routage du trafic.
C’est la porte d’entrée. Et c’est là tout l’enjeu : les visiteurs qui y frappent ne sont plus seulement des humains. On y trouve aussi des systèmes d’attaque automatisés qui s’appuient sur l’IA pour contourner la sécurité des terminaux et les protections WAF traditionnelles, et cibler les systèmes de sécurité des données et des applications.
Les attaquants qui s’appuient sur l’IA peuvent désormais générer des charges utiles inédites à la volée. Si les acteurs malveillants sont capables d’apprendre et d’adapter leurs tactiques en temps réel, vos défenses doivent pouvoir en faire autant.
C’est pourquoi F5 développe une nouvelle génération de solutions WAF reposant sur un réseau neuronal conçu de A à Z, entraîné sur des données d’attaques réelles recueillies en direct, afin de détecter les menaces et d’y répondre sans dépendre de signatures connues ni de règles WAF statiques. Nous concevons des systèmes de défense capables d’apprendre et de s’adapter en temps réel, dotés de fonctionnalités d’IA permettant d’identifier de nouvelles attaques et de réagir immédiatement.
Les résultats de nos tests internes sont significatifs : détection des attaques zero-day sans définitions préexistantes, taux de faux positifs passant de 28 % à 1 % et précision dès la mise en service passant de 64 % à 98 %. Il ne s’agit pas d’un WAF traditionnel, mais d’une approche fondamentalement différente, que nous intégrons à F5 Distributed Cloud Services ainsi qu’à d’autres composantes de la F5 Application Delivery and Security Platform (ADSP).
Workflows : les prompts deviennent des actions
Un prompt est généralement enrichi d’un contexte supplémentaire pour générer des résultats utiles. Ce contexte provient de workflows qui relient des sources de données, des applications, des agents et des API. Ces workflows introduisent également d’importantes vulnérabilités de sécurité, notamment un traitement non sécurisé des résultats, des fuites de données et d’autres menaces difficiles à détecter en raison de la complexité du système et d’une observabilité limitée.
Face à l’émergence quotidienne de nouvelles menaces, les entreprises doivent sécuriser et encadrer les workflows d’IA dans tous les environnements, à l’aide de plusieurs couches de protection qui fonctionnent en parfaite synergie pour contrer les attaques complexes exploitant l’IA. Et c’est précisément ce que nous proposons. F5 AI Red Team réalise des tests adversariaux automatisés en plusieurs étapes, en tandem avec F5 AI Guardrails pour garantir que les systèmes d’IA fonctionnent de manière sécurisée et responsable dans les limites définies. Lorsque ces solutions détectent une faiblesse, F5 AI Remediate transforme automatiquement les résultats prioritaires des tests adversariaux en protections validées et optimisées pour l’exécution.
La véritable valeur de ces solutions interconnectées ne réside pas seulement dans une détection plus rapide. Elle tient à la réduction du délai entre la découverte d’une vulnérabilité et sa correction. Lorsque l’identification des risques débouche directement sur leur atténuation, c’est toute l’équation de la sécurité de l’IA qui change.
Inférence : les tokens se transforment en valeur
Le prompt enrichi, désormais converti en tokens numériques, est ensuite transmis au modèle entraîné. Les tokens y sont traités au moyen d’une série de calculs probabilistes qui permettent d’effectuer des tâches de classification ou de raisonnement, d’évaluer des probabilités, de faire des prédictions et de produire des résultats.
Les tokens représentent le coût de fonctionnement de l’IA et dépendent de cinq variables : le débit, le délai avant le premier token, le coût par token, la latence et le nombre de tokens par watt. Pour chacune d’elles, l’énergie constitue la contrainte ultime. Si votre infrastructure d’IA n’est pas optimisée, vous gaspillez de l’énergie et réduisez vos marges à néant. Dans l’IA, la performance détermine la rentabilité, et la rentabilité est un levier stratégique.
C’est là que F5 contribue à changer la donne en veillant à ce que les données et les charges de travail d’IA soient traitées et acheminées avec une latence et une consommation électrique minimales, ce qui réduit les coûts d’exploitation et favorise une montée en charge efficace des usines d’IA. En déléguant les tâches énergivores de mise en réseau, de gestion et de sécurité à des DPU à haute efficacité énergétique, les architectures d’IA modernes reposant sur les technologies F5 et NVIDIA permettent de prétraiter les données avec une latence et une consommation électrique minimales, avant même que les requêtes d’inférence n’atteignent les GPU gourmands en ressources.
Les entreprises qui ont déployé cette solution conjointe constatent une augmentation du débit de tokens allant jusqu’à 40 %, une réduction de 61 % du délai de génération du premier token et une amélioration de 34 % du temps de réponse, des résultats confirmés par des tests indépendants réalisés par The Tolly Group. C’est le type de transformation qui découle de la prise de conscience que les usines d’IA doivent être programmables et gouvernables, et pas seulement rapides.
Mener des initiatives d’IA en toute confiance
En réalité, l’innovation en matière d’IA exige une architecture solide et adaptable. En comprenant et en sécurisant les nouveaux points de contrôle, les organisations peuvent rendre l’IA d’entreprise plus sûre, plus rapide et plus fiable à grande échelle.
F5 a été à l’avant-garde de la protection des architectures informatiques à l’ère d’Internet et du cloud. Aujourd’hui, alors que l’architecture d’entreprise évolue à nouveau avec l’IA, F5 ADSP propose une plateforme convergente conçue pour aider les organisations à protéger leurs données, leurs modèles et leurs systèmes tout au long de leur parcours d’adoption de l’IA, grâce à des mécanismes de défense capables d’apprendre, de s’adapter et de réagir immédiatement aux menaces en temps réel.
Pour en savoir plus, je vous invite à consulter notre page Web consacrée aux solutions de sécurité de l’IA.
À propos de l’auteur

Kunal Anand dirige l’organisation produit de F5 en tant que directeur des produits. Responsable de la vision, de la stratégie et de l’exécution des produits, il veille au développement de solutions révolutionnaires qui répondent à des enjeux critiques et offrent aux clients des expériences exceptionnelles. Dans ses précédentes fonctions de directeur de la technologie et de l’IA, Kunal a défini la stratégie et la vision de l’entreprise en matière de technologie et d’intelligence artificielle. Avant de rejoindre F5, Kunal a occupé le double poste de directeur de la technologie et de directeur de la sécurité des systèmes d’information chez Imperva. Son parcours chez Imperva a débuté en 2018 avec l’acquisition de Prevoty, une start-up spécialisée dans la sécurité des applications qu’il avait cofondée en 2013. Avant de rejoindre Prevoty, il était directeur de la technologie chez BBC Worldwide. Fort d’une longue expérience en matière d’innovation et d’une solide expertise technique, Kunal a dirigé des équipes chargées de la sécurité, des données, de la technologie et de l’ingénierie chez Gravity, MySpace et au Jet Propulsion Laboratory de la NASA. Kunal possède plus de 15 ans d’expérience dans les domaines de l’IA et de l’apprentissage automatique, notamment dans l’entraînement de modèles, l’utilisation d’algorithmes fondés sur l’IA pour améliorer les produits, ainsi que la conception et la mise en œuvre d’architectures d’IA. Kunal est titulaire d’une licence en informatique du Babson College.
Autres articles de Kunal AnandArticles de blog associés

IA et cybersécurité
Découvrez comment l’IA et la cybersécurité fonctionnent de concert. Découvrez comment l’IA et le machine learning (ML) permettent à votre entreprise de rester sécurisée, efficace et prête à innover avec F5.

Suivre le rythme de l’innovation de pointe ne suffit pas à faire avancer l’entreprise : se préparer à la réglementation de l’IA
À mesure que la réglementation de l’IA évolue, réfléchissez aux mesures de protection que vous pouvez mettre en place dès maintenant.

Les contrôleurs de mise à disposition d’applications reviennent au cœur des priorités stratégiques
L’IA rebat les cartes de la livraison d’applications. Nirav Shah de F5 revient sur la nouvelle étude de Gartner® consacrée aux ADC et explique ce qu’elle implique pour les décisions des entreprises en matière d’infrastructure.

Ce que nos clients nous disent sur l’IA, le multicloud hybride et la sécurité des applications
Le nouveau vice-président senior du marketing produit de F5 explique les pressions liées à l’IA auxquelles sont confrontés les dirigeants d’entreprise et ce dont ils ont besoin pour renforcer leur organisation.

Cinq niveaux de cyberrésilience antifragile transforment les pratiques en résultats
Découvrez comment cinq niveaux de résilience antifragile transforment les perturbations en comportements adaptatifs qui limitent les défaillances et renforcent l’architecture multicloud hybride.

Optimiser les pipelines d’IA en éliminant les goulets d’étranglement dans les charges de travail modernes
À mesure que les charges de travail d’IA montent en puissance, les entreprises constatent des ralentissements provenant du pipeline de données en amont qui alimente le modèle d’IA. Voici comment F5 BIG-IP peut les aider.