Pourquoi F5 a rejoint l’Open Secure AI Alliance

Kunal AnandDirecteur des produits | F5

L’IA transforme l’économie des logiciels comme celle de la sécurité.

Les agents peuvent désormais détecter des vulnérabilités, écrire du code, utiliser des outils, appeler des API et intervenir sur l’ensemble de l’infrastructure à la vitesse d’une machine. Les équipes de défense disposent ainsi de nouvelles capacités puissantes. Cela signifie également que la sécurité de l’IA ne peut plus se limiter au modèle.

C’est pourquoi F5 a rejoint NVIDIA et d’autres leaders du secteur en tant que membre de l’Open Secure AI Alliance. Cette alliance développe et partage des technologies, des techniques et des outils ouverts afin d’aider les équipes de défense à protéger les logiciels et les agents à l’ère de l’IA.

La sécurité a besoin d’un socle de mesures coercitives

Un agent d’IA n’est pas simplement un modèle de langage. C’est un système composé de modèles, d’instructions, d’une identité, d’autorisations, d’une mémoire, d’outils, d’API, de garde-fous, de journaux et de systèmes d’évaluation. Chaque couche compte, mais le contrôle le plus pérenne est celui que l’agent ne peut ni réécrire, ni contourner, ni même convaincre.

Je vois cela comme le point d’application des règles : l’endroit où une requête est évaluée et où la politique est appliquée indépendamment de la volonté de son auteur. Pour les agents d’IA, ce point se situe de plus en plus sur le chemin entre l’agent et les systèmes auxquels il peut accéder. La puissance réelle d’un agent dépend des services qu’il peut appeler, des données auxquelles il peut accéder et des actions qu’il peut effectuer.

F5 connaît bien ce terrain.

Internet est devenu fiable non pas parce que chaque terminal se comportait correctement, mais parce que des contrôles essentiels ont été mis en place :

• Les répartiteurs de charge géraient la disponibilité
• Les pare-feu appliquaient la politique réseau
• Les pare-feu d’applications web protégeaient les applications

Les agents d’IA font émerger une nouvelle version de ce problème. Le point de contrôle se déplace à nouveau, cette fois vers les connexions entre les utilisateurs, les applications, les API, les agents, les outils et les modèles.

Ce qu’apporte F5

Depuis des décennies, F5 intervient aux points de contrôle critiques du trafic des applications et des API. Ces deux dernières années, nous avons étendu ce rôle à l’IA.

La F5 AI Security Platform est conçue pour sécuriser et régir les applications, les modèles et les agents d’IA, ainsi que les API qui les relient. Nous proposons des tests indépendants des modèles et une protection à l’exécution, une visibilité sur les actions des agents et les appels d’outils, ainsi que des options de déploiement dans le cloud public, le cloud privé, sur site et dans des environnements isolés physiquement.

C’est important, car la plupart des entreprises ne se limiteront pas à un seul modèle ou fournisseur. Elles utiliseront différents modèles en fonction des charges de travail, des profils de risque, des zones géographiques et des structures de coûts. Leur portefeuille de modèles évoluera probablement plus rapidement que leurs applications ou leur architecture de sécurité.

Les contrôles de sécurité doivent donc rester opérationnels lors d’un changement de modèle. Une politique liée à un modèle donné doit être reconstruite lorsque ce modèle change. Une politique appliquée sur l’ensemble du parcours de l’application et de l’API peut être mise en œuvre de manière cohérente quels que soient les modèles, les fournisseurs et les environnements de déploiement.

C’est le principe de conception que F5 apporte à l’alliance : sécuriser l’interaction, et pas seulement l’intelligence qui la sous-tend. Nous comptons également mettre à disposition des travaux de recherche ouverts, des bancs d’essai, des outils ainsi qu’une sélection de travaux menés au sein de notre organisation. Notre objectif est d’aider la communauté des défenseurs.

Perspectives d’avenir

Le débat entre solutions ouvertes et fermées est trop réducteur pour la sécurité des entreprises.

À terme, l’environnement sera hybride. Les entreprises utiliseront des modèles ouverts et fermés, des systèmes hébergés et autogérés, ainsi que des modèles généralistes et spécialisés. La véritable question est de savoir si elles pourront appliquer une posture de sécurité unique à l’ensemble de ces solutions, en apporter la preuve à leurs clients et aux autorités de réglementation, et changer les modèles sous-jacents sans avoir à reconstruire les contrôles de sécurité de zéro.

La question n’est pas tant de savoir quel modèle offre le potentiel le plus élevé, mais plutôt si le système repose sur un socle digne de confiance.

F5 a rejoint l’Open Secure AI Alliance afin de contribuer ouvertement à l’établissement de ce socle de confiance. Pour en savoir plus, consultez cet article de blog.

À propos de l’auteur

Kunal AnandDirecteur des produits | F5

Kunal Anand dirige l’organisation produit de F5 en tant que directeur des produits. Responsable de la vision, de la stratégie et de l’exécution des produits, il veille au développement de solutions révolutionnaires qui répondent à des enjeux critiques et offrent aux clients des expériences exceptionnelles. Dans ses précédentes fonctions de directeur de la technologie et de l’IA, Kunal a défini la stratégie et la vision de l’entreprise en matière de technologie et d’intelligence artificielle. Avant de rejoindre F5, Kunal a occupé le double poste de directeur de la technologie et de directeur de la sécurité des systèmes d’information chez Imperva. Son parcours chez Imperva a débuté en 2018 avec l’acquisition de Prevoty, une start-up spécialisée dans la sécurité des applications qu’il avait cofondée en 2013. Avant de rejoindre Prevoty, il était directeur de la technologie chez BBC Worldwide. Fort d’une longue expérience en matière d’innovation et d’une solide expertise technique, Kunal a dirigé des équipes chargées de la sécurité, des données, de la technologie et de l’ingénierie chez Gravity, MySpace et au Jet Propulsion Laboratory de la NASA. Kunal possède plus de 15 ans d’expérience dans les domaines de l’IA et de l’apprentissage automatique, notamment dans l’entraînement de modèles, l’utilisation d’algorithmes fondés sur l’IA pour améliorer les produits, ainsi que la conception et la mise en œuvre d’architectures d’IA. Kunal est titulaire d’une licence en informatique du Babson College.

Autres articles de Kunal Anand