La sécurité de l’IA, preuves à l’appui : ce que nous présenterons au Gartner SRM

Nirav ShahVice-président senior, marketing des produits et des solutions | F5

Je suis vraiment enthousiaste à l’idée de ce que nous allons présenter cette année au Gartner Security & Risk Management Summit (SRM).

L’IA évolue si rapidement qu’il est difficile pour quiconque de suivre le rythme. Mais en matière de sécurité, aucun d’entre nous ne peut se permettre de prendre du retard. Les attaquants utilisent l’IA pour agir plus vite, mener des investigations plus intelligentes et exploiter les vulnérabilités à une vitesse et à une échelle sans précédent. Les derniers termes à la mode et les promesses non étayées des fournisseurs ne suffiront pas à combler cet écart.

C’est précisément le problème que nous nous sommes préparés à résoudre.

Pourquoi ce moment est différent

Les RSSI ne se demandent plus s’ils doivent sécuriser leur IA. Ils cherchent désormais à savoir comment vérifier que leurs dispositifs de contrôle fonctionnent réellement. C’est la question la plus difficile, et nous souhaitons encourager les acteurs de la sécurité de l’IA à commencer à y répondre pour leurs clients.

Dans quelle mesure la sécurité de votre IA permet-elle de prévenir de nouvelles menaces telles que l’injection de prompts ?

Nous avons collaboré avec SecureIQLab, un organisme de test tiers indépendant, afin de mettre F5 AI Guardrails à l’épreuve face à des attaques réelles. Nous avons lancé 20 000 attaques contre un modèle OpenAI pour évaluer son niveau de protection.

Les résultats : F5 AI Guardrails affiche une efficacité de 99,3 % contre les injections directes de prompts, de 98,7 % contre l’autonomie excessive et de 99,0 % contre les fuites de données sensibles.

Pour vous donner une idée de son efficacité, le modèle n’a pu identifier à lui seul que 13 % des attaques comme étant malveillantes. Cela montre à quel point des garde-fous supplémentaires sont essentiels pour protéger les cas d’usage en entreprise.

Nous sommes le premier fournisseur de solutions de sécurité pour l’IA à publier des résultats de ce type, validés de manière indépendante par un tiers, et nous espérons que d’autres suivront notre exemple.

Ce que nous présentons chez Gartner

Lors du Gartner Security & Risk Management Summit, je présenterai comment F5 aide les organisations à sécuriser l’IA en trois étapes concrètes. Plutôt que de nous en tenir à la théorie ou à un exercice sur tableau blanc, nous aborderons des mesures de protection éprouvées qui fonctionnent dans des environnements de production :

1. Déployez des garde-fous fondamentaux qui réduisent les risques sans freiner l’innovation
2. Adaptez les protections personnalisées à vos cas d’usage et à vos définitions des risques
3. Testez en continu afin que vos défenses évoluent aussi vite que les menaces.

Nous vous présenterons le cas d’un client, une institution financière internationale qui devait déployer l’IA à l’échelle de l’entreprise sans compromettre le respect des réglementations ni la confidentialité des données. Ce client y est parvenu, et nous vous montrerons comment.

La suite

Au-delà de ce que nous proposons aujourd’hui, nous donnerons aux participants un premier aperçu de l’avenir de la sécurité de l’IA chez F5 : la découverte et la gouvernance des systèmes d’IA dont vous ignorez l’existence. À mesure que les agents d’IA se multiplient dans les environnements d’entreprise, les organisations qui garderont une longueur d’avance seront celles capables de repérer chaque modèle et chaque agent en activité dans leur environnement, de comprendre ce qu’ils font et de les encadrer conformément à leurs propres normes de gestion des risques. Cette fonctionnalité sera bientôt disponible et nous en parlerons lors du Gartner SRM, le 1er juin.

Venez nous rencontrer

Si vous participez au Gartner SRM, je serais ravi de vous retrouver lors de notre session « F5 : sécuriser l’IA en 3 étapes », le 1er juin à 12 h (heure de l’Est). Veuillez vous inscrire ici.

Si vous vous demandez comment sécuriser vos systèmes d’IA lors de leur mise en production et que vous souhaitez nous rencontrer en personne, prenez rendez-vous ici.

N’oubliez pas non plus de venir nous voir au stand 729 pour le constater par vous-même.

À propos de l’auteur

Nirav ShahVice-président senior, marketing des produits et des solutions | F5

Nirav Shah est vice-président senior et responsable du marketing des produits et solutions chez F5, où il définit l’orientation stratégique en matière de sécurité des applications et de l’IA. Avant de rejoindre F5, il a passé onze ans chez Fortinet, où il a occupé plusieurs postes de direction, notamment à la tête des solutions SASE optimisées par l’IA, des solutions SOC et des solutions de réseau sécurisé. Son vaste parcours comprend également des fonctions importantes chez Cisco Systems, où il a piloté des initiatives majeures dans le domaine du SD-WAN. Fort de plus de vingt ans d’expérience dans le secteur de la cybersécurité, il a fait ses preuves dans le lancement de produits qui redéfinissent le marché et dans la constitution d’équipes hautement performantes, en alignant le développement des produits sur les ventes et le marketing afin de maximiser leur impact. Expert reconnu et ancien étudiant de l’USC, il intervient fréquemment lors de conférences professionnelles et contribue régulièrement à des publications de premier plan sur la convergence entre l’IA et la cybersécurité, tout en restant engagé dans l’accompagnement des professionnels émergents de la cybersécurité.

Autres articles de Nirav Shah