Sécuriser l’IA : l’avenir est dans l’exécution

James WhiteDirecteur technique, sécurité de l’IA | F5

Les promesses de l’IA pour les entreprises sont infinies, et tous les secteurs souhaitent en tirer parti, de la santé aux institutions financières, en passant par les administrations publiques et bien d’autres encore. Une chose est sûre : cet engouement n’est pas près de retomber. La sécurisation de l’IA est essentielle à son adoption et, à l’heure actuelle, elle prend la forme d’une pyramide.

Le sommet de la pyramide de l’IA

Tout en haut de l’écosystème de l’IA se trouve le cercle très fermé de l’entraînement des modèles de fondation. Ce domaine est réservé à une poignée d’organisations qui disposent d’immenses ressources informatiques et doivent composer avec la complexité de gigantesques jeux de données. L’investissement financier nécessaire est colossal, ce qui soulève des questions légitimes quant à sa viabilité à long terme, même pour les acteurs de premier plan. À ce stade, la sécurité est primordiale et couvre toutes les étapes, de l’acquisition et du prétraitement des données à l’entraînement, aux tests et au déploiement des modèles. Protéger ces joyaux de l’univers de l’IA n’est pas seulement une nécessité technique, mais un impératif commercial. Ces entreprises sont particulièrement bien placées pour s’en charger, puisqu’elles gèrent l’ensemble de ces aspects tout au long du processus d’entraînement.

Au milieu : sécuriser l’environnement d’exécution, protéger le plus grand nombre

Sous le sommet, un vaste écosystème d’entreprises et de cas d’usage organisationnels voit le jour, prêt à exploiter la puissance des modèles de fondation préentraînés lors de l’exécution. C’est à ce niveau que s’opère la véritable démocratisation de l’IA. Pour ces organisations, la sécurité vise à protéger leurs propres infrastructures et données, ainsi que, en définitive, leurs clients et utilisateurs. Considérer les modèles de fondation comme des boîtes noires opaques, dont le fonctionnement interne reste caché, constitue la posture de sécurité la plus prudente. Cette approche réduit la surface d’attaque et permet de mettre en œuvre des mesures de sécurité robustes autour du modèle et de l’application, indépendamment de la complexité interne du modèle.

La base : vaste d’un mile, mais profonde d’un pouce

L’essor de l’IA générative a incité de nombreuses entreprises à délaisser la sécurisation de l’entraînement des modèles traditionnels de machine learning pour tenter de protéger l’ensemble du cycle de vie de l’IA générative, y compris la phase d’exécution. Bien qu’elle parte d’une bonne intention, cette approche généraliste aboutit souvent à des solutions de sécurité qui couvrent un vaste périmètre, mais de manière superficielle. Chercher à sécuriser un environnement aussi vaste et complexe entraîne une dispersion des efforts et ne permet finalement pas de répondre aux spécificités de chaque étape, en particulier celles de la couche d’exécution, pourtant critique.

Sécurité globale pour l’exécution de l’IA

L’évolution rapide de l’innovation en matière d’IA façonne une réalité dans laquelle les solutions de sécurité doivent être aussi adaptables et avancées que les menaces auxquelles elles font face. La seule façon de sécuriser ainsi l’IA consiste à intervenir au niveau de la couche d’exécution, ce qui nécessite une approche globale couvrant trois domaines clés :

• Défense : Des mécanismes de défense robustes sont essentiels. Cela comprend la validation et l’assainissement des entrées pour prévenir les attaques par injection de prompts, le filtrage des sorties pour limiter la génération de contenus préjudiciables, ainsi que la surveillance à l’exécution pour détecter les comportements anormaux. Il est primordial de bien comprendre le cas d’usage concerné, car chaque application présente des exigences de sécurité qui lui sont propres. En outre, il est essentiel de prendre en compte les attaques transversales ciblant l’ensemble du pipeline d’IA.
• Attaque : Un red teaming efficace est essentiel pour identifier les vulnérabilités des modèles de fondation opaques et des applications qui reposent sur ceux-ci. Cela implique de réaliser des tests contradictoires, d’explorer les vecteurs d’attaque potentiels et d’élaborer des stratégies d’atténuation. Cette approche proactive aide les organisations à anticiper les menaces émergentes et à garantir la robustesse de leurs déploiements d’IA.
• Gouvernance, réglementation et conformité (GRC) : S’orienter dans un paysage réglementaire en constante évolution est un aspect essentiel de la sécurité de l’IA. Chaque juridiction et chaque secteur d’activité aura son propre ensemble de règles et de réglementations. S’il est nécessaire de respecter les exigences « sur le papier », il est tout aussi important de mettre en œuvre des contrôles de sécurité concrets qui transforment ces exigences en une protection tangible.
  

Sécuriser l’exécution de l’IA dans votre organisation

Pour sécuriser efficacement l’avenir des environnements d’exécution de l’IA, les organisations doivent prendre les mesures concrètes suivantes :

1. Créer un groupe d’examen de l’IA : Ce groupe pluridisciplinaire doit inclure des représentants des équipes technologiques, juridiques et de sécurité afin de garantir une approche globale de la gouvernance de l’IA et de la gestion des risques.
2. Mettre en place un processus de proposition d’applications d’IA : Ce processus doit obliger les équipes à définir clairement le cas d’usage prévu, les sources de données et les régions ciblées pour chaque application d’IA. Cela permet de procéder à une évaluation approfondie des risques et de mettre en œuvre des mesures de sécurité appropriées. 
3. Définir des exigences minimales en matière de sécurité : Établissez des normes de sécurité claires que les équipes de développement d’applications d’IA doivent respecter et que les équipes chargées de la sécurité des applications doivent vérifier. Cela garantit un niveau de sécurité minimal pour tous les déploiements d’IA.

Voici une ressource essentielle pour vous aider à démarrer.

L’avenir de l’IA dépend de notre capacité à la sécuriser. En adoptant une approche globale de la sécurité de la couche d’exécution, les entreprises peuvent exploiter le potentiel transformateur de l’IA tout en limitant les risques.

Vous souhaitez en savoir plus sur la mise en œuvre de contrôles de sécurité globaux pour l’IA au sein de votre organisation ? Planifiez une démonstration dès maintenant ici.

À propos de l’auteur

James WhiteDirecteur technique, sécurité de l’IA | F5

James White est un ingénieur accompli et un dirigeant d’entreprise qui possède près de vingt ans d’expérience dans le secteur des logiciels d’entreprise.

Autres articles de James White