Observabilité dans la sécurité de l’IA : si vous ne voyez pas ce qui se passe, vous ne pouvez pas l’arrêter

F5 Newsroom Staff

Comprendre l’observabilité

Dans l’écosystème en pleine évolution de l’intelligence artificielle (IA), les grands modèles de langage (LLM) se sont imposés comme les outils les plus puissants et les plus transformateurs de l’arsenal de l’IA. Conçus pour traiter et comprendre le langage humain, ces modèles révolutionnent de nombreux secteurs, notamment le service client, les technologies, l’industrie pharmaceutique, la finance et le commerce de détail, tout en redéfinissant le logiciel en tant que service (SaaS).

À mesure que les capacités et la complexité de ces modèles d’IA augmentent, ceux-ci offrent un potentiel sans précédent en matière de productivité et d’innovation. Leur déploiement dans les environnements professionnels engendre également des défis spécifiques, dont le plus sérieux est l’élargissement considérable de la surface d’attaque, suivi de près par une visibilité cloisonnée.

En termes simples, lorsque plusieurs modèles, y compris des modèles multimodaux, sont déployés au sein d’une organisation, ils fonctionnent en parallèle au lieu d’être intégrés, entraînant avec eux tout un éventail de vulnérabilités. Les équipes de sécurité n’ont donc qu’une vision fragmentée du système qu’elles doivent protéger et défendre, alors qu’elles ont réellement besoin d’une visibilité complète et fluide sur l’ensemble des modèles en fonctionnement et leurs interactions.

Dans une entreprise, il peut notamment s’agir de grands modèles externes tels que ChatGPT, de modèles spécialisés tels que BloombergGPT, de modèles intégrés à des applications SaaS telles que Salesforce, de modèles de génération augmentée par récupération (RAG), ainsi que de petits modèles internes affinés à partir des données de l’entreprise. Au total, ces modèles peuvent se compter par dizaines, voire par centaines, et cette croissance n’est pas près de ralentir. 

C’est là qu’intervient le concept d’observabilité. L’observabilité répond à la nécessité de pouvoir examiner et évaluer les performances et le comportement des modèles, et d’en tirer des enseignements, notamment sur leurs processus décisionnels, leurs limites intrinsèques, leur fiabilité, leur efficience et leur efficacité. L’intégration d’une couche d’observabilité au cadre de déploiement des modèles établit une base solide pour garantir la bonne utilisation, la sécurité et la maintenance des applications basées sur l’IA.

Les avantages de l’observabilité des modèles

La capacité à observer le comportement des modèles peut fournir des informations sur les tendances et les schémas d’attaque potentiels, ainsi que des analyses plus détaillées concernant les finances, les opérations et même, éventuellement, les questions liées au personnel. La visibilité sur les principaux domaines d’intérêt suivants peut permettre d’améliorer l’allocation des ressources, la productivité, l’innovation et l’avantage concurrentiel.

• Garantie des performances : L’observation des modèles en fonctionnement, depuis la connexion à l’API jusqu’à la réponse du modèle à la requête, permet aux organisations de surveiller et de comparer en continu des indicateurs de performance essentiels, tels que la latence, le débit et la précision (au sein d’un même modèle et entre les différents modèles). Cette supervision en temps réel facilite la détection et la résolution immédiates des goulets d’étranglement, garantissant ainsi une expérience utilisateur homogène des systèmes d’IA et le respect des critères de performance.
• Gestion des erreurs : Un cadre d’observabilité robuste recueillera et consignera des métriques détaillées afin de fournir aux administrateurs une vue approfondie des processus décisionnels des modèles, facilitant ainsi l’identification et la résolution rapides des erreurs, tout en renforçant la confiance dans les performances des modèles.
• Analyse de l’utilisation : Les outils d’observabilité permettent d’examiner les scénarios d’utilisation réels, du suivi des temps de réponse et des appels d’API à l’analyse des schémas de trafic et à l’identification des cas d’usage récurrents. La surveillance en temps réel du fonctionnement des modèles (taux d’erreur, utilisation des jetons, etc.) et des interactions avec les utilisateurs (analyse des requêtes et des réponses afin de détecter tout contenu sensible ou interdit, toute tentative d’attaque, etc.) peut fournir des informations permettant aux organisations d’affiner et de réaligner continuellement les modèles en fonction de leur utilisation réelle.
• Dérive des modèles : Une visibilité claire sur les performances des modèles d’IA peut permettre aux administrateurs et aux développeurs de détecter toute dégradation, ou « dérive des modèles », due à l’évolution des environnements de données. Il est essentiel de savoir quand ce phénomène se produit afin de veiller à ce que les modèles soient réentraînés ou affinés en temps utile et de garantir ainsi la fiabilité de leurs résultats.
• Optimisation des ressources et mise à l’échelle : Le déploiement de grands modèles de langage (LLM) à l’échelle d’une organisation peut nécessiter d’importantes ressources informatiques, notamment en matière de mémoire et d’utilisation du processeur ou du processeur graphique (CPU/GPU). Les données sur l’utilisation des ressources sont donc essentielles pour optimiser les coûts ou adapter la capacité à une augmentation du nombre d’utilisateurs ou à des pics de charge de travail.
• Conformité : Il est essentiel pour toute organisation, et plus particulièrement dans les secteurs réglementés tels que la santé et la finance, de connaître le niveau de conformité des systèmes et des utilisateurs aux politiques internes en matière d’utilisation acceptable, de confidentialité et autres, ainsi qu’aux normes du secteur et aux réglementations gouvernementales. Le recours à des solutions offrant une visibilité sur les journaux détaillés et d’autres indicateurs, ainsi que la possibilité de les auditer, permet de s’assurer que les déploiements de modèles respectent les critères de référence en matière de confidentialité des données, de sécurité et de conformité.

L’importance de l’observabilité en entreprise

L’innovation renforcera le besoin d’une meilleure observabilité. Les LLM et autres modèles d’IA générative continueront de gagner en complexité et en automatisation, et la surveillance en temps réel de tous les aspects liés aux performances, à l’utilisation et à la sécurité deviendra de plus en plus importante. 

Dans le même temps, les pouvoirs publics ont intensifié leurs efforts en adoptant des réglementations, telles que le règlement général sur la protection des données (RGPD) de l’Union européenne, en publiant des projets de réglementation, comme le règlement européen sur l’intelligence artificielle, et en fournissant des orientations, à l’image du décret de l’administration Biden sur une intelligence artificielle sûre, sécurisée et digne de confiance et du cadre de gestion des risques (RMF) du National Institute of Standards and Technology (NIST). Outre ces obligations et lignes directrices, les secteurs réglementés sont soumis à leurs propres règles labyrinthiques, les secteurs non réglementés doivent respecter certaines normes et les organisations disposent de politiques qui reflètent et renforcent leurs propres valeurs d’entreprise.

À mesure que davantage d’entités publieront des directives concernant le déploiement et l’utilisation des LLM dans l’écosystème des entreprises, il deviendra extrêmement important de permettre, d’assurer, de contrôler et de rendre compte de la conformité à ces directives. Tout manquement pourrait avoir d’importantes conséquences financières et nuire à la réputation, avec des répercussions en cascade (confiance des actionnaires, avantage concurrentiel, confiance des clients, etc.). Il sera de plus en plus essentiel de savoir comment, avec quelle efficacité et avec quel niveau de sécurité les modèles fonctionnent dans l’environnement de production.

Sécurité de l’IA avec une observabilité complète

De toute évidence, l’observation, l’analyse et l’évaluation des performances et du comportement des modèles d’IA sont essentielles pour améliorer leurs performances et produire des résultats fiables et dignes de confiance. L’intégration d’une plateforme offrant de manière fluide une observabilité complète de l’ensemble de l’infrastructure de sécurité numérique de l’organisation constitue une décision véritablement révolutionnaire. Notre solution de sécurisation et d’activation de l’IA à l’exécution change véritablement la donne.

Notre solution ne se limite pas à une simple couche de confiance protégeant les modèles contre les menaces internes et externes grâce à des fonctionnalités inédites sur le marché, telles que plus d’une douzaine d’analyseurs de contenu personnalisables et une traçabilité détaillée des utilisateurs et des usages. Elle dispose d’une interface claire, intuitive et facile à utiliser, conçue pour séduire un large éventail d’utilisateurs, tout en offrant un accès par API tout aussi simple afin d’en faciliter l’utilisation par les développeurs et autres utilisateurs techniques.

L’utilisation d’API, notamment celles mises en place pour des personnes spécifiques et des équipes identifiées, offre des moyens supplémentaires d’obtenir une meilleure visibilité sur le système, ainsi que de surveiller et d’analyser l’état de la sécurité, les performances des modèles et les données d’utilisation. Les administrateurs peuvent suivre les appels d’API et examiner les points de terminaison afin d’identifier les plus fréquemment utilisés, suivre la latence et les taux d’erreur, contrôler la compatibilité des versions, repérer les schémas de comportement émergents ou inhabituels, surveiller les dépendances et analyser le trafic afin de détecter d’éventuels goulets d’étranglement et de s’assurer que les règles de routage sont intactes.

Notre plateforme fonctionne comme une superstructure de sécurité bidirectionnelle pratiquement invisible, qui englobe l’ensemble de la configuration de votre système d’IA sans ajouter de « poids » ni de latence aux temps de réponse des modèles. Notre solution est évolutive, indépendante des modèles et personnalisable. Elle offre des contrôles d’accès fondés sur des politiques, applicables à l’échelle d’un individu, d’une équipe ou d’une organisation. Il s’agit du composant robuste, flexible et réactif dont tout cadre de sécurité de l’IA a besoin pour relever les défis actuels et futurs liés au déploiement des modèles d’IA générative.

À propos de l’auteur

F5 Newsroom Staff

Autres articles de F5 Newsroom Staff