Mise à jour : un autre type de multivers : intégration multimodèle et multimodale

F5 Newsroom Staff

L’intégration sûre et sécurisée de modèles d’IA multimodaux et/ou de plusieurs modèles dans les infrastructures numériques existantes s’impose comme un enjeu majeur dans les discussions sur les raisons, le moment et la manière de déployer l’intelligence artificielle générative (IA générative), notamment les grands modèles de langage (LLM), à l’échelle de l’entreprise. Si de nombreuses organisations ont déjà déployé au moins un modèle d’IA générative — près de 15 % selon une enquête récente —, un nombre nettement plus important d’entre elles ont reporté ce déploiement de trois à douze mois, tandis que les autres continuent de se demander s’il convient ou non d’intégrer des LLM à leurs systèmes.

La mise en place d’un seul modèle de langage unimodal — ChatGPT-3.5 ou un autre, par exemple — peut déjà entraîner des gains considérables d’efficacité et de productivité lorsqu’il est utilisé pour des tâches textuelles, telles que la génération de contenu, la synthèse, l’analyse et la traduction. Toutefois, l’intégration de plusieurs modèles ou de modèles qui utilisent ou créent du contenu non textuel constitue l’équivalent créatif d’un « multiplicateur de force » et nécessite une stratégie différente.

Multimodal ? Multi-modèle ?

Les cas de figure pour une organisation qui déploie plusieurs modèles d’IA sont très variés. Si certaines organisations souhaitent exploiter les capacités de plusieurs grands modèles de langage (LLM) publics, par exemple en utilisant à la fois BERT et Gemini plutôt que l’un ou l’autre, de nombreuses autres possibilités s’offrent à elles.

En un peu plus d’un an depuis le lancement de ChatGPT, de nombreux nouveaux types de modèles ont vu le jour, notamment :

• Modèles spécialisés ciblant des marchés spécifiques, tels que la finance, le droit, l’industrie pharmaceutique et le commerce de détail
• Modèles intégrés dans des applications de logiciel en tant que service (SaaS)
• Modèles internes développés en interne et entraînés sur des données propriétaires
• Modèles de génération augmentée par récupération (RAG), qui sont des extensions ajoutées aux grands modèles publics afin de leur donner accès à des informations plus récentes
• Les petits modèles de langage (SLM), qui nécessitent une puissance de calcul considérablement moindre et peuvent, dans certains cas, fonctionner sur un ordinateur personnel

Il est désormais communément admis parmi les spécialistes du secteur de l’IA que les grandes entreprises déploieront un grand nombre de modèles, voire des centaines selon certaines estimations, au sein de leurs organisations au cours des prochaines années, à mesure que les modèles deviendront plus faciles et moins coûteux à créer, à entraîner et à maintenir. 

Bon nombre de ces modèles nouvellement déployés seront probablement multimodaux (comme les versions ultérieures de ChatGPT et d’autres modèles), ce qui signifie qu’ils pourront traiter des requêtes sous différents formats, tels que la voix, le texte, l’audio, les images, la vidéo, le code, etc., et produire du contenu dans le même format ou dans un format différent. Par exemple, un utilisateur pourra donner des instructions vocales au modèle afin qu’il produise du contenu dans un format précis, comme un graphique, une image ou un extrait audio.

Risque démultiplié

L’intégration de plusieurs modèles et de modèles multimodaux au sein d’une structure organisationnelle offre des avantages considérables et ouvre sans cesse la voie à de nouveaux cas d’usage pour les développeurs, les analystes, les utilisateurs généraux et les clients. Toutefois, les risques sont majeurs et doivent impérativement être pris en compte avant toute intégration.

L’ajout d’outils d’IA à l’infrastructure numérique d’une organisation élargit immédiatement la surface d’attaque, et l’intégration de modèles multimodaux peut encore complexifier la situation. L’architecture d’un modèle multimodal comporte de nombreux points d’entrée susceptibles d’être exploités par des attaquants.

De même, se concentrer sur la sécurisation de certaines modalités d’un modèle ou d’un système d’IA tout en en négligeant d’autres peut créer des angles morts dans la posture de sécurité d’un système multimodal. On peut toujours compter sur les attaquants pour exploiter le maillon le plus faible, qu’il s’agisse de s’introduire dans un système par un portail non sécurisé ou d’insérer du code malveillant dans la réponse du modèle.

Alors que des réglementations ont commencé à entrer en vigueur partout dans le monde, la mise en conformité, notamment en matière de protection de la confidentialité des données, est devenue une difficulté majeure pour les équipes chargées de la sécurité de l’IA. Les données à protéger ne se limitent désormais plus aux documents textuels : elles comprennent également des images numériques, des fichiers audio, des vidéos, des données biométriques et médicales telles que des scans rétiniens, des empreintes digitales, des radiographies et des IRM, des empreintes vocales utilisées à des fins de confirmation verbale, ainsi que des contenus scientifiques hautement spécialisés.

Toutes ces données pourraient être exposées lors d’une violation de données, mais aussi être manipulées et vendues à des fins malveillantes, notamment pour créer des deepfakes. L’intégration de différentes modalités dans les infrastructures numériques existantes présente également des difficultés, telles que des problèmes d’interopérabilité, car différentes technologies et différents protocoles doivent fonctionner ensemble de manière fluide, et une seule erreur de configuration ou vulnérabilité peut compromettre la sécurité de l’ensemble du système.

La résolution de ces problèmes peut nécessiter beaucoup de ressources, entraîner des problèmes de performances du modèle, tels que des temps de latence, et exiger du matériel supplémentaire qui, s’il n’est pas correctement géré, peut lui-même introduire des vulnérabilités de sécurité.

Solutions de sécurité pour l’IA

L’absence de pratiques normalisées concernant l’utilisation de l’IA complique encore davantage la mise en place d’une sécurité homogène dans les environnements utilisateurs. Toutefois, des solutions émergent dans le domaine de la sécurité de l’IA afin de sécuriser davantage les déploiements et, par conséquent, de les rendre plus attrayants pour les organisations réticentes au risque. 

Notre plateforme indépendante des modèles de sécurisation et d’adoption de l’IA générative est la première du genre à offrir une protection à 360° des systèmes d’IA. Formant une couche « légère » de confiance et de contrôle, située à l’extérieur de l’infrastructure, mais juste à côté de celle-ci, nos solutions de sécurité à l’exécution protègent l’organisation contre les menaces dissimulées dans les réponses des modèles d’IA et contre d’autres menaces externes. Elles empêchent les invites contenant des instructions malveillantes ou des informations confidentielles de quitter le système, sans pour autant introduire de latence dans le processus.

Les administrateurs peuvent utiliser des contrôles d’accès basés sur des politiques pour autoriser ou bloquer l’accès aux modèles d’IA par utilisateur et par équipe, ce qui permet de :

• Permet le suivi des coûts en limitant les personnes autorisées à accéder aux modèles
• Permet de mettre en place des limites de débit afin d’empêcher les attaques par déni de service visant les modèles (DoS) de ralentir ou d’arrêter le système
• Permet de définir des critères d’analyse personnalisables en fonction des besoins de chaque équipe, afin de mieux respecter les politiques d’utilisation acceptable de l’entreprise

Notre solution offre également aux équipes de sécurité une visibilité complète sur l’ensemble des outils d’IA du système, ce qui leur permet de comprendre comment les modèles sont utilisés et de s’assurer qu’ils ne font pas l’objet d’une utilisation inappropriée ou abusive. De même, les administrateurs disposent d’une visibilité sur les habitudes et les pratiques d’utilisation des utilisateurs et des groupes. 

Chaque interaction avec un modèle est suivie et conservée à des fins d’examen et d’analyse, afin de mieux comprendre le comportement des utilisateurs. L’historique des prompts peut être supprimé, manuellement ou automatiquement ; les administrateurs peuvent également choisir de ne conserver aucun prompt à des fins d’examen. Des tableaux de bord interactifs fournissent un large éventail de données d’utilisation détaillées sur les modèles, les utilisateurs individuels et les groupes, selon des périodes définies par les administrateurs.

L’intégration de modèles d’IA multiples et multimodaux dans une infrastructure numérique existante présente des opportunités, des risques et des défis. La mise en œuvre simultanée de mesures de cybersécurité et de sécurité de l’IA constitue la meilleure option pour permettre aux organisations de poursuivre leurs activités normalement, tout en sachant que leurs collaborateurs, leurs biens et leurs processus sont protégés contre les risques liés à l’IA.

Cliquez ici pour demander une démonstration.

À propos de l’auteur

F5 Newsroom Staff

Autres articles de F5 Newsroom Staff