Tout le monde se précipite vers la mine d’or que représente l’IA générative. C’est du moins l’impression que l’on peut avoir à première vue. Ces derniers temps, rares sont les communiqués de presse qui arrivent dans ma boîte de réception sans mentionner l’IA générative d’une manière ou d’une autre.
Mais en creusant un peu, on se rend vite compte que c’est sur le marketing que l’IA générative a actuellement le plus d’impact.
Ce que nous observons actuellement, c’est que les gens se contentent des solutions les plus faciles. Toute fonctionnalité pouvant être « greffée » sans nécessiter d’importants travaux de développement ou de recherche est ajoutée à la va-vite et aussitôt mise sur le marché.
La plupart des entreprises, qu’elles soient dans la technologie, l’industrie ou la santé, adoptent une approche plus mesurée. Une approche plus stratégique , si je puis dire. Et puisque c’est mon blog, je peux me le permettre.
Les raisons qui incitent à porter un regard plus critique sur votre utilisation de l’IA générative sont bien connues, si l’on en juge par une récente enquête d’ExtraHop. Les principales préoccupations se répartissent en deux catégories : la fiabilité et la sécurité.
Dans le domaine de l’IA générative, la fiabilité repose avant tout sur l’exactitude et la confiance. Je dois pouvoir être certain que les réponses que je reçois — qu’il s’agisse de code, de configuration ou de contenu — sont exactes et correctes, et qu’elles ne sont pas truffées de biais.
Dans le domaine de la sécurité, nous retrouvons les préoccupations que nous avons toujours eues, auxquelles viennent désormais s’en ajouter d’autres. Il ne s’agit plus seulement de l’exposition des données personnelles identifiables des clients et des employés, mais aussi du risque de voir des secrets commerciaux et des éléments de propriété intellectuelle se répandre dans le vaste monde.
Répondre aux risques liés à l’IA générative
Résoudre les problèmes de fiabilité demande beaucoup de travail, car cela nécessite soit (a) un entraînement et un ajustement approfondis, soit (b) une approche architecturale dans laquelle l’IA générative ne constitue qu’une partie de la solution et s’appuie sur des techniques avancées d’ingénierie des prompts pour valider ses propres réponses. Ces deux approches exigent du temps et de l’argent, et c’est pourquoi nous ne voyons pas encore les solutions d’IA générative façonner les marchés. Cela viendra, mais il faudra du temps.
Le défi de la sécurité est à la fois plus simple et plus complexe à relever. Pour éviter d’exposer des secrets commerciaux ou des éléments de propriété intellectuelle, il faut soit (a) déployer et exploiter ses propres instances d’un LLM — avec tout ce que cela implique —, soit (b) concevoir une architecture qui contourne le problème. Cela suppose de développer des agents GPT qui utilisent les capacités génératives d’un LLM comme un outil, mais pas comme source principale.
Par exemple, il est facile d’oublier que les données que vous collectez peuvent revêtir une importance stratégique. Le modèle que j’utilise pour suivre les activités du marché peut sembler anodin, mais il en révèle beaucoup sur la manière dont F5 appréhende le marché et prévoit d’y faire face à la concurrence. Il revêt donc une importance stratégique. Ce n’est donc pas quelque chose que vous voudriez confier à un LLM public à des fins d’analyse. Ajoutez à cela le fait que l’IA générative est très mauvaise — et je dis bien très mauvaise — pour analyser des données tabulaires, et cela semble être un mauvais cas d’usage.
Mais en exploitant les fonctions d’OpenAI pour tirer parti des capacités d’analyse de données de Python, ce n’est finalement pas une mauvaise idée. Cela demande du temps et des efforts de développement, car il faut créer un agent GPT au lieu de simplement confier les données à OpenAI pour analyse, mais cette approche permet de résoudre à la fois les problèmes de fiabilité et de sécurité.
En cas d’exposition accidentelle des données à caractère personnel des clients ou des employés, une solution plus simple existe déjà : le masquage des données.
Masquage des données pour l’IA générative
Or, le masquage des données était déjà de plus en plus utilisé dans le cadre du développement, car il permet aux développeurs d’effectuer des tests avec des données réelles sans risquer d’exposer des données sensibles. Mais il convient tout autant à l’IA générative pour éviter une telle exposition. Il existe déjà un certain nombre de bibliothèques et d’outils open source qui facilitent son intégration, car, après tout, la plupart des IA génératives reposent sur des API, et il est facile d’intercepter les API et d’examiner les requêtes afin d’y détecter des données sensibles.
Le recours au masquage des données pour répondre aux préoccupations de sécurité liées à l’IA générative est efficace aussi bien en développement qu’en production et garantit que les données sensibles ne sont pas exposées tout au long du cycle de vie de l’application.
Il est certain que le masquage des données était déjà en plein essor avant que l’IA générative ne fasse son apparition et ne vole la vedette à toutes les autres technologies. Mais l’IA générative devrait jouer un rôle de catalyseur pour les capacités de masquage des données, tant dans le domaine de la mise à disposition et de la sécurité des applications que dans celui du développement applicatif.
Découvrez comment les solutions F5 optimisent et protègent les applications basées sur l’IA ›
À propos de l’auteur
Lori MacVittie est ingénieure émérite et évangéliste en chef au sein du bureau du directeur technique de F5. Elle possède une expertise approfondie dans la fourniture d’applications, les stratégies d’automatisation et les infrastructures. Elle est réputée pour sa capacité à rendre la complexité intelligible, qu’elle définisse des garde-fous pour les agents d’IA, analyse des architectures multicloud fragiles ou explore les limites des systèmes évolutifs. Elle cumule plus de trente ans d’expérience dans le secteur, couvrant le développement d’applications, l’architecture informatique ainsi que l’exploitation des réseaux et des systèmes. Avant de rejoindre F5, elle a été rédactrice spécialisée dans les technologies et a reçu plusieurs distinctions. MacVittie est titulaire d’un master en informatique et est une autrice prolifique dont les publications couvrent la sécurité, le cloud et l’architecture d’entreprise. Elle est également une passionnée de jeux de société et de jeux vidéo, et assume pleinement ses avis bien tranchés sur le fromage.
Autres articles de Lori Mac VittieArticles de blog associés
Pourquoi devriez-vous vous intéresser à WebAssembly ?
WebAssembly (Wasm) est un jeu d’instructions binaires portable, rapide et sécurisé, qui permet d’exécuter des applications hautes performances sur n’importe quelle plateforme.
Trois choses à savoir sur les applications d’IA
Les applications d’IA sont des applications modernes, mais elles présentent certaines particularités. Découvrez les points essentiels à connaître sur les applications basées sur l’IA.
État des lieux de la stratégie applicative 2022 : il est temps de moderniser les opérations
Il est devenu évident que, pour maintenir la dynamique de leur transformation numérique, les organisations doivent recentrer leurs efforts sur les fonctions métier. Si les expériences destinées aux clients restent prioritaires, il est également indispensable de permettre la numérisation de fonctions telles que les services juridiques, les ressources humaines et la finance. Les DSI prennent donc les commandes, tandis que la transformation numérique passe de la modernisation des applications à celle des opérations.
Clouds multiples ou multicloud : faciliter la transition
La gestion et la sécurisation des charges de travail deviennent complexes à mesure que les entreprises adoptent une stratégie de cloud connecté. Découvrez comment F5 répond au besoin d’une nouvelle approche de la mise en réseau multicloud.
L’expérience client dépend de la visibilité
Une enquête menée par Dimensional Research auprès de plus de 3 000 utilisateurs d’applications mobiles a confirmé ce que beaucoup d’entre nous pensent des attentes actuelles des clients.
Transformation numérique et explosion du portefeuille d’applications
La transformation numérique stimule la croissance des portefeuilles d’applications et modifie la manière dont celles-ci sont développées, déployées, intégrées et, en définitive, utilisées.