Qu’est-ce que le biais de l’IA et pourquoi est-il important pour les équipes informatiques ?

Lori Mac VittieIngénieur émérite et évangéliste en chef | F5

Il ne s’agit pas de se demander si des biais existent : ils existent bel et bien. La question est plutôt de savoir comment ils sont introduits et pourquoi le service informatique devrait s’en préoccuper.

L’engouement autour de l’IA n’a jamais été aussi fort. Elle suscite un vif intérêt, la demande est considérable et tout le monde s’empresse de trouver « l’application révolutionnaire » pour son marché.

Mais derrière cet engouement, des inquiétudes légitimes se font entendre. Il est relativement facile d’introduire des biais dans l’IA, et ces biais suscitent l’inquiétude dans certains milieux.

Brève introduction aux modèles d’apprentissage de l’IA

Pour comprendre comment les biais s’introduisent dans l’IA, il est nécessaire de connaître les principes de base de l’entraînement des modèles d’IA.

Selon la personne à qui vous posez la question et son degré de pointillisme, vous obtiendrez des réponses différentes quant au nombre de méthodes d’apprentissage existantes. De fait, les méthodes, algorithmes et modèles utilisés aujourd’hui sont très nombreux et, dans bien des cas, difficiles à appréhender pour les personnes qui ne maîtrisent pas parfaitement le domaine. Il est toutefois important de comprendre, dans les grandes lignes, comment les modèles sont entraînés, car c’est en définitive ainsi que les biais sont introduits. Dans cette optique, il existe trois grandes façons d’entraîner les modèles d’IA :

1. Apprentissage supervisé. Les données d’entrée sont étiquetées. Le système connaît le résultat attendu en fonction du jeu de données et des étiquettes utilisés pour l’entraîner, et peut exploiter ces connaissances pour prédire d’autres valeurs. Cette catégorie comprend deux grands types d’algorithmes. Le premier repose sur la classification, qui consiste à regrouper les données en catégories selon des attributs tels que la couleur, la taille et la forme. La reconnaissance d’images relève généralement de cette catégorie, mais la détection des courriers indésirables et le filtrage des e-mails en sont également des applications courantes. Le second utilise la régression mathématique pour mettre en évidence des tendances fondées sur une relation linéaire entre les données d’entrée et le résultat. Avec cette méthode, le résultat est catégorisé en dehors du modèle, par exemple à partir de relevés météorologiques réels. Cette méthode est souvent utilisée pour analyser les tendances des marchés et de la météo.
   
2. Apprentissage non supervisé. Comme le terme « non supervisé » l’indique, le système ne reçoit aucune indication sur la nature des données. Celles-ci ne sont pas étiquetées. Le système doit découvrir par lui-même des modèles et des relations, puis prédire un résultat. Les algorithmes d’apprentissage non supervisé reposent sur deux techniques différentes : le regroupement et l’association. Dans le cas du regroupement, le système doit regrouper les données en fonction de leurs similitudes, de sorte que les données d’un groupe présentent peu ou pas de similitudes avec celles des autres groupes. L’analyse du comportement d’achat des clients est une application courante du regroupement. Dans le cas de l’association, le système doit rechercher des relations entre les données, telles que des dépendances. Cette approche repose entièrement sur la corrélation, et non sur la causalité. Les systèmes non supervisés se contentent de découvrir « les choses qui vont de pair avec d’autres », et non « les choses qui en provoquent d’autres ». L’association est souvent utilisée pour l’exploration des usages du Web.
   
3. Apprentissage par renforcement. L’apprentissage par renforcement est un compromis entre l’apprentissage supervisé et non supervisé qui vise à réduire au minimum les inconvénients de chacun. Dans le cadre de l’apprentissage par renforcement, les systèmes reçoivent des données non étiquetées qu’ils explorent. Leurs résultats sont ensuite récompensés ou pénalisés, ce qui permet au système d’« apprendre » afin d’affiner ses décisions. C’est le modèle qui se rapproche le plus de la manière dont les humains apprennent, comme en témoigne l’utilisation de quiz et d’examens dans le processus éducatif. Les jeux vidéo, la robotique et la fouille de textes sont des applications courantes de l’apprentissage par renforcement.

Comment les biais s’immiscent dans l’IA

Bon, passons maintenant au véritable sujet : comment des biais peuvent être introduits dans ces systèmes.

La réponse, et je suis sûr que vous l’avez déjà compris, tient au fait que des humains interviennent souvent dans le processus d’entraînement.

Le moyen le plus simple de biaiser l’apprentissage supervisé consiste à empoisonner les données, pour ainsi dire, en leur attribuant des étiquettes erronées. Par exemple, si je classe des animaux, étiqueter à tort un « chien » comme un « chat » peut, à une échelle suffisamment grande, entraîner des erreurs d’identification. L’un des risques liés à l’étiquetage est l’attribution intentionnelle d’étiquettes erronées dans le but de fausser les résultats. Certaines erreurs d’étiquetage sont simplement le fruit du jugement humain, par exemple lorsqu’il s’agit de déterminer si une panthère est un chat ou si une statue de chat peut être considérée comme un chat. Dans le cadre de l’apprentissage par renforcement, récompenser la « mauvaise » réponse ou le « mauvais » coup dans un jeu pourrait aboutir à un système qui donne intentionnellement de mauvaises réponses ou qui perd systématiquement.

Ce qui pourrait être une option séduisante pour certains.

Cela a évidemment des implications pour les IA conversationnelles (IA génératives) telles que ChatGPT, qui a été affiné, selon son site, à l’aide d’un « apprentissage supervisé ainsi que d’un apprentissage par renforcement », faisant « appel à des formateurs humains pour améliorer les performances du modèle ». Lorsque vous choisissez l’option « pouce vers le haut » ou « pouce vers le bas » pour évaluer les réponses, ces données peuvent potentiellement servir à affiner davantage son modèle. Or, cher lecteur, je suppose que vous êtes humain. Il existe donc un risque d’introduire davantage de biais dans le système. En réalité, les réponses de ChatGPT sont souvent tout simplement erronées. Les retours sont nécessaires pour continuer à entraîner le système afin qu’il puisse générer plus souvent la bonne réponse.

Voilà qui est intéressant — et nous pourrions avoir une discussion passionnante sur les différentes façons de manipuler ces systèmes et sur les conséquences qui en découleraient —, mais si je souhaitais vraiment aborder ce sujet, c’est parce que le problème des biais touche également la télémétrie, c’est-à-dire les données opérationnelles que nous voulons tous exploiter pour automatiser les systèmes et services qui assurent la fourniture et la sécurisation des services numériques.

IA, biais et télémétrie

Vous vous souvenez peut-être que j’ai écrit sur la question des biais dans les données en lien avec la télémétrie et les informations précieuses dont 98 % des organisations se privent.

Dans la plupart des cas d’analyse de la télémétrie, les modèles sont entraînés à partir de données étiquetées. Des biais peuvent être introduits dans ce système si (a) les données sont mal étiquetées, (b) les données d’une catégorie donnée ne sont pas suffisamment diversifiées ou (c) la méthode utilisée pour intégrer de nouvelles données est inadaptée. La raison pour laquelle un mauvais étiquetage des données pose problème devrait être évidente : lorsqu’il concerne un volume suffisamment important de données, il peut entraîner des erreurs d’identification. Quant au manque de diversité des données, il conduit inévitablement à une mauvaise classification des données qui sortent du cadre d’un jeu d’entraînement aussi restreint.

Un exemple classique est celui d’un modèle d’IA entraîné à distinguer les chars d’assaut des autres moyens de transport. Il s’est avéré que tous les chars avaient été photographiés en plein jour, contrairement aux autres véhicules. L’IA parvenait donc très bien à distinguer les chars des autres véhicules, mais elle établissait en réalité une corrélation entre le jour et la nuit. Le manque de diversité du jeu de données d’entrée a ainsi entraîné une corrélation biaisée.

Même si une IA opérationnelle s’appuie sur l’apprentissage par renforcement, le manque de diversité des données pose problème, car le système ne dispose pas de toutes les « variables » nécessaires pour déterminer, pour ainsi dire, le « prochain coup ».

Si une IA ne dispose pas d’un jeu de données diversifié ou de toutes les variables dont elle a besoin, c’est, vous l’aurez deviné, en raison d’un biais dans les données. Plus précisément, il s’agit du biais introduit par une surveillance sélective, dans laquelle seules *certaines* données de télémétrie sont intégrées à l’analyse. Par exemple, l’incidence des performances du DNS sur l’expérience utilisateur est bien connue. Toutefois, si un modèle est entraîné à analyser les performances d’une application sans données de télémétrie provenant du DNS, il peut conclure que les performances sont tout à fait satisfaisantes même en cas de problème avec le DNS, car il ignore que celui-ci est lié d’une quelconque manière aux performances de bout en bout de l’application. Si « l’étape suivante » consiste à alerter quelqu’un d’une dégradation des performances, le système échouera en raison d’un biais dans la sélection des données.

Vous ne serez pas surpris d’apprendre que notre étude annuelle a révélé que plus de la moitié des organisations considèrent les « données manquantes » comme l’un des principaux obstacles à l’obtention des informations dont elles ont besoin.

Ainsi, même si les organisations étaient pleinement déterminées à exploiter l’IA pour orienter leurs décisions opérationnelles, cela poserait un défi. Sans un jeu de données diversifié sur lequel entraîner un tel système, des biais risquent de s’introduire.

Une troisième source potentielle de biais réside dans les méthodes utilisées pour fournir les données au modèle. L’exemple opérationnel le plus courant consiste à utiliser les résultats de tests synthétiques pour déterminer les performances moyennes d’une application, puis à exploiter le modèle ainsi obtenu pour analyser le trafic réel. Selon la diversité des emplacements, des appareils, des niveaux de congestion du réseau, etc. qui composent le jeu de données issu des tests synthétiques, des performances parfaitement acceptables pour les utilisateurs réels peuvent être considérées comme un échec, ou inversement.

Les risques pour la transformation numérique

Le risque réside dans une érosion de la confiance envers la technologie en tant que levier permettant d’atteindre l’échelle et l’efficacité nécessaires aux organisations pour fonctionner comme des entreprises numériques. Car si l’IA continue de donner de « mauvaises » réponses ou de suggérer de « mauvaises » solutions, plus personne ne lui fera confiance.

C’est pourquoi l’observabilité full-stack n’est pas seulement importante : elle fait partie des six capacités techniques clés dont les organisations ont besoin pour passer à la troisième phase de la transformation numérique : l’entreprise assistée par l’IA.

Les données manquantes, qu’elles résultent d’une surveillance sélective ou d’une sélection subjective des métriques, risquent de biaiser les modèles d’IA utilisés pour orienter les décisions opérationnelles.

Une attention particulière portée aux sources et aux types de données, associée à une stratégie globale en matière de données et d’observabilité, contribuera grandement à éliminer les biais et à produire des résultats plus précis — et plus fiables.

À propos de l’auteur

Lori Mac VittieIngénieur émérite et évangéliste en chef | F5

Lori MacVittie est ingénieure émérite et évangéliste en chef au sein du bureau du directeur technique de F5. Elle possède une expertise approfondie dans la fourniture d’applications, les stratégies d’automatisation et les infrastructures. Elle est réputée pour sa capacité à rendre la complexité intelligible, qu’elle définisse des garde-fous pour les agents d’IA, analyse des architectures multicloud fragiles ou explore les limites des systèmes évolutifs. Elle cumule plus de trente ans d’expérience dans le secteur, couvrant le développement d’applications, l’architecture informatique ainsi que l’exploitation des réseaux et des systèmes. Avant de rejoindre F5, elle a été rédactrice spécialisée dans les technologies et a reçu plusieurs distinctions. MacVittie est titulaire d’un master en informatique et est une autrice prolifique dont les publications couvrent la sécurité, le cloud et l’architecture d’entreprise. Elle est également une passionnée de jeux de société et de jeux vidéo, et assume pleinement ses avis bien tranchés sur le fromage.

Autres articles de Lori Mac Vittie