Concepts essentiels de l’IA : transparence et explicabilité

Lori Mac VittieIngénieur émérite et évangéliste en chef | F5

Pratiquement toutes les enquêtes visant à comprendre les préoccupations du secteur à l’égard de l’IA regroupent tout sous la rubrique « sécurité ». Des inquiétudes liées aux fuites de données sensibles aux hallucinations et aux biais, de l’exploitation par injection de prompt aux questions de transparence et d’explicabilité, il semble que, lorsqu’il s’agit d’IA, tout relève de la sécurité.

Chacune de ces préoccupations est légitime et importante, mais elles sont toutes très différentes et la plupart ne relèvent pas de la sécurité.

Aujourd’hui, nous allons nous pencher sur la transparence et l’explicabilité, deux concepts essentiels à comprendre et à mettre en pratique lorsque vous utilisez l’IA au sein de votre entreprise. En effet, elles permettent non seulement d’instaurer la confiance dans le système et ses résultats, mais facilitent également le diagnostic et le débogage des systèmes, en particulier pendant leur développement.

Transparence et explicabilité

La transparence et l’explicabilité sont des concepts essentiels de manière générale, mais elles revêtent une importance particulière dans le domaine de l’IA, car la plupart des professionnels, y compris dans le secteur informatique, connaissent mal le fonctionnement de ces systèmes. Ces deux concepts sont souvent abordés dans le contexte de l’IA éthique, de l’IA responsable et de la gouvernance de l’IA. Bien qu’étroitement liés, ils ont des significations distinctes et répondent à des objectifs différents pour comprendre et encadrer les systèmes d’IA.

La transparence vise à fournir à un large public, notamment aux parties prenantes et au grand public, des informations générales sur le système d’IA. L’explicabilité est plus spécifique et cherche à clarifier les décisions ou les résultats individuels auprès des utilisateurs, des développeurs et des parties prenantes qui ont besoin de comprendre son comportement.

La transparence vise à renforcer la confiance dans le système, tandis que l’explicabilité cherche à établir la confiance dans des résultats spécifiques. Pour y parvenir, la transparence et l’explicabilité se concentrent sur des éléments différents.

Transparence : citez vos sources

La transparence en matière d’IA désigne le degré d’ouverture, d’accessibilité et de compréhension, pour les parties prenantes, des informations relatives à la conception, au fonctionnement et aux processus décisionnels d’un système d’IA. Elle met l’accent sur une communication claire et une bonne visibilité du fonctionnement des systèmes d’IA, afin de permettre aux parties prenantes d’en comprendre les différents aspects.

Les principaux éléments de la transparence de l’IA comprennent :

• Conception et développement : La transparence implique de communiquer des informations sur la conception, l’architecture et les processus d’entraînement des systèmes d’IA. Cela comprend le type de données utilisées, les algorithmes et les modèles mis en œuvre. Cette transparence est comparable aux informations communiquées dans le secteur des services financiers, où les prestataires expliquent quelles données et quelles pondérations sont prises en compte pour déterminer votre admissibilité à un prêt immobilier ou établir votre score FICO auprès des agences d’évaluation du crédit.
• Données et entrées : La transparence implique d’indiquer clairement les sources et les types de données utilisés pour entraîner et faire fonctionner le système d’IA. Elle suppose également de divulguer tout prétraitement, toute transformation ou toute augmentation appliqués aux données d’entrée. Ce type d’information s’apparente aux déclarations relatives à la collecte de données, dans lesquelles les entreprises vous indiquent quelles données elles collectent et stockent, ainsi que les personnes ou entités avec lesquelles elles sont susceptibles de les partager.
• Gouvernance et responsabilité : Fournir des informations sur les personnes responsables du développement, du déploiement et de la gouvernance du système d’IA. Cela aide les parties prenantes à comprendre la structure des responsabilités.

Explicabilité : montrez votre raisonnement

L’explicabilité de l’IA désigne la capacité à fournir des raisons ou des justifications compréhensibles concernant les décisions, les résultats ou le comportement des systèmes. Elle consiste à expliquer pourquoi une décision particulière a été prise, afin de rendre les résultats de l’IA compréhensibles pour les utilisateurs et les parties prenantes.

Les principaux éléments de l’explicabilité de l’IA comprennent :

• Justification de la décision : L’explicabilité consiste à détailler les facteurs et le raisonnement ayant conduit à une décision ou à un résultat précis. Elle répond aux questions : « Pourquoi l’IA a-t-elle pris cette décision ? » et « Qu’est-ce qui a influencé ce résultat ? » Cela revient à effectuer une démonstration en géométrie : pour expliquer le résultat obtenu, il faut s’appuyer sur des axiomes — relation d’ordre, congruence, droites parallèles, etc. En d’autres termes, si l’IA décide que 2+2=5, elle doit fournir une justification valable à cette décision, par exemple en s’appuyant sur un autre système mathématique ou en utilisant l’équation comme procédé littéraire.
• Interprétabilité du modèle : L’explicabilité exige de rendre les modèles d’IA interprétables afin que les parties prenantes puissent comprendre les mécanismes sous-jacents à la prise de décision. Par exemple, tout le monde ne maîtrise pas le calcul infinitésimal ; une explication sous la forme d’une équation complexe ne suffit donc pas. Le fonctionnement d’un réseau antagoniste génératif (GAN) diffère sensiblement de celui d’un réseau neuronal convolutif (CNN). Il est donc essentiel, pour assurer l’interprétabilité, d’indiquer l’approche architecturale utilisée.
• Compréhensibilité pour l’être humain : L’explication doit être présentée dans un format facilement compréhensible par tous, y compris par les non-spécialistes. Cela implique de présenter les opérations complexes de l’IA de manière simple et claire. Vous ne pouvez pas fournir l’explication sous forme hexadécimale ou sous forme de code ; vous devez utiliser un format lisible par toutes les parties prenantes, notamment les équipes juridiques, de conformité et d’ingénierie.

Instaurer la confiance dans l’IA

Toute nouvelle technologie a besoin de temps pour inspirer confiance. Il y a quinze ans, personne ne faisait confiance à la mise à l’échelle automatique des applications critiques, alors qu’elle est aujourd’hui considérée comme une fonctionnalité fondamentale. Quelle que soit sa forme — résoudre des problèmes mathématiques complexes, conduire votre voiture ou payer vos factures —, l’automatisation demande du temps avant de gagner la confiance des utilisateurs. Faire preuve de transparence sur le processus et expliquer le fonctionnement du système peut grandement contribuer à réduire le délai entre son lancement et son adoption.

La transparence offre une vue d’ensemble du fonctionnement du système d’IA, tandis que l’explicabilité permet d’approfondir les raisons qui sous-tendent des décisions ou des résultats spécifiques. Toutes deux sont essentielles à la réussite de l’IA et permettent aux entreprises d’en tirer parti pour améliorer le service client et la productivité, ainsi que pour accélérer la prise de décision.

Et ni l’un ni l’autre ne relève de la sécurité.

À propos de l’auteur

Lori Mac VittieIngénieur émérite et évangéliste en chef | F5

Lori MacVittie est ingénieure émérite et évangéliste en chef au sein du bureau du directeur technique de F5. Elle possède une expertise approfondie dans la fourniture d’applications, les stratégies d’automatisation et les infrastructures. Elle est réputée pour sa capacité à rendre la complexité intelligible, qu’elle définisse des garde-fous pour les agents d’IA, analyse des architectures multicloud fragiles ou explore les limites des systèmes évolutifs. Elle cumule plus de trente ans d’expérience dans le secteur, couvrant le développement d’applications, l’architecture informatique ainsi que l’exploitation des réseaux et des systèmes. Avant de rejoindre F5, elle a été rédactrice spécialisée dans les technologies et a reçu plusieurs distinctions. MacVittie est titulaire d’un master en informatique et est une autrice prolifique dont les publications couvrent la sécurité, le cloud et l’architecture d’entreprise. Elle est également une passionnée de jeux de société et de jeux vidéo, et assume pleinement ses avis bien tranchés sur le fromage.

Autres articles de Lori Mac Vittie