Zentrale Konzepte der KI: Transparenz und Erklärbarkeit

Lori Mac VittieDistinguished Engineer und Chief Evangelist | F5

Nahezu jede Umfrage, die darauf abzielt, die Bedenken der Branche in Bezug auf KI zu verstehen, fasst alles unter dem Oberbegriff „Sicherheit“ zusammen. Von Bedenken hinsichtlich des Abflusses sensibler Daten bis hin zu Halluzinationen und Verzerrungen, von der Ausnutzung durch Prompt-Injection bis hin zu Transparenz und Erklärbarkeit – bei KI scheint alles in den Verantwortungsbereich der Sicherheit zu fallen.

Jedes dieser Anliegen ist berechtigt und wichtig, doch sie unterscheiden sich stark voneinander, und für die meisten davon ist nicht die IT-Sicherheit zuständig.

Heute befassen wir uns eingehend mit Transparenz und Erklärbarkeit. Beides sind entscheidende Konzepte, die Sie verstehen und in die Praxis umsetzen sollten, wenn Sie KI in Ihrem Unternehmen einsetzen. Denn sie tragen nicht nur dazu bei, Vertrauen in das System und seine Ergebnisse zu schaffen, sondern unterstützen auch die Fehlerbehebung und das Debugging von Systemen, insbesondere während der Entwicklung.

Transparenz und Erklärbarkeit

Transparenz und Erklärbarkeit sind grundsätzlich wichtige Konzepte, die jedoch für KI besonders relevant sind, da die meisten Fachleute – selbst in der IT – nicht damit vertraut sind, wie diese Systeme funktionieren. Beide Konzepte werden häufig im Zusammenhang mit ethischer KI, verantwortungsvoller KI und KI-Governance erörtert. Obwohl sie eng miteinander verbunden sind, haben sie unterschiedliche Bedeutungen und erfüllen verschiedene Zwecke beim Verständnis und bei der Steuerung von KI-Systemen.

Transparenz zielt darauf ab, einem breiten Publikum, darunter Interessengruppen und die Öffentlichkeit, allgemeine Informationen über das KI-System bereitzustellen. Erklärbarkeit ist spezifischer und soll Nutzern, Entwicklern und Interessengruppen, die das Verhalten des Systems verstehen müssen, einzelne Entscheidungen oder Ergebnisse nachvollziehbar machen.

Transparenz zielt darauf ab, Vertrauen in das System zu fördern, während Erklärbarkeit darauf ausgerichtet ist, Vertrauen in bestimmte Ergebnisse zu schaffen. Um dies zu erreichen, konzentrieren sich Transparenz und Erklärbarkeit auf unterschiedliche Aspekte.

Transparenz: Quellen angeben

Transparenz bei KI bezeichnet das Ausmaß, in dem Informationen über das Design, den Betrieb und die Entscheidungsprozesse eines KI-Systems für die Beteiligten offen, zugänglich und verständlich sind. Sie legt den Schwerpunkt auf eine klare Kommunikation und Nachvollziehbarkeit der Funktionsweise von KI-Systemen, sodass die Beteiligten verschiedene Aspekte des Systems verstehen können.

Zu den wichtigsten Elementen der KI-Transparenz gehören:

• Design und Entwicklung: Transparenz bedeutet, Informationen über das Design, die Architektur und die Trainingsprozesse von KI-Systemen offenzulegen. Dazu gehören die Art der verwendeten Daten sowie die eingesetzten Algorithmen und Modelle. Diese Transparenz ist mit den Offenlegungspflichten bei Finanzdienstleistungen vergleichbar, bei denen Anbieter erläutern, welche Daten und Gewichtungen zur Beurteilung Ihrer Kreditwürdigkeit für eine Hypothek oder zur Ermittlung des FICO-Scores durch Kreditauskunfteien herangezogen werden.
• Daten und Eingaben: Transparenz bedeutet, die Quellen und Arten von Daten offenzulegen, die zum Trainieren und Betreiben des KI-Systems verwendet werden. Dazu gehört auch, sämtliche Vorverarbeitungs-, Transformations- oder Anreicherungsverfahren offenzulegen, die auf die Eingabedaten angewendet werden. Diese Art von Informationen ähnelt Datenschutzerklärungen, in denen Unternehmen angeben, welche Daten sie erheben und speichern und an wen sie diese gegebenenfalls weitergeben.
• Governance und Rechenschaftspflicht: Bereitstellung von Informationen darüber, wer für die Entwicklung, den Einsatz und die Governance des KI-Systems verantwortlich ist. Dies hilft den Beteiligten, die Verantwortungsstruktur nachzuvollziehen.

Erklärbarkeit: Zeigen Sie, wie Sie vorgegangen sind

Erklärbarkeit in der KI bezeichnet die Fähigkeit, Entscheidungen, Ergebnisse oder Verhaltensweisen von Systemen nachvollziehbar zu begründen. Dabei geht es insbesondere darum, zu erklären, warum eine bestimmte Entscheidung getroffen wurde, und KI-Ergebnisse für Nutzer und Interessengruppen verständlich zu machen.

Zu den wichtigsten Elementen der Erklärbarkeit von KI gehören:

• Begründung der Entscheidung: Erklärbarkeit bedeutet, die Faktoren und die Logik darzulegen, die zu einer bestimmten Entscheidung oder Ausgabe geführt haben. Sie beantwortet die Fragen: „Warum hat die KI diese Entscheidung getroffen?“ und „Was hat dieses Ergebnis beeinflusst?“ Dies ähnelt einem Beweis in der Geometrie: Um die Ausgabe zu erklären, muss man sich auf Axiome – etwa Zwischenbeziehungen, Kongruenz, parallele Geraden usw. – stützen. Mit anderen Worten: Wenn die KI entscheidet, dass 2+2=5 ist, muss sie einen triftigen Grund für diese Entscheidung darlegen, etwa indem sie sich auf ein alternatives mathematisches System stützt oder die Gleichung als literarisches Stilmittel verwendet.
• Interpretierbarkeit des Modells: Erklärbarkeit setzt voraus, dass KI-Modelle interpretierbar sind, damit die Beteiligten die zugrunde liegenden Mechanismen der Entscheidungsfindung nachvollziehen können. Beispielsweise versteht nicht jeder die Infinitesimalrechnung, weshalb eine Erklärung in Form einer komplexen Gleichung nicht ausreicht. Die Funktionsweise eines Generative Adversarial Network (GAN) unterscheidet sich erheblich von der eines Convolutional Neural Network (CNN). Daher ist die Offenlegung des verwendeten Architekturansatzes ein wichtiger Bestandteil der Interpretierbarkeit.
• Verständlichkeit für Menschen: Die Erklärung muss in einem Format vorliegen, das für Menschen – auch für Laien – leicht verständlich ist. Dazu müssen komplexe KI-Vorgänge einfach und klar dargestellt werden. Die Erklärung darf nicht in hexadezimaler Form oder als Code präsentiert werden, sondern muss für alle Beteiligten lesbar sein, einschließlich der Rechts- und Compliance-Abteilungen sowie der technischen Fachkräfte.

Vertrauen in KI schaffen

Jede neue Technologie braucht Zeit, um Vertrauen aufzubauen. Vor fünfzehn Jahren vertraute niemand auf die automatische Skalierung kritischer Anwendungen, heute hingegen wird sie als grundlegende Funktion vorausgesetzt. Automatisierung jeglicher Art – ob beim Lösen komplexer mathematischer Probleme, beim Autofahren oder beim Bezahlen von Rechnungen – braucht Zeit, bis die Nutzer ihr vertrauen. Transparenz über den Prozess und eine verständliche Erklärung der Funktionsweise des Systems können wesentlich dazu beitragen, die Zeitspanne zwischen Einführung und Akzeptanz zu verkürzen.

Transparenz vermittelt einen umfassenden Einblick in die Funktionsweise des KI-Systems, während Erklärbarkeit die Gründe für bestimmte Entscheidungen oder Ergebnisse beleuchtet. Beides ist entscheidend für den Erfolg von KI und dafür, dass Unternehmen ihre Vorteile in Form eines besseren Kundenservice, höherer Produktivität und schnellerer Entscheidungsfindung nutzen können.

Und beides fällt nicht in den Zuständigkeitsbereich der IT-Sicherheit.

Über den Autor

Lori Mac VittieDistinguished Engineer und Chief Evangelist | F5

Lori MacVittie ist Distinguished Engineer und Chief Evangelist im Office of the CTO von F5 und verfügt über umfassende Expertise in den Bereichen Anwendungsbereitstellung, Automatisierungsstrategie und Infrastruktur. Sie ist dafür bekannt, Komplexität verständlich zu machen – ob sie Leitplanken für KI-Agenten definiert, fragile Multicloud-Architekturen analysiert oder die Grenzen skalierbarer Systeme auslotet. Sie verfügt über mehr als dreißig Jahre Branchenerfahrung in der Anwendungsentwicklung, IT-Architektur sowie im Netzwerk- und Systembetrieb. Bevor sie zu F5 kam, war sie als mehrfach ausgezeichnete Technologie-Redakteurin tätig. MacVittie hat einen Masterabschluss in Informatik und ist eine produktive Autorin, deren Veröffentlichungen die Bereiche Sicherheit, Cloud und Unternehmensarchitektur abdecken. Außerdem spielt sie leidenschaftlich gern Brett- und Videospiele und vertritt mit voller Überzeugung klare Ansichten zum Thema Käse.

Weitere Blogbeiträge von Lori Mac Vittie