Was ist KI-Bias und warum ist er für die IT wichtig?

Lori Mac VittieDistinguished Engineer und Chief Evangelist | F5

Es steht außer Frage, dass Voreingenommenheit existiert – das tut sie. Vielmehr stellt sich die Frage, wie sie entsteht und warum sich die IT darum kümmern sollte.

Der Hype um KI könnte derzeit kaum größer sein. Das Interesse ist geweckt, die Nachfrage überwältigend, und alle suchen fieberhaft nach der „Killer-App“ für ihren Markt.

Doch hinter dem Hype werden aus gutem Grund auch Bedenken laut. Denn es ist relativ einfach, Vorurteile in KI-Systeme einfließen zu lassen, und diese Verzerrungen sorgen in manchen Kreisen für Beunruhigung.

Eine kurze Einführung in KI-Lernmodelle

Um zu verstehen, wie Verzerrungen in KI entstehen, ist ein grundlegendes Verständnis davon erforderlich, wie KI-Modelle trainiert werden.

Je nachdem, wen man fragt und wie genau es die betreffende Person nimmt, erhält man unterschiedliche Antworten auf die Frage, wie viele verschiedene Lernmethoden es gibt. Tatsächlich sind die heute verwendeten Methoden, Algorithmen und Modelle äußerst vielfältig und in vielen Fällen für Menschen, die nicht tief in der Materie stecken, kaum verständlich. Dennoch ist es wichtig, in Grundzügen zu verstehen, wie Modelle trainiert werden, denn letztlich entstehen auf diese Weise Verzerrungen. Vor diesem Hintergrund gibt es drei grundlegende Möglichkeiten, KI-Modelle zu trainieren:

1. Überwachtes Lernen. Die Eingabedaten sind gekennzeichnet. Das System weiß anhand des Datensatzes und der Kennzeichnungen, mit denen es trainiert wurde, wie die Ausgabe aussehen sollte, und kann dieses Wissen nutzen, um andere Werte vorherzusagen. In dieser Kategorie kommen hauptsächlich zwei Arten von Algorithmen zum Einsatz. Die erste basiert auf Klassifizierung, bei der Daten anhand von Merkmalen wie Farbe, Größe und Form in Kategorien eingeteilt werden. Die Bilderkennung fällt in der Regel in diese Kategorie; weitere gängige Anwendungsbereiche sind die Spam-Erkennung und die E-Mail-Filterung. Die zweite nutzt mathematische Regression, um Muster zu erkennen, die auf einer linearen Beziehung zwischen Eingabe und Ausgabe beruhen. Bei dieser Methode wird die Ausgabe außerhalb des Modells kategorisiert, beispielsweise anhand von Messwerten des tatsächlichen Wetters. Diese Methode wird häufig für Markt- und Wettertrends eingesetzt.
   
2. Unüberwachtes Lernen. Wie der Begriff „unüberwacht“ bereits andeutet, erhält das System keine Vorgaben zur Beschaffenheit der Daten. Die Daten sind nicht gekennzeichnet. Das System soll selbstständig Muster und Zusammenhänge erkennen und ein Ergebnis vorhersagen. Algorithmen für unüberwachtes Lernen stützen sich auf zwei verschiedene Verfahren: Clustering und Assoziation. Beim Clustering soll das System Daten anhand von Ähnlichkeiten so gruppieren, dass die Daten einer Gruppe nur wenige oder gar keine Ähnlichkeiten mit denen anderer Gruppen aufweisen. Ein typischer Anwendungsfall für Clustering ist die Analyse des Kaufverhaltens von Kunden. Bei der Assoziation soll das System Beziehungen zwischen Daten ermitteln, beispielsweise Abhängigkeiten. Dieser Ansatz beruht ausschließlich auf Korrelation, nicht auf Kausalität. Unüberwachte Systeme erkennen lediglich „Dinge, die mit anderen Dingen zusammengehören“, nicht „Dinge, die bewirken, dass andere Dinge geschehen“. Assoziation wird häufig für die Analyse der Webnutzung eingesetzt.
   
3. Bestärkendes Lernen. Bestärkendes Lernen ist ein Kompromiss zwischen überwachtem und unüberwachtem Lernen, der darauf abzielt, die jeweiligen Nachteile zu minimieren. Beim bestärkenden Lernen erhalten Systeme unbeschriftete Daten, die sie selbstständig untersuchen. Anschließend werden ihre Ausgaben entweder positiv oder negativ bewertet. Daraus „lernt“ das System und optimiert seine Entscheidungen. Dieses Modell kommt der menschlichen Art zu lernen am nächsten, wie der Einsatz von Quizfragen und Tests im Bildungsprozess zeigt. Videospiele, Robotik und Text Mining sind gängige Anwendungsbereiche des bestärkenden Lernens.

Wie sich Verzerrungen in KI einschleichen

Okay, kommen wir nun zum eigentlichen Thema: wie Vorurteile in diese Systeme gelangen können.

Die Antwort – und ich bin sicher, Sie haben es bereits herausgefunden – liegt darin, dass Menschen häufig am Trainingsprozess beteiligt sind.

Der einfachste Weg, überwachtes Lernen zu verzerren, besteht gewissermaßen darin, die Daten durch falsche Kennzeichnung zu vergiften. Wenn ich beispielsweise Tiere klassifiziere, kann die falsche Kennzeichnung eines „Hundes“ als „Katze“ bei ausreichend großem Umfang zu Fehlidentifikationen führen. Ein Risiko bei der Kennzeichnung besteht darin, dass Daten absichtlich falsch gekennzeichnet werden, um die Ausgabe zu verfälschen. Manche falschen Kennzeichnungen sind lediglich das Ergebnis menschlicher Einschätzung, etwa bei der Entscheidung, ob ein Panther eine Katze ist oder ob die Statue einer Katze als Katze gilt. Beim bestärkenden Lernen könnte die positive Belohnung einer „falschen“ Antwort oder eines „falschen“ Spielzugs möglicherweise dazu führen, dass ein System absichtlich falsche Antworten gibt oder immer verliert.

Was für manche durchaus eine attraktive Option sein könnte.

Dies hat natürlich Auswirkungen auf dialogorientierte generative KI wie ChatGPT, das laut Angaben auf der eigenen Website mithilfe von „überwachtem Lernen sowie bestärkendem Lernen“ feinabgestimmt wurde, wobei „menschliche Trainer eingesetzt wurden, um die Leistung des Modells zu verbessern“. Wenn Sie Antworten über die Option „Daumen hoch“ oder „Daumen runter“ bewerten, können diese Daten potenziell zur weiteren Feinabstimmung des Modells verwendet werden. Ich gehe davon aus, dass Sie, liebe Leserin oder lieber Leser, ein Mensch sind. Folglich besteht die Möglichkeit, dass das System dadurch noch stärker verzerrt wird. Tatsache ist, dass die Antworten von ChatGPT häufig schlichtweg falsch sind. Feedback ist notwendig, um das System weiter zu trainieren, damit es häufiger die richtige Antwort generieren kann.

Das ist nun interessant – und wir könnten ein faszinierendes Gespräch darüber führen, wie wir diese Systeme manipulieren könnten und welche Folgen das hätte. Der eigentliche Grund, warum ich mich jedoch mit diesem Thema befassen wollte, ist, dass sich das Problem der Verzerrung auch auf Telemetriedaten erstreckt – also auf jene Betriebsdaten, die wir alle nutzen möchten, um die Automatisierung der Systeme und Dienste voranzutreiben, die digitale Dienste bereitstellen und absichern.

KI, Verzerrungen und Telemetrie

Vielleicht erinnern Sie sich, dass ich bereits über das Thema Datenverzerrung im Zusammenhang mit Telemetrie und die Erkenntnisse geschrieben habe, die 98 % der Unternehmen entgehen.

In den meisten Fällen werden Modelle zur Analyse von Telemetriedaten mit gekennzeichneten Daten trainiert. Verzerrungen können in dieses System gelangen, wenn (a) die Daten falsch gekennzeichnet werden, (b) die Daten in einer bestimmten Kategorie nicht vielfältig genug sind oder (c) neue Daten auf ungeeignete Weise eingebracht werden. Warum eine falsche Kennzeichnung von Daten problematisch ist, sollte auf der Hand liegen: Tritt sie in ausreichend großem Umfang auf, kann sie zu Fehlidentifizierungen führen. Mangelnde Datenvielfalt wiederum führt unweigerlich dazu, dass Daten, die außerhalb eines derart eng gefassten Trainingsdatensatzes liegen, falsch klassifiziert werden.

Ein klassisches Beispiel hierfür war ein KI-Modell, das darauf trainiert wurde, Panzer von anderen Transportmitteln zu unterscheiden. Es stellte sich heraus, dass alle Panzer bei Tageslicht fotografiert worden waren, die anderen Fahrzeuge jedoch nicht. Daher konnte die KI zwar sehr gut zwischen Panzer und Nicht-Panzer unterscheiden, stellte tatsächlich aber einen Zusammenhang zwischen Tag und Nacht her. Die mangelnde Vielfalt der Eingabedaten führte zu einer verzerrten Korrelation.

Selbst wenn eine im Einsatz befindliche KI auf bestärkendem Lernen basiert, ist die mangelnde Vielfalt der Daten problematisch, da das System nicht über alle „Variablen“ verfügt, die erforderlich sind, um sozusagen den „nächsten Zug“ zu bestimmen.

Der Grund dafür, dass eine KI möglicherweise nicht über einen vielfältigen Datensatz oder alle benötigten Variablen verfügt, ist – Sie ahnen es – eine Verzerrung der Daten. Genauer gesagt handelt es sich um eine Verzerrung, die durch selektive Überwachung entsteht, bei der nur *ein Teil* der Telemetriedaten zur Analyse erfasst wird. So ist beispielsweise der Einfluss der DNS-Leistung auf die Benutzererfahrung hinlänglich bekannt. Wird ein Modell jedoch darauf trainiert, die Anwendungsleistung ohne DNS-Telemetriedaten zu analysieren, kann es zu dem Schluss kommen, dass die Leistung völlig in Ordnung ist, obwohl ein DNS-Problem vorliegt. Schließlich weiß es nicht, dass DNS in irgendeiner Weise mit der End-to-End-Leistung der Anwendung zusammenhängt. Besteht der „nächste Schritt“ darin, jemanden über eine Leistungsverschlechterung zu informieren, wird das System aufgrund der verzerrten Datenauswahl versagen.

Es wird Sie nicht überraschen, wenn ich Ihnen sage, dass unsere jährliche Studie ergeben hat, dass mehr als die Hälfte aller Unternehmen „fehlende Daten“ als eine der größten Herausforderungen bei der Gewinnung der benötigten Erkenntnisse nennt.

Selbst wenn Unternehmen also voll und ganz darauf setzen würden, mithilfe von KI operative Entscheidungen zu treffen, wäre dies mit Herausforderungen verbunden. Ohne einen vielfältigen Datensatz, mit dem ein solches System trainiert werden kann, besteht die Gefahr, dass Verzerrungen entstehen.

Eine dritte Möglichkeit, wie Verzerrungen entstehen können, liegt in den Methoden, mit denen dem Modell Daten zugeführt werden. Das häufigste Beispiel aus der Praxis ist die Verwendung der Ergebnisse synthetischer Tests, um die durchschnittliche Leistung einer Anwendung zu ermitteln, und die anschließende Nutzung des daraus resultierenden Modells zur Analyse des realen Datenverkehrs. Je nachdem, wie vielfältig die Standorte, Geräte, Netzwerkauslastungen usw. sind, aus denen sich der Datensatz der synthetischen Tests zusammensetzt, kann eine für reale Nutzer völlig akzeptable Leistung als Fehler eingestuft werden – oder umgekehrt.

Das Risiko für die digitale Transformation

Das Risiko besteht darin, dass das Vertrauen in die Technologie als Kraftverstärker schwindet und sie nicht mehr als Mittel wahrgenommen wird, das Unternehmen die nötige Skalierbarkeit und Effizienz für den digitalen Geschäftsbetrieb ermöglicht. Denn wenn die KI immer wieder die „falschen“ Antworten gibt oder die „falschen“ Lösungen vorschlägt, wird ihr letztlich niemand vertrauen.

Aus diesem Grund ist Full-Stack-Observability nicht nur wichtig, sondern eine der sechs zentralen technischen Fähigkeiten, die Unternehmen benötigen, um in die dritte Phase der digitalen Transformation überzugehen: KI-gestütztes Business.

Fehlende Daten, sei es aufgrund selektiver Überwachung oder einer subjektiven Auswahl von Metriken, können KI-Modelle verzerren, die für operative Entscheidungen eingesetzt werden.

Eine sorgfältige Prüfung der Datenquellen und -arten in Verbindung mit einer umfassenden Daten- und Observability-Strategie trägt wesentlich dazu bei, Verzerrungen zu vermeiden und genauere – und vertrauenswürdigere – Ergebnisse zu erzielen.

Über den Autor

Lori Mac VittieDistinguished Engineer und Chief Evangelist | F5

Lori MacVittie ist Distinguished Engineer und Chief Evangelist im Office of the CTO von F5 und verfügt über umfassende Expertise in den Bereichen Anwendungsbereitstellung, Automatisierungsstrategie und Infrastruktur. Sie ist dafür bekannt, Komplexität verständlich zu machen – ob sie Leitplanken für KI-Agenten definiert, fragile Multicloud-Architekturen analysiert oder die Grenzen skalierbarer Systeme auslotet. Sie verfügt über mehr als dreißig Jahre Branchenerfahrung in der Anwendungsentwicklung, IT-Architektur sowie im Netzwerk- und Systembetrieb. Bevor sie zu F5 kam, war sie als mehrfach ausgezeichnete Technologie-Redakteurin tätig. MacVittie hat einen Masterabschluss in Informatik und ist eine produktive Autorin, deren Veröffentlichungen die Bereiche Sicherheit, Cloud und Unternehmensarchitektur abdecken. Außerdem spielt sie leidenschaftlich gern Brett- und Videospiele und vertritt mit voller Überzeugung klare Ansichten zum Thema Käse.

Weitere Blogbeiträge von Lori Mac Vittie