Die aktuelle KI-Pulse-Umfrage von EY zeigt, dass 87 % der Führungskräfte Hindernisse bei der Einführung nennen, die von Cybersicherheits- und Datenproblemen bis hin zu fehlenden Richtlinien und Governance-Strukturen reichen. Die Integration generativer KI (GenAI) in Unternehmen erfordert sowohl den Willen als auch die Fähigkeit zur Umsetzung. Die Lücke zwischen beidem ist geprägt von operativer Komplexität und dem Bedarf an Vertrauen in diese neue Technologie.
Unternehmen entwickeln und implementieren seit Jahrzehnten Software, doch generative KI stellt sie vor eine neue Herausforderung: die Kontrolle. Anders als herkömmliche Software agieren Anwendungen mit generativer KI autonom und nicht deterministisch. Daher kann man sich nicht darauf verlassen, dass sie ausschließlich das Beabsichtigte tun und niemals unbeabsichtigte Handlungen ausführen – zumindest noch nicht. Dieser Mangel an Kontrolle hemmt die flächendeckende Einführung. Die Herausforderung lässt sich besser verstehen, wenn man die Bedeutung des Kontexts betrachtet. Auf Grundlage dieses Verständnisses können Unternehmen herkömmliche Ansätze der Softwareentwicklung erweitern und an generative KI anpassen.
Mit ausreichend Kontext lässt sich die Unsicherheit von GenAI-Anwendungen beherrschen, da der Kontext die Lücke zwischen den Fähigkeiten der GenAI-Anwendungen und den Absichten des Unternehmens schließt. Kontext kann aus drei Bereichen stammen: der GenAI-Anwendung, der Umgebung und dem Unternehmen.
Vergleich des Anwendungskontexts
Der in GenAI-Anwendungen verfügbare Kontext unterscheidet sich erheblich von dem herkömmlicher Anwendungen. Herkömmliche Anwendungen legen die zulässigen Eingaben im Voraus als Parameter für vordefinierte Vorgänge fest. Dieselben Eingaben führen stets zu denselben Ergebnissen. Im Gegensatz dazu akzeptieren GenAI-Anwendungen eine wesentlich größere Bandbreite an Eingaben für große Sprachmodelle (Large Language Models, LLMs), deren Ausgaben konzeptionsbedingt nicht deterministisch sind. Dieselben Eingaben können zu denselben Ergebnissen führen, müssen es aber nicht.
Beispiel für den Determinismus traditioneller Anwendungen:
Dieses Python-Beispiel berechnet das Alter einer Person anhand ihres Geburtsdatums und des aktuellen Datums. Der Kürze halber wird auf Ergänzungen wie die Typbehandlung und die Berücksichtigung von Geburtstagen, die im laufenden Jahr bereits vergangen sind, verzichtet.
from datetime import datetime
from typing import Union
def calculate_age(birthdate:str, current_date:str) -> int
age = current_dt.year - birth_dt.year
return age
Gegeben: Geburtsdatum = 30. Juni 1972 und aktuelles Datum = 31. August 2025
Alter = 53 Jahre.
Beispiel für den Nichtdeterminismus einer GenAI-Anwendung:
Diese Anwendung kann anhand allgemeinerer Informationen das wahrscheinliche Alter einer Person schätzen, ohne das Geburtsdatum der Person oder das aktuelle Datum kennen zu müssen.
Anwendungen für generative KI akzeptieren eine Vielzahl von Eingaben für die LLM-Inferenz.
Prompt: Wie alt ist eine Person, die Discomusik mag und sich daran erinnert, wer in Barcelona olympisches Gold im 100-Meter-Lauf der Frauen gewann?
Nachdem dem LLM diese genaue Eingabeaufforderung dreimal separat vorgelegt worden war, fielen die Antworten wie folgt aus:
Antwort 1: 55 Jahre alt
Antwort 2: 40–60 Jahre alt
Antwort 3: in den 40ern, 50ern oder 60ern
Die Python-Funktion innerhalb der herkömmlichen Anwendung akzeptiert zwei Eingaben (Geburtsdatum und aktuelles Datum) und berechnet die Differenz in Jahren. Sie kann weder das Alter einer Person ableiten noch Beschreibungen der Vorlieben, Gewohnheiten usw. der Person verarbeiten, da sie keine Informationen zusammenführen oder Schlussfolgerungen ziehen kann.
Im Vergleich dazu kann die GenAI-Anwendung Aussagen über beliebte Musikgenres während der Kindheit sowie allgemein bekannte Informationen über große Sportereignisse verarbeiten, um daraus eine Antwort abzuleiten. Die Antworten können jedoch variieren, da bereits kleine Unterschiede bei der Eingabe, etwa eine Umformulierung der Frage oder geänderte Temperatureinstellungen (die den Grad der Zufälligkeit von LLM-Antworten beeinflussen), zu Abweichungen führen können. Selbst wenn der Anwendungscode zwischen den Antworten unverändert bleibt, können sich die Antworten unterscheiden. Diese Schwankungen nehmen mit der Komplexität des Prompts, der Einbeziehung zusätzlicher Eingabequellen und dem Verhalten der Routing-Komponenten in der Inferenzinfrastruktur zu.
Angesichts dieses Spielraums kann man sich leicht Fälle vorstellen, in denen eine GenAI-Anwendung ohne zusätzlichen Kontext extrem stark von ihrem vorgesehenen Verhalten abweicht. Diese beiden Kontextbeispiele veranschaulichen den ausgeprägten Determinismus herkömmlicher Software und den Nichtdeterminismus von GenAI-Anwendungen. Von herkömmlicher Software würde man nicht erwarten, dass sie das Alter einer Person anhand des Kontexts schätzt oder vorhersagt. Von GenAI-Anwendungen wird hingegen erwartet, dass sie solche nichtdeterministischen Fragen routinemäßig bearbeiten. Wenn die Anwendung nicht genügend Kontext enthält, müssen wir als Nächstes die Anwendungsumgebung betrachten.
Umgebungskontext liefert der Anwendung Informationen von außen
Die Umgebung besteht aus der Infrastruktur und den Diensten, die die Anwendung umgeben. Im Juli 1982 sagte Alan Kay auf dem Seminar CreativeThink der Computerbranche: „Wer es mit Software wirklich ernst meint, sollte seine eigene Hardware entwickeln“, weil er fest an die enge Verbindung zwischen beiden glaubte. Ich möchte diesen Gedanken auf die Bereitstellungsumgebung ausweiten.
Anwendungen existieren nicht im luftleeren Raum. Eine Vielzahl von Infrastrukturdiensten schafft gemeinsam eine Umgebung, in der Anwendungen ausgeführt werden können. Diese Dienste befinden sich außerhalb der Anwendungen, sind aber zugleich – genau wie die Hardware – für deren ordnungsgemäße Funktion unerlässlich. Führt man diesen Gedanken noch einen Schritt weiter, werden diese Infrastrukturdienste mithilfe verschiedener Observability-Lösungen sorgfältig überwacht, die im Laufe der Zeit umfangreiche Telemetriedaten erfassen und nachverfolgen. Diese Daten geben Aufschluss darüber, wie leistungsfähig die Anwendung ist und wie sie möglicherweise von ihrer Umgebung beeinflusst wird.
Der Umgebungskontext lässt sich in zwei Arten unterteilen: passiv und aktiv. Alle Formen von Telemetriedaten (z. B. Protokolle, Metriken, Traces und Ereignisse) können als passiv betrachtet werden, da sie während des Betriebs von Infrastruktur und Anwendungen kontinuierlich ausgegeben und erfasst werden. Warnmeldungen, Benachrichtigungen und Dashboards sind aktiv. Sie interpretieren die Telemetriedaten anhand von Regeln und vermitteln den betrieblichen Kontext. Durch die Feinabstimmung dieser Regeln erhalten die Informationen eine betriebliche Bedeutung, da beurteilt wird, wann Toleranzgrenzen an beliebigen Stellen in der Umgebung erreicht oder überschritten werden.
GenAI-Anwendungen stellen den regelbasierten Ansatz infrage, da es bislang keine zuverlässigen Telemetriedaten gibt, die das scheinbar unendliche Spektrum möglicher Verhaltensweisen einer autonomen Komponente abdecken. Das bedeutet jedoch nicht, dass keine Innovation stattfindet. Derzeit werden zwei Ansätze erprobt: domänenspezifische Metriken zur Messung des Erfolgs von GenAI und „LLM-as-a-Judge“. Beim ersten Ansatz wird die Ground Truth mithilfe alternativer Methoden ermittelt und anschließend mit einem GenAI-Ergebnis verglichen, wobei Erfolgs- und Fehlerquoten erfasst werden. Beim zweiten Ansatz beurteilt ein LLM die Genauigkeit eines anderen. Die Zeit wird zeigen, inwieweit diese unterschiedlichen Ansätze dazu beitragen, mithilfe des Umgebungskontexts eine echte Kontrolle über GenAI zu erreichen.
Die Geschäftsabsicht vervollständigt das Gesamtbild des Kontexts
Die Geschäftsabsicht wird durch den Satz definiert: „Alles, was das Unternehmen will, und nichts, was das Unternehmen nicht will.“ Sie deckt Situationen ab, die von Anwendung und Umgebung möglicherweise nicht berücksichtigt werden.
In den jüngsten Nachrichten wurde über einen Fall berichtet, bei dem die GenAI-Komponente einer Anwendung mit so weitreichenden Berechtigungen ausgestattet war, dass sie äußerst schädliche Vorgänge ausführen konnte, wie etwa das Löschen sämtlicher Kundendatensätze aus einer Datenbank. Einige Fakten zu diesem Vorfall verdeutlichen die Diskrepanz zwischen den geschäftlichen Absichten und den möglichen Aktionen von GenAI-Anwendungen.
| Was ist passiert? | Der fehlende Geschäftskontext |
|---|---|
| Ein KI-Coding-Tool löschte während eines Code-Freeze eine Produktionsdatenbank. |
|
| Das KI-Coding-Tool gab an, dass Datenbank-Rollbacks nicht unterstützt würden und keine Instanzen für eine Wiederherstellung vorhanden seien. Tatsächlich funktionierte die manuelle Ausführung eines Rollbacks jedoch. |
|
Diese Fallstudie veranschaulicht einige der vielen potenziellen Diskrepanzen zwischen dem, was generative KI tun darf, und dem, was ein Unternehmen mit ihrem Einsatz beabsichtigt.
Eine Anwendung mit einer Funktion zum Löschen eines Datensatzes zu entwickeln, ist völlig legitim. Der KI jedoch zu erlauben, ohne vorherige Zustimmung sämtliche Datensätze zu löschen, ist es nicht. In herkömmlicher Software werden Berechtigungen zum Löschen von Datensätzen eingeschränkt, um das Risiko geschäftlicher Verluste zu verringern. GenAI bringt jedoch ein Maß an Autonomie mit sich, das durch rollenbasierte Zugriffskontrollen nicht angemessen gesteuert wird. Hier hilft der Geschäftskontext, indem er erwartete und unerwartete Verhaltensweisen beschreibt. Diese lassen sich in konkrete Anforderungen übersetzen, darunter ausdrücklich untersagte Aktionen und vorgeschriebene Unterbrechungen für menschliches Eingreifen. Erst der vollständige Kontext ermöglicht dieses Maß an Kontrolle.
Anwendungsarchitekturen, die vor dem Aufkommen generativer KI konzipiert wurden, reichen schlichtweg nicht aus. Das Aufkommen generativer KI erfordert ein neues Architekturmuster, das alle drei Kontextbereiche miteinander verbindet: die Anwendung, ihre Umgebung und die geschäftliche Zielsetzung. Diese Erläuterung von Phil Schmid, einem Senior AI Relations Engineer bei Google DeepMind, ist besonders hilfreich, um den entscheidenden Unterschied zu verstehen, den Anwendungen mit generativer KI mit sich bringen. Sie verdeutlicht, dass LLMs den Kontext als Teil ihrer Eingaben erhalten, und zeigt, wie verschiedene Komponenten von Anwendungen mit generativer KI Kontext jeweils unterschiedlich definieren und nutzen.
Die Architektur und Entwicklung von GenAI-Anwendungen muss alle drei Kontextbereiche nutzen, um Ergebnisse zu erzielen, die durchgängig mit den geschäftlichen Zielen übereinstimmen. Ohne ein vollständiges Kontextbild ist Kontrolle nur vorgetäuscht, Vertrauen nicht vorhanden und eine flächendeckende Einführung unerreichbar.
Über den Autor
Ähnliche Blogbeiträge
Generative KI-Anwendungen durch Kontext steuern
Die Kontrolle generativer KI-Anwendungen erfordert die Nutzung von Anwendungs-, Umgebungs- und Geschäftskontext. Erfahren Sie, warum ein vollständiger Kontext Vertrauen und Akzeptanz sicherstellt.