KI-Daten-Governance: Daten über den gesamten KI-Lebenszyklus hinweg kontrollieren

F5 Newsroom Staff

Der Einsatz von KI in Unternehmen ist längst über die Pilotphase hinaus. Laut dem F5 2026 State of Application Strategy Report betreiben 78 % der Unternehmen bereits KI-Inferenz. 98 % gaben zudem an, sich auf agentenbasierte KI vorzubereiten.

Während Unternehmen die Implementierung von KI-Systemen mit Hochdruck vorantreiben, entwickelt sich die Data Governance zu einer zentralen Herausforderung. KI-Systeme sind in jeder Phase ihres Lebenszyklus auf Daten angewiesen. Unternehmen speisen Daten in KI-Modelle ein, um diese zu trainieren und zu optimieren. KI-Tools erhalten Daten in Form von Prompts, rufen Daten aus Vektordatenbanken ab und geben Daten als ausformulierte Antworten aus. Autonome Agenten wiederum greifen auf Daten zu, um Aufgaben zu erledigen.

Jeder dieser Schritte erfordert eine Entscheidung zur Data Governance. Datenflüsse müssen überwacht und Datenzugriffe kontrolliert werden. Zu wenige Unternehmen verfügen bereits über entsprechende Governance-Strukturen, bevor sie das neueste Tool einsetzen oder einen neuen Agenten entwickeln. Dadurch sind sowohl die Daten als auch das Unternehmen zahlreichen Bedrohungen ausgesetzt.

Der erste Schritt bei der Einführung einer Data Governance für KI besteht darin, zu verstehen, wie sie sich sowohl von der herkömmlichen Data Governance als auch von der Governance von KI-Modellen unterscheidet. Anschließend können Sie sich auf die Bereiche mit den größten Risiken konzentrieren und Verfahren etablieren, die sensible Daten schützen, ohne die Implementierung von KI zu verlangsamen.

Was ist KI-Daten-Governance?

KI-Daten-Governance umfasst die Richtlinien und technischen Kontrollen, die regeln, wie Daten über den gesamten KI-Lebenszyklus hinweg erfasst, klassifiziert, verwendet, übertragen, aufbewahrt und gelöscht werden. Die Daten-Governance sollte ein breites Spektrum an Daten abdecken, darunter:

• Daten, die zum Trainieren und Feinabstimmen von Modellen verwendet werden.
• Während der Inferenz ausgetauschte Prompts und Antworten.
• Daten, die Antworten von Modellen ergänzen.
• Von Agenten ausgeführte Tool- und API-Aufrufe.
• Während KI-Prozessen generierte Telemetriedaten.

Herkömmliche Ansätze zur Data Governance eignen sich nicht für KI-Systeme. Diese Ansätze konzentrieren sich hauptsächlich auf strukturierte Daten, die in Unternehmens-Repositorys gespeichert sind. Auf diese ruhenden Daten wird über vorhersehbare Abfragen zugegriffen, und die Zugriffsberechtigungen werden regelmäßig überprüft.

Daten von KI-Systemen weisen andere Merkmale und Verhaltensweisen auf. Insbesondere sind KI-Daten:

• Unstrukturiert und dialogorientiert: Freiform-Eingaben und KI-generierte Antworten lassen sich nicht mit Richtlinien verwalten, die für strukturierte Daten in Datenbanken konzipiert wurden.
• In Bewegung: In KI-Systemen sind Daten ständig in Bewegung: Prompts werden in ein Modell eingegeben, das daraufhin eine Antwort zurückgibt. Ein KI-Agent kann innerhalb von Sekunden Tausende von Aufrufen an APIs und Modelle senden. Die vierteljährlichen Zugriffsüberprüfungen herkömmlicher Data-Governance-Modelle reichen nicht aus, um diese Datenströme zu kontrollieren. Die KI-Data-Governance muss automatisiert werden, um mit der maschinellen Geschwindigkeit von KI-Systemen Schritt zu halten.
• Nicht deterministisch: Ein KI-Modell beantwortet dieselbe Frage möglicherweise jedes Mal anders. Ausgabekontrollen müssen Bedeutung und Kontext bewerten. Sie können sich nicht auf den Musterabgleich herkömmlicher Data-Governance-Ansätze verlassen.

Bei Daten von KI-Systemen muss die Governance direkt an den Interaktionspunkten durchgesetzt werden.

KI-Daten-Governance vs. KI-Modell-Governance

KI-Daten-Governance und KI-Modell-Governance müssen ineinandergreifen, sind jedoch eigenständige Strategien. Häufig liegen sie in der Verantwortung unterschiedlicher Teams.

Die KI-Modell-Governance konzentriert sich auf die Kontrolle von Modellen und Agenten. Strategien für die Modell-Governance regeln, welche Modelle zur Nutzung freigegeben sind, wem die Modelle gehören, wie sie trainiert werden, welche Version in der Produktionsumgebung ausgeführt wird, wie ihr Verhalten überwacht wird und wann Modelle außer Betrieb genommen werden.

Die KI-Daten-Governance konzentriert sich auf die Daten, auf die KI zugreifen kann, sowie auf deren Übertragungswege. Entsprechende Strategien regeln, wie Daten klassifiziert werden, welche Daten das Unternehmen nicht verlassen dürfen, wo sie verarbeitet und wie lange sie aufbewahrt werden sollen.

Die Governance von KI-Daten und KI-Modellen muss ineinandergreifen, da andernfalls beide gemeinsam scheitern. Werden Modell-Prompts und -Antworten nicht überprüft, kann selbst ein umfassend dokumentiertes und sorgfältig evaluiertes Modell regulierte Daten preisgeben. Ebenso können selbst strenge Datenkontrollen möglicherweise nicht verhindern, dass Daten offengelegt werden, wenn ein nicht genehmigter Agent Zugriff auf eine Kundendatenbank hat.

Diese wechselseitige Abhängigkeit spiegelt sich in etablierten Frameworks und Standards für die KI-Governance wider. Das National Institute of Standards and Technology AI Risk Management Framework (NIST AI RMF) verfolgt mit seinen Funktionen Govern, Map, Measure und Manage einen lebenszyklusorientierten Ansatz für KI-Risiken. ISO/IEC 42001 etabliert in ähnlicher Weise ein organisationsweites Managementsystem für die Governance von KI, während die Cloud Security Alliance AI Controls Matrix (AICM) KI-Governance in umsetzbare Sicherheitskontrollen überführt. Bei all diesen Ansätzen werden Daten- und Modell-Governance nicht isoliert betrachtet: Beide sind Teil des Managements von KI-Risiken über den gesamten Lebenszyklus hinweg.

Wichtige KI-Datenrisiken identifizieren

Es gibt verschiedene Möglichkeiten, wie Daten bei der Verarbeitung durch KI-Systeme versehentlich oder absichtlich offengelegt werden können. KI-Governance dient dazu, diese Schwachstellen zu schließen oder zu minimieren.

• Schatten-KI: Mitarbeitende setzen häufig KI-Tools ein, ohne dass die Sicherheits- oder IT-Teams davon wissen. Selbst wenn unternehmensweite Sicherheitslösungen oder Richtlinien zur Data Governance vorhanden sind, unterliegen Daten, die durch nicht genehmigte KI-Systeme fließen, weiterhin keiner Kontrolle.
• Eingabe: Bei der Nutzung zugelassener Tools können Mitarbeitende dennoch versehentlich sensible Informationen eingeben – von Kundendaten bis hin zu Gesundheitsinformationen –, nur weil dies der schnellste Weg ist, Antworten auf ihre Fragen zu erhalten. Dadurch können diese Daten unbefugt ausgeleitet werden.
• Ausgabe: Bei bestimmten Eingabeaufforderungen kann ein generatives KI-Modell Fragmente seiner Trainingsdaten wiedergeben, darunter auch Teile personenbezogener Daten (dies wird mitunter als Memorization Leak bezeichnet). Angreifer können diese Fragmente mithilfe von KI wieder zusammensetzen und so sensible Informationen für betrügerische Zwecke rekonstruieren.
• Abruf-Pipelines: Retrieval-Augmented Generation (RAG) greift auf Daten zurück, die in Vektordatenbanken gespeichert sind. Wenn Dokumente ohne ihre ursprünglichen Zugriffskontrollen in diese Datenbanken eingebettet werden, kann ein Modell Inhalte für Benutzer zugänglich machen, die nicht berechtigt sind, die Originaldatei zu öffnen.
• Agenten mit dauerhaft gewährten Berechtigungen: Jede Bedrohung eines Agenten betrifft auch die Tools, Datenbanken und Server, mit denen er verbunden ist. Wenn einem Agenten weitreichende Berechtigungen erteilt werden, können die Daten, auf die er zugreift, offengelegt werden.
• Modelle von Drittanbietern: Wenn Prompts an ein externes Modell gesendet werden, verlassen sensible Daten den Kontrollbereich des Unternehmens und überschreiten möglicherweise geografische Grenzen. Dadurch wird es schwieriger, Aufbewahrungsfristen zu regeln, Verarbeitungsorte zu kontrollieren, Anforderungen an die Datenlokalisierung zu erfüllen und sicherzustellen, dass sensible Informationen nicht für das Modelltraining verwendet werden.
• Datenpersistenz: Das Löschen von Daten nach einem bestimmten Zeitraum oder auf Kundenanfrage ist häufig eine Anforderung von Data-Governance-Richtlinien. Datensätze aus einer Datenbank zu löschen, ist relativ einfach. Schwieriger ist es jedoch, Informationen zu entfernen, die bereits in die Modellgewichtungen eingeflossen sind. Planen Sie daher sorgfältig, welche Daten Sie für das Training verwenden.

Warum Sicherheitstools bei KI-Systemen Lücken hinterlassen

Tools zur Verhinderung von Datenverlusten (Data Loss Prevention, DLP) und zur Verwaltung der Datensicherheitslage (Data Security Posture Management, DSPM) können für den Schutz von Unternehmensdaten äußerst wertvoll sein. KI-Systeme können jedoch wichtige Einschränkungen dieser Tools aufdecken, darunter:

• Fehlende Echtzeittransparenz über Daten: DSPM-Tools erfassen, wo sich sensible Daten befinden. Doch die von KI-Systemen verwendeten Daten sind ständig in Bewegung und werden dabei angreifbar. DSPM-Tools können nicht die Echtzeittransparenz bieten, die für die Kontrolle dieser Daten erforderlich ist.
• Auf strukturierte Daten abgestimmte Klassifizierung: DLP- und DSPM-Tools klassifizieren Daten mithilfe von Mustererkennung. Dies funktioniert bei strukturierten Daten, jedoch weniger gut bei unstrukturierten, narrativen Inhalten, die Benutzer in Prompts eingeben und als Antworten erhalten.
• Durchsetzung an der falschen Stelle: Ein DLP-Tool kann möglicherweise einen Upload von einem Endpunkt blockieren, aber nicht verhindern, dass ein Benutzer einen Prompt mit vertraulichen Informationen sendet. Dazu müsste das Tool auf die Inferenzebene zugreifen, auf der der Datenaustausch stattfindet.
• Kein verwertbarer Nachweis: Compliance-Teams müssen häufig belegen, welche Anfrage an ein KI-System gestellt wurde, wie es darauf reagiert hat und welche Richtlinie angewendet wurde. Herkömmliche DLP- und DSPM-Tools können diese Nachweise nicht liefern.

Diese Tools wurden schlichtweg nicht für den Schutz von Daten in KI-Workflows entwickelt. Sie müssen durch KI-spezifische Strategien und Lösungen ergänzt werden.

Praktiken zur Stärkung der KI-Daten-Governance

Nicht alle Strategien für die KI-Governance sind gleich. Strategien, die Risiken erfolgreich minimieren, weisen jedoch häufig mehrere dieser acht bewährten Praktiken auf.

• Erfassen Sie die gesamte KI-Nutzung: Bevor Sie Daten verwalten können, müssen Sie wissen, wo und wie KI in Ihrem gesamten Unternehmen Daten nutzt. Katalogisieren Sie nicht nur genehmigte Anwendungen und Agenten, sondern auch nicht autorisierte Tools, um sämtliche Wege aufzudecken, über die Daten fließen könnten.
• Daten während Interaktionen klassifizieren: Zusätzlich zur Klassifizierung ruhender Daten müssen Sie auch Daten in Prompts, Antworten und Tool-Aufrufen klassifizieren. Dafür sind Funktionen erforderlich, die den Gesprächskontext verstehen und nicht nur strukturierte Muster erkennen.
• Richtlinien direkt im Datenfluss durchsetzen: Data-Governance-Richtlinien sollten während des Datenflusses durchgesetzt werden, bevor die Daten ihr Ziel erreichen. Werden beispielsweise sensible Daten bereits bei der Eingabe in einen Prompt unkenntlich gemacht, können Mitarbeitende weiterarbeiten, während gleichzeitig verhindert wird, dass diese Daten in die interne oder externe Wissensbasis eines Modells aufgenommen werden.
• Wenden Sie das Prinzip der geringsten Rechte an: Modelle, Agenten und RAG-Tools dürfen keinen Zugriff auf sensible Daten erhalten. Richten Sie Schutzmechanismen für KI-Systeme ein, damit KI-Modelle und Agenten nur auf das zugreifen können, was sie unbedingt benötigen, und überprüfen Sie die Systemberechtigungen im gleichen Rhythmus wie bei menschlichen Benutzern.
• Erstellen Sie einen Audit-Trail: Um die Reaktion auf Vorfälle zu verbessern und Vorschriften einzuhalten, sollten Sie einen Audit-Trail führen, der Anfragen, Antworten, angewandte Richtlinien und Durchsetzungsentscheidungen enthält. Anhand dieser Informationen können Sie Richtlinien optimieren und die Einhaltung von Vorschriften nachweisen.
• Kontinuierlich testen: Bedrohungen entwickeln sich schnell weiter. Eine Richtlinie, die sensible Daten heute erfolgreich schützt, ist in sechs Monaten möglicherweise nicht mehr so wirksam. Red-Teaming und automatisierte Tests können dabei helfen, Lücken zu erkennen und Richtlinien zu aktualisieren.
• Kontrollieren Sie die Datenlieferkette: Eine umfassende Governance erfordert Transparenz über jedes Element eines KI-Systems, das mit Daten in Berührung kommt. Wenn Sie beispielsweise externe Modelle verwenden, prüfen Sie die Bedingungen des Anbieters hinsichtlich der Möglichkeit, der Nutzung zu Trainingszwecken zu widersprechen, der Aufbewahrungsfristen, der Verarbeitungsstandorte und des Einsatzes von Unterauftragsverarbeitern.
• Verantwortlichkeiten festlegen: An der KI-Daten-Governance können Teams aus den Bereichen Sicherheit, Datenschutz, Recht, Data Science und Anwendungsentwicklung beteiligt sein. Legen Sie die Verantwortlichkeiten für die Daten-Governance fest und führen Sie regelmäßige Überprüfungen durch, um sicherzustellen, dass eingesetzte Systeme nicht von den festgelegten Richtlinien abweichen.

Governance dort anwenden, wo KI eingesetzt wird

Die meisten Verfahren zur Data Governance sind nur dann wirksam, wenn sie direkt im Datenverkehr von KI-Systemen zum Einsatz kommen. Auf diesem Prinzip basiert der Ansatz von F5 für die Governance und Sicherheit von KI-Daten.

Die F5 AI Security Platform vereint Erkennung, Governance, Tests und Laufzeitschutz für den unternehmensweiten Einsatz von KI. F5 Workforce AI Security schafft Transparenz über die autorisierte und nicht autorisierte KI-Nutzung, einschließlich der Modelle, Tools, Prompts und Daten, die von den Mitarbeitenden verwendet werden. F5 AI Gateway bietet einen zentralen Kontrollpunkt zur Steuerung des Zugriffs auf KI-Modelle, Agenten und Tools. F5 AI Red Team identifiziert mithilfe adversarialer Tests Schwachstellen und Sicherheitslücken in KI-Systemen, während F5 AI Guardrails bei KI-Interaktionen Richtlinien durchsetzt, um die Offenlegung sensibler Daten, böswillige Aktivitäten und Richtlinienverstöße zu verhindern.

Daten müssen kein Sicherheitsrisiko darstellen. Mit der richtigen Data Governance können Sie die Einführung von KI sicher und zuversichtlich vorantreiben.

Häufig gestellte Fragen

Was ist der Unterschied zwischen KI-Daten-Governance und traditioneller Daten-Governance?

Die traditionelle Data Governance befasst sich in erster Linie mit strukturierten Daten, die in Repositorys gespeichert sind. Die Data Governance für KI muss hingegen auch unstrukturierte Daten während ihrer Übertragung abdecken, beispielsweise Texte, die Benutzer in KI-Tools eingeben und als KI-generierte Antworten erhalten. Da diese Daten in Bewegung sind, müssen Governance-Richtlinien direkt an den Interaktionspunkten angewendet werden.

Wie hängt die KI-Daten-Governance mit der Governance von KI-Modellen zusammen?

Die KI-Modell-Governance überwacht Modelle und Agenten. Unternehmen müssen beispielsweise Modelle inventarisieren, Berechtigungen für Agenten verwalten und deren Verhalten überwachen. Die KI-Daten-Governance konzentriert sich auf die Daten, die in diese Modelle und Agenten einfließen und von ihnen ausgegeben werden. In der Praxis müssen Daten- und Modell-Governance zusammenwirken, denn wenn eine von beiden versagt, versagt auch die andere.

Warum reichen herkömmliche Sicherheitslösungen wie DLP- und DSPM-Tools für die KI-Daten-Governance nicht aus?

Tools zur Verhinderung von Datenverlusten (Data Loss Prevention, DLP) und zur Verwaltung der Datensicherheitslage (Data Security Posture Management, DSPM) sind zwar für den Schutz von Daten unerlässlich, eignen sich jedoch nur bedingt für die KI-Daten-Governance. Die meisten bieten weder Echtzeiteinblicke in Daten noch können sie unstrukturierte Daten klassifizieren, Governance-Vorgaben während der Inferenz durchsetzen oder Audit-Trails für KI-Systeme erstellen.

Wie unterstützt F5 Unternehmen bei der Entwicklung effektiver Data-Governance-Strategien?

Die F5 AI Security Platform ermöglicht es Unternehmen, die KI-Nutzung im gesamten Unternehmen zu erfassen, Richtlinien für die Data Governance zu entwickeln und diese anzuwenden, während Daten durch KI-Systeme fließen. Darüber hinaus können Unternehmen mit den Funktionen von F5 revisionssichere Aufzeichnungen erstellen, um Gesetze, Rahmenwerke und Standards für Daten und KI-Systeme einzuhalten.

Erfahren Sie mehr über die F5 AI Security Platform.

Über den Autor

F5 Newsroom Staff

Weitere Blogbeiträge von F5 Newsroom Staff