Künstliche Intelligenz wird bleiben – eine Rückkehr in die Zeit vor den 2010er-Jahren ist ausgeschlossen. Die Fortschritte bei Produktivität und Innovation sowie die wirtschaftlichen Auswirkungen sind schlichtweg zu tiefgreifend.
Doch diese außergewöhnlichen Vorteile bergen auch erhebliche Risiken für Unternehmen, die KI einsetzen. Eines der dringlichsten ist Schatten-KI – der zunehmende Einsatz von KI-Tools durch Mitarbeitende ohne Wissen oder Zustimmung der IT-Verantwortlichen. Diese Praxis entwickelt sich rasch zu einer erheblichen Bedrohung für Sicherheit und Compliance, obwohl sie noch relativ neu ist und sich stetig weiterentwickelt.
“Während die genauen finanziellen Verluste durch Schatten-KI noch ermittelt werden, ist das Schadenspotenzial bereits deutlich erkennbar – und es wächst.”
Shadow AI ist ein sich rasant entwickelnder Ableger von Shadow IT – dem seit Langem bestehenden Problem, dass Mitarbeitende nicht genehmigte Software, Cloud-Dienste oder Systeme im Unternehmen einsetzen. Während Shadow IT Governance und Sicherheit bereits stark belastet, bringt Shadow AI eine gefährliche neue Komplexitätsebene mit sich.
Einige Beispiele für Schatten-KI:
- Ein Softwareentwickler nutzt ein persönliches ChatGPT-, Gemini- oder Copilot-Konto, um Standardcode zu generieren, Texte in andere Sprachen zu übersetzen, Legacy-Code zu überarbeiten oder Testfälle zu schreiben – und fügt dabei unbeabsichtigt proprietären Code in ein öffentliches Modell ein. Dieser Code könnte gespeichert, protokolliert oder offengelegt werden. Schlimmer noch: Die von der KI generierte Ausgabe könnte unsichere Logik, frei erfundene APIs oder Code enthalten, der gegen Lizenzbedingungen verstößt.
- Ein Kommunikationsspezialist lädt ein vertrauliches Strategiepapier in ein KI-Tool hoch, um es zusammenzufassen oder eine Mitteilung für Kunden zu verfassen. Diese geschützten Inhalte befinden sich nun auf den Servern eines Drittanbieters – außerhalb der Kontrolle der IT-Abteilung.
- Ein Vertriebsmitarbeiter installiert eine Chrome-Erweiterung, die mithilfe von KI automatisch E-Mails zur Neukundenakquise erstellt und sowohl auf das E-Mail- als auch auf das CRM-System zugreift. Die Risiken? Mögliche Datenlecks, Verstöße gegen interne Richtlinien und die Nichteinhaltung von Vorschriften wie der DSGVO oder dem California Consumer Privacy Act.
Diese Beispiele sind nur der Anfang. Jeden Tag spielen sich branchenübergreifend unzählige weitere Shadow-AI-Szenarien ab. Das Ausmaß des Problems ist so gewaltig, dass Gartner® Folgendes prognostiziert: „Bis 2027 werden 75 % der Beschäftigten Technologien außerhalb des Sichtfelds der IT beschaffen, verändern oder entwickeln – gegenüber 41 % im Jahr 2022. Infolgedessen werden stark zentralisierte Top-down-Betriebsmodelle für Cybersicherheit scheitern. Stattdessen müssen CISOs die Cybersicherheit in eine schlanke, zentralisierte Funktion umstrukturieren, die eine breite, föderierte Gruppe von Fachleuten und unternehmensweit eingebetteten Fusion Teams unterstützt. Dadurch lässt sich die Cybersicherheit bis an die Peripherie des Unternehmens skalieren – näher an die Stellen, an denen Technologie- und Risikoentscheidungen getroffen und umgesetzt werden.“1
Prompt-Injection und Datenlecks: die größten Risiken
Während die genauen finanziellen Verluste durch Schatten-KI noch ermittelt werden, ist das Schadenspotenzial bereits deutlich erkennbar – und es wächst. Unternehmen, die jetzt nicht handeln, riskieren schwerwiegende Vorfälle, regulatorische Risiken und einen Vertrauensverlust bei ihren Kunden.
Zu den besorgniserregendsten Schwachstellen zählt die Prompt-Injection – ein Angriff, bei dem ein böswilliger Benutzer die Eingabe der KI manipuliert, um Beschränkungen zu umgehen, sensible Daten offenzulegen oder unbeabsichtigte Aktionen auszuführen. KI-Modelle neigen dazu, Eingaben standardmäßig zu vertrauen, was sie für solche Angriffe anfällig macht. Eine erfolgreiche Prompt-Injection könnte die KI dazu verleiten, interne Daten preiszugeben, automatisierte Prozesse zu manipulieren oder Entscheidungssysteme zu untergraben.
Ein weiteres großes Problem sind Datenlecks, insbesondere bei personenbezogenen Daten (PII), geschützten Gesundheitsdaten (PHI), Bankdaten und Finanzunterlagen, Quellcode und geschütztem geistigem Eigentum, Anmeldedaten und Zugriffsschlüsseln oder Kundendaten.
Verschärft wird das Problem durch mögliche Verstöße gegen regulatorische Vorgaben. Die unbefugte Nutzung von KI kann leicht gegen Standards und Vorschriften wie die DSGVO, HIPAA, PCI DSS und den Sarbanes-Oxley Act verstoßen und Unternehmen dadurch Bußgeldern und Reputationsschäden aussetzen.
Einige Unternehmen reagieren mit Verboten – aber ist das wirklich wirksam?
Als Reaktion auf diese Risiken haben einige Organisationen ihren Beschäftigten die Nutzung nicht genehmigter generativer KI-Tools untersagt. Samsung beispielsweise gehörte 2023 zu den ersten Unternehmen, die die Nutzung von ChatGPT und ähnlichen KI-gestützten Chatbots verboten, und begründete dies mit Bedenken hinsichtlich der Offenlegung vertraulicher interner Informationen. Seitdem haben mehrere Banken und andere Unternehmen ähnliche Beschränkungen oder Warnungen ausgesprochen.
Branchenexperten raten jedoch mit überwältigender Mehrheit von pauschalen Verboten ab.
Warum Regulierung statt Verboten der bessere Weg ist
Trotz der berechtigten Risiken empfehlen Branchenanalysten präventive Maßnahmen und Governance-Rahmenwerke anstelle vollständiger Verbote.
Verbote sind in der Regel kontraproduktiv. Sie lassen sich nur schwer durchsetzen, hemmen häufig Innovation und Motivation und können dazu führen, dass KI noch stärker im Verborgenen genutzt wird – wodurch ihre Erkennung und Kontrolle zusätzlich erschwert werden.
Wie ein IT-Verantwortlicher in einer Diskussion in der Gartner Peer Community über das Verbot von KI-Tools sagte: „Verbote funktionieren einfach nicht. Selbst wenn es keine Richtlinien gibt, schadet diese Maßnahme der Innovation und vermittelt den Mitarbeitenden und der Öffentlichkeit ein falsches Bild von unserem Unternehmen.“
Was Unternehmen stattdessen tun sollten
Hier sind einige praktische Governance-Maßnahmen, die Organisationen sofort ergreifen können:
- Legen Sie klare Richtlinien für die Nutzung von KI fest
Definieren Sie, welche Tools zugelassen sind, wie mit Daten umzugehen ist, welche Anwendungsfälle akzeptabel sind und welche Schutzvorkehrungen gelten. Stellen Sie unmissverständlich klar, was erlaubt ist – und warum. - Führen Sie eine geprüfte Liste von KI-Tools
Bewerten Sie Tools im Hinblick auf Datenschutz, Sicherheit und die Einhaltung gesetzlicher Vorschriften. Ermutigen Sie Mitarbeitende, diese anstelle ungeprüfter Plattformen zu verwenden. Nutzen Sie beispielsweise Unternehmensversionen von Tools wie ChatGPT mit Protokollierungs- und Schutzfunktionen gegen Datenverlust und setzen Sie interne KI-Assistenten ein, die in die Plattformen des Unternehmens integriert sind. - Mitarbeitende schulen und sensibilisieren
Vermitteln Sie den Mitarbeitenden ein Verständnis für die Risiken – von Datenlecks und halluzinierten Inhalten bis hin zu Compliance-Verstößen. Die meisten Fehlanwendungen geschehen unbeabsichtigt. - Überwachen und anschließend anpassen
Erwägen Sie den Einsatz einer ethisch und rechtlich zulässigen Überwachung, um eine unbefugte Nutzung zu erkennen. Setzen Sie dabei auf Aufklärung statt auf Bestrafung. Passen Sie Ihre Richtlinien kontinuierlich an die Weiterentwicklung der KI-Fähigkeiten an.
Demnächst verfügbar: F5-Technologie zur besseren Verwaltung von Schatten-KI
Kann Technologie eine skalierbare Lösung bieten? Auf jeden Fall.
F5 kündigte heute Funktionen zur Erkennung und Verhinderung von Datenlecks zum Schutz von KI-Workloads an und wird in den kommenden Monaten leistungsstarke neue Funktionen einführen, die Unternehmen dabei unterstützen sollen, die Risiken von Schatten-KI umfassend zu minimieren – insbesondere im Zusammenhang mit der unbefugten Nutzung von KI-Tools über verschlüsselte Kanäle (die Standardeinstellung für die meisten KI-APIs und SaaS-Plattformen).
Bleiben Sie gespannt auf weitere Ankündigungen. In der Zwischenzeit finden Sie alle aktuellen Neuigkeiten von F5 zum Thema KI auf unserer Accelerate AI-Webseite.
GARTNER ist eine eingetragene Marke und Dienstleistungsmarke von Gartner, Inc. und/oder seinen verbundenen Unternehmen in den USA und international und wird hier mit Genehmigung verwendet. Alle Rechte vorbehalten.
1Gartner, Maverick Research: CISOs müssen ihre Rolle neu gestalten, sonst werden sie überflüssig, 19. Juni 2025
Über den Autor
Ähnliche Blogbeiträge
F5 und Equinix bündeln ihre Kräfte, um die sichere Anwendungsbereitstellung in Multicloud-Umgebungen zu vereinfachen
F5 und Equinix ermöglichen es Unternehmen, sich weltweit sicher und zuverlässig mit ihren Partnern zu vernetzen.
API-Sicherheitsrisiken und -herausforderungen
Erfahren Sie, warum APIs für die moderne App-Entwicklung unverzichtbar sind und wie Sie sie vor den häufigsten Sicherheitslücken schützen. Profitieren Sie von Expertentipps und direkt umsetzbaren Strategien.
Ein Meilenstein für die Community Impact Grants von F5
F5 feiert das fünfjährige Bestehen seines innovativen Community Impact Grant-Programms, das gemeinnützige Organisationen, bei denen sich F5-Mitarbeitende ehrenamtlich engagieren, mit Fördermitteln in Höhe von 5.000 US-Dollar unterstützt.
Mit moderner, anpassungsfähiger und sicherer Gesundheits-IT Leben retten
Die IT-Investitionen im Gesundheitswesen tragen dazu bei, die schnellsten Wege zu einer besseren Versorgung zu finden, indem sie die medizinische Betreuung näher an die Patientinnen und Patienten bringen. Viele Gesundheitsunternehmen nutzen riesige Mengen an klinischen und anderen Gesundheitsdaten, um Entwicklungen zu verfolgen und übergreifende Trends in der gesamten Gesundheitslandschaft zu erkennen. Gleichzeitig nähern sie sich einer möglichst präzisen, individuell zugeschnittenen Versorgung an.
Verbesserung der Benutzer- und Administrationserfahrung durch sicheren hybriden Zugriff
Diese Kombination aus BIG-IP Access Policy Manager und Azure Active Directory ermöglicht Identitätsföderation, zentralisierten Benutzerzugriff (über Single Sign-on) und erhöhte Anwendungssicherheit (durch Multi-Faktor-Authentifizierung) für geschäftskritische Anwendungen sowie cloudbasierte und SaaS-Anwendungen. Dieser Ansatz vereinfacht die Einrichtung und Bereitstellung, reduziert den Verwaltungsaufwand und verbessert die gesamte Administration.
Das Internet der Sicherheitsdinge
Nein, das ist keine Tirade über die Sicherheit des IoT. Es ist eine Geschichte über Veränderung – genauer gesagt über Veränderung und ihre Auswirkungen auf die Sicherheit. Veränderung ist allgegenwärtig. Es gibt unzählige Axiome und Sprichwörter über Veränderung, also ist es ...