Shadow-KI: Das verborgene Sicherheitsrisiko in Ihrem Unternehmen

Shadow AI entwickelt sich rasant aus Shadow IT, einer langjährigen Herausforderung, bei der Mitarbeiter nicht genehmigte Software, Cloud-Anbieter oder Systeme im Unternehmen einsetzen. Während Shadow IT bereits Governance und Sicherheit belastet, bringt Shadow AI eine zusätzliche, gefährliche Komplexitätsebene mit sich.

Einige Beispiele für Shadow AI:

• Ein Softwareingenieur nutzt ein persönliches ChatGPT-, Gemini- oder Copilot-Konto, um Boilerplate-Code zu erstellen, Sprachen zu übersetzen, veralteten Code zu überarbeiten oder Testfälle zu schreiben – und kopiert dabei versehentlich proprietären Code in ein öffentlich zugängliches Modell. Dieser Code könnte gespeichert, protokolliert oder offengelegt werden. Noch problematischer ist, dass die KI-Ausgabe unsichere Logik, erfundene APIs oder Code enthalten kann, der gegen Lizenzvereinbarungen verstößt.
• Ein Kommunikationsexperte lädt eine vertrauliche Strategie-Eingabe in ein KI-Tool hoch, um eine kundenorientierte Nachricht zu erstellen oder zusammenzufassen. Diese geschützten Inhalte liegen jetzt auf Servern Dritter – außerhalb der Kontrolle Ihrer IT-Abteilung.
• Ein Vertriebsmitarbeiter installiert eine Chrome-Erweiterung, die mithilfe von KI automatisch Akquise-E-Mails erstellt und dabei sowohl auf sein E-Mail- als auch auf sein CRM-System zugreift. Welche Risiken gibt es? Potenzielle Datenlecks, Verstöße gegen interne Richtlinien und die Nichtbeachtung von Gesetzen wie der DSGVO oder dem California Consumer Privacy Act.

Diese Beispiele sind erst der Anfang. Tagtäglich entstehen zahlreiche weitere Shadow-AI-Szenarien in verschiedenen Branchen. Das Ausmaß ist so enorm, dass Gartner® prognostiziert: „Bis 2027 werden 75 % der Mitarbeitenden Technologien erwerben, anpassen oder entwickeln, ohne dass die IT davon weiß – im Vergleich zu 41 % im Jahr 2022.“ Daher werden traditionelle, stark zentralisierte Cybersicherheitsmodelle scheitern. CISOs müssen Cybersicherheit neu gestalten – als schlanke, zentrale Funktion, die ein breites, föderiertes Netz aus Experten und Fusionsteams im gesamten Unternehmen unterstützt. So bringen wir Cybersicherheit direkt an den Rand des Unternehmens, näher an die Stellen, an denen Technologie- und Risikoentscheidungen getroffen und umgesetzt werden. ¹

Die genauen finanziellen Verluste durch Shadow AI werden noch ermittelt, das Schadenspotenzial ist jedoch eindeutig und steigt weiter. Wenn Sie jetzt nicht handeln, setzen Sie Ihr Unternehmen ernsthaften Vorfällen, regulatorischen Risiken und einem Verlust an Kundentreue aus.

Eine der besorgniserregendsten Schwachstellen ist Prompt Injection – ein Angriff, bei dem ein böswilliger Nutzer die Eingabe der KI so manipuliert, dass Beschränkungen umgangen, vertrauliche Daten offengelegt oder unerwünschte Aktionen ausgeführt werden. KI-Modelle vertrauen Eingaben standardmäßig, weshalb sie für solche Angriffe anfällig sind. Gelungene Prompt Injections bringen KI dazu, interne Daten preiszugeben, automatisierte Abläufe zu stören oder Entscheidungsprozesse zu beeinträchtigen.

Ein weiteres großes Risiko besteht in der Datenexfiltration, insbesondere von vertraulichen personenbezogenen Daten (PII), geschützten Gesundheitsinformationen (PHI), Bank- und Finanzunterlagen, Quellcode und geistigem Eigentum, Anmeldedaten und Zugriffsschlüsseln sowie Kundeninformationen.

Das Problem verschärft sich durch das Risiko der Nichteinhaltung von Vorschriften. Der unberechtigte Einsatz von KI verstößt leicht gegen Standards wie DSGVO, HIPAA, PCI DSS und den Sarbanes-Oxley Act – womit Sie Strafen und Reputationsverlust riskieren.

Um diesen Risiken zu begegnen, haben einige Organisationen ihren Mitarbeitern die Nutzung nicht freigegebener generativer KI-Tools untersagt. Samsung war 2023 eines der ersten Unternehmen, das die Verwendung von ChatGPT und ähnlichen KI-basierten Chatbots verbot, um das Risiko des Lecks vertraulicher interner Informationen zu vermeiden. Mehrere Banken und andere Unternehmen folgten mit vergleichbaren Einschränkungen oder Warnungen.

Branchenexperten raten Ihnen in der Regel davon ab, pauschale Verbote auszusprechen.

Obwohl echte Risiken bestehen, empfehlen Branchenanalysten vorbeugende Maßnahmen und Governance-Strukturen statt bedingungsloser Verbote.

Verbote wirken oft kontraproduktiv. Sie lassen sich schwer durchsetzen, hemmen Innovation und Motivation und treiben die Nutzung von KI häufig noch weiter in den Untergrund – so wird es noch schwieriger, sie zu erkennen und zu kontrollieren.

Wie ein IT-Leiter in einer Diskussion der Gartner Peer Community zum Verbot von KI-Tools sagte: „Verbote funktionieren einfach nicht. Selbst ohne Richtlinien behindert diese Maßnahme die Innovation und sendet Mitarbeitern wie Außenstehenden eine falsche Botschaft über unser Unternehmen.“

Hier sind einige konkrete Governance-Maßnahmen, die Sie sofort umsetzen können:

1. Erstellen Sie eine klare Richtlinie zur Nutzung von KI
   Legen Sie fest, welche Werkzeuge zugelassen sind, wie Sie Daten handhaben sollten, welche Anwendungsfälle in Frage kommen und wo Grenzen eingehalten werden müssen. Machen Sie eindeutig deutlich, was erlaubt ist – und warum.
2. Pflegen Sie eine geprüfte Liste von KI-Tools
   Bewerten Sie die Tools nach Datenschutz, Sicherheit und Compliance. Fordern Sie Ihre Mitarbeiter dazu auf, diese statt ungeprüfter Plattformen zu nutzen. Nutzen Sie beispielsweise Unternehmensversionen von Tools wie ChatGPT mit Protokollierung und Schutz vor Datenverlust und integrieren Sie interne KI-Assistenten in Ihre Unternehmensplattformen.
3. Mitarbeiter schulen und Bewusstsein schaffen
   Erklären Sie Ihrem Team die Risiken – von Datenlecks und falschen Inhalten bis hin zu Verstößen gegen Vorschriften. Die meisten Fehlanwendungen geschehen aus Versehen.
4. Überwachen und anpassen
   Ziehen Sie eine ethisch und rechtlich einwandfreie Überwachung in Betracht, um unberechtigten Zugriff zu erkennen. Reagieren Sie bevorzugt mit Aufklärung statt mit Strafe. Passen Sie Ihre Richtlinien fortlaufend an, um mit den Entwicklungen der KI Schritt zu halten.