Generative KI für Bedrohungsmodellierung und Reaktion auf Sicherheitsvorfälle

Caitlin Arnspiger

Vor einigen Jahren brachten die meisten von uns „generative KI“ mit künstlerischen Tätigkeiten in Verbindung – etwa dem Malen surrealer Porträts, dem Komponieren von Musik oder sogar dem Schreiben von Kurzgeschichten. Heute erleben wir, wie sich dieselben generativen Verfahren zu leistungsstarken Werkzeugen für die Cybersicherheit entwickeln. Es ist schon etwas ironisch, dass die Technologie, mit der einst fantasievolle Katzenbilder erstellt wurden, uns heute dabei hilft, komplexe Angriffsvektoren zu erkennen und auf reale Sicherheitsvorfälle zu reagieren.

Aber ist dieses Zusammenwachsen von generativer KI und Cybersicherheit nur ein Hype? Oder stehen wir an der Schwelle zu einer neuen Ära der Bedrohungsmodellierung und Reaktion auf Sicherheitsvorfälle – einer Ära, in der sich die durchschnittliche Zeit bis zur Erkennung und Eindämmung von Angriffen drastisch verkürzen könnte? Ich möchte darlegen, dass generative KI das Potenzial hat, sowohl bei der Erkennung neuer Bedrohungen als auch bei der Koordination effizienter, datengestützter Reaktionen zum entscheidenden Faktor zu werden. Doch wie jede neue Technologie birgt auch sie Risiken. Sehen wir uns das genauer an.

These: Die einzigartige Fähigkeit generativer KI, Muster zusammenzuführen, neuartige Angriffsvektoren vorherzusagen und Reaktionsstrategien zu automatisieren, wird unsere Möglichkeiten zur Bedrohungsmodellierung und Reaktion auf Sicherheitsvorfälle erheblich verbessern – allerdings nur, wenn wir die Herausforderungen in Bezug auf Zuverlässigkeit, Ethik und Data Governance entschlossen angehen.

Cyberbedrohungen entwickeln sich in rasantem Tempo weiter, und herkömmliche regel- oder signaturbasierte Systeme hinken oft hinterher. Generative Modelle (wie fortschrittliche große Sprachmodelle) können Anomalien erkennen und potenzielle künftige Angriffsmuster prognostizieren, die weit über den Rahmen konventioneller Heuristiken hinausgehen. Sie bringen jedoch auch neue Schwachstellen mit sich, etwa die Möglichkeit, falsch positive Ergebnisse zu „halluzinieren“ oder unbeabsichtigt Schadcode zu erzeugen. Wir müssen diesen Fähigkeiten gleichermaßen mit Begeisterung und Vorsicht begegnen.

Bedrohungsmodellierung über bekannte Signaturen hinaus

Warum generative KI für die Bedrohungsmodellierung?

Traditionell stützte sich die Bedrohungsmodellierung auf bekannte Angriffssignaturen, historische Muster und menschliches Fachwissen. Doch angesichts der starken Zunahme polymorpher Malware, Schwachstellen in der Lieferkette und Zero-Day-Exploits reichen rein reaktive Methoden nicht mehr aus.

Hier kommt generative KI ins Spiel. Während „generativ“ im heutigen Sprachgebrauch häufig mit großen Sprachmodellen (Large Language Models, LLMs) gleichgesetzt wird, kann der Begriff auch andere Algorithmen umfassen, die neue Datenmuster erzeugen können. Diese Modelle erkennen subtile Zusammenhänge in riesigen Telemetriedatensätzen – etwa verdächtige Befehlsfolgen, Versuche zur lateralen Bewegung oder Muster bei der Datenexfiltration. Entscheidend ist, dass sie nicht auf explizite Kennzeichnungen dessen beschränkt sind, was als „bösartig“ gilt. Stattdessen lernen sie die zugrunde liegende Verteilung „normaler“ Verhaltensweisen und können Anomalien erkennen, die nicht ausdrücklich als Bedrohungen aufgeführt wurden.

Die Erkennung von Anomalien ist jedoch nur der erste Schritt. Wenn bestimmte Verhaltensweisen noch nicht als bösartig oder harmlos eingestuft wurden, muss ein LLM (oder ein anderer generativer Ansatz) möglicherweise mit zusätzlichen Klassifikatoren oder heuristischen Prüfungen kombiniert werden, um festzustellen, ob etwas tatsächlich schädlich oder lediglich ungewöhnlich ist. So könnte es beispielsweise ein neues Muster lateraler Bewegungen als verdächtig einstufen, obwohl einige Unternehmen legitimerweise einen nur selten genutzten Jump Host verwenden – wodurch die Anomalie im jeweiligen Kontext harmlos wäre. Letztlich eignet sich generative KI hervorragend dazu, Möglichkeiten jenseits herkömmlicher Signaturen aufzuzeigen. Sie muss jedoch mit einer robusten – automatisierten oder von Menschen gesteuerten – Entscheidungslogik kombiniert werden, um zu bestimmen, welche Anomalien echte Bedrohungen darstellen.

Ein Praxistest: F5-Sandbox-Umgebung

Bei F5 führten wir Ende 2024 eine kontrollierte Simulation durch, um zu untersuchen, wie sich ein generatives KI-Modell in einer sich wandelnden Bedrohungslandschaft bewähren könnte. Wir speisten anonymisierte Protokolldaten aus einer mandantenfähigen Umgebung in die interne F5-Testumgebung ein und schleusten dabei gezielt neue, bislang unbekannte Angriffsmuster ein. Anfangs löste das Modell einige „Fehlalarme“ aus (diese Modelle neigen mitunter zu Übereifer), doch durch iteratives Training erkannte es Anomalien zunehmend präziser als unser signaturbasiertes Referenzsystem. Das wirklich Beeindruckende daran? Es identifizierte außerdem potenzielle Exploits, die selbst unsere Blue-Team-Analysten nicht in Betracht gezogen hatten – etwa bestimmte Versuche einer lateralen Bewegung, die als normale Dateifreigabeprotokolle getarnt waren.

Verkürzung der mittleren Behebungszeit

Adaptive Reaktionsleitfäden

Generative Modelle dienen nicht nur der Erkennung – bei Vorfällen können sie schnell Vorschläge für Reaktionsleitfäden erstellen. Man kann sie sich als KI-gestützte Partner vorstellen, die Echtzeitprotokolle überwachen, Informationen aus mehreren Datenquellen zusammenführen und einen koordinierten Reaktionsplan vorschlagen.

Wenn das System beispielsweise eine Anomalie mit hohem Risiko erkennt, kann es dynamische Firewall-Richtlinien oder die Isolierung verdächtiger virtueller Maschinen (VMs) empfehlen. Da es aus früheren Vorfällen lernt, werden diese Vorschläge im Laufe der Zeit immer weiter optimiert. Das ist ein großer Fortschritt gegenüber statischen Runbooks, die nach der Ersteinrichtung nur selten aktualisiert werden.

Tools in großem Maßstab orchestrieren

Auf großen Sicherheitskonferenzen (wie der Black Hat 2024 und dem in diesem Jahr neu ins Leben gerufenen AI-SecOps Summit) haben wir in letzter Zeit eine Welle von Integrationen generativer KI erlebt. Im Mittelpunkt stehen dabei „autonome“ oder „agentenbasierte“ Reaktionen, bei denen eine KI-Schicht mehrere Sicherheitstools – SIEMs, Endpunktschutz und WAFs – in Echtzeit orchestriert. Wenn Multicloud heutzutage die Norm ist, erscheint ein einziges generatives Modell, das die Reaktion auf Bedrohungen über AWS-, Azure- und lokale Umgebungen hinweg koordiniert, äußerst attraktiv.

Doch es gibt einen Haken: Wenn wir lediglich veraltete oder ineffiziente Prozesse automatisieren, laufen wir Gefahr, „schneller zu scheitern“, anstatt unsere Sicherheitslage insgesamt zu verbessern. Wenn wir KI einsetzen, ohne grundlegende Arbeitsabläufe zu überdenken, beschleunigen wir möglicherweise die Ausführung fehlerhafter Verfahren. Deshalb sollte KI als Katalysator betrachtet werden, um unseren Ansatz für Sicherheit und Bereitstellung neu zu gestalten, anstatt lediglich das zu beschleunigen, was wir ohnehin schon tun.

Es ist außerdem wichtig zu beachten, dass ein generatives Modell eine Reaktion zwar automatisieren kann, dies aber nicht zwangsläufig tun sollte. Wir benötigen Leitplanken und Eskalationswege, um sicherzustellen, dass Menschen bei kritischen Entscheidungen (wie der Isolierung ganzer Produktionssegmente) weiterhin eingebunden bleiben. Kurz gesagt: Generative KI bietet eine vielversprechende Möglichkeit, alte Annahmen infrage zu stellen und effizientere, anpassungsfähigere Frameworks für die Reaktion auf Sicherheitsvorfälle zu entwickeln – vorausgesetzt, wir sind bereit, nicht nur die Geschwindigkeit, sondern auch die Grundlagen unserer Prozesse zu überarbeiten.

Aktuelle Trends im Jahr 2025

• Der Wettstreit um LLMs geht weiter: Die führenden Cloud-Anbieter wetteifern darum, das „sicherste“ große Sprachmodell (LLM) auf den Markt zu bringen. Dabei behauptet jeder von ihnen, durch fortschrittliches Fine-Tuning Halluzinationen zu reduzieren und die Compliance zu verbessern.
• Open-Source-Projekte: Von der Community getragene Initiativen (wie AI-SIGS oder ThreatGen) entstehen und bieten Sicherheitsforschern Open-Source-Frameworks zur Entwicklung maßgeschneiderter generativer Bedrohungsmodelle.
• Regulatorischer Fokus: Die neuen Vorschläge der EU zur KI-Regulierung stufen generative Cybersicherheitsanwendungen als „Hochrisikotechnologie“ ein und fordern Transparenz sowie eindeutige Angaben zur Herkunft der Daten.

Es sind aufregende Zeiten: Generative KI findet zunehmend Anklang bei Großunternehmen und mittelständischen Akteuren, die etablierte Lösungen überspringen möchten. Doch die überstürzte Einführung generativer KI kann zu Problemen führen, wenn Unternehmen grundlegende Maßnahmen wie eine solide Data Governance, die Erklärbarkeit von Modellen und klare Verantwortlichkeitsstrukturen außer Acht lassen.

Halluzinationen, Datenschutz und ethische Dilemmata

Generative Modelle können zwar mit kreativen Schlussfolgerungen beeindrucken, aber auch plausibel klingende Bedrohungen „halluzinieren“, die gar nicht existieren. Eine Welle von Fehlalarmen könnte Ihr Security-Ops-Team unter einer Lawine bedeutungsloser Warnmeldungen begraben. Mit der Zeit kann dies das Vertrauen in KI-gestützte Systeme untergraben.

Für das Training robuster Modelle werden Daten benötigt – und zwar sehr viele. Je nach Region können Datenschutzgesetze einschränken, welche Protokoll- oder Telemetriedaten verwendet werden dürfen. Die Bereinigung oder Anonymisierung sensibler Nutzerdaten ist unerlässlich, um Probleme bei der Einhaltung gesetzlicher Vorschriften zu vermeiden und eine ethisch verantwortungsvolle Datennutzung zu gewährleisten.

Wir dürfen die dunkle Kehrseite nicht außer Acht lassen: Bedrohungsakteure können generative KI nutzen – und haben dies bereits getan –, um überzeugende Phishing-E-Mails zu verfassen, neue Arten von Schadsoftware zu entwickeln oder Zero-Day-Schwachstellen schneller zu entdecken. Während wir diese Abwehrfähigkeiten aufbauen, müssen wir davon ausgehen, dass Angreifer dasselbe für ihre offensiven Zwecke tun.

Die Zukunft gestalten

Mit Blick auf die Zukunft könnte sich generative KI zu einer Standardschicht in jedem SecOps-Toolkit entwickeln, die ebenso eng integriert ist, wie es Schwachstellenscanner oder Systeme zur Angriffserkennung heute sind. Durch Verbesserungen bei der Erklärbarkeit – etwa mehr Transparenz darüber, wie die KI zu ihren Schlussfolgerungen gelangt – werden Sicherheitsteams eher darauf vertrauen, dass KI größere Teile des Lebenszyklus der Bedrohungsmodellierung übernimmt.

Möglicherweise werden wir auch globale Allianzen für Bedrohungsinformationen erleben, in denen generative Modelle, die bei verschiedenen Organisationen trainiert wurden, unter Wahrung des Datenschutzes ausgewählte Erkenntnisse austauschen. Dies könnte branchenübergreifend zu schnelleren, besser koordinierten Reaktionen auf Zero-Day-Angriffe führen.

Dennoch sei noch einmal betont, dass wir uns erst am Anfang befinden. Bevor Unternehmen in geschäftskritischen Szenarien auf generative KI setzen, müssen sie in bewährte Verfahren für den Umgang mit Daten, robuste Trainingspipelines und klar definierte Governance-Strukturen investieren.

Bereit, Sicherheit neu zu denken?

Generative KI hat das Potenzial, traditionelle Ansätze zur Bedrohungsmodellierung und Reaktion auf Sicherheitsvorfälle grundlegend zu verändern. Durch die kreative Analyse von Mustern und die Automatisierung von Reaktionsstrategien kann sie eine beispiellose Geschwindigkeit und Genauigkeit bieten – vorausgesetzt, wir bewältigen inhärente Herausforderungen wie Halluzinationen, Compliance und ethische Schutzmaßnahmen.

Über den Autor

Caitlin Arnspiger

Weitere Blogbeiträge von Caitlin Arnspiger