KI-Zero-Days sind da: Was CISOs wissen müssen

Navpreet GillSenior Product Marketing Manager | F5 NGINX

Laut dem Sicherheitsteam von Google hat ein KI-gestütztes System zur Erkennung von Schwachstellen erstmals eine Zero-Day-Sicherheitslücke in einer weitverbreiteten Software entdeckt. Googles KI-Durchbruch verdeutlicht den unausweichlichen Wandel hin zu KI-gestützten Risiken – und Lösungen. Google-Forscher nutzten ein KI-Modell namens Big Sleep, um eine Speichersicherheitslücke – einen Stack-Pufferunterlauf – in der SQLite-Datenbank-Engine zu identifizieren. SQLite ist eine der am weitesten verbreiteten Datenbank-Engines und in Millionen von Geräten und Anwendungen integriert. Die Software ist quelloffen und nimmt einen wichtigen Platz in der Software-Lieferkette für Datenpipelines und Datenbanken ein. Big Sleep identifizierte eine kritische Stack-Pufferunterlauf-Schwachstelle im Code, die mit herkömmlichen Methoden übersehen worden war.

Für CISOs sind die Auswirkungen erheblich. KI kann und wird zur Erkennung von Zero-Day-Schwachstellen eingesetzt werden – sowohl von gutwilligen als auch von böswilligen Akteuren. Die Entwicklungen im Bereich der Cybersicherheit werden sich beschleunigen, und KI wird erforderlich sein, um Schritt zu halten. Gleichzeitig wird es noch wichtiger, sicherzustellen, dass zentrale Sicherheitskontrollen implementiert und richtig konfiguriert sind. Diese Entwicklung verdeutlicht, dass KI-gestützte Bedrohungen von zwei Seiten angegangen werden müssen: erstens durch den Einsatz KI-gestützter Abwehrmaßnahmen, um der rasanten Entwicklung von Sicherheitsrisiken entgegenzuwirken, und zweitens durch die Stärkung bestehender Sicherheitsframeworks und die Gewährleistung, dass sie diese neuen Funktionen integrieren können.

Die bevorstehende Welle KI-gestützter Zero-Day-Schwachstellen

Große Sprachmodelle (Large Language Models, LLMs), die für die Programmierung und Codeanalyse eingesetzt werden, entwickeln sich rasant weiter. Zudem sind sie frei verfügbar und häufig als Open Source zugänglich. Angreifer haben dies erkannt und versuchen aktiv, mithilfe von KI Schwachstellen in Systemen aufzuspüren. CISOs sollten aus mehreren wesentlichen Gründen mit einem starken Anstieg der durch KI entdeckten Zero-Day-Schwachstellen rechnen:

Fortschrittliche KI-Fähigkeiten: Moderne KI-Modelle, insbesondere LLMs, haben ihre Fähigkeit unter Beweis gestellt, komplexe Codebasen zu analysieren und bislang unbekannte Schwachstellen zu identifizieren. Googles Einsatz von KI im Rahmen von Project Big Sleep zur Aufdeckung einer weitverbreiteten Zero-Day-Schwachstelle ist ein gutes Beispiel für das Potenzial von KI bei proaktiven Sicherheitsmaßnahmen.

Automatisierung und Effizienz: KI-gestützte Tools können die Suche nach Schwachstellen automatisieren und so die Identifizierung von Sicherheitslücken erheblich beschleunigen. Dank dieser Effizienz lassen sich Schwachstellen in einem Tempo erkennen, das mit rein manuellen Methoden nicht erreichbar wäre. Der Einsatz von KI durch GreyNoise Intelligence zur Entdeckung von Zero-Day-Schwachstellen in Livestreaming-Kameras veranschaulicht diese Fähigkeit.

Umfassenderes semantisches Verständnis: KI-Modelle können Code mit einem tieferen Verständnis für Kontext, Absicht und Funktionalität analysieren und so Schwachstellen aufdecken, die mit herkömmlichen Methoden möglicherweise übersehen werden. Dank dieses semantischen Verständnisses kann KI nicht nur offensichtliche Programmierfehler erkennen, sondern auch subtile Logikfehler, Konfigurationsprobleme und ausnutzbare Sicherheitslücken. OpenAI Codex hat beispielsweise gezeigt, dass es subtile Sicherheitsschwachstellen aufspüren kann, indem es das beabsichtigte Verhalten eines Programms mit seiner tatsächlichen Implementierung abgleicht.

Das Zusammenwirken dieser Fortschritte bedeutet, dass sich CISOs und Sicherheitsteams auf eine Welle von Zero-Day-Schwachstellen vorbereiten müssen, die mithilfe von KI entdeckt werden. Um einen Schritt voraus zu bleiben, sollten Unternehmen vorrangig KI-gestützte Abwehrtools einführen, die Zusammenarbeit zwischen Entwicklungs- und Sicherheitsteams intensivieren, um Schwachstellen früher zu beheben, und ihre Mitarbeitenden kontinuierlich über neu aufkommende KI-Bedrohungen informieren. Proaktive Strategien werden entscheidend sein, um die Risiken dieser neuen Ära KI-gestützter Cyberangriffe zu mindern. Dazu gehört, KI zur Abwehr von KI-Bedrohungen einzusetzen und zugleich verstärkt auf Zero Trust und andere proaktive Strategien zu setzen, um die Angriffsfläche zu reduzieren.

Eine noch umfassendere mehrschichtige Verteidigung wird unerlässlich

Für CISOs unterstreicht die neue KI-Bedrohungslandschaft zusätzlich, wie wichtig es ist, einen möglichst großen Teil der Angriffsfläche abzudecken. Dazu müssen mehr Arten von Code, Konfigurationsdaten und Protokollen berücksichtigt werden. Außerdem gilt es, Sicherheitsmechanismen auf mehr Erkennungspunkte im Lebenszyklus der Anwendungsbereitstellung zu verteilen sowie Tools und Automatisierung bereitzustellen, um weitere manuelle Aufgaben zu eliminieren.

Beispielsweise würde F5 NGINX App Protect wahrscheinlich viele mithilfe von KI identifizierte Zero-Day-Angriffe blockieren, indem es anomale Verhaltensklassen über eine Vielzahl von Protokollen hinweg (HTTP/S, HTTP/2, gRPC, MQTT und WebSocket) verhindert. NGINX App Protect kann überall bereitgestellt werden, unter anderem zusammen mit jedem beliebigen NGINX-Produkt und in der CI/CD-Pipeline. Als weitere Komponente einer mehrschichtigen Sicherheitsstrategie fungiert die SaaS-Konsole von NGINX One als automatisierte Engine für Konfigurationsempfehlungen. So können Teams Konfigurationsänderungen zum Schutz vor Zero-Day-Angriffen schnell auf ihre gesamte NGINX-Flotte anwenden (einschließlich NGINX Plus, NGINX Open Source, Kubernetes-Produkten und Azure-as-a-Service-Optionen).

Die Grenzen der mehrschichtigen Sicherheit für das KI-Zeitalter erweitern

KI-Zero-Days verändern nicht nur die Bedrohungslandschaft – sie geben auch einen Ausblick auf die Zukunft der Cybersicherheit. Dass KI Schwachstellen entdeckt, ist kein einmaliges Ereignis, sondern ein Signal dafür, dass sich die zu unserem Schutz eingesetzten Tools ebenso schnell weiterentwickeln müssen wie jene, mit denen wir angegriffen werden. KI-gestützte Schwachstellen markieren einen Wendepunkt für die Cybersicherheit und erfordern eine umfassendere und tiefgreifendere Verteidigungsstrategie.

Da Angreifer KI nutzen, um Schwachstellen aufzudecken und auszunutzen, müssen CISOs auf mehrschichtige Sicherheit setzen und so größere Bereiche der Angriffsfläche abdecken. Dazu muss der Schutz auf weitere Protokolle, Codebasen und Konfigurationsdaten ausgeweitet werden, während zugleich in jeder Phase des Anwendungslebenszyklus Sicherheitsmechanismen zum Einsatz kommen. Die zunehmende Bedrohung durch KI erfordert nicht nur intelligentere Tools, sondern auch eine umfassende Abdeckung und Automatisierung, um menschliche Fehler zu minimieren. In dieser neuen Ära hängt das Überleben davon ab, jede einzelne Ebene zu stärken und keine Schwachstelle ungeschützt zu lassen.

Weitere Informationen finden Sie auf der Webseite zu F5 NGINX App Protect.

Über den Autor

Navpreet GillSenior Product Marketing Manager | F5 NGINX

Weitere Blogbeiträge von Navpreet Gill