Agentische KI in der Cybersicherheit: Chancen und Risiken

Louise ScullySenior Manager, Produktmarketing, KI-Sicherheit & Bedrohungsanalyse | F5

Die wichtigsten Erkenntnisse

• Die Integration agentenbasierter KI in die IT-Sicherheit ist entscheidend, um Angreifer abzuwehren, die mit Maschinengeschwindigkeit agieren.
• Im Gegensatz zu herkömmlichen Sicherheitsprozessen, die einem festen Entscheidungsbaum folgen, passen sich KI-Agenten an veränderte Bedingungen an und benötigen Leitplanken, um eine sichere Nutzung zu gewährleisten.
• Der Einsatz von KI-Agenten für Sicherheitszwecke schafft zudem eine neue Angriffsfläche und öffnet Tür und Tor für den Missbrauch von Tools und Berechtigungen, die Manipulation des Speichers und andere Bedrohungen.
• Um KI-Agenten abzusichern, müssen Unternehmen sie als kontrollierte Identitäten behandeln, ihnen auf bestimmte Bereiche beschränkte und kurzlebige Anmeldedaten zuweisen, Schutzmechanismen zur Laufzeit anwenden und sicherstellen, dass unumkehrbare Entscheidungen von Menschen genehmigt werden.

Die Komplexität des Cybersicherheitsmanagements in einer digital geprägten, KI-gestützten Ära kann kaum überschätzt werden. Sicherheitsteams schützen hybride Multicloud-Umgebungen, verteilte Architekturen und komplexe KI-Systeme, die inzwischen mit Anwendungen, APIs und anderen Modellen in der gesamten IT-Landschaft interagieren. Gleichzeitig nutzen Angreifer KI, um schneller als je zuvor umfangreichere und ausgefeiltere Angriffe zu starten.

Der Einsatz agentenbasierter KI für die Sicherheit kann dazu beitragen, Bedrohungen mit Maschinengeschwindigkeit abzuwehren, Umgebungen kontinuierlich zu testen und die durch Warnmeldungen verursachte Überlastung autonom zu reduzieren. KI-Agenten können nach unentdeckten Schwachstellen suchen, dynamische Signaturanomalien erkennen und Warnmeldungen autonom priorisieren. So können Teams den Zeitaufwand für die Erkennung und Abwehr KI-gestützter Bedrohungen verringern.

Gleichzeitig birgt der Einsatz von KI-Agenten in der Cybersicherheit neue Risiken. Cyberkriminelle nutzen KI zur Unterstützung von Distributed-Denial-of-Service-Angriffen (DDoS), Credential Stuffing und anderen herkömmlichen Methoden sowie für neuartige Angriffe wie Prompt Injection, Data Poisoning, die Manipulation der Ziele von Agenten und weitere Angriffsformen.

Laut dem F5 State of Application Strategy Report 2026 geben 98 % der befragten Unternehmen an, ihre Anwendungen für den Zugriff durch agentenbasierte KI anzupassen. Diese Unternehmen nutzen bereits durchschnittlich sieben KI-Modelle oder evaluieren sie aktiv. Mit der weiteren Verbreitung von KI wird auch die Angriffsfläche größer.

Wie funktioniert agentenbasierte KI in der Cybersicherheit?

Agentische KI bezeichnet KI-Systeme, die autonom mehrere Schritte ausführen können, um ein bestimmtes Ziel zu erreichen. Der Agent erhält eine Zielvorgabe, Zugriff auf Tools, einen über mehrere Schritte hinweg beständigen Speicher sowie eine Identität mit tatsächlichen Berechtigungen.

Zur Unterstützung von Cybersicherheitsmaßnahmen erfüllt agentische KI zwei Hauptfunktionen: 1) Sie dient als Gegenmaßnahme zur Abwehr KI-gestützter Angriffe durch KI-gestützte Überwachung des Datenverkehrs, Signaturverfolgung und Erkennung von Schwachstellen, und 2) sie verbessert das Management der Reaktion auf Sicherheitsvorfälle durch Risikopriorisierung und Automatisierung.

Im Hintergrund durchläuft ein Sicherheitsagent eine Schleife. Bei jedem Durchlauf können neue Informationen entstehen, die der Agent zur Optimierung der Schleife nutzen kann.

In einem typischen Durchlauf kann der Agent alle folgenden Aktionen ausführen:

• Wahrnehmen: Der Agent nimmt Sicherheitssignale wie Warnmeldungen, Protokolle, Telemetriedaten, Identitätsereignisse und externe Bedrohungsinformationen auf.
• Analysieren und planen: Anschließend unterteilt der Agent das Ziel in einzelne Schritte, wobei sich Analyse- und Handlungsschritte abwechseln und der Plan überarbeitet wird, sobald neue Informationen vorliegen.
• Handeln: Der Agent wird aktiv und nutzt die erforderlichen Tools, um die einzelnen Aufgaben zu erledigen. Er kann beispielsweise das SIEM-System (Security Information and Event Management) abfragen, die Reputation einer IP-Adresse prüfen, den Prozessbaum eines Endgeräts abrufen, einen Host isolieren oder ein Ticket öffnen bzw. schließen.
• Beobachten: Der Agent liest die Ausgabe des Tools und gleicht sie mit dem Ziel ab. Falls erforderlich, kehrt er anschließend zum Schritt der Schlussfolgerung und Planung zurück.
• Speichern: Ergebnisse und Erkenntnisse werden im Speicher abgelegt, sodass spätere Entscheidungen den Kontext früherer Entscheidungen übernehmen.
• Eskalieren: An festgelegten Kontrollpunkten hält der Agent an und übergibt die Entscheidung an einen Menschen.

Die Fähigkeit, sich an neue Informationen anzupassen, ist eines der wesentlichen Merkmale, die KI-Agenten von bestehenden Automatisierungstools unterscheiden. Dadurch können Angreifer schneller vorgehen, weshalb KI-gestützte Cybersicherheit erforderlich ist, um Schwachstellen aufzudecken und die gesamte IT-Umgebung Belastungstests zu unterziehen.

Vergleich von traditionellem SecOps und agentenbasierter KI

Viele Sicherheitsteams haben automatisierte SecOps bereits in zentrale Prozesse integriert. SOAR-Lösungen (Security Orchestration, Automation and Response) sind beispielsweise deterministische Tools, die Aufgaben mit Maschinengeschwindigkeit ausführen. Wenn Bedingung A erfüllt ist, führt das Tool Aktion B aus. Diese Lösungen sind schnell und überprüfbar, versagen jedoch, sobald die Realität vom bestehenden Entscheidungszweig abweicht.

KI-Agenten sind nicht deterministisch. Sie folgen keinen starren Regeln. Stattdessen passen sie sich dynamisch an neue Eingaben an. Dadurch können sie besser mit neuartigen Bedrohungen umgehen. Darüber hinaus können KI-Agenten komplexe Aufgaben autonom und mit wenig oder ganz ohne menschliches Zutun ausführen. Häufig bieten sie zudem eine umfassendere Abdeckung und liefern schneller Ergebnisse als SIEM- und SOAR-Lösungen. Da sie jedoch dynamisch agieren, erfordern sie eine stärkere Governance und machen Observability unverzichtbar.

Schnelleren, agentengesteuerten Bedrohungen begegnen

Der Einsatz von KI-Agenten für die Cybersicherheit ist längst keine Option mehr. Agentische KI-Sicherheit ist zu einer Voraussetzung für die Abwehr von Bedrohungen durch agentische KI geworden.

Im November 2025 legte Anthropic die erste öffentlich dokumentierte, von KI orchestrierte Spionagekampagne offen. Ein agentenbasiertes Framework übernahm bis zu 90 % der taktischen Arbeit gegen rund 30 Zielorganisationen. Menschliche Akteure waren nur an wenigen Entscheidungspunkten beteiligt.

Für angegriffene Organisationen verkürzt der Einsatz von KI-Agenten durch Angreifer die verfügbare Zeit zur Abwehr von Angriffen erheblich. Wenn Aufklärung, Exploit-Entwicklung und laterale Bewegungen vollständig maschinell gesteuert werden, bleiben Organisationen zwischen der Veröffentlichung einer Schwachstelle und ihrer Ausnutzung nur wenige Stunden. Laut „M-Trends 2026“ ist die durchschnittliche Zeit bis zur Ausnutzung von Schwachstellen auf schätzungsweise -7 Tage gesunken. Das bedeutet, dass eine Schwachstelle bereits ausgenutzt werden kann, bevor überhaupt ein Patch veröffentlicht wird.

Eine auf menschlicher Bearbeitung basierende Warteschlange kann diese Lücke schlichtweg nicht so schnell schließen. Sicherheitsteams benötigen KI-Agenten, um sich gegen KI-Agenten zu verteidigen.

Agenten als Angriffsziele erkennen

Erschwerend kommt hinzu, dass auch die KI-Agenten, die Unternehmen in ihre Cybersicherheitsmaßnahmen integrieren, ins Visier von Angreifern geraten werden. Schließlich handelt es sich bei diesen Agenten im Wesentlichen um privilegierte, vertrauenswürdige, automatisierte Benutzer mit Zugriff auf den Security-Stack. Damit sind sie besonders attraktive Ziele.

Cyberkriminelle haben mehrere Möglichkeiten, KI-Agenten anzugreifen. Die Übernahme des Ziels eines Agenten gehört zu den häufigsten Angriffsarten. Dabei schreibt ein Angreifer das Ziel des Agenten um, meist durch indirekte Prompt-Injection, die in einer Webseite, einem Dokument oder einer E-Mail verborgen ist, die der Agent im Rahmen seiner Arbeit liest. Alternativ können Angreifer die Funktionsweise des Agenten verändern und ihn dazu bringen, APIs aufzurufen, Code auszuführen oder Daten in Systeme zu schreiben, die nicht für seine eigentliche Aufgabe vorgesehen sind.

Der Missbrauch von Identitäten und Berechtigungen ist eine weitere häufig eingesetzte Taktik. Angreifer können beispielsweise mittels Prompt-Injection einen Agenten dazu verleiten, unter Ausnutzung der ihm erteilten Berechtigungen schädliche Aktionen auszuführen.

Diese und andere Taktiken können vielfältige Schäden verursachen. Bei Angriffen auf KI-Agenten, die für die Cybersicherheit eingesetzt werden, könnten Angreifer sensible Daten stehlen oder die Schutzmaßnahmen von Unternehmen außer Kraft setzen. Dadurch könnten diese Cyberkriminellen noch größere und verheerendere Angriffe erfolgreich durchführen.

KI-Agenten schützen

Wie sollten Unternehmen die Agenten schützen, die sie für Cybersicherheit und andere Aufgaben einsetzen? Einige bewährte Verfahren können eine solide Grundlage für die Sicherheit von Agenten schaffen.

• Gewähren Sie nicht nur minimale Berechtigungen, sondern auch minimale Handlungsautonomie. Das Prinzip der minimalen Berechtigungen schränkt ein, worauf ein Agent zugreifen kann. Minimale Handlungsautonomie begrenzt, wie weit er ohne Rücksprache agieren kann. Verwenden Sie bedarfsgerecht erteilte, sitzungsgebundene Berechtigungen, die nach Abschluss einer bestimmten Aufgabe ablaufen.
• Teilen Sie Arbeitsabläufe auf. Unterteilen Sie Arbeitsabläufe so, dass kein einzelner Schritt gleichzeitig sensible Daten, nicht vertrauenswürdige Eingaben und einen ausgehenden Kanal umfasst. Dadurch wird der Schaden durch einen einzelnen Sicherheitsvorfall begrenzt.
• Implementieren Sie eine Sandbox-Ausführung. Führen Sie Tool-Aufrufe und generierten Code in kurzlebigen, streng abgeschotteten Containern aus, damit die Auswirkungen einer Kompromittierung begrenzt bleiben.
• Setzen Sie die Schutzmechanismen zur Laufzeit bei jedem Schleifendurchlauf durch. Eine einmalige Prüfung am Eingang reicht nicht aus, wenn der Agent seinen nächsten Schritt selbst bestimmt. Überprüfen Sie bei jedem Schleifendurchlauf Prompts, Tool-Aufrufe, Lese- und Schreibzugriffe auf den Speicher sowie Ausgaben.
• Geben Sie jedem KI-Agenten eine eigene Identität. Vermeiden Sie gemeinsam genutzte Dienstkonten und fest codierte API-Schlüssel. Wenn jeder Agent über eine eigene Identität verfügt, können Teams feststellen, welcher Agent eine bestimmte Aktion ausgeführt hat.
• Protokollieren Sie alle Vorgänge und behalten Sie menschliche Kontrollinstanzen bei. Führen Sie unveränderliche Protokolle über die Schlussfolgerungen, Tool-Aufrufe und Nutzdaten des Agenten, einschließlich der Auslöser für jeden Durchlauf. Verlangen Sie eine menschliche Freigabe über einen separaten Kommunikationskanal, bevor Schreibvorgänge in Produktionssystemen, Finanztransaktionen oder andere nicht rückgängig zu machende Aktionen ausgeführt werden.

Der Ansatz von F5 zur Cybersicherheit bei agentenbasierter KI

Wir bei F5 wissen, dass KI-Agenten in der Cybersicherheit vielfältige Rollen übernehmen. Sie bieten die nötige Geschwindigkeit, um mit KI-gestützten Bedrohungen Schritt zu halten, und ermöglichen es Unternehmen, Angriffe wesentlich schneller zu erkennen und darauf zu reagieren, als Menschen dies allein könnten. Darüber hinaus helfen sie Teams dabei, Aufgaben zu optimieren und so den Verwaltungsaufwand erheblich zu reduzieren. Schließlich sind KI-Agenten häufig selbst Ziel von Angriffen und müssen daher – wenig überraschend – ebenfalls mithilfe von KI-Agenten geschützt werden.

F5 kann externe Bedrohungsinformationen und interne Protokolle mithilfe der F5 Application Delivery and Security Platform (ADSP) in priorisierte Echtzeiterkenntnisse umwandeln. Teams sehen eine nach Priorität geordnete Liste wichtiger Probleme statt einer undifferenzierten Warnmeldungswarteschlange.

Gleichzeitig trägt die F5 AI Security Platform dazu bei, die KI-Agenten abzusichern, die die Cybersicherheit stärken und weitere Funktionen unterstützen. Diese Plattform bietet Sicherheitsverantwortlichen kontinuierliche Transparenz, Governance und Schutz für KI-Anwendungen, -Modelle, -Agenten und APIs. Mit Tools wie F5 Workforce AI Security, F5 AI Red Team, F5 AI Guardrails und F5 AI Gateway können Teams KI-Umgebungen erkennen, verwalten, testen, schützen und angesichts sich weiterentwickelnder Bedrohungen kontinuierlich überwachen.

Weitere Informationen zu KI-gestützten Bedrohungen und KI-basierten Lösungen finden Sie in der Bedrohungsforschung von F5 Labs sowie unter F5 KI-Sicherheitslösungen.

Häufig gestellte Fragen

Wie funktioniert ein KI-Agent in der Cybersicherheit?

Ein Sicherheitsteam gibt einem Agenten ein Ziel vor. Anschließend führt der Agent einen mehrstufigen Prozess aus, um dieses Ziel zu erreichen. Dieser Zyklus umfasst in der Regel Schritte wie das Erkennen von Bedrohungen, das Erstellen eines Plans, das Umsetzen des Plans, das Beobachten der Ergebnisse, das Erfassen von Erkenntnissen, das Anpassen der einzelnen Schritte auf Grundlage der Ergebnisse sowie die Rücksprache mit Menschen bei bestimmten Schritten.

Was ist der Unterschied zwischen herkömmlicher SOAR-Automatisierung und agentischer KI?

SOAR-Lösungen (Security Orchestration, Automation and Response) folgen einem festen Wenn-dann-Skript. KI-Agenten erhalten ein Ziel und erarbeiten anschließend selbstständig die Abfolge der Aufgaben, wobei sie diese an neue Erkenntnisse anpassen. Da Agenten auf neue Informationen reagieren können, eignen sie sich besser für den Umgang mit neuartigen Bedrohungen. Allerdings benötigen sie mehr Leitplanken.

Wie schützt man agentische KI-Agenten vor Bedrohungen?

Einige bewährte Verfahren können dazu beitragen, KI-Agenten vor einer wachsenden Zahl von Bedrohungen zu schützen. So lässt sich die Sicherheit von KI-Agenten verbessern, indem eingeschränkt wird, was ein Agent ohne menschliches Eingreifen tun darf, Arbeitsabläufe in einzelne Aufgaben unterteilt, Aufgaben in streng abgeschotteten Containern ausgeführt und Schutzmechanismen zur Laufzeit durchgesetzt werden.

Entdecken Sie die KI-Sicherheitslösungen von F5.

Über den Autor

Louise ScullySenior Manager, Produktmarketing, KI-Sicherheit & Bedrohungsanalyse | F5

Louise Scully ist Senior Managerin im Produktmarketing für KI-Sicherheit und Threat Intelligence bei F5. Im Laufe ihrer Karriere war sie in den Bereichen Produktmarketing, Produktmanagement, Markteinführungsstrategie, Kommunikation, Thought Leadership und Kategorieentwicklung für KI-Sicherheit und Unternehmenstechnologie tätig. Bevor sie zu F5 kam, leitete Louise das Marketing bei CalypsoAI und Artomatix und trug dazu bei, KI-Technologien und Forschungsergebnisse auf den Markt zu bringen.

Weitere Blogbeiträge von Louise Scully