Viele Menschen denken die Auswirkungen agentischer KI nicht konsequent zu Ende. Das müssen wir tun – insbesondere im Hinblick auf die Sicherheit, selbst wenn dadurch unsere Grundannahmen ins Wanken geraten.
Spoiler: Das wird es.
Zum Beispiel treffen die OWASP Agentic Top 10 die Grundannahme richtig: Agenten verstärken bestehende Schwachstellen. Ihre APIs sind nicht plötzlich sicher geworden, nur weil Sie ihnen ein LLM vorgeschaltet haben. Im Gegenteil: Sie sind jetzt noch stärker gefährdet, da nun etwas kontinuierlich Sondierungen durchführt, Aktionen verkettet und mögliche Pfade wie ein sehr geduldiger Angreifer erkundet. Die Liste hebt außerdem zu Recht die mehrstufige Ausführung, die Verkettung von Tools und die zeitliche Entwicklung von Entscheidungen hervor.
Doch es greift nicht ganz das tiefer liegende Problem auf, dem wir uns stellen müssen.
Treffer und Fehlschläge
Die OWASP-Liste weist darauf hin, dass Agenten keine völlig neuen Fehlermuster hervorbringen, sondern bestehende gefährlicher machen. Der Missbrauch von Tools, die Vererbung von Berechtigungen über mehrere Schritte hinweg und die Manipulation von Zielen sind reale Risiken, die sich über ganze Abläufe hinweg entfalten und nicht nur in einzelnen Prompts oder Anfragen. OWASP versteht die dynamische Natur agentischer Systeme. All das ist richtig.
Doch die Leitlinien bewegen sich nach wie vor weitgehend im traditionellen Anfrage-Antwort-Modell. Sie gehen davon aus, dass die Anfrage die zentrale Kontrolleinheit ist: Identität validieren, Berechtigungen prüfen, Inhalte untersuchen und eine Entscheidung treffen. Dieses Modell funktionierte, solange Arbeitsabläufe vordefiniert und durch das Anwendungsdesign begrenzt waren.
Agentische Systeme widerlegen diese Annahme.
Sie erstellen zur Laufzeit Abläufe, um ein Ziel zu erreichen. Sie bewerten Ergebnisse, passen sich an, durchlaufen mehrere Iterationen und erweitern den Umfang. Jede einzelne Anfrage kann durchaus gültig sein – die Identität ist korrekt, die Berechtigungen stimmen überein und die Richtlinienprüfung wird bestanden –, dennoch kann das Gesamtverhalten weit von der ursprünglichen Absicht abweichen.
Daher rührt unser Gefühl, die Kontrolle verloren zu haben. Es liegt nicht daran, dass die Identitätsverwaltung versagt. Die Authentifizierung bleibt zuverlässig. Die Weitergabe und Delegierung von Anmeldedaten funktioniert wie vorgesehen. Agenten agieren mit ihrer eigenen Identität oder mit delegierten Anmeldedaten, und Token werden zuverlässig zwischen Diensten übertragen.
Das Problem liegt woanders. Die herkömmliche Zugriffskontrolle beruhte auf einer unausgesprochenen Grundlage: begrenzten Abläufen. Anwendungen legten die Abfolge der Aktionen fest. Selbst bei Verzweigungen schränkte das System selbst die möglichen Abläufe ein. Dank dieser Struktur konnten wir Anfragen isoliert bewerten, da die verfügbaren Pfade begrenzt waren. Unsere Richtlinien basieren auf diesem Verständnis, und unsere Durchsetzung soll nun einmal genau diese Grenzen durchsetzen.
Doch Agenten ersetzen vordefinierte Abläufe durch emergente. Ihr Verhalten entwickelt sich dynamisch und verbindet dabei häufig einzelne API-Aufrufe mit langlebigen Sitzungen und Streaming-Interaktionen. Ein Agent könnte einen Datensatz untersuchen, im Laufe der Zeit Kontext aufbauen und anschließend Schreibvorgänge ausführen, mit denen niemand gerechnet hat. Endlosschleifen, unerwartete Kostenspitzen und überraschende systemübergreifende Aktionen sind keine Fehler bei der Identitätsprüfung oder bei einzelnen Anfragen, sondern das Ergebnis gültiger Aktionen, die zu unbeabsichtigten Abfolgen zusammengesetzt werden.
Sie sind von Grund auf ohne feste Grenzen konzipiert, werden jedoch durch Sicherheitssysteme eingeschränkt, die davon ausgehen, dass für sie weiterhin dieselben Rahmenbedingungen gelten wie für herkömmliche Anwendungen.
Directory Traversal ist ein anschauliches Beispiel. Seit Langem stufen wir die Manipulation von Pfaden als bösartig ein und blockieren sie. Und das aus gutem Grund, denn es gibt eine klar definierte Menge erwarteter Pfade, und jede Abweichung davon sollte als verdächtig gelten.
Für einen Agenten jedoch, der Dokumente abrufen oder Kontext aus einem Dateisystem zusammenstellen soll, ist das Navigieren durch die Verzeichnisstruktur nicht verdächtig, sondern notwendig. Wird es vollständig blockiert, ist der Agent nutzlos. Wird es uneingeschränkt zugelassen, gibt man einem aggressiven Erkundungsprogramm die Schlüssel zum Königreich in die Hand.
Das eigentliche Problem ist nicht das Durchlaufen. Es ist das unbegrenzte Durchlaufen. Dasselbe Muster zeigt sich beim Missbrauch von Tools, bei der Übernahme von Zielen und bei der Manipulation des Gedächtnisses: Das Risiko summiert sich über Abfolgen hinweg, nicht bei isolierter Betrachtung.
Der notwendige Wandel: Von der Anfragevalidierung zur Verhaltenssteuerung
Identität bleibt für die Authentifizierung und Zuordnung erforderlich, reicht jedoch nicht aus, um das Verhalten im Zeitverlauf zu steuern. Rollen- und bereichsbasierte Modelle setzen vorhersehbare Muster und klar begrenzte Interaktionen voraus. In agentenbasierten Umgebungen, in denen die Ausführung sowohl anfragebasierte als auch sitzungsbasierte Modelle umfasst, ermöglichen sie nur eine grobe Steuerung.
Wir müssen die Zugriffskontrolle zu einer verhaltensbasierten Governance weiterentwickeln. Das bedeutet, Anfragen in ihrem vollständigen Kontext zu bewerten: Was ist bereits geschehen, wie entwickelt sich das Verhalten und wie erstrecken sich Aktionen über verschiedene Protokolle hinweg? Die Durchsetzung muss kontinuierlich und protokollbewusst erfolgen und dabei kumulative Vorgänge über einzelne Aufrufe und persistente Sitzungen hinweg nachverfolgen.
Die Lösung sind richtlinienbasierte Einschränkungen. Anstatt genaue Pfade vorzugeben, sollte der Handlungsspielraum definiert werden:
- Ressourcengrenzen (aus diesen Datensätzen lesen, aber niemals in die Produktionsumgebung schreiben)
- Quantitative Beschränkungen (Obergrenzen für Aktionen, Kosten oder die Ausweitung des Umfangs)
- Funktionseinschränkungen (zusätzliche Genehmigung vor destruktiven Aktionen erforderlich)
- Bedingte Richtlinien, die bei steigendem Risiko verschärft werden
Diese Einschränkungen gelten für die gesamte Abfolge, unabhängig davon, ob sie über HTTP-Anfragen oder WebSocket-Streams übertragen wird. Gemeinsame Architekturschichten wie API-Gateways, Service-Meshes und Orchestrierungsplattformen gewinnen dabei entscheidend an Bedeutung. Sie bieten den nötigen Überblick, um das Verhalten im weiteren Verlauf zu beobachten, Zusammenhänge herzustellen und einzugreifen, wobei der Ausführungskontext zusammen mit der Identität weitergegeben wird.
Das Routing selbst wird zu einem Kontrollmechanismus: Abläufe, die sich festgelegten Grenzwerten nähern, können in eingeschränkte Umgebungen umgeleitet, gedrosselt oder beendet werden. Die Durchsetzung erfolgt abgestuft statt binär und steuert so das Verhalten, ohne nützliche Arbeit sofort zu stoppen.
Anwendungsbereitstellung und Sicherheit müssen zusammenarbeiten können, um diese Ziele zu erreichen. Dazu müssen sie sich über eine gemeinsame Steuerungsebene hinweg abstimmen und kommunizieren, damit das Verhalten durch Richtlinien und nicht durch vordefinierte Workflows begrenzt wird.
Dieser Wandel erfordert nicht, jeden möglichen Pfad vorherzusagen. Vielmehr müssen die Rahmenbedingungen auf Grundlage des beobachteten Verhaltens kontinuierlich angepasst werden, sodass eine Rückkopplungsschleife zwischen Betrieb und Richtlinien entsteht.
Der Wandel, den wir vollziehen müssen
KI bringt nicht nur neue Risiken mit sich. Sie zwingt uns auch dazu, neu zu überdenken, wie wir die bereits vorhandenen Kontrollmechanismen einsetzen. Ohne diese Weiterentwicklung werden wir weiterhin zwischen Systemen schwanken, die technisch sicher, aber praktisch unbrauchbar sind, und solchen, die zwar äußerst leistungsfähig sind, aber unbemerkt außer Kontrolle geraten.
Die maßgebliche Einheit für Sicherheit ist nicht mehr die Anfrage, sondern das Verhalten.
Die Frage ist nicht mehr nur, ob eine Anfrage zulässig ist, sondern ob das Verhalten, für das diese Anfrage steht, weiterhin zugelassen werden sollte.
Das ist der Paradigmenwechsel hin zu agentischer Sicherheit, den wir vollziehen müssen.
Über den Autor

Lori MacVittie ist Distinguished Engineer und Chief Evangelist im Office of the CTO von F5 und verfügt über umfassende Expertise in den Bereichen Anwendungsbereitstellung, Automatisierungsstrategie und Infrastruktur. Sie ist dafür bekannt, Komplexität verständlich zu machen – ob sie Leitplanken für KI-Agenten definiert, fragile Multicloud-Architekturen analysiert oder die Grenzen skalierbarer Systeme auslotet. Sie verfügt über mehr als dreißig Jahre Branchenerfahrung in der Anwendungsentwicklung, IT-Architektur sowie im Netzwerk- und Systembetrieb. Bevor sie zu F5 kam, war sie als mehrfach ausgezeichnete Technologie-Redakteurin tätig. MacVittie hat einen Masterabschluss in Informatik und ist eine produktive Autorin, deren Veröffentlichungen die Bereiche Sicherheit, Cloud und Unternehmensarchitektur abdecken. Außerdem spielt sie leidenschaftlich gern Brett- und Videospiele und vertritt mit voller Überzeugung klare Ansichten zum Thema Käse.
Weitere Blogbeiträge von Lori Mac VittieÄhnliche Blogbeiträge

KI-App-Bereitstellung – Top 10: Nicht optimierte Datenverkehrssteuerung
KI stellt herkömmliche Annahmen zur Datenverkehrssteuerung infrage: Backends sind nicht austauschbar, die Kosten variieren und Agenten verzweigen sich unvorhersehbar – daher muss das Routing Modell, GPU-Zustand und Datenlokalität berücksichtigen.

Top 10 der KI-Anwendungsbereitstellung: Fehlende Fehlertoleranz und Ausfallsicherheit
KI macht klassische Resilienzdefizite deutlich kostspieliger: Der Ausfall einer einzelnen GPU oder Abhängigkeit kann sich durch synchrone Inferenzketten fortpflanzen, wodurch sich Latenzen summieren und die Qualität der Ausgaben sinkt.

Die neue Herausforderung der hybriden Multicloud: Betrieb ohne Plattform für Anwendungsbereitstellung und Sicherheit
Unternehmen kehren On-Premises-Umgebungen nicht den Rücken – sie modernisieren sie. Da ihre Portfolios weiterhin gemischt bleiben, müssen Anwendungsbereitstellung und Sicherheit von umgebungsspezifischen Funktionen auf eine einheitliche Plattform umgestellt werden.

Programmierbarkeit ist der einzige Weg, wie Kontrolle im KI-Maßstab bestehen kann
Erfahren Sie, warum die Programmierbarkeit der Daten- und Steuerungsebene entscheidend ist, um KI-gestützte Systeme zu skalieren und abzusichern und in einer sich schnell verändernden Umgebung die Kontrolle in Echtzeit zu gewährleisten.

Die fünf wichtigsten Technologietrends, die Sie 2026 im Blick behalten sollten
Entdecken Sie die wichtigsten Technologietrends des Jahres 2026, in dem Inferenz die KI dominiert – von Kostenstellen und Edge-Bereitstellung bis hin zu Governance, IaaS und Interaktionsschleifen agentischer KI.

Der Einfluss von Inferenz: APIs, DPUs und Kontextchaos
KI-Inferenz verändert die Infrastruktur grundlegend: Sie vervielfacht APIs, belastet Rechenressourcen und erschwert die Kontextverwaltung. Erfahren Sie, warum eine intelligentere Architektur und Laufzeitrichtlinien unverzichtbar sind.