OWASP Top 10 für agentenbasierte KI-Anwendungen

Die OWASP Agentic AI Top 10 helfen Organisationen, die wichtigsten Sicherheitsrisiken zu verstehen, die durch autonome KI-Systeme entstehen, welche über verschiedene Tools, APIs und Datenquellen hinweg agieren. Da agentenbasierte Workflows die Angriffsfläche während der Ausführung vergrößern, bietet das Framework einen praxisnahen Ansatz, um Risiken zu bewerten, Kontrollen zu stärken und die Gefährdung zu reduzieren.

Diese Seite zeigt auf, wie sich diese Risiken mithilfe der Funktionen von F5 in der Praxis bewältigen lassen.

Was sind die OWASP Top 10 für agentenbasierte KI?

Das vom OWASP GenAI Security Project veröffentlichte Framework konzentriert sich auf Risiken, die entstehen, wenn KI-Systeme Ziele, Gedächtnis und Werkzeuge erhalten sowie die Fähigkeit, systemübergreifend Aktionen auszuführen. Anders als herkömmliche Chatbot-Risiken können sich Bedrohungen durch agentische KI über mehrstufige Arbeitsabläufe, vernetzte Anwendungen und autonome Entscheidungen hinweg ausbreiten. Typische Beispiele sind die Manipulation von Agentenzielen, der Missbrauch von Werkzeugen, abtrünnige Agenten, unsichere Kommunikation zwischen Agenten und Kaskadenausfälle.

Warum sind die OWASP Top 10 für agentenbasierte KI wichtig?

Viele Unternehmen erproben agentische KI noch in Pilotprojekten, doch erste Workloads sind bereits mit Produktivsystemen verbunden. Dadurch können sich Fehler inzwischen auf reale Daten, APIs, Arbeitsabläufe und Nutzer auswirken. Das Framework bietet CISOs, Architekten und Sicherheitsteams eine praxisnahe Möglichkeit, die Bereiche mit den größten Risiken zu identifizieren, Schutzmaßnahmen aufeinander abzustimmen und von Anfang an sicherere KI-Systeme zu entwickeln.

Wie funktionieren die OWASP Agentic AI Top 10?

Das Framework unterteilt die Risiken agentischer KI in zehn Kategorien:

ASI01 Manipulation des Agentenziels – Ein Angreifer manipuliert die Ziele, Anweisungen oder den Entscheidungsweg eines Agenten, sodass dieser unbeabsichtigte Ergebnisse verfolgt.

ASI02 Missbrauch und Ausnutzung von Tools – Ein Agent verwendet verbundene Tools auf unsichere Weise oder Angreifer nutzen Tool-Schnittstellen aus, um sich Zugriff zu verschaffen oder Schaden anzurichten.

ASI03 Identitäts- und Berechtigungsmissbrauch – Agenten missbrauchen Anmeldedaten, Token oder übernommene Berechtigungen, um über die vorgesehenen Grenzen hinaus auf Systeme oder Daten zuzugreifen.

ASI04 Schwachstellen in der Lieferkette agentischer Systeme – Risiken, die durch Drittanbieter-Tools, Plugins, Registries, MCP-Server oder externe Komponenten entstehen, die in Agenten-Workflows verwendet werden.

ASI05 Unerwartete Codeausführung – Ein Agent generiert, verändert oder führt Code oder Befehle auf eine Weise aus, die Sicherheits- oder Betriebsrisiken verursacht.

ASI06 Manipulation von Kontextverwaltung und -abruf – Abgerufener oder gespeicherter Kontext ist vergiftet, irreführend, veraltet oder manipuliert und beeinflusst dadurch das zukünftige Verhalten des Agenten.

ASI07 Unsichere Kommunikation zwischen Agenten – Agenten tauschen Nachrichten ohne ausreichende Authentifizierung, Integritätssicherung oder Richtlinienkontrollen aus, wodurch Missbrauchsmöglichkeiten entstehen.

ASI08 Kaskadierende Ausfälle – Ein einzelner Fehler, eine Kompromittierung oder eine Fehlentscheidung breitet sich über verbundene Agenten, Tools oder Workflows aus.

ASI09 Ausnutzung des Vertrauens zwischen Mensch und Agent – Agenten nutzen überzeugende oder irreführende Ausgaben, um Benutzer zu unsicheren Handlungen oder Genehmigungen zu bewegen.

ASI10 Abtrünnige Agenten – Kompromittierte, fehlausgerichtete oder vom vorgesehenen Verhalten abweichende Agenten agieren in komplexen Systemen weiterhin auf unbeabsichtigte Weise.

Wie geht F5 mit den OWASP Agentic AI Top 10 um?

Die OWASP Agentic AI Top 10 zeigen die kritischsten Sicherheitsrisiken im Zusammenhang mit autonomen und teilautonomen KI-Systemen auf. Viele dieser Risiken bestehen nicht ausschließlich innerhalb des Modells. Sie entstehen in der übergreifenden Anwendungsarchitektur, unter anderem bei APIs, Datenflüssen, Drittanbieter-Tools, Identitätskontrollen und Laufzeitaktionen. Um ihnen zu begegnen, sind Kontrollen erforderlich, die sich über das gesamte Ökosystem der KI-Anwendung erstrecken.

F5 unterstützt Unternehmen bei der Bewältigung dieser Herausforderungen mit der F5 Application Delivery and Security Platform (ADSP), die Anwendungsbereitstellung, API-Schutz, Datenverkehrsmanagement, Richtliniendurchsetzung und Sicherheitsfunktionen für moderne Anwendungen und KI-Workloads vereint. Für agentenbasierte KI schafft dies eine solidere Grundlage für den Schutz der Umgebungen, in denen KI-Systeme eingesetzt werden.

Innerhalb von ADSP:

• F5 AI Guardrails unterstützt die Durchsetzung von Richtlinien für Prompts, Ausgaben und das Modellverhalten an der Inferenzgrenze.
• F5 AI Red Team hilft dabei, durch adversariale Tests Schwachstellen in Modellen, Anwendungen und agentenbasierten Workflows zu identifizieren.
• F5 WAAP schützt die Webanwendungen, APIs und digitalen Dienste, auf die Agenten zugreifen, um Daten abzurufen und Aktionen auszuführen.
• F5 AI Remediate hilft dabei, Erkenntnisse in die Praxis umzusetzen, indem identifizierte Risiken schneller in einsatzbereite Schutzmaßnahmen überführt werden.
• F5 BIG-IP unterstützt die Bereitstellung, Absicherung und Skalierung von KI-Anwendungen in komplexen Hybrid- und Multi-Cloud-Umgebungen.

Durch die Bündelung dieser Funktionen auf einer einzigen Plattform unterstützt F5 Unternehmen dabei, die OWASP-Richtlinien einzuhalten, betriebliche Risiken zu reduzieren und agentenbasierte KI mit größerem Vertrauen einzusetzen.