Wie steht SecOps zu KI? Übermäßige Handlungsautonomie

Mark TolerProduktmarketing-Manager | F5

In der zweiten Jahreshälfte 2025 entwickelte sich KI von einer Entscheidungshilfe zu einem Entscheidungsträger, und Sicherheitsteams bereiten sich mit Sorge auf die Folgen dieser Autonomie vor. Das ist zumindest die vorherrschende Stimmung, die aus der jüngsten Aktualisierung unserer F5-Studie zur Wahrnehmung von KI hervorgeht. Diese umfassende Studie untersucht, wie die 500 aktivsten Mitwirkenden in der größten Cybersicherheits-Community des Internets, Reddits r/cybersecurity, über KI denken.

In unserer letzten Analyse, standen Bedenken hinsichtlich Schatten-KI und der Datensicherheit bei KI-Diensten von Drittanbietern im Mittelpunkt der Aufmerksamkeit von Fachleuten. In der zweiten Jahreshälfte 2025 verlagerte sich der Fokus jedoch auf die übermäßigen Handlungsspielräume und Zugriffsrechte, die den KI-Implementierungen in den eigenen Unternehmen eingeräumt wurden.

Mit dieser Sorge geht eine rasch wachsende Skepsis einher, welchen tatsächlichen Nutzen KI im Verhältnis zu diesen Risiken bringen wird. Fachleute plädieren nicht dafür, dass die Welt den „KI-Zug“ mit einer Vollbremsung zum Stillstand bringt. Doch mit der Einführung autonomer Agenten ist die Nachfrage nach speziellen Schutzmaßnahmen so hoch wie nie zuvor.

„Übermäßige Handlungsautonomie“ ist inzwischen die größte Sorge von Sicherheitsexperten. Laut der Stimmungsanalyse von F5 stieg die Zahl der Erwähnungen in der Reddit-Community r/cybersecurity im zweiten Halbjahr 2025 gegenüber dem ersten Halbjahr um 1.300 %.

Übermäßige Handlungsautonomie löst Schatten-KI als größte Sorge ab

Laut der Sentimentanalyse von F5 wurden Erwähnungen von „übermäßiger Handlungsautonomie“ in Reddits Community r/cybersecurity im zweiten Halbjahr 2025 13-mal häufiger verzeichnet als im ersten Halbjahr 2025. Damit wurde sie zum meistgenannten Problem unter Sicherheitsexperten. Dies geschieht zu einer Zeit, in der KI-Systeme mehr Entscheidungsautonomie und Zugriff auf Tools in kritischen Arbeitsabläufen sowie umfassenden Zugang zu sensiblen Daten erhalten. Übermäßige Handlungsautonomie wird allgemein als das Ergreifen von Maßnahmen durch KI-Systeme definiert, die über den vorgesehenen Rahmen oder die vorgesehene Aufsicht hinausgehen. Sie äußerte sich nicht nur in vorausschauender Sorge über die Auswirkungen autonomer KI-Agenten, sondern häufiger noch im direkten oder indirekten Einfluss von KI auf kritische Arbeitsabläufe.

Mit jedem spannenden, innovativen Anwendungsfall im Gesundheitswesen, im Finanzdienstleistungssektor oder in der Technologie wächst das Ausmaß der möglichen Folgen im schlimmsten Fall überproportional. Ein Praktiker veranschaulicht dies am Beispiel des übermäßigen Vertrauens in KI-Tools zur Zusammenfassung:

Das bemerkenswerteste erörterte Beispiel für übermäßige Handlungsautonomie war der Vorfall mit dem Replit-Coding-Agenten im Juli, bei dem ein Agent während eines laufenden Code-Freeze eine komplette Kundendatenbank löschte. Sicherheitsversagen bei KI-Systemen ist nicht immer so unübersehbar wie in diesem Fall; oft äußert es sich in subtilen semantischen Hinweisen, die sich bei herkömmlichen Interaktionen mit LLMs nur schwer eindämmen lassen, in agentischen Workflows mit eingeschränkterer Transparenz jedoch eine noch größere Herausforderung darstellen.

Die KI-Stimmungsanalyse von F5 zeigte, dass sich die Sorge von Sicherheitsexperten über „KI-Schrott“ im zweiten Halbjahr 2025 gegenüber dem ersten Halbjahr verdoppelte und 17 % aller geäußerten Bedenken ausmachte.

KI-Müll ist ein Sicherheitsrisiko

Zweifel am aktuellen, kurz- oder langfristigen Nutzen von KI waren im zweiten Halbjahr 2025 weitverbreitet. Die öffentliche Aufmerksamkeit für „KI-Schrott“ – massenhaft produzierte, minderwertige KI-generierte Inhalte, die Informationskanäle verunreinigen und den betrieblichen Aufwand sowie die Risiken erhöhen – verdoppelte sich im zweiten Halbjahr 2025. Dies zeigte sich in minderwertigem KI-generiertem Code, wachsendem Misstrauen gegenüber mutmaßlich KI-generierten Inhalten und gesellschaftlichen Bedenken wie einer geistigen Abstumpfung durch die Abhängigkeit von KI.

Sicherheitsexperten erwarten von KI-gestützten Anwendungen und Funktionen einen nachweisbaren, reproduzierbaren Mehrwert. Diese Gruppe lehnt den Einsatz von KI keineswegs grundsätzlich ab; sie nutzt KI/ML bereits seit Jahren mit allgemein hoher Zufriedenheit zur Bedrohungserkennung und -bewertung. Zudem weisen Sicherheitsexperten häufig darauf hin, dass unnötig umfangreicher, KI-generierter Code Schwachstellen verursachen und die Zahl der Entwickler verringern kann, die die von ihnen betreuten Systeme vollständig verstehen.

Dieses als „unsicheres Design“ bezeichnete Phänomen wurde im zweiten Halbjahr 3,1-mal häufiger erwähnt. Infolge dieser zunehmenden Ermüdung werden Produkte, die mit KI-Funktionen beworben werden, strenger geprüft, als dies bei weniger ausgereiften Implementierungen früher möglicherweise der Fall gewesen wäre.

KI-Red-Teaming sorgt für Optimismus

Trotz der Flut an KI-Tools, die viel versprechen, aber wenig halten, wurden spezielle Tools für KI-Red-Teaming 2,71-mal häufiger erwähnt. Über 95 % dieser Erwähnungen befürworteten die Praxis als neue grundlegende Anforderung. Ein Praktiker brachte es treffend auf den Punkt:

Da die Einstiegshürden für böswillige Akteure sinken und viele von ihnen durch eigene KI-Tools zusätzliche Möglichkeiten erhalten, müssen Abwehrmaßnahmen mit den neuartigen Techniken für Prompt-Injection und Jailbreaking Schritt halten, die Angreifer täglich entwickeln.

Die speziell für diesen Wettlauf entwickelten Red-Teaming-Tools stießen Anfang 2025 zunächst auf ein geteiltes Echo, wobei die meisten ihre Wirksamkeit im Vergleich zu menschlichen offensiven Sicherheitsteams infrage stellten. Diese Skepsis wandelte sich in der zweiten Jahreshälfte zu einem der stärksten Gründe für Optimismus, als die Angebote ausgereifter wurden und die Bandbreite gegnerischer Techniken zu groß wurde, um sie allein mit herkömmlichen manuellen Tests abzudecken.

Wie F5 auf die neuesten Trends ausgerichtet ist

Die offensichtlichste Erkenntnis aus den jüngsten Stimmungstrends ist, wie schnell sich alles verändert: Risiken, Herausforderungen und Anforderungen entwickeln sich rasant. Die Absicherung von KI-Workloads ist eine komplexe Aufgabe, und die Anforderungen unterscheiden sich von Unternehmen zu Unternehmen erheblich.

Kein Anbieter kann standardmäßig alle Nuancen und Zusammenhänge vollständig erfassen, die erforderlich sind, um jeden Fall übermäßiger Zugriffsrechte und Handlungsspielräume abzusichern. Mit F5 AI Guardrails erhalten Sicherheitsteams jedoch sofortigen Schutz vor den häufigsten Bedrohungen für KI-Systeme sowie die Möglichkeit, benutzerdefinierte Schutzmechanismen zu erstellen und die Abwehrmaßnahmen schnell an individuelle Anforderungen anzupassen.

Wir teilen außerdem die Auffassung, dass KI-Red-Teaming kein Luxus mehr ist, sondern eine grundlegende Voraussetzung für die Absicherung von KI-Systemen. Gestützt auf unsere führende Datenbank für KI-Schwachstellen mit über 130.000 Angriffsmustern hilft F5 AI Red Team Teams dabei, Schwachstellen zu finden und zu beheben, bevor Angreifer sie ausnutzen können.

Möchten Sie mehr über die Forschung von F5 zur Einschätzung von Fachleuten und zu KI-Bedrohungen erfahren? Sehen Sie sich unser Webinar „KI-Sicherheit, die Schritt hält.“ an.

Lesen Sie außerdem unsere früheren Blogbeiträge, in denen wir die Einstellung von Sicherheitsexperten gegenüber KI analysieren: „Wie steht SecOps zu KI?“ Teil 1 und Teil 2.

Über den Autor

Mark TolerProduktmarketing-Manager | F5

Weitere Blogbeiträge von Mark Toler