Agentischer Widerstand: KI für ihre vorgesehenen Zwecke beschleunigen

In Jurassic Park gibt es eine berühmte Szene, in der der Wildhüter Muldoon beschreibt, wie die Raptoren die Hochspannungszäune systematisch auf Schwachstellen untersuchen. Sie prüfen nie zweimal dieselbe Stelle. „Sie erinnern sich“, sagt Muldoon, als ihm die Erkenntnis dämmert.

Das ist eine treffende Analogie für unsere derzeitige Lage, während Unternehmen sich mit Hochdruck der KI zuwenden. Bedrohungsakteure stehen bereits Schlange, um diese neuen Systeme auf Schwachstellen abzuklopfen – unterstützt von KI-gestützten Tools, die sich merken können, was funktioniert. Derzeit sind die Schutzvorkehrungen dieser Aufgabe nicht gewachsen.

Das ist besorgniserregend, denn KI wird immer leistungsfähiger. Bis 2028 werden 33 % der Unternehmenssoftwareanwendungen agentenbasierte KI enthalten, gegenüber weniger als 1 % im Jahr 2024, so die Prognosen von Gartner. Bis 2029 wird agentenbasierte KI 80 % der häufig auftretenden Kundenserviceanfragen autonom lösen – ohne menschliches Eingreifen, prognostiziert Gartner. 

Diese autonomen digitalen Agenten bestehen im Wesentlichen aus drei Ebenen:

• Ein Zweck: die konkrete Aufgabe, die dem Agenten zugewiesen wurde

• Ein Gehirn: das zugrunde liegende KI-Modell, höchstwahrscheinlich von einem der führenden KI-Unternehmen

• Tools: Zugriff auf die Tools, die der Agent zur Erfüllung seiner Aufgabe benötigt – von internen Softwaresystemen bis hin zu Browsern und E-Mail

Jeder Agent ist von Natur aus anders. In einem System können mehrere Agenten vorhanden sein. Dies ebnet den Weg für eine Zukunft, in der potenziell Milliarden von Agenten Aufgaben in Organisationen auf der ganzen Welt ausführen. Diese reichen von ganz alltäglichen Verwaltungsaufgaben bis hin zu wesentlich sensibleren, geschäftskritischen Tätigkeiten.

Ein Agent zur Buchung von Besprechungen kann über APIs auf Unternehmenskalender und ein Urlaubsbuchungssystem zugreifen und dazu berechtigt sein, Räume zu reservieren. Durch schnelle, autonome Interaktionen zwischen dem Gehirn und den Tools findet der Agent die benötigten Informationen und bucht die Besprechung.

Ein Endnutzer muss nicht alle Wechselwirkungen innerhalb eines KI-Systems verstehen. Er sollte jedoch erwarten können, dass der Anbieter der Lösung auch Sonderfälle berücksichtigt hat – also Situationen, in denen das System fehlerhaft reagieren kann – und entsprechende Schutzmaßnahmen bereitstellt.

Das Permutationsproblem

Unternehmen stehen vor wichtigen Fragen: Wie weisen Sie nach, dass Ihr KI-System sicher ist? Welche Maßnahmen haben Sie ergriffen, um Ihre Systemgrenzen zu testen? Die Antworten liegen in der Überwachung und Absicherung jeder einzelnen Ebene – überall dort, wo der Agent mit dem Modell und den Tools interagiert und umgekehrt.

Ohne Tests und Schutzmaßnahmen ist agentische KI anfällig für Fehlfunktionen und externe Angriffe. Die Folgen können von unerfreulich (eine chaotisch verlaufene Besprechung) bis katastrophal reichen (ein Agent, der berechtigt ist, Finanztransaktionen durchzuführen oder Kundeninformationen per E-Mail an Dritte zu senden).

Um zu verhindern, dass solche Sonderfälle in der Praxis auftreten, müssen Sie sie aufdecken können. Das ist problematisch, denn mit jedem zusätzlichen Element, das Sie einem agentenbasierten System hinzufügen – etwa neuen Tools oder einem aktualisierten Modell –, steigt dessen Komplexität um ein Vielfaches. Die Zahl der möglichen Varianten, wie der Agent seine Aufgaben erledigt, wächst explosionsartig – und damit auch die Angriffsfläche für böswillige Akteure.

Demgegenüber sind Sicherheitstests von KI-Modellen nach wie vor stark auf den Menschen ausgerichtet. Selbst die größten KI-Organisationen setzen auf manuelles Red-Teaming, um ihre Modelle zu testen. Für Menschen ist es unvorstellbar schwierig und zeitaufwendig, alle möglichen Varianten in einem agentischen System zu ermitteln.

Doch damit nicht genug: Neben dem Permutationsproblem verändert sich auch die Zusammensetzung von KI-Agenten ständig. Wenn Sie eine neue Version des Modells einsetzen, auf dem Ihre Agenten basieren, müssen Sie die Sicherheitstests von vorn beginnen. Wird die API aktualisiert, die die Verbindung zu einem Tool herstellt, müssen Sie ebenfalls von vorn anfangen.

Hinzu kommt die Aussicht, dass Agenten mit Programmierfähigkeiten irgendwann in der Lage sein könnten, das Modell und/oder die Tools selbst zu aktualisieren. Selbst hochqualifizierte Fachkräfte mit Zugriff auf bestehende Softwaretools können da unmöglich mithalten.

Einführung in agentischen Widerstand

Die Herausforderung, neue Technologien zu testen, erfordert eine überlegene technologische Lösung: den Einsatz leistungsfähiger KI-Agenten, um das Red-Teaming von KI-Systemen zur Erkennung von Schwachstellen und Fehlern zu automatisieren. Wir nennen dies „Agentic Resistance“ – die neue Grenze der KI-Sicherheit.

Agentic Resistance begegnet dem äußerst anspruchsvollen Permutationsproblem direkt, indem es sich die Eigenschaften von Agenten zunutze macht:

• Auf der Zweckebene können wir den Zweck eines Agenten jederzeit ändern oder einfach durch das Verfassen einer neuen Beschreibung weitere Agenten hinzufügen.

• Auf der Intelligenzebene führen wir kontinuierlich Aktualisierungen durch, um die Vorteile der neuesten KI-Modelle zu nutzen, wie etwa die kürzlich eingeführten Reasoning-Modelle.

• Auf der Werkzeugebene können wir Schnittstellen entwickeln, die unseren Agenten Zugriff auf Sammlungen von Open-Source-Tools für Penetrationstests ermöglichen.

Was wir nun haben, ist ein leistungsstarkes agentenbasiertes System, das speziell darauf ausgelegt ist, Schwachstellen und Grenzfälle in KI-Systemen aufzuspüren. Es nutzt seine Intelligenz, um zu bestimmen, welche Aufgaben es in welcher Reihenfolge und mit welchen Werkzeugen ausführen sollte, um sein Ziel zu erreichen. Dank des integrierten Gedächtnisses lernt der Agent bei jedem Schritt dazu.

Agentic Resistance ist in der Lage, die bislang kaum zu bewältigende Herausforderung der Absicherung agentischer KI anzugehen, indem es Brute-Force-Permutationsangriffe mit einer integrierten Intelligenzschicht kombiniert. Dadurch wird die derzeit bestehende Diskrepanz zwischen agentischer KI und manuellem Red-Teaming beseitigt.

Dieser neue Ansatz widerlegt auch die Fehlannahme, dass KI-Sicherheit ein Engpass sei. Da Schwachstellen in Ihrem KI-System sowohl vor der Markteinführung als auch fortlaufend schnell erkannt werden können, ist das System von Grund auf sicherer und die Iterationsgeschwindigkeit wird erhöht.

Genau das leistet Agentic Resistance: eine praxisnahe, beschleunigte Bedrohungserkennung, die die besten Voraussetzungen dafür schafft, den Einsatz von KI für die vorgesehenen Zwecke voranzutreiben.

Spoilerwarnung: Als in Jurassic Park der Strom ausfiel und der Zaun versagte, waren die Raptoren bereit zur Flucht. Die Botschaft für Unternehmen lautet: Denken Sie wie die Raptoren und setzen Sie modernste Technologien ein, um Ihre Sicherheitsgrenzen systematisch zu testen und sicherzustellen, dass sie nicht ohne Weiteres überwunden werden können.

Der F5 Comprehensive AI Security Index bewertet führende KI-Modelle anhand realitätsnaher Sicherheitstests und deckt kritische Risiken auf, die bei Leistungsbenchmarks übersehen werden. Unterstützt durch F5 AI Red Team, ist er das einzige Tool, mit dem Sie vor der Bereitstellung das sicherste Modell finden können.