Gartner® führte F5 im Bericht „Gartner Custom-Built AI Agent Security Guide“ vom Juli 2026 in den Bestenlisten von Drittanbietern auf

Nirav ShahSenior Vice President, Produkt- und Lösungsmarketing | F5

In seinem im Juli 2026 veröffentlichten Sicherheitsleitfaden für individuell entwickelte KI-Agenten erklärt Gartner: „KI-Agenten bringen neue Sicherheitsrisiken mit sich, etwa indirekte Prompt-Injection und unkontrollierte Agenten, die geschäftliche Verluste verursachen können.“ Vor diesem Hintergrund wird die Modellauswahl selbst zu einem Sicherheitsaspekt.

F5 Labs veröffentlicht jeden Monat eine aktualisierte Rangliste des Comprehensive AI Security Index (F5 CASI). Sie bietet Unternehmen einen evidenzbasierten Überblick darüber, wie gut führende Modelle gängigen Angriffen durch Prompt-Injection und Jailbreaking standhalten. Und wir freuen uns, dass Gartner F5 in seinem Bericht erwähnt hat.

Bei der Modellauswahl standen traditionell Leistungsfähigkeit, Geschwindigkeit und Kosten im Mittelpunkt. Diese Faktoren sind nach wie vor wichtig, reichen jedoch nicht mehr aus, wenn ein Modell mit sensiblen Daten, externen Tools und geschäftskritischen Systemen verbunden ist. Die Sicherheitseigenschaften des Modells bestimmen das Risiko, das in die Anwendung einfließt, noch bevor zusätzliche Schutzmaßnahmen greifen.

CASI ist nicht darauf ausgelegt, ein allgemeingültiges Urteil darüber abzugeben, ob ein Modell sicher oder unsicher ist. Stattdessen liefert es praxisnahe Informationen, die den Anwendungsfall, die Daten, Berechtigungen, die Bereitstellungsumgebung und mögliche geschäftliche Auswirkungen berücksichtigen. So können Organisationen ihre eigenen Entscheidungen zur Sicherheit treffen.

Die Modellauswahl wird zunehmend zu einer Sicherheitsentscheidung

Modelle mit ähnlichen Fähigkeiten können sehr unterschiedliche Sicherheitsprofile aufweisen. Ein Modell kann gängigen Angriffen wirksamer widerstehen, während ein anderes möglicherweise stärkere kompensierende Kontrollen erfordert. Ohne vergleichbare Sicherheitsdaten bleibt Unternehmen nichts anderes übrig, als diese Entscheidungen auf Grundlage von Anbieteraussagen, Reputation oder Annahmen zu treffen.

CASI sorgt für mehr Systematik in diesem Prozess, indem es die Widerstandsfähigkeit von Modellen gegen Prompt-Injection- und Jailbreak-Techniken misst und die Ergebnisse so aufbereitet, dass Sicherheits-, KI- und Governance-Teams sie nutzen können. F5 Labs bewertet außerdem die Abwägungen zwischen Risiko und Leistung sowie zwischen Sicherheit und Kosten, denn das richtige Modell ist nicht einfach dasjenige mit der höchsten Punktzahl. Es ist vielmehr das Modell, dessen Sicherheits-, Leistungs- und Betriebsprofil zum vorgesehenen Anwendungsfall passt.

Für CISOs wird die Modellbewertung damit von einer technischen Präferenz zu einer Governance-Anforderung. Das Unternehmen sollte darlegen können, warum ein Modell ausgewählt wurde, welche Erkenntnisse der Entscheidung zugrunde lagen, welche Risiken weiterhin bestehen und welche Kontrollen vor der Bereitstellung erforderlich sind. Diese Dokumentation ist besonders wichtig, wenn Modelle aktualisiert werden, sich Anwendungen ändern oder der Agent Zugriff auf neue Daten und Tools erhält.

Agentenbasierte Risiken gehen über das Modell hinaus

Die Widerstandsfähigkeit des Modells ist nur der Ausgangspunkt. Sobald ein Modell in ein agentenbasiertes System eingebettet ist, erstrecken sich die Risiken auf Identitäten, Daten, Speicher, Prompts, Tools und die Aktionen, zu denen der Agent berechtigt ist. Selbst ein widerstandsfähiges Modell kann mit übermäßigen Berechtigungen eingesetzt, mit unsicheren Tools verbunden oder manipulierten Kontextinformationen ausgesetzt werden.

Der grundlegende Wandel besteht darin, nicht mehr zu bewerten, was ein Modell sagt, sondern zu steuern, was ein Agent tun kann. Ein Agent kann ein Ziel interpretieren, einen Plan erstellen, Werkzeuge auswählen, Informationen abrufen und systemübergreifend handeln. Dieselbe Anfrage kann daher zu einem anderen Ausführungsablauf und Risikoprofil führen, selbst wenn sich die Absicht des Benutzers nicht geändert hat.

Sicherheitsteams müssen den Handlungsspielraum als Teil des Designs definieren. Sie sollten festlegen, welche Entscheidungen der Agent treffen darf, worauf er zugreifen darf, welche Aktionen eine Genehmigung erfordern und welche untersagt sind. Ein interner Rechercheassistent und ein Agent, der zur Änderung von Produktionssystemen berechtigt ist, sollten nicht mit denselben Berechtigungen, Schutzmaßnahmen oder Überwachungsschwellenwerten betrieben werden.

Nachweise müssen mit dem Wandel Schritt halten

KI-Sicherheit darf nicht als einmalige Momentaufnahme betrachtet werden. Modelle werden aktualisiert, Anbieter passen Sicherheitsvorkehrungen an, Anwendungen erhalten neue Integrationen und Angreifer entwickeln neue Techniken. Eine Bewertung, die bei der Auswahl hilfreich war, spiegelt möglicherweise nicht mehr das aktuelle Risiko wider, sobald sich das Modell oder das umgebende System ändert.

CASI wird durch die Rangliste zum Agentic Resistance Score (ARS) ergänzt, die untersucht, wie Modelle im Laufe der Zeit auf anhaltende, adaptive und mehrstufige agentenbasierte Angriffe reagieren. Dies ist relevant, da ein gegnerischer Agent Kontext aufbauen, seine Taktik ändern und dasselbe Ziel auf mehreren Wegen verfolgen kann.

Der monatliche Rhythmus wird durch die Threat Intelligence von F5 Labs unterstützt, die verfolgt, wie sich Angriffstechniken und das Verhalten von Modellen im Laufe der Zeit verändern. Gemeinsam liefern CASI, ARS und die Bedrohungsforschung eine aktuelle Evidenzbasis für die Modellauswahl, Architekturentscheidungen und die Gestaltung von Sicherheitskontrollen. Sie ersetzen keine anwendungsspezifischen Tests, bieten Sicherheitsverantwortlichen jedoch eine fundiertere Ausgangsbasis.

Von der Bewertung zur Kontrolle

Erkenntnisse sind nur von begrenztem Wert, wenn sie nicht zu Änderungen bei der Absicherung des Systems führen. Tests von Modellen und Agenten sollten in die vor und während der Bereitstellung angewandten Kontrollmaßnahmen einfließen, darunter Zugriffsbeschränkungen, Schutzmechanismen zur Laufzeit, die Validierung von Tools, Datenschutz und Überwachung. Das im Produktivbetrieb beobachtete Verhalten sollte anschließend in neue Tests, Richtlinienänderungen und bei Bedarf strengere Kontrollmaßnahmen einfließen.

Dies ist das Betriebsmodell hinter der F5 AI Security Platform: KI-Risiken bewerten, Governance definieren und maßgeschneiderte Schutzmaßnahmen für Modelle, Anwendungen und Agenten durchsetzen. Die Plattform vereint Bewertung, adversariale Tests und Laufzeitsicherheit, sodass Unternehmen von der Identifizierung von Schwachstellen zur Verringerung der Gefährdung im Produktivbetrieb übergehen können. Die Forschung von F5 Labs stärkt diesen Kreislauf, indem sie Entscheidungen auf aktuelle Modelldaten und neu entstehende Angriffsmuster stützt.

Für CISOs besteht das Ziel darin, vermeidbare KI-Risiken zu beseitigen und das verbleibende Risiko durch evidenzbasierte Modellauswahl, Tests auf Systemebene, durchsetzbare Laufzeitkontrollen und kontinuierliche Neubewertung auf ein akzeptables, nachvollziehbares und steuerbares Maß zu reduzieren.

Unserer Ansicht nach erfolgt Gartners Identifizierung von CASI zu einem Zeitpunkt, an dem Unternehmen unter Druck stehen, ihre KI-Initiativen schneller voranzutreiben, ohne dabei Abstriche beim Kontrollniveau zu machen. Sicherheitsverantwortliche benötigen eine Möglichkeit, die Einführung von KI zu unterstützen und zugleich Klarheit über die akzeptierten Risiken und die erforderlichen Schutzmaßnahmen zu bewahren. Dazu müssen Nachweise zu den Modellen mit der Architektur und den betrieblichen Kontrollen verknüpft werden, die jede Bereitstellung umgeben.

Ein belastbares Programm basiert auf drei Disziplinen: das Modell bewerten, das Gesamtsystem testen und kontrollieren, worauf der Agent zugreifen und welche Aktionen er ausführen kann. Diese Disziplinen müssen kontinuierlich angewendet werden, da das zugrunde liegende Risiko nicht statisch bleibt. CASI, ARS und die Bedrohungsanalysen von F5 Labs liefern die Grundlage für diese Entscheidungen, während die F5 Al Security Platform Unternehmen dabei unterstützt, diese Erkenntnisse in die Praxis umzusetzen.

Das Ziel besteht nicht darin, die Einführung von KI zu verlangsamen. Vielmehr sollen CISOs eine fundiertere Entscheidungsgrundlage dafür erhalten, wo und unter welchen Bedingungen KI eingesetzt werden kann und welche Kontrollen dabei erforderlich sind. So können Unternehmen über isolierte Experimente hinausgehen und KI verantwortungsvoll und sicher skalieren. Genau diese operative Disziplin ist heute für KI in Unternehmen erforderlich.

Entdecken Sie die neuesten F5 CASI- und ARS-Bestenlisten und erfahren Sie mehr über die F5 AI Security Platform.

______

Gartner, Sicherheitsleitfaden für individuell entwickelte KI-Agenten, Dennis Xu, Erik Wahlstrom et al., 6. Juli 2026. GARTNER ist eine Marke von Gartner, Inc. und/oder deren verbundenen Unternehmen.

^{Gartner spricht keine Empfehlung für Unternehmen, Anbieter, Produkte oder Dienstleistungen aus, die in seinen Publikationen dargestellt werden, und rät Technologienutzern nicht dazu, ausschließlich Anbieter mit den höchsten Bewertungen oder einer anderen Auszeichnung auszuwählen. Die Publikationen von Gartner geben die Einschätzungen der Gartner-Organisation für Geschäfts- und Technologieanalysen wieder und sind nicht als Tatsachenbehauptungen zu verstehen. Gartner schließt in Bezug auf diese Publikation jegliche ausdrückliche oder stillschweigende Gewährleistung aus, einschließlich der Gewährleistung der Marktgängigkeit oder Eignung für einen bestimmten Zweck.}

Über den Autor

Nirav ShahSenior Vice President, Produkt- und Lösungsmarketing | F5

Nirav Shah ist Senior Vice President und Head of Products and Solution Marketing bei F5. Dort verantwortet er die strategische Ausrichtung in den Bereichen Anwendungssicherheit und KI-Sicherheit. Vor seinem Wechsel zu F5 war er elf Jahre lang in verschiedenen Führungspositionen bei Fortinet tätig, insbesondere als Leiter der Bereiche KI-gestützte SASE-, SOC- und sichere Netzwerklösungen. Zu seinem umfassenden beruflichen Hintergrund zählen außerdem bedeutende Positionen bei Cisco Systems, wo er wichtige SD-WAN-Initiativen vorantrieb. Mit mehr als zwei Jahrzehnten Erfahrung in der Cybersicherheitsbranche kann er eine nachweisliche Erfolgsbilanz bei der Einführung marktprägender Produkte und beim Aufbau leistungsstarker Teams vorweisen, die Produktentwicklung, Vertrieb und Marketing aufeinander abstimmen, um eine maximale Wirkung zu erzielen. Als Vordenker und Absolvent der USC spricht er regelmäßig auf Branchenkonferenzen und veröffentlicht häufig Beiträge in führenden Fachpublikationen über das Zusammenspiel von KI und Cybersicherheit. Darüber hinaus engagiert er sich für die Förderung angehender Cybersicherheitsexperten.

Weitere Blogbeiträge von Nirav Shah