KI-Sicherheit aus Sicht der Analysten: Erkenntnisse von Gartner®, Forrester und KuppingerCole

Jessica BrennanSenior Product Marketing Manager, KI-Sicherheit | F5

Unternehmen erkennen zunehmend, dass die Absicherung von KI speziell dafür entwickelte Lösungen erfordert. Herkömmliche Kontrollen stoßen an ihre Grenzen, wenn sich Modelle dynamisch verhalten, Agenten autonom agieren und sich Risiken nach der Bereitstellung rasch weiterentwickeln. Da generative KI inzwischen aktiv in Produktivumgebungen eingesetzt wird, stehen Verantwortliche für Sicherheit, Risikomanagement und Governance vor der Aufgabe, Bedrohungen zu bewältigen, die in Echtzeit auftreten und sich mit herkömmlichen Ansätzen der Anwendungssicherheit häufig nicht erfassen lassen.

Analystenstudien spiegeln diesen Wandel wider und bieten unterschiedliche Perspektiven darauf, wie Unternehmen ihre Sicherheitsstrategien für KI-gestützte Systeme anpassen sollten. Statt diese Perspektiven als einheitlichen Konsens darzustellen, untersucht dieser Beitrag, wie die verschiedenen Analysten-Frameworks von Gartner, Forrester und KuppingerCole mit KI-Risiken umgehen und wie Unternehmen diese Ansätze in Schutzmechanismen zur Laufzeit und KI-spezifisches Red Teaming überführen können.

KI-Risiken zur Laufzeit

Analystenstudien zeigen immer deutlicher: KI-Risiken sind dynamisch. Anders als herkömmliche Anwendungen können KI-Systeme ihr Verhalten abhängig von Prompts, Kontext und nachgelagerten Integrationen ändern. Dadurch entstehen noch lange nach der Bereitstellung neue Angriffswege.

Auch wenn verschiedene Analysten die Herausforderung unterschiedlich einordnen, zeigen ihre Untersuchungen wiederkehrende Aspekte auf, die Unternehmen bei der großflächigen Einführung von KI berücksichtigen sollten:

• Viele KI-Bedrohungen treten erst im laufenden Betrieb auf
• Die Schutzmaßnahmen der Modellanbieter allein reichen für die Unternehmens-Governance nicht aus
• Aufsicht erfordert kontinuierliche Transparenz, Rückverfolgbarkeit und Durchsetzung
• Tests müssen weiterentwickelt werden, um agentenbasierte, mehrstufige und adaptive Angriffe abzubilden

Diese Bedingungen haben dazu geführt, dass sich führende Forschungsarbeiten mit Sicherheitskontrollen befassen, die zur Laufzeit greifen, wenn KI-Systeme mit Benutzern, Daten und Geschäftsabläufen interagieren. Aus diesem Grund führen wir nun auch offiziell F5 AI Guardrails und F5 AI Red Team als zwei neue Lösungen innerhalb der F5 Application Delivery and Security Platform (ADSP) ein, die darauf ausgelegt sind, KI-Systeme in Unternehmen zur Laufzeit abzusichern.

Gartner® Market Guide für KI-Vertrauens-, Risiko- und Sicherheitsmanagement

In seinem „Market Guide for AI Trust, Risk and Security Management“ erklärt Gartner: „KI-Verantwortliche müssen mit Stakeholdern im gesamten Unternehmen zusammenarbeiten, um Vertrauen, Risiken und Sicherheit im Zusammenhang mit KI zu steuern. Sie sollten eine Organisationsstruktur schaffen, um Governance-Richtlinien für generative KI zu erstellen und zu aktualisieren sowie KI-TRiSM-Technologien zu bewerten und zu implementieren, die diese Richtlinien ermöglichen und durchsetzen. Dies hilft dem Unternehmen, systematisch eine sicherere, zuverlässigere, vertrauenswürdigere und geschütztere Nutzung von KI zu gewährleisten.“

Unsere Einschätzung hierzu und der Grund, warum wir TRiSM als einen maßgeblichen Referenzrahmen für KI-Sicherheitsprogramme betrachten, liegt darin, dass es KI-Systeme als dauerhaft betriebene Ressourcen behandelt, die einer kontinuierlichen Überwachung bedürfen – und nicht nur einer einmaligen Validierung. Darüber hinaus sind die Laufzeitprüfung und die Durchsetzung von Richtlinien zentrale Bestandteile des TRiSM-Frameworks, die Gartner wie folgt definiert:

„Wird auf Modelle, Anwendungen und Interaktionen von Agenten angewendet, um die transaktionsbezogene Übereinstimmung mit den Governance-Richtlinien der Organisation zu gewährleisten. Relevante Verbindungen, Prozesse, Kommunikationsvorgänge sowie Ein- und Ausgaben werden auf Verstöße gegen Richtlinien und erwartetes Verhalten überprüft. Anomalien werden hervorgehoben und entweder blockiert, automatisch behoben oder zur Untersuchung, Ersteinschätzung, Reaktion und gegebenenfalls Behebung an Menschen oder Incident-Response-Systeme weitergeleitet.“

Unserer Ansicht nach entspricht diese Beschreibung weitgehend dem Ansatz von F5 für die KI-Sicherheit zur Laufzeit. Mit F5 AI Guardrails, konzentriert sich F5 auf die Überprüfung und Durchsetzung von Richtlinien während laufender KI-Interaktionen – über Modelle, Anwendungen und Agenten-Workflows hinweg – und unterstützt Unternehmen dabei, Governance-Kontrollen dort anzuwenden, wo KI-Systeme tatsächlich eingesetzt werden.*

Forrester: Definition von KI-Red-Teaming und Schutzmechanismen in einem Modell zur kontinuierlichen Absicherung

Verschiedene Forrester-Studien untersuchen KI-Sicherheit aus betrieblicher Sicht und konzentrieren sich dabei auf Systeme, die autonom agieren und sich im Laufe der Zeit weiterentwickeln. Unserer Einschätzung nach liegt der Schwerpunkt von Forresters Arbeit nicht auf punktuellen Bewertungen, sondern darauf, wie Unternehmen die Kontrolle und Absicherung aufrechterhalten, während KI-Systeme in dynamischen Umgebungen eingesetzt werden.

In seiner Studie „Mit KI-Red-Teaming die Sicherheitslage KI-gestützter Anwendungen bewerten,^[i]“ definiert Forrester KI-Red-Team-Assessments wie folgt:

„Ein KI-Red-Team-Assessment verbindet traditionelle Red-Team-Konzepte der Cybersicherheit mit der Bewertung von Sicherheit, Toxizität und Schäden, die speziell mit künstlicher Intelligenz verbunden sind. KI-Red-Team-Einsätze sollten aus einer Kombination aus menschlichen Beteiligten, die Cybersicherheitstests des KI-unterstützenden Technologie-Stacks durchführen – einschließlich Infrastruktur, Anwendungen, APIs, Anpassungen an der KI wie Retrieval-Augmented Generation (RAG) und des zugrunde liegenden großen Sprachmodells –, sowie automatisierten Tests bestehen, bei denen KI zur Bewertung der Prompt-Sicherheit und allgemeinen Sicherheit eingesetzt wird.“

Diese Definition spiegelt die Art von KI-spezifischen adversarialen Tests wider, die von F5 AI Red Team durchgeführt werden. Indem Red-Team-Einsätze auf diese Weise konzipiert werden, unterstreicht diese Forschung unserer Ansicht nach, dass wirksame Tests berücksichtigen müssen, wie KI in reale Systeme eingebettet und darin betrieben wird, anstatt sie isoliert zu bewerten.

Parallel dazu Einführung des AEGIS-Frameworks von Forrester: Agentic AI Enterprise Guardrails für Informationssicherheit,^[ii] heißt es: „Die Einrichtung unternehmensweiter Guardrails ist für eine sichere Bereitstellung von entscheidender Bedeutung.“ F5 unterstützt dies und ermöglicht es Unternehmen, AI Guardrails als Mechanismen einzusetzen, die während des Systembetriebs die Überwachung und Durchsetzung von Richtlinien unterstützen – insbesondere dort, wo KI-Systeme direkt mit Benutzern, sensiblen Daten und verbundenen Anwendungen interagieren.

Aus diesen Forschungsbereichen ziehen wir eine klare Schlussfolgerung: Forrester stellt Guardrails und Red Teaming als eigenständige, aber miteinander verbundene Praktiken dar, die im Rahmen eines kontinuierlichen Absicherungsansatzes für KI-Sicherheit eingesetzt werden können. Dies unterstreicht die Bedeutung einer fortlaufenden Überwachung anstelle einer einmaligen Validierung.**

KuppingerCole: Schutz generativer KI als eigenständige Marktkategorie anerkennen

In seinem „Generative AI Defense Leadership Compass“ untersucht KuppingerCole die Abwehr generativer KI als eine aufstrebende Disziplin, deren Anforderungen über herkömmliche Kontrollen für Anwendungs- und Datensicherheit hinausgehen. Dazu bewertet KuppingerCole, wie Unternehmen mit Risiken umgehen, die durch große Sprachmodelle und KI-gestützte Anwendungen in Produktionsumgebungen entstehen.

Eine zentrale Empfehlung des Berichts ist der Einsatz von Sicherheitskontrollen direkt dort, wo KI-Systeme tatsächlich genutzt werden, um Echtzeitschutz, die Durchsetzung von Richtlinien und die Auditierbarkeit über verschiedene Bereitstellungsmodelle hinweg zu ermöglichen. Statt sich ausschließlich auf die Modellentwicklung oder Schutzmaßnahmen auf Anbieterebene zu konzentrieren, verdeutlicht diese Analyse, dass der Absicherung von KI-Interaktionen zunehmend Aufmerksamkeit gewidmet wird, sobald die Systeme bereitgestellt und mit Nutzern, Anwendungen und sensiblen Daten verbunden sind.

Da dieser Leadership Compass als Marktleitfaden dient, der Unternehmen dabei unterstützt, die besten Lösungen zu finden, hat KuppingerCole nach der Bewertung unserer Produkte AI Guardrails und AI Red Team F5 als führenden Anbieter eingestuft – und zwar in den Kategorien Produkt, Innovation und Markt. Wie im Bericht erläutert, unterstreicht diese Einstufung die „hochmodernen Produkte von F5, die nicht nur auf Kundenanforderungen reagieren, sondern auch technische Veränderungen im Markt vorantreiben, indem sie frühzeitig erkennen, was in den kommenden Monaten und Jahren benötigt wird.“***

Analystenperspektiven in die Praxis umsetzen

Obwohl Gartner, Forrester und KuppingerCole KI-Sicherheit aus unterschiedlichen analytischen Perspektiven betrachten, zeigt ihre Forschung praktische Herausforderungen auf, an deren Lösung Unternehmen aktiv arbeiten, darunter:

• Richtlinien bei KI-Interaktionen konsequent durchsetzen
• Reale KI-Risiken verstehen, bevor es zu Vorfällen kommt
• Die Kontrolle aufrechterhalten, während sich KI-Systeme weiterentwickeln und skalieren

Hier fügen sich F5 AI Guardrails und F5 AI Red Team in das Gesamtbild ein. AI Guardrails ermöglichen die Durchsetzung von Richtlinien zur Laufzeit und helfen so, das Verhalten von KI-Systemen im Produktivbetrieb zu steuern, während AI Red Team adversariale Tests ermöglicht, die reale Nutzungsszenarien und Angriffsmuster abbilden.

(Hinweis: Diese Übereinstimmung ist nicht als Empfehlung durch Analysten zu verstehen. Vielmehr zeigt sie, wie sich die KI-Laufzeitsicherheitsfunktionen von F5 den in Analystenstudien beschriebenen Kontrolltypen und Betriebsmodellen zuordnen lassen.)

KI-Investitionen absichern und optimieren

Da KI-Systeme immer autonomer und geschäftskritischer werden, gehen die mit unzureichender Sicherheit verbundenen Risiken über Sicherheitsverletzungen hinaus und umfassen auch Compliance-Risiken, Reputationsschäden und ins Stocken geratene Innovationen. Analysten-Frameworks – von Gartner TRiSM über Forresters Arbeit zu AEGIS bis hin zu KuppingerColes Forschung zur Abwehr generativer KI – verdeutlichen, warum Laufzeit-Schutzmechanismen und KI-Red-Teaming für KI-Sicherheitsstrategien in Unternehmen zunehmend an Bedeutung gewinnen.

Einfach ausgedrückt helfen die KI-Laufzeitsicherheitslösungen von F5 Unternehmen dabei, diese Erkenntnisse in die Praxis umzusetzen, und ermöglichen eine sichere Einführung von KI, ohne die für Innovationen erforderliche Flexibilität einzuschränken.

Weitere Informationen finden Sie auf unseren Webseiten zu F5 AI Guardrails und F5 AI Red Team .

Haftungsausschlüsse der Analysten

*Quelle: Gartner-Bericht „Market Guide for AI Trust, Risk and Security Management“ von Avivah Litan, Max Goss et al., Februar 2025. GARTNER ist eine eingetragene Marke und Dienstleistungsmarke von Gartner, Inc. und/oder seinen verbundenen Unternehmen in den USA und weltweit und wird hier mit Genehmigung verwendet. Alle Rechte vorbehalten.

**Forrester Research spricht keine Empfehlung für ein Unternehmen, Produkt oder eine Dienstleistung aus. Diese Ausführungen geben eine Interpretation öffentlich zugänglicher Forschungsergebnisse von Forrester wieder und dienen ausschließlich Informationszwecken.

***KuppingerCole spricht keine Empfehlung für einen Anbieter, ein Produkt oder eine Dienstleistung aus. Diese Ausführungen basieren auf lizenzierten Forschungsergebnissen von KuppingerCole und dienen ausschließlich zu Informationszwecken.

[i] Mit KI-Red-Teaming die Sicherheitslage KI-gestützter Anwendungen bewerten, Forrester Research Inc., 29. Sept. 2025
[ii] Vorstellung des AEGIS-Frameworks von Forrester: Agentic AI Enterprise Guardrails für Informationssicherheit, Forrester Research, Inc., 3. Aug. 2025

Über den Autor

Jessica BrennanSenior Product Marketing Manager, KI-Sicherheit | F5

Weitere Blogbeiträge von Jessica Brennan