Die Ankündigung von F5, CalypsoAI zu übernehmen, ist ein weiterer Schritt hin zum TRiSM-Framework

Ian LauthDirector Product Marketing, KI | F5

Künstliche Intelligenz ist für die Cybersicherheit zu einem zweischneidigen Schwert geworden. Während KI-Modelle Innovationen vorantreiben und ganze Branchen verändern, birgt ihre inhärente Unvorhersehbarkeit neue Risiken. Ob ein peinlicher Chatbot-Dialog oder ein Agent mit zu weitreichenden Befugnissen – die neue Risikolandschaft ist voller Fallstricke für die Reputation, die unerwünschte Medienaufmerksamkeit nach sich ziehen oder das Vertrauen der Kunden untergraben können.

Jede neue Modellversion bringt neue Schwachstellen mit sich. Sobald Unternehmen diesen Modellen in großem Umfang Handlungsspielraum einräumen – sei es durch den Aufruf von Tools oder die Ausführung von Vorgängen –, haben Ausnutzung, Verzerrungen und Sicherheitsprobleme weitaus gravierendere Folgen. Daher sind mehr Kontrollmechanismen und Schutzvorkehrungen erforderlich.

In seinem kürzlich veröffentlichten „Marktleitfaden für Vertrauens-, Risiko- und Sicherheitsmanagement bei KI (TRiSM)“¹ erklärt Gartner®, dass „Unternehmen mit zahlreichen KI-Risiken konfrontiert sind und sich vor allem über die Gefährdung von Daten, Risiken durch Dritte sowie ungenaue oder unerwünschte Ergebnisse Sorgen machen“. Unserer Ansicht nach unterstreicht dies die Notwendigkeit einer stärkeren Governance sowie eines umfassenderen Sicherheits- und Risikomanagements. Für Unternehmen, die KI in großem Umfang einsetzen – insbesondere, wenn dies schnell geschehen soll –, ist dies zu einer entscheidenden Notwendigkeit geworden. Die Implementierung von TRiSM-Kontrollen ermöglicht eine sicherere und zugleich schnellere Einführung von KI.

In diesem sich wandelnden Umfeld wird sich die Übernahme von CalypsoAI durch F5 als zeitgemäßer und strategischer Schritt zur Bewältigung dieser Herausforderungen erweisen. Zu den relevanten Kompetenzen zählen die Expertise von CalypsoAI in den Bereichen KI-Governance sowie Laufzeitüberprüfung und Durchsetzung von Richtlinien für KI-Systeme. Durch die Integration der Funktionen von CalypsoAI in die F5 Application Delivery and Security Platform (ADSP) positioniert sich F5 als führender Anbieter einer umfassenden Lösung, die nicht nur KI-Risiken mindert, sondern Unternehmen auch ermöglicht, ihre KI-Implementierungen flexibel, sicher und vertrauenswürdig zu skalieren.

Orientierung in einer sich rasant weiterentwickelnden KI-Landschaft

Der KI-Markt entwickelt sich in beispiellosem Tempo weiter, wobei sich grundlegende große Sprachmodelle (Large Language Models, LLMs) und spezialisierte kleine Sprachmodelle (Small Language Models, SLMs) branchenübergreifend verbreiten. Unternehmen, die in diesem dynamischen Umfeld weiterhin auf herkömmliche Tools setzen, laufen Gefahr, bei der Skalierbarkeit, der Wahrung ihrer Flexibilität und der Kostenkontrolle an ihre Grenzen zu stoßen.

Gartner erklärt dazu: „Unternehmen müssen ihre Unabhängigkeit von einzelnen KI-Modellen oder Hosting-Anbietern bewahren, um Skalierbarkeit, Flexibilität, Kostenkontrolle und Vertrauen sicherzustellen, da sich die KI-Märkte rasant weiterentwickeln und verändern.“¹

Wir stimmen zu, dass es wichtig ist, die Unabhängigkeit von einzelnen KI-Modellen oder Hosting-Anbietern zu wahren, da Flexibilität und Vertrauen erforderlich sind, während KI-Funktionen kontinuierlich auf neue Anwendungsfälle ausgeweitet werden.

F5 reagiert direkt auf diese dynamische Landschaft, indem es die Echtzeit-Sicherheitsprüfung und Risikobewertung von CalypsoAI für jedes Modell integriert – unabhängig von dessen Herkunft. Unternehmen, die F5 ADSP in Verbindung mit den Lösungen von CalypsoAI einsetzen, können bedenkenlos unterschiedliche KI-Tools nutzen und gleichzeitig die Kontrolle über ihre Modelle und Anwendungen behalten. Diese Unabhängigkeit verringert die Abhängigkeit von bestimmten KI-Anbietern und macht KI-Implementierungen zukunftssicher und skalierbar.

Ein mehrschichtiger Ansatz für KI-Sicherheit

Laut dem Gartner Market Guide for AI TRiSM¹ gibt es vier Ebenen technischer Fähigkeiten, die allesamt auf einer fünften Ebene aufbauen, welche den Schutz herkömmlicher Technologien darstellt:

1. KI-Governance
2. Laufzeitprüfung und -durchsetzung
3. Informationsgovernance
4. Infrastruktur und Technologie-Stack

Unserer Ansicht nach gewährleistet dieses Framework die Vertrauenswürdigkeit und Sicherheit von KI-Systemen, indem es überprüft, ob sie mit den Richtlinien der Organisation, den regulatorischen Anforderungen und den ethischen Erwartungen im Einklang stehen.

Technologiefunktionen von Gartners AI TRiSM

Diese Grafik wurde von Gartner, Inc. als Teil eines umfassenderen Forschungsdokuments veröffentlicht und sollte im Kontext des gesamten Dokuments bewertet werden. Das Gartner-Dokument ist auf Anfrage bei F5 erhältlich.

Die Übernahme von CalypsoAI wird die Rolle von F5 als führender Anbieter von Anwendungssicherheit stärken, insbesondere im Bereich KI, in dem Unternehmen zunehmend sowohl von außen als auch von innen bedroht werden – durch böswillige Akteure, die fehlgeleitete Verhaltensweisen von KI ausnutzen, sowie durch das unvorhersehbare Verhalten der KI selbst. Die Kompetenzen von CalypsoAI in den Bereichen KI-Governance und Laufzeitkontrolle ergänzen F5 ADSP, das sich durch unternehmensweite Kontrollen für Informationen, Infrastruktur und herkömmliche Schutztechnologien auszeichnet. Gemeinsam sollen diese Stärken alle Ebenen von AI TRiSM abdecken,¹ und so einen durchgängigen Schutz für das Vertrauens- und Risikomanagement von KI bieten.

Die Stärken von CalypsoAI liegen in den beiden obersten Ebenen der Pyramide – KI-Governance sowie Laufzeitüberprüfung und -durchsetzung –, während F5 ADSP diese Funktionen durch die Unterstützung von Information Governance, Infrastruktur und traditionellen Schutzebenen ergänzt.

KI-Governance

CalypsoAI verbessert die KI-Governance durch Modellkatalogisierung und Risikobewertungssysteme, die einen einheitlichen Überblick über die KI-Ressourcen eines Unternehmens ermöglichen. Die Governance-Funktionen von CalypsoAI konzentrieren sich auf die Grundsätze verantwortungsvoller KI – Rechenschaftspflicht, Transparenz und Sicherheit. Durch die kontinuierliche Bewertung des Zustands und der Leistung von Modellen stellt CalypsoAI sicher, dass KI-Ausgaben mit regulatorischen Vorgaben wie der Datenschutz-Grundverordnung (DSGVO) und dem EU-Gesetz über künstliche Intelligenz im Einklang stehen, und stärkt so ethische und vertrauensbasierte KI-Praktiken.

KI-Laufzeitprüfung und -durchsetzung

CalypsoAI nutzt Runtime-Engines, um die Einhaltung von Richtlinien in KI-Anwendungen durchzusetzen. Diese Mechanismen ermöglichen die Echtzeitüberprüfung von KI-Interaktionen und zeigen Anomalien oder Verstöße auf. Die Plug-and-Play-Frameworks von CalypsoAI passen die Schutzmaßnahmen an das Modellverhalten und Erkenntnisse zu agentenbasierten Bedrohungen an und bieten so sowohl proaktiven Schutz als auch Echtzeitsicherheit für KI-Implementierungen in Unternehmen. Aufbauend auf diesen Erkenntnissen begegnet die Runtime-Überprüfung schädlichen Prompts, Risiken durch Verzerrungen und Compliance-Bedenken und versetzt Unternehmen damit in die Lage, neu auftretenden Bedrohungen einen Schritt voraus zu sein.

Informationsgovernance

F5 ADSP schafft eine robuste Information Governance auf der Grundlage von Übernahmen wie LeakSignal, um den Datenschutz in Produkten wie F5 BIG-IP SSL Orchestrator (SSLO) zu stärken. Diese Lösung spielt eine entscheidende Rolle bei der präzisen Erkennung der übertragenen Datentypen und ihrer Ziele. SSLO ermöglicht es Unternehmen, die KI-Modelle einsetzen, richtlinienbasierte Kontrollen durchzusetzen, die Daten vor einer Offenlegung abfangen und so das Risiko drastisch reduzieren.

CalypsoAI ergänzt sowohl eine erweiterte rollenbasierte Zugriffskontrolle (RBAC) als auch Funktionen zum Schutz vor Datenverlust (DLP), die auf das umfassendere Ökosystem von F5 abgestimmt sind und eine dynamische Datenklassifizierung und -erkennung während der KI-Laufzeit ermöglichen. Mit F5 BIG-IP Access Policy Manager (APM) erhalten Unternehmen einheitliche Zugriffskontrollen für Benutzer, Geräte und APIs. So entsteht eine sichere Grundlage für KI-gestützte Interaktionen, während zugleich KI-spezifische Governance-Anforderungen erfüllt werden.

Infrastruktur und Technologie-Stack

Die Lösungen von F5 ADSP zum Schutz von Webanwendungen und APIs (WAAP) spielen eine entscheidende Rolle bei der Absicherung der Infrastruktur, die das Herzstück von KI-Anwendungen bildet. Dies beginnt mit dem Aufbau eines robusten und sicheren API-Ökosystems. KI ist zwar ein leistungsstarkes und fortschrittliches Instrument, nutzt jedoch nach wie vor dieselben APIs, deren Erkennung und Absicherung Unternehmen seit jeher vor Herausforderungen stellt. Die Laufzeitkontrollen von CalypsoAI ergänzen WAAP, indem sie Schwachstellen bei KI-spezifischen Interaktionen mindern. Gleichzeitig stärkt F5 diese Schutzebene durch Tools zur API-Erkennung und -Absicherung, die speziell für API-intensive Ökosysteme entwickelt wurden.

Partnerschaften mit führenden Speicheranbietern wie Dell, NetApp und MinIO weiten diese Sicherheit auf Daten-Workflows aus und gewährleisten eine skalierbare, leistungsstarke Speicherung und Übertragung von Daten für das Training von KI-Modellen und Inferenzzyklen, einschließlich RAG. Darüber hinaus bringt die Partnerschaft von F5 mit NVIDIA durch F5 BIG-IP Next for Kubernetes Fortschritte für die DPU, die dazu beitragen, die Anwendungsbereitstellung und -implementierung für GPUs zu optimieren und gleichzeitig neue Sicherheitskontrollen für Inferenz und Training einzuführen.

Diese technologischen Fortschritte sind gemeinsam mit F5 ADSP in einer einzigen Plattform vereint und tragen dazu bei, die Gesamtbetriebskosten zu senken und gleichzeitig die KI-Infrastruktur zukunftssicher für die Skalierung im Unternehmen zu machen.

Schutz herkömmlicher Technologien

Die traditionelle Technologieschicht bildet das Rückgrat der Sicherheit von Unternehmensanwendungen. F5 BIG-IP- und F5 WAAP-Lösungen bieten dabei grundlegende Schutzmechanismen, die die Stabilität und Ausfallsicherheit von Anwendungen, Daten und Infrastruktur gewährleisten.

Gestützt auf fortschrittliche Sicherheitstools schützen diese Lösungen vor einer Vielzahl von Bedrohungen – von volumetrischen und gezielten Distributed-Denial-of-Service-Angriffen (DDoS) über Bot-Traffic bis hin zu komplexen Bedrohungen auf Anwendungsebene. Im Mittelpunkt steht eine leistungsstarke Web Application Firewall (WAF), die vor SQL-Injection, Cross-Site-Scripting (XSS) und weiteren führenden OWASP-Bedrohungen schützt. Diese umfassende Abdeckung vervollständigt einen mehrschichtigen Sicherheitsansatz und gewährleistet einen durchgängigen Schutz sowohl für KI-Prozesse als auch für herkömmliche Workloads.

Gestärkte Führungsposition bei der KI-Sicherheit

Künstliche Intelligenz bietet sowohl transformatives Potenzial als auch erhebliche Risiken für die Cybersicherheit. Ihre inhärente Unvorhersehbarkeit schafft in Verbindung mit der unablässigen Ausnutzung durch böswillige Akteure eine sich ständig weiterentwickelnde Bedrohungslandschaft, die traditionelle Sicherheitsansätze infrage stellt.

Da Unternehmen KI-Innovationen in rasantem Tempo einführen, gewinnen Vertrauen und Verantwortlichkeit entscheidend an Bedeutung. Mit der strategischen Übernahme von CalypsoAI reagiert F5 gezielt auf diese wachsende Nachfrage und ermöglicht es Unternehmen, KI mit Zuversicht einzusetzen und zugleich Sicherheit, Datenschutz und operative Kontrolle zu wahren. Mit mehrschichtigen AI-TRiSM-¹Lösungen setzt F5 einen neuen Standard für die Sicherheit von KI-Anwendungen und stellt sicher, dass Unternehmen Innovationen vorantreiben können, bei denen Vertrauen im Mittelpunkt steht.

¹ Gartner, Marktleitfaden für KI-Vertrauens-, Risiko- und Sicherheitsmanagement, 18. Februar 2025.

GARTNER ist eine eingetragene Marke und Dienstleistungsmarke von Gartner, Inc. und/oder deren verbundenen Unternehmen in den USA und weltweit und wird hier mit Genehmigung verwendet. Alle Rechte vorbehalten

Über den Autor

Ian LauthDirector Product Marketing, KI | F5

Weitere Blogbeiträge von Ian Lauth