Als OWASP 2025 seine Top 10 für große Sprachmodelle (LLMs) veröffentlichte, erhielt die Branche damit einen dringend benötigten Sicherheitsmaßstab. Doch Maßstäbe sind ohne konkrete Maßnahmen bedeutungslos.
CalypsoAI deckt 80 % der OWASP Top 10 ab und priorisiert dabei die dringendsten Risiken aus der Praxis. Die Plattform kombiniert Laufzeitschutz in Echtzeit mit umfassenden adversarialen Tests und bietet so eine beispiellose Abdeckung der derzeit kritischsten LLM-Risiken. Von Prompt-Injection und Datenlecks bis hin zu übermäßiger Handlungsautonomie und unbegrenztem Ressourcenverbrauch haben wir einen Inferenzperimeter dafür geschaffen, wie KI in Unternehmen tatsächlich eingesetzt wird.
Während andere Anbieter nur an der Oberfläche kratzen oder lediglich einen Teil des Stacks absichern, geht CalypsoAI tiefer und ordnet sowohl Red-Teaming- als auch defensive Schutzebenen den OWASP-Risiken zu. Dabei geht es nicht darum, einfach nur Checklisten abzuhaken. Vielmehr erhalten Sicherheitsteams die nötige Transparenz, Kontrolle und Durchsetzungskraft, um GenAI-Systeme in großem Maßstab zu schützen.
So begegnen wir den größten OWASP-Risiken – und gehen noch einen Schritt weiter.
LLM01: Prompt-Injection
Blockiert, getestet und entschärft.
CalypsoAI bietet umfassende Tests auf Schwachstellen durch Prompt-Injection mit über 20.000 Evaluierungs-Prompts. Die Plattform verfügt über integrierte Schutzmechanismen, die unbefugte Manipulationen von Prompts verhindern.
LLM02: Offenlegung sensibler Informationen
Sensible Daten bleiben vertraulich.
CalypsoAI identifiziert Schwachstellen, durch die sensible Daten offengelegt werden könnten. Die Plattform umfasst einen sofort einsatzbereiten (OOTB) Scanner für personenbezogene Daten und unterstützt benutzerdefinierte Scans mithilfe von Schlüsselwörtern, regulären Ausdrücken und generativen KI-Modellen.
LLM03: Lieferkette
Wir minimieren Risiken, damit Sie sich nicht darum kümmern müssen.
Die Plattform mindert Risiken wie veraltete Modelle, anfällige vortrainierte Modelle und eine unzureichende Nachvollziehbarkeit der Modellherkunft durch Red-Teaming und kontinuierliche Überwachung.
LLM04: Daten- und Modellvergiftung
Wir schützen die Inferenz – selbst vor Fehlern in vorgelagerten Prozessen.
Obwohl dies in erster Linie ein Risiko beim Training darstellt, hilft CalypsoAI dabei, unzureichend trainierte oder manipulierte Modelle zu erkennen, und schützt Anwendungen mit Retrieval-Augmented Generation (RAG) während der Inferenz.
LLM05: Unsachgemäße Ausgabeverarbeitung
Sicherere Interaktionen durch intelligentes Design.
CalypsoAI erkennt und blockiert XSS- und Code-Injection-Versuche in LLM-Antworten und sorgt so für sicherere Interaktionen.
LLM06: Übermäßige Handlungsautonomie
Autonomie mit Verantwortlichkeit.
Die Plattform bietet integrierten Schutz für Agenten, indem sie Ein- und Ausgaben überprüft, um Risiken im Zusammenhang mit Multi-Agent Collaboration Platforms (MCPs) zu minimieren.
LLM07: Offenlegung des System-Prompts
Wir schützen Ihre Systeme.
CalypsoAI verfügt über integrierte Schutzmechanismen gegen die Offenlegung von System-Prompts. Weitere Funktionen zur Verbesserung dieses Schutzes sind bereits geplant.
LLM08: Schwachstellen bei Vektoren und Einbettungen
Nicht zutreffend – so vorgesehen.
CalypsoAI arbeitet auf der Inferenzebene und befasst sich nicht direkt mit Schwachstellen bei der Vektorspeicherung.
LLM09: Fehlinformationen
Nicht zutreffend – wird vor der Inferenz verarbeitet.
CalypsoAI bietet derzeit keine Erkennung von Halluzinationen an, da dies auf Modellebene von vorgelagerten Anbietern wie OpenAI gelöst wird. Unser Fokus liegt weiterhin auf der Absicherung der Inferenz, um sichere und zuverlässige KI-Ausgaben zu gewährleisten.
LLM10: Unbegrenzter Ressourcenverbrauch
Effizienz trifft auf Durchsetzung.
CalypsoAI verhindert übermäßige API-Nutzung und Missbrauch und sorgt dafür, dass LLM-Ressourcen effizient und sicher eingesetzt werden.
Für KI in der realen Welt entwickelt
Hier geht es nicht nur darum, Compliance-Anforderungen abzuhaken. CalypsoAI wurde speziell dafür entwickelt, KI im Produktivbetrieb zu schützen – dort, wo Risiken real sind und Konsequenzen zählen. Von Red-Teaming-Tests mit über 30.000 agentenbasierten Angriffen bis hin zum Echtzeitschutz während der Ausführung: Unsere Plattform passt sich an neue Bedrohungen an, bevor diese Ihr Unternehmen beeinträchtigen.
Über den Autor
Louise Scully ist Senior Managerin im Produktmarketing für KI-Sicherheit und Threat Intelligence bei F5. Im Laufe ihrer Karriere war sie in den Bereichen Produktmarketing, Produktmanagement, Markteinführungsstrategie, Kommunikation, Thought Leadership und Kategorieentwicklung für KI-Sicherheit und Unternehmenstechnologie tätig. Bevor sie zu F5 kam, leitete Louise das Marketing bei CalypsoAI und Artomatix und trug dazu bei, KI-Technologien und Forschungsergebnisse auf den Markt zu bringen.
Weitere Blogbeiträge von Louise ScullyÄhnliche Blogbeiträge
Kubernetes-native WAF für das Gateway-Zeitalter: F5 WAF for NGINX lässt sich jetzt in F5 NGINX Gateway Fabric integrieren
F5 erweitert WAFs, um mit F5 NGINX Gateway Fabric und F5 NGINX Ingress Controller einen konsistenten, skalierbaren Schutz über Cluster und Umgebungen hinweg bereitzustellen.
Von Regeln zu Risiken: Die Entwicklung von WAFs und der Aufstieg KI-gestützter Ergebnisse
WAF-Programme geraten oft an einem bekannten Punkt ins Stocken: Der Blockierungsmodus wird verzögert aktiviert, weil die Feinabstimmung aufwendig ist.
Erklärbarkeit: Licht ins Dunkel der KI-Blackbox bringen
Einblicke von James White, CTO bei CalypsoAI: Dank GenAI verstehen wir inzwischen gut, wie Antworten generiert und an uns zurückgegeben werden. Vereinfacht gesagt basiert KI auf einer Transformer-Architektur – sie wählt die beste Vorhersage für das nächste Wort und den nächsten Satz aus und liefert anhand der ihr vorliegenden Informationen die wahrscheinlichste Antwort […]
Die neue KI-Risikolandschaft: unsichtbar, autonom und bereits im Unternehmen
James White, VP Engineering, F5 Zur Jahresmitte 2025 ist es an der Zeit, eine Momentaufnahme der KI-Nutzung in Unternehmen und des aktuellen Stands der KI-Sicherheit zu erstellen. Der Einsatz generativer KI ist in Unternehmen mittlerweile Standard Unternehmen verfügen inzwischen durchweg zumindest über ein grundlegendes Verständnis von generativer KI. Sie wissen, was sie ist und wo sie […]
Die KI-Grenzen sichern: Strategien zur Bekämpfung von Datenexfiltration
Da Unternehmen zunehmend Modelle der generativen KI (GenAI) und große Sprachmodelle (LLMs) in ihre digitalen Systeme integrieren, sind sie mit neuen und erhöhten Risiken konfrontiert. Wenig überraschend stehen dabei Risiken im Zusammenhang mit Datenexfiltration – der unbefugten Übertragung von Daten aus einem Unternehmen an ein externes Ziel – meist ganz oben auf der Prioritätenliste der Sicherheitsteams. Ein Verständnis […]
Everest Group-Bericht: Aktuelle Trends und Zukunftsaussichten bei der Einführung von GenAI in der Industrie
Wir freuen uns, einen wesentlichen Beitrag zu einem wegweisenden neuen Bericht der Everest Group, einem weltweit führenden Forschungsunternehmen, geleistet zu haben. Der Bericht mit dem Titel „Generative AI Adoption – Examining Real-world Use in Horizontal Functions and Future Outlook“ bietet eine eingehende Analyse der Einführung generativer KI (GenAI) in verschiedenen Branchen. Dem Bericht zufolge ist die IT […]