Abgleich von F5 mit den OWASP Top 10 für LLMs

Die OWASP Top 10 für LLM-Anwendungen (2025) verdeutlichen, wie KI neue Sicherheits- und Governance-Risiken mit sich bringt und zugleich die Anforderungen an den herkömmlichen Anwendungsschutz erhöht. Wenn Unternehmen von KI-Pilotprojekten zum produktiven Einsatz übergehen, benötigen Sicherheitsteams Schutzmaßnahmen, die mit der Weiterentwicklung von Angriffstechniken Schritt halten und gleichzeitig Datenschutz- und Compliance-Anforderungen erfüllen.

Die folgenden Abschnitte ordnen jedem OWASP-LLM-Risikobereich die entsprechenden F5-Funktionen zu: F5 AI Guardrails für modellunabhängigen Laufzeitschutz und die Durchsetzung von Richtlinien bei KI-Interaktionen, F5 Web App and API Protection (WAAP) zur Absicherung der Anwendungs- und API-Schnittstellen, die KI-Workflows ermöglichen, sowie F5 AI Red Team zur proaktiven Bewertung von Schwachstellen in Modellen und Anwendungen, bevor Angreifer dies tun.

LLM01: Prompt-Injection

Prompt Injection liegt vor, wenn Benutzereingaben ein Modell zu schädlichem Verhalten verleiten, etwa zur Offenlegung sensibler Informationen, zur Gewährung unbefugten Zugriffs oder zur Erzeugung voreingenommener oder toxischer Inhalte. F5 AI Guardrails reduziert diese Risiken, indem sowohl Prompts als auch Modellausgaben auf bösartige Aktivitäten geprüft und gefährliche oder nicht richtlinienkonforme Interaktionen blockiert werden. Die Lösung bietet sofort einsatzbereite Schutzmechanismen gegen Tausende bekannter Prompt-Injection-Techniken sowie eine Schnittstelle, über die sich beim Auftreten neuer Bedrohungen schnell benutzerdefinierte Guardrails erstellen lassen.

LLM02: Offenlegung sensibler Informationen

Die Offenlegung sensibler Informationen birgt Risiken in zwei Richtungen: KI-Anwendungen können Nutzern Daten offenlegen, für deren Zugriff sie nicht autorisiert sind. Umgekehrt können Nutzer sensible Informationen – etwa personenbezogene oder unternehmenseigene Daten – eingeben, die das System nicht verarbeiten darf. F5 AI Guardrails begegnet beiden Risiken, indem es sensible Datentypen wie personenbezogene Daten (PII), Zahlungskartendaten (PCI) und geschützte Gesundheitsinformationen (PHI) filtert, um nicht regelkonforme Interaktionen zu verhindern. Teams können zudem benutzerdefinierte Datenmuster festlegen, um Nutzereingaben, Modellausgaben oder beides zu überwachen oder zu blockieren. Darüber hinaus unterstützt AI Guardrails herkömmliche Funktionen zur Zugriffsverwaltung wie die Bereitstellung von Gruppen für die rollenbasierte Zugriffskontrolle (RBAC), um die Durchsetzung von Richtlinien auf einzelne Nutzer oder Gruppen abzustimmen.

LLM03: Lieferkette

Schwachstellen in der Lieferkette von LLMs gefährden die Integrität von Trainingsdaten, Modellen und Bereitstellungsplattformen. Das größte Risiko entsteht durch die Übernahme vortrainierter Modelle von Drittanbietern und von Low-Rank-Adaptern (LoRAs), mit denen sich ein Basismodell feinabstimmen lässt, ohne es erneut zu trainieren. Da auf Plattformen wie Hugging Face Millionen von Modellen und LoRAs verfügbar sind, vergrößert sich die Angriffsfläche drastisch. Dadurch entstehen bei unzähligen Modellvarianten Möglichkeiten für Manipulationen und die Vergiftung von Trainingsdaten. F5 AI Guardrails sorgt über alle KI-Anwendungen hinweg für eine einheitliche Durchsetzung von Richtlinien – unabhängig von der Herkunft des Modells. Als Proxy bereitgestellt, der die Interaktionen zwischen Nutzern, Agenten und Anwendungen überprüft, wendet AI Guardrails einheitliche Sicherheitskontrollen zur Laufzeit an. So werden Risiken durch verzerrte Trainingsdaten, Unterschiede zwischen Modellen und potenzielle Angriffe gemindert, bevor schädliche Ausgaben die Nutzer erreichen. Darüber hinaus führt F5 AI Red Team umfangreiche Angriffssimulationen durch, um die spezifischen Risiken und Verhaltenstendenzen einzelner Modelle zu bewerten. Da sich die Risikoprofile selbst innerhalb derselben Modellfamilie stark unterscheiden können, liefert AI Red Team schnell konkrete, verwertbare Erkenntnisse zu Schwachstellen, bevor Angreifer diese ausnutzen können.

LLM04: Daten- und Modellvergiftung

Bei der Daten- und Modellvergiftung werden Trainings-, Fine-Tuning- oder Abrufdaten böswillig manipuliert, wodurch die Ausgabequalität beeinträchtigt, Verzerrungen eingeführt oder Hintertür-Trigger eingeschleust werden können. F5 mindert diese Risiken, indem es exponierte Anwendungs- und API-Angriffsflächen mit F5 Web App and API Protection (WAAP) schützt. F5 WAAP-Funktionen wie Bot Defense und DDoS Mitigation reduzieren das automatisierte Einschleusen schädlicher Inhalte in Datenerfassungs- und Feedback-Workflows. Gleichzeitig helfen API Discovery and Security dabei, APIs zur Datenerfassung und zum Datenabruf zu identifizieren und zu kontrollieren – einen der häufigsten Angriffswege zur Beeinflussung des Modellverhaltens. Darüber hinaus kann F5 AI Guardrails zur Laufzeit als kompensierende Sicherheitsmaßnahme dienen, indem es mithilfe benutzerdefinierter Guardrails bekannte Anzeichen für Vergiftungsversuche, etwa Trigger-Phrasen oder -Muster, erkennt und blockiert.

LLM05: Unsachgemäße Verarbeitung von Ausgaben

Eine unsachgemäße Ausgabeverarbeitung liegt vor, wenn von LLMs generierte Ausgaben vor der Weitergabe an nachgelagerte Systeme nicht ausreichend validiert oder bereinigt werden. Da Angreifer Modellausgaben durch gezielt formulierte Prompts beeinflussen können, kann dies einen indirekten Zugriff auf sensible Funktionen ermöglichen und nachgelagerte Auswirkungen haben, etwa XSS oder CSRF in Browsern sowie SSRF, Rechteausweitung und die Ausführung von Remote-Code in Backend-Systemen. F5 AI Guardrails mindert dieses Risiko, indem es Modellausgaben prüft, bevor sie an Benutzer übermittelt oder an nachgelagerte Tools weitergeleitet werden, und unsichere Inhalte auf Grundlage definierter Richtlinien blockiert oder protokolliert. F5 Web App and API Protection (WAAP) reduziert die Angriffsfläche zusätzlich, indem es bewährte Sicherheitskontrollen für Webanwendungen und APIs – einschließlich API-Erkennung, Schemavalidierung und Schutz vor Bedrohungen – auf die Anwendungen und APIs anwendet, die LLM-Ausgaben verarbeiten. So wird verhindert, dass schädliche Nutzlasten zu ausführbaren Angriffen werden.

LLM06: Übermäßige Handlungsautonomie

Übermäßige Handlungsautonomie liegt vor, wenn einem Modell oder Agenten mehr Autonomie, Berechtigungen oder Zugriff auf Tools gewährt werden als nötig. Dadurch können manipulierte Eingaben unbeabsichtigte Aktionen auslösen, etwa das Versenden von Nachrichten, das Ausführen von Transaktionen oder das Ausschleusen von Daten. F5 AI Guardrails mindert dieses Risiko, indem richtlinienbasierte Grenzen dafür durchgesetzt werden, was Modelle anfordern oder ausgeben dürfen, und nicht richtlinienkonforme Interaktionen blockiert werden, bevor sie Tools oder nachgelagerte Systeme erreichen. F5 Web App and API Protection (WAAP) bietet zusätzlichen Schutz, indem Authentifizierung, Autorisierung und Ratenbegrenzung für Tool- und Plugin-APIs durchgesetzt werden. So bleiben die zugrunde liegenden Dienste auch dann geschützt, wenn ein Agent versucht, eine unsichere Aktion auszuführen.

LLM07: Offenlegung des System-Prompts

Zur Offenlegung von System-Prompts kommt es, wenn Angreifer verborgene Anweisungen, Zugangsdaten oder Richtlinienlogik aus System-Prompts extrahieren und dieses Wissen nutzen, um Schutzmaßnahmen zu umgehen oder Angriffe auszuweiten. F5 AI Guardrails mindert dieses Risiko, indem es gängige Extraktionsmuster in Benutzereingaben erkennt und blockiert sowie Antworten filtert, damit das Modell keine geschützten Prompt-Inhalte ausgibt. F5 AI Red Team prüft Modelle und Anwendungen proaktiv und in großem Umfang auf die Offenlegung von Prompts und die Anfälligkeit für die Extraktion von System-Prompts. Die dabei gewonnenen, konkret umsetzbaren Erkenntnisse helfen, Prompts, Richtlinien und Laufzeitschutzmaßnahmen vor der Bereitstellung abzusichern.

LLM08: Schwachstellen bei Vektoren und Embeddings

Schwachstellen bei Vektoren und Embeddings entstehen in Systemen mit Retrieval-Augmented Generation (RAG) und embeddingbasierten Systemen, wenn Angreifer abgerufene Inhalte manipulieren, vergiften oder ausnutzen, um Antworten zu beeinflussen, die Offenlegung sensibler Daten auszulösen oder Sicherheitskontrollen zu umgehen. F5 Web App and API Protection (WAAP) trägt dazu bei, diese Risiken zu mindern, indem es die APIs schützt, die zum Einlesen von Dokumenten, zum Verwalten von Sammlungen und zum Durchführen von Abrufabfragen verwendet werden – unter anderem durch API-Erkennung, die Durchsetzung von Schemavorgaben sowie die Abwehr von Bots und Missbrauch. F5 AI Guardrails reduziert zudem nachgelagerte Auswirkungen, indem es Modellausgaben zur Laufzeit prüft und benutzerdefinierte Richtlinien auf sie anwendet. So lassen sich verdächtige Muster, unsichere Inhalte oder sensible Daten erkennen, bevor Antworten an Nutzer übermittelt werden.

LLM09: Fehlinformationen

Das Risiko von Fehlinformationen entsteht, wenn ein LLM falsche oder irreführende Ausgaben erzeugt, die zu unsicheren Entscheidungen, Reputationsschäden oder Compliance-Verstößen führen können. F5 AI Guardrails mindert dieses Risiko durch Guardrails zur Inhaltsmoderation, die risikoreiche Inhaltskategorien kennzeichnen oder blockieren, bestimmte Antwortstrukturen vorgeben oder zusätzliche Kontrollmechanismen auslösen, wenn Inhalte unsicher erscheinen oder nicht den Vorgaben entsprechen. F5 AI Red Team bewertet, wie sich KI-Systeme bei gezielt manipulativen Fragen und in Grenzfällen verhalten. So können Teams die Neigung zur Erzeugung von Fehlinformationen quantifizieren und Richtlinien sowie Workflows vor dem produktiven Einsatz optimieren.

LLM10: Unbegrenzter Ressourcenverbrauch

Unbegrenzter Ressourcenverbrauch tritt auf, wenn Angreifer oder falsch konfigurierte Clients eine übermäßige Modellnutzung verursachen. Dies kann durch massenhafte Anfragen, übergroße Prompts oder missbräuchliche Automatisierung zur Erschöpfung von Ressourcen, eingeschränkter Verfügbarkeit oder einem unerwartet starken Kostenanstieg führen. F5 Web App and API Protection (WAAP) mindert dieses Risiko durch Ratenbegrenzung und DDoS-Abwehr auf Anwendungs- und API-Ebene, um missbräuchlichen Datenverkehr zu reduzieren, bevor er die Modellinfrastruktur erreicht. In Kombination mit der Erkennung und Absicherung von APIs für KI-Anwendungen trägt F5 WAAP dazu bei, sowohl Verfügbarkeits- als auch Kostenrisiken durch unkontrollierte LLM-Nutzung einzudämmen.

KI-Sicherheit ist ein sich ständig wandelndes Ziel

Die Absicherung von LLM-Anwendungen erfordert mehr als punktuelle Tests oder die Standardeinstellungen der Modellanbieter. Eine wirksame KI-Sicherheitsstrategie setzt die kontinuierliche Durchsetzung von Richtlinien zur Laufzeit und einen robusten Schutz der APIs, Tools und Datensysteme voraus, auf die LLMs angewiesen sind. F5 adressiert die Risiken der OWASP Top 10 für LLM-Anwendungen (2025) durch die Kombination folgender Maßnahmen:

  1. F5 AI Guardrails – Adaptive, modellunabhängige Laufzeitsicherheit mit F5 AI Guardrails zur Verhinderung von Datenlecks, gezielten Manipulationen und schädlichen Ausgaben
  2. F5 AI Red Team – Proaktive Tests mit F5 AI Red Team, um modell- und workflowspezifische Schwachstellen frühzeitig aufzudecken und Erkenntnisse in aktive Schutzmaßnahmen umzusetzen
  3. F5 Web App and API Protection (WAAP) – Schutzmaßnahmen für Anwendungen und APIs zur Reduzierung von Angriffsflächen, Missbrauch und Ressourcenrisiken

Zusammen ermöglichen diese Schutzebenen Unternehmen, KI zu skalieren und dabei Resilienz, Compliance und das Vertrauen der Nutzer zu wahren, während sich LLM-gestützte Anwendungen weiterentwickeln.