Die Nutzung generativer KI nimmt team- und toolübergreifend rasant zu, doch den meisten Unternehmen fehlen nach wie vor die nötigen Kontrollen, um sie abzusichern. Die Sicherheit scheitert nicht an fehlenden Richtlinien, sondern daran, dass Unternehmen nicht die richtigen Sicherheitskontrollen einsetzen, um der Anpassungsfähigkeit generativer KI gerecht zu werden. Diese erfordert Echtzeitschutz über verteilte Systeme hinweg, die sich häufig außerhalb des Sichtfelds der IT befinden.
Das GenAI Policy Handbook 2025 weist darauf hin und bietet einen Rahmen zur Behebung dieses Problems. Im Mittelpunkt steht ein zentraler Gedanke: Richtlinien müssen direkt am Interaktionspunkt mit der KI durchsetzbar sein.
Der blinde Fleck der Sicherheit: Laufzeit
In den meisten Unternehmen basiert die Sicherheit traditionell auf Zugriffskontrollen, Perimeter-Firewalls und der Verhinderung von Datenverlusten. Doch generative KI bringt eine grundlegend neue Angriffsfläche mit sich: die Laufzeit.
Auf dieser Ebene – auf der Benutzer mit Modellen interagieren, Daten aufgenommen und zurückgegeben werden und Ausgaben die Geschäftsergebnisse beeinflussen – liegen die eigentlichen Risiken, darunter:
- Prompt-Injections, die Filter umgehen
- Halluzinierte Ausgaben, die zu Fehlentscheidungen führen
- Offenlegung sensibler Daten durch Modellantworten
- Autonome Agentenaktionen, die ohne Aufsicht außer Kontrolle geraten
Einfach ausgedrückt: Die Sicherheit muss zur Laufzeit gewährleistet werden, doch nur wenige Unternehmen sind darauf vorbereitet, sie zu schützen.
Von Richtlinien auf dem Papier zum Schutz zur Laufzeit
Viele Unternehmen haben damit begonnen, Richtlinien für die zulässige Nutzung zu erarbeiten. Einige haben Leitfäden oder Handlungsempfehlungen entwickelt. Doch Richtlinien ohne Durchsetzung sind lediglich unverbindliche Empfehlungen.
Um die Lücke zwischen Governance und dem Schutz in der Praxis zu schließen, müssen Unternehmen adaptive Sicherheitskontrollen zur Laufzeit einführen, die Folgendes leisten können:
- Schädliche Prompts und Antworten in Echtzeit blockieren
- Rollenbasierten Modellzugriff durchsetzen
- Anomalien und Bedrohungsmuster bereits bei ihrem Auftreten erkennen
- Passen Sie die Sicherheitseinstellungen an den Anwendungsfall und die Risikotoleranz an
Mit einer Sicherheitslösung, die diese Anforderungen erfüllt, können Sie Ihr Sicherheitskonzept parallel zu Ihren Modellen und Anwendungsfällen weiterentwickeln.
Eine AI Security Platform: Unverzichtbar für den Schutz über den gesamten Lebenszyklus
Die Sicherheit zur Laufzeit ist von entscheidender Bedeutung, aber sie ist nur ein Teil des Gesamtbildes. Echte Sicherheit für generative und agentenbasierte KI erfordert einen integrierten Ansatz, der Transparenz, Abwehr, offensive Sicherheitstests und die Abstimmung mit Richtlinien umfasst.
Deshalb setzen Unternehmen auf die umfassenden KI-Laufzeitsicherheitslösungen von F5:
- F5 AI Red Team: Agentenbasierte Angriffstests, um Schwachstellen aufzudecken, bevor Angreifer sie ausnutzen
- F5 AI Guardrails: Echtzeitschutz direkt am Interaktionspunkt
- Integrierte Beobachtbarkeit: Rollenbasierte Transparenz hinsichtlich KI-Nutzung, Risiken und Compliance
Zusammen bilden diese Funktionen eine Runtime Perimeter, die speziell für die dynamischste Angriffsfläche der Cybersicherheit entwickelt wurde.
Leitfaden zur Laufzeitsicherheit
Das GenAI Policy Handbook 2025 bietet Führungskräften in Unternehmen praxisnahe Orientierung für die Entwicklung von Richtlinien, die zur Laufzeit greifen, bei der Inferenz Schutz bieten und sich an Veränderungen der Modelle anpassen.
Handbuch herunterladen und jetzt erfahren:
- Warum herkömmliche Kontrollen bei GenAI-Bedrohungen versagen
- Was Sicherheitsverantwortliche heute tun können, um sich auf agentenbasierte KI vorzubereiten
- Wie Sie eine mehrschichtige Sicherheitsstrategie entwickeln, die mit Innovationen Schritt hält
Ihre KI-Reise beginnt gerade erst. Sorgen Sie dafür, dass sie von Anfang an sicher ist.
Über den Autor
Ähnliche Blogbeiträge
Kubernetes-native WAF für das Gateway-Zeitalter: F5 WAF for NGINX lässt sich jetzt in F5 NGINX Gateway Fabric integrieren
F5 erweitert WAFs, um mit F5 NGINX Gateway Fabric und F5 NGINX Ingress Controller einen konsistenten, skalierbaren Schutz über Cluster und Umgebungen hinweg bereitzustellen.
Von Regeln zu Risiken: Die Entwicklung von WAFs und der Aufstieg KI-gestützter Ergebnisse
WAF-Programme geraten oft an einem bekannten Punkt ins Stocken: Der Blockierungsmodus wird verzögert aktiviert, weil die Feinabstimmung aufwendig ist.
Erklärbarkeit: Licht ins Dunkel der KI-Blackbox bringen
Einblicke von James White, CTO bei CalypsoAI: Dank GenAI verstehen wir inzwischen gut, wie Antworten generiert und an uns zurückgegeben werden. Vereinfacht gesagt basiert KI auf einer Transformer-Architektur – sie wählt die beste Vorhersage für das nächste Wort und den nächsten Satz aus und liefert anhand der ihr vorliegenden Informationen die wahrscheinlichste Antwort […]
Die neue KI-Risikolandschaft: unsichtbar, autonom und bereits im Unternehmen
James White, VP Engineering, F5 Zur Jahresmitte 2025 ist es an der Zeit, eine Momentaufnahme der KI-Nutzung in Unternehmen und des aktuellen Stands der KI-Sicherheit zu erstellen. Der Einsatz generativer KI ist in Unternehmen mittlerweile Standard Unternehmen verfügen inzwischen durchweg zumindest über ein grundlegendes Verständnis von generativer KI. Sie wissen, was sie ist und wo sie […]
Die KI-Grenzen sichern: Strategien zur Bekämpfung von Datenexfiltration
Da Unternehmen zunehmend Modelle der generativen KI (GenAI) und große Sprachmodelle (LLMs) in ihre digitalen Systeme integrieren, sind sie mit neuen und erhöhten Risiken konfrontiert. Wenig überraschend stehen dabei Risiken im Zusammenhang mit Datenexfiltration – der unbefugten Übertragung von Daten aus einem Unternehmen an ein externes Ziel – meist ganz oben auf der Prioritätenliste der Sicherheitsteams. Ein Verständnis […]
Everest Group-Bericht: Aktuelle Trends und Zukunftsaussichten bei der Einführung von GenAI in der Industrie
Wir freuen uns, einen wesentlichen Beitrag zu einem wegweisenden neuen Bericht der Everest Group, einem weltweit führenden Forschungsunternehmen, geleistet zu haben. Der Bericht mit dem Titel „Generative AI Adoption – Examining Real-world Use in Horizontal Functions and Future Outlook“ bietet eine eingehende Analyse der Einführung generativer KI (GenAI) in verschiedenen Branchen. Dem Bericht zufolge ist die IT […]