Versicherer warnen unmissverständlich vor KI-Risiken
In der gesamten Versicherungsbranche ist eine Botschaft unüberhörbar: Die mit KI verbundenen Risiken sind weitverbreitet, unmittelbar und äußerst schwer zu beziffern. Wenn Aktuare und Risikospezialisten, deren Aufgabe es ist, potenzielle Verbindlichkeiten zu modellieren, zu dem Schluss kommen, dass ein Risiko zu unberechenbar ist, um es zu versichern, sollten Unternehmen dies ernst nehmen.
Jüngste Versicherungsbedingungen, wie sie etwa von Hunton Andrews Kurth LLP veröffentlicht wurden, sowie Marktentwicklungen zeigen, dass viele Versicherer auf KI-Risiken reagieren, indem sie KI-bezogene Ansprüche weitgehend vom üblichen Haftpflichtversicherungsschutz ausschließen. In einigen Fällen schließen entsprechende Klauseln den Versicherungsschutz für „jede tatsächliche oder mutmaßliche Nutzung, Einführung oder Entwicklung künstlicher Intelligenz“ in D&O-, Vermögensschadenhaftpflicht- und Vertrauensschadenversicherungen vollständig aus.
Die Nachfrage ist real, während der Versicherungsschutz begrenzt ist
Versicherer aktualisieren ihre Policen mit weitreichenden KI-Ausschlüssen, die ihnen erheblichen Spielraum bei Entscheidungen über den Versicherungsschutz einräumen. Die Kriterien für einen KI-bezogenen Ausschluss können so weit gefasst sein, dass jeder Arbeitsablauf darunterfällt, bei dem KI zum Einsatz kommt.
Die Begründung ist einfach: Versicherungsunternehmen betrachten KI als eine unberechenbare Blackbox. Wenn sie ihr Verhalten nicht hinreichend modellieren können, können sie die daraus entstehenden Risiken nicht versichern. Das Ergebnis sind ebenso weitreichende und pauschale Ausschlüsse, die diesem Maß an Unsicherheit Rechnung tragen.
Für Unternehmen bedeutet dies eine ganz konkrete operative Veränderung: Die Haftung für KI-Vorfälle wird wieder intern übernommen.
Ein unübersichtliches und riskantes Umfeld für Unternehmen
Das Kernproblem, auf das Versicherer reagieren, ist dieselbe Schwachstelle, mit der viele Unternehmen konfrontiert sind: Bislang fehlen ihnen zuverlässige Möglichkeiten, das Verhalten von KI im Produktivbetrieb zu beobachten, zu quantifizieren und zu kontrollieren. Die Nutzung von Schatten-KI, unkontrollierte Workflows und autonome Aktionen von KI-Agenten tragen allesamt zu dieser Unsicherheit bei. Beispiele hierfür sind:
- Schatten-KI, die Mitarbeitende außerhalb der IT-Richtlinien einsetzen und die dadurch nur äußerst schwer überwacht und kontrolliert werden kann.
- Die Nutzung von MCP-Servern (Model Context Protocol), die dynamische Workflows in KI-Agenten integrieren und dabei herkömmliche API-Kontrollen umgehen.
- Agentische Abläufe, bei denen die KI nach einer menschlichen Eingabe mehrere Schritte ausführt, erhöhen unbekannte Risiken und verstärken diese zusätzlich.
Versicherer betrachten diese Muster als schwer einschätzbare Schadentreiber, die sie bei der Kalkulation des Versicherungsschutzes nicht verlässlich berücksichtigen können. Infolgedessen müssen Unternehmen möglicherweise mit höheren Prämien, einem eingeschränkteren Versicherungsschutz oder sogar mit Ausschlüssen im Zusammenhang mit ihrem Einsatz von KI rechnen.
Wenn Unternehmen weiterhin versicherbar bleiben und ihre Risiken kontrollieren wollen, müssen sie mehr tun, als sich auf herkömmliche Sicherheitstools zu verlassen oder darauf zu hoffen, dass der Einsatz von KI keine Probleme verursacht. Das heutige KI-Ökosystem ist nicht auf Rechenschaftspflicht ausgelegt:
- Herkömmliche DLP-Tools können sensible Inhalte übersehen, die nicht in Dateien, sondern in Prompts eingebettet sind.
- CASBs können den Zugriff auf Apps einschränken, interpretieren jedoch nicht das Verhalten von KI.
- IAM verwaltet Identitäten, jedoch nicht die Entscheidungslogik von KI-Systemen oder die Aktionen von KI-Agenten.
- MCP-Workflows operieren außerhalb etablierter Sicherheitsheuristiken.
Diese Lücken führen dazu, dass viele Unternehmen die Risiken nicht erkennen, die Versicherer vermeiden wollen.
Welche Rolle eine KI-Steuerungsebene spielt
Genau hier kommt F5 Workforce AI Security, früher unter dem Namen SurepathAI bekannt, ins Spiel.
F5 Workforce AI Security, zuvor unter dem Namen SurepathAI bekannt, bietet die Transparenz und Kontrolle, die nahezu allen KI-Stacks in Unternehmen fehlt. So können Unternehmen sowohl Versicherern als auch internen Stakeholdern ein echtes Risikomanagement nachweisen. Bei Vorfällen erhalten Organisationen die erforderlichen Nachweise und Kontextinformationen, um wirksam zu reagieren und Abhilfemaßnahmen zu ergreifen:
- Eine detaillierte Audit-Protokollierung erfasst administrative Aktionen, Konfigurationsänderungen und Zugriffe auf vertrauliche Informationen.
- Die Protokollierung von Anfragen zeigt, wer wann und wie KI eingesetzt hat, und schafft so einen überprüfbaren Nachweis über die Einbindung von KI in Arbeitsabläufe.
- Verstoßdaten zeigen sensible Offenlegungen, Richtlinienverstöße und Risikoereignisse mit eindeutiger Kennzeichnung und Kontext präzise auf.
- Der integrierte Telemetrieexport ermöglicht die automatisierte Übermittlung angereicherter Protokolldaten an SIEM- und Analysetools, sodass bei der Reaktion auf Sicherheitsvorfälle keine Daten mehr manuell erfasst werden müssen.
- MCP-Richtlinienkontrollen ermöglichen sowohl eine umfassende Governance als auch eine granulare Zugriffskontrolle für Tools, Modelle und Serverinteraktionen.
- Das bedeutet, dass Organisationen nicht nur darauf hoffen müssen, sicher zu sein, sondern tatsächlich nachweisen können, dass das Verhalten ihrer KI durch nachvollziehbare, durchsetzbare und überprüfbare Kontrollen abgesichert ist.
Versicherer reagieren proaktiv auf eine sich rasant vergrößernde Risikolandschaft, die derzeit weder sie noch die meisten Unternehmen zuverlässig bewerten können. Die Botschaft ist einfach: Wenn Sie auf KI setzen, benötigen Sie fest integrierte Kontrollmechanismen und Transparenz, die dem Umfang und der Geschwindigkeit KI-gestützter Arbeitsabläufe gerecht werden.
F5 Workforce AI Security, zuvor unter dem Namen SurepathAI bekannt, bietet Unternehmen die von Versicherern erwarteten und für den modernen KI-Einsatz erforderlichen Funktionen für Überwachung, Richtliniendurchsetzung und Reaktion auf Sicherheitsvorfälle.
Über den Autor

Ähnliche Blogbeiträge

Kubernetes-native WAF für das Gateway-Zeitalter: F5 WAF for NGINX lässt sich jetzt in F5 NGINX Gateway Fabric integrieren
F5 erweitert WAFs, um mit F5 NGINX Gateway Fabric und F5 NGINX Ingress Controller einen konsistenten, skalierbaren Schutz über Cluster und Umgebungen hinweg bereitzustellen.

Von Regeln zu Risiken: Die Entwicklung von WAFs und der Aufstieg KI-gestützter Ergebnisse
WAF-Programme geraten oft an einem bekannten Punkt ins Stocken: Der Blockierungsmodus wird verzögert aktiviert, weil die Feinabstimmung aufwendig ist.
Erklärbarkeit: Licht ins Dunkel der KI-Blackbox bringen
Einblicke von James White, CTO bei CalypsoAI: Dank GenAI verstehen wir inzwischen gut, wie Antworten generiert und an uns zurückgegeben werden. Vereinfacht gesagt basiert KI auf einer Transformer-Architektur – sie wählt die beste Vorhersage für das nächste Wort und den nächsten Satz aus und liefert anhand der ihr vorliegenden Informationen die wahrscheinlichste Antwort […]
Die neue KI-Risikolandschaft: unsichtbar, autonom und bereits im Unternehmen
James White, VP Engineering, F5 Zur Jahresmitte 2025 ist es an der Zeit, eine Momentaufnahme der KI-Nutzung in Unternehmen und des aktuellen Stands der KI-Sicherheit zu erstellen. Der Einsatz generativer KI ist in Unternehmen mittlerweile Standard Unternehmen verfügen inzwischen durchweg zumindest über ein grundlegendes Verständnis von generativer KI. Sie wissen, was sie ist und wo sie […]
Die KI-Grenzen sichern: Strategien zur Bekämpfung von Datenexfiltration
Da Unternehmen zunehmend Modelle der generativen KI (GenAI) und große Sprachmodelle (LLMs) in ihre digitalen Systeme integrieren, sind sie mit neuen und erhöhten Risiken konfrontiert. Wenig überraschend stehen dabei Risiken im Zusammenhang mit Datenexfiltration – der unbefugten Übertragung von Daten aus einem Unternehmen an ein externes Ziel – meist ganz oben auf der Prioritätenliste der Sicherheitsteams. Ein Verständnis […]
Everest Group-Bericht: Aktuelle Trends und Zukunftsaussichten bei der Einführung von GenAI in der Industrie
Wir freuen uns, einen wesentlichen Beitrag zu einem wegweisenden neuen Bericht der Everest Group, einem weltweit führenden Forschungsunternehmen, geleistet zu haben. Der Bericht mit dem Titel „Generative AI Adoption – Examining Real-world Use in Horizontal Functions and Future Outlook“ bietet eine eingehende Analyse der Einführung generativer KI (GenAI) in verschiedenen Branchen. Dem Bericht zufolge ist die IT […]