Künstliche Intelligenz hat das Potenzial, unser Leben zu verändern – und hat dies bereits auf tiefgreifende Weise getan. Von der Beschleunigung bahnbrechender Fortschritte in Medizin und Bildung bis hin zur Neugestaltung von Arbeit und Alltag verändert KI grundlegend, wie wir leben und handeln. Doch neben diesen Fortschritten eröffnet KI auch Cyberkriminellen weitreichende Möglichkeiten.
KI-Systeme werden heute aktiv von Angreifern ins Visier genommen, die Schwachstellen durch Datenvergiftung, manipulierte Ausgaben, unbefugten Modelldiebstahl mittels Destillation und offengelegte private Daten ausnutzen. Dabei handelt es sich nicht um hypothetische Risiken: Sie sind real, entwickeln sich rasant weiter und können finanziell verheerende Folgen haben. Modelle werden zudem eingesetzt, um E-Mail-Angriffe sowie Betrugsversuche per SMS und Sprachanruf erheblich zu optimieren. Auch Deepfakes lassen sich immer schwerer erkennen und haben bereits mehrfach Schäden in Millionenhöhe verursacht.
“„Damit Unternehmen auch weiterhin von den Vorteilen der KI profitieren können, müssen sie deren Sicherheit mit derselben Dringlichkeit behandeln wie die Sicherheit von Netzwerken, Datenbanken und Anwendungen.“”
Laut dem Stanford AI Index Report 2025 stieg die Zahl der Sicherheitsvorfälle im Zusammenhang mit KI im Jahr 2024 um 56,4 % auf 233 gemeldete Fälle. Dabei handelte es sich nicht bloß um Störungen oder technische Probleme, sondern um schwerwiegende Beeinträchtigungen – von Datenschutzverletzungen und der Verstärkung von Falschinformationen bis hin zur Manipulation von Algorithmen und Ausfällen, die sensible Entscheidungen gefährdeten.
Doch wie immer gehört die Verweildauer – also die Zeit zwischen dem Eindringen und der Erkennung – zu unseren bevorzugten Kennzahlen. Der IBM-Bericht für das erste Quartal 2025 zeigt, dass es bei KI-spezifischen Sicherheitsverletzungen durchschnittlich 290 Tage dauert, bis sie erkannt und eingedämmt werden – deutlich länger als der Durchschnitt von 207 Tagen bei herkömmlichen Datenschutzverletzungen. Das entspricht einer Gefährdungsdauer von fast zehn Monaten und gibt diesen KI-gestützten Angreifern reichlich Zeit, erheblichen Schaden anzurichten.
Warum die meisten Unternehmen nicht vorbereitet sind
Um auch weiterhin von den Vorteilen der KI zu profitieren, müssen Unternehmen deren Sicherheit mit derselben Dringlichkeit behandeln wie die Sicherheit von Netzwerken, Datenbanken und Anwendungen. Das derzeitige Ungleichgewicht zwischen Einführung und Schutz zeichnet jedoch ein anderes Bild.
F5s Bericht „State of AI Application 2025“ unterstreicht diesen Punkt. Nur 2 % der befragten Unternehmen galten als umfassend abgesichert und bereit, KI sicher zu skalieren. Gleichzeitig standen 77 % vor erheblichen Herausforderungen im Zusammenhang mit KI-Sicherheit und -Governance.
Der Bericht zeigte außerdem, dass nur ein Bruchteil der mäßig gut vorbereiteten Unternehmen grundlegende Schutzmaßnahmen implementiert hat. Lediglich 18 % hatten KI-Firewalls eingeführt, und nur 24 % nutzten eine kontinuierliche Datenkennzeichnung – eine wichtige Methode zur Erkennung böswilliger Aktivitäten. Verschärft wird das Problem durch die zunehmende Nutzung von Schatten-KI: nicht autorisierte oder nicht genehmigte KI-Tools, die in Unternehmensumgebungen gefährliche Transparenzlücken schaffen.
Im Wettlauf um den Einsatz von KI zur Erlangung von Wettbewerbsvorteilen vergrößern viele Unternehmen unbeabsichtigt ihre Angriffsfläche.
Was KI angreifbar macht
Die einzigartigen Eigenschaften von KI machen sie anfällig für neuartige Angriffe. Zu den gravierendsten Schwachstellen zählen:
- Datenvergiftung: Angreifer schleusen unbemerkt manipulierte oder irreführende Daten in Trainingsdatensätze ein und beeinträchtigen dadurch das Verhalten von KI-Modellen. Im Jahr 2024 zeigten Forschende der University of Texas, wie schädliche Inhalte, die in referenzierten Dokumenten eingebettet waren, die Ausgaben von Modellen beeinflussen konnten – selbst nachdem die Dokumente entfernt worden waren.
- Modellinversion und -extraktion: Diese Angriffe ermöglichen es Angreifern, sensible Trainingsdaten zu rekonstruieren oder proprietäre Modelle nachzubilden. Beispiele aus der Praxis sind die Wiederherstellung von Patientenbildern aus Diagnosesystemen sowie die Rekonstruktion privater Sprachaufzeichnungen und interner Texte aus Sprachmodellen.
- Ausweichangriffe: Durch minimale, oft nicht wahrnehmbare Veränderungen an den Eingabedaten können Angreifer KI-Modelle dazu bringen, falsche Ergebnisse zu liefern. Ein Beispiel: Forschende täuschten das Bilderkennungssystem eines autonomen Fahrzeugs, sodass es ein Stoppschild fälschlicherweise als Geschwindigkeitsbegrenzungsschild einstufte, indem sie unauffällig wirkende Aufkleber anbrachten.
- Prompt-Injection: Große Sprachmodelle (Large Language Models, LLMs) sind anfällig für sorgfältig formulierte Eingaben, die ihr Verhalten manipulieren. In einem Fall wurde ein von Chevrolet-Händlern eingesetzter Chatbot auf Basis von ChatGPT dazu gebracht, dem Verkauf eines Autos für 1 US-Dollar zuzustimmen – ein Vorfall, der sowohl Reputations- als auch Rechtsrisiken offenbarte.
Diese Bedrohungen sind nicht nur theoretischer Natur. Sie sind real und beeinträchtigen bereits branchenübergreifend die Sicherheit und Zuverlässigkeit von KI.
Entwicklung einer starken KI-Abwehrstrategie
Um diese Herausforderungen zu bewältigen, müssen Unternehmen eine umfassende Abwehrstrategie verfolgen, die sowohl allgemeine Cybersicherheitsrisiken als auch KI-spezifische Risiken berücksichtigt. Die folgenden fünf Schritte können Unternehmen dabei helfen, ihre KI-Systeme abzusichern:
- Data Governance stärken
Erstellen Sie ein übersichtliches Verzeichnis der KI-Ressourcen – einschließlich Modellen, APIs und Trainingsdatensätzen – und setzen Sie strenge Richtlinien für die Zugriffskontrolle durch. Daten bilden die Grundlage für KI, und ihre Integrität muss auf allen Ebenen geschützt werden. - Kontinuierlich testen
Gehen Sie über herkömmliche Code-Reviews hinaus und setzen Sie auf adversariale Tests und Red Teaming. Diese Methoden helfen dabei, Schwachstellen wie Modellinversion und Prompt-Injection aufzudecken, bevor Angreifer sie ausnutzen. - Setzen Sie auf ein datenschutzorientiertes Design
Integrieren Sie Verschlüsselung, Datenminimierung und Verfahren zur differenziellen Privatsphäre. Diese Ansätze begrenzen das Risiko, dass sensible Daten offengelegt werden – selbst im Falle einer Sicherheitsverletzung. - Eine Zero-Trust-Architektur einführen
Wenden Sie auf alle KI-Systeme den Grundsatz „Niemals vertrauen, immer überprüfen“ an. Gewähren Sie jeder Komponente und jedem Benutzer nur die unbedingt erforderlichen Zugriffsrechte und überprüfen Sie sämtliche Aktivitäten konsequent. - KI-Verhalten in Echtzeit überwachen
Implementieren Sie Tools und Systeme, die das Modellverhalten oder Eingabemuster auf Anomalien überwachen. Achten Sie dabei auf übermäßig viele API-Aufrufe, verdächtige Prompts oder ungewöhnliche Ausgaben – all dies könnte auf aktive Bedrohungen hindeuten.
Der Ansatz von F5 zur KI-Sicherheit
Da immer mehr Unternehmen auf Hybrid- und Multicloud-Umgebungen setzen, stellt F5 über unsere Application Delivery and Security Platform (ADSP) KI-native Sicherheitsfunktionen bereit, die moderne Infrastrukturen schützen.
Als Teil dieser Plattform bietet F5 AI Gateway Schutz vor Prompt-Injection und Datenlecks, indem LLM-Anfragen intelligent geprüft und weitergeleitet werden. Fortschrittliche API-Sicherheitslösungen, die über F5 Distributed Cloud API Security und NGINX App Protect verfügbar sind, schützen APIs vor Fehlverwendung, Datenexfiltration und Missbrauch.
Ebenfalls Teil von F5 ADSP ist F5 Distributed Cloud Bot Defense und nutzt maschinelles Lernen, um automatisierte Bedrohungen wie Credential Stuffing mit einer minimalen Anzahl falsch positiver Ergebnisse zu erkennen und zu blockieren. Die Lösungen von F5 BIG-IP Advanced WAF schützen Anwendungen und APIs und entlasten gleichzeitig die GPUs von Sicherheitsaufgaben, wodurch die Leistung bei KI-intensiven Workloads verbessert wird.
Darüber hinaus bietet die KI-Referenzarchitektur von F5 eine Blaupause für eine sichere, zuverlässige KI-Infrastruktur in Hybrid- und Multi-Cloud-Umgebungen. F5 arbeitet außerdem mit führenden KI-Innovatoren wie Intel, Red Hat, MinIO und Google Cloud Platform sowie vielen weiteren zusammen, um Kunden eine sichere und effiziente Skalierung zu ermöglichen.
Fazit: Sichere KI, sichere Zukunft
KI verändert jede Branche, in der sie zum Einsatz kommt – doch ihr Potenzial birgt beispiellose Risiken. Da Bedrohungen immer ausgefeilter werden, müssen Sicherheitsverantwortliche schnell und vorausschauend handeln und auf proaktive Tools, intelligentere Architekturen und richtlinienbasierte Schutzmaßnahmen setzen.
KI-Sicherheit muss fest in der Unternehmensstrategie verankert sein. Mit der richtigen Kombination aus Regulierung, Technologie und Kultur – gestützt auf bewährte Rahmenwerke wie das AI Risk Management Framework des U.S. National Institute of Standards and Technology und unterstützt durch Plattformen wie F5 ADSP – können Unternehmen das volle Potenzial von KI ausschöpfen und sich zugleich vor ihren Schattenseiten schützen.
Die KI-Ära ist angebrochen. Jetzt ist es an der Zeit, sie abzusichern.
Besuchen Sie die Podiumsdiskussion auf der Black Hat
Wenn Sie planen, diese Woche zur Black Hat USA 2025 nach Las Vegas zu kommen, nehmen Sie gemeinsam mit Chuck Herrin, Field CISO bei F5, und weiteren Experten an einer Podiumsdiskussion im Rahmen des AI Summit teil, bei der sie darüber diskutieren, wie sich die digitale Abwehr im KI-Zeitalter stärken lässt.
Besuchen Sie außerdem unbedingt unsere Webseite, um mehr über die KI-Bereitstellungs- und Sicherheitslösungen von F5 für Unternehmen zu erfahren.
Ähnliche Blogbeiträge
F5 und Equinix bündeln ihre Kräfte, um die sichere Anwendungsbereitstellung in Multicloud-Umgebungen zu vereinfachen
F5 und Equinix ermöglichen es Unternehmen, sich weltweit sicher und zuverlässig mit ihren Partnern zu vernetzen.
API-Sicherheitsrisiken und -herausforderungen
Erfahren Sie, warum APIs für die moderne App-Entwicklung unverzichtbar sind und wie Sie sie vor den häufigsten Sicherheitslücken schützen. Profitieren Sie von Expertentipps und direkt umsetzbaren Strategien.
Ein Meilenstein für die Community Impact Grants von F5
F5 feiert das fünfjährige Bestehen seines innovativen Community Impact Grant-Programms, das gemeinnützige Organisationen, bei denen sich F5-Mitarbeitende ehrenamtlich engagieren, mit Fördermitteln in Höhe von 5.000 US-Dollar unterstützt.
Mit moderner, anpassungsfähiger und sicherer Gesundheits-IT Leben retten
Die IT-Investitionen im Gesundheitswesen tragen dazu bei, die schnellsten Wege zu einer besseren Versorgung zu finden, indem sie die medizinische Betreuung näher an die Patientinnen und Patienten bringen. Viele Gesundheitsunternehmen nutzen riesige Mengen an klinischen und anderen Gesundheitsdaten, um Entwicklungen zu verfolgen und übergreifende Trends in der gesamten Gesundheitslandschaft zu erkennen. Gleichzeitig nähern sie sich einer möglichst präzisen, individuell zugeschnittenen Versorgung an.
Verbesserung der Benutzer- und Administrationserfahrung durch sicheren hybriden Zugriff
Diese Kombination aus BIG-IP Access Policy Manager und Azure Active Directory ermöglicht Identitätsföderation, zentralisierten Benutzerzugriff (über Single Sign-on) und erhöhte Anwendungssicherheit (durch Multi-Faktor-Authentifizierung) für geschäftskritische Anwendungen sowie cloudbasierte und SaaS-Anwendungen. Dieser Ansatz vereinfacht die Einrichtung und Bereitstellung, reduziert den Verwaltungsaufwand und verbessert die gesamte Administration.
Das Internet der Sicherheitsdinge
Nein, das ist keine Tirade über die Sicherheit des IoT. Es ist eine Geschichte über Veränderung – genauer gesagt über Veränderung und ihre Auswirkungen auf die Sicherheit. Veränderung ist allgegenwärtig. Es gibt unzählige Axiome und Sprichwörter über Veränderung, also ist es ...