Was ist KI-Sicherheit?

F5 Newsroom Staff

Während künstliche Intelligenz (KI) mit der Einführung von ChatGPT Ende 2022 Einzug in den allgemeinen Sprachgebrauch hielt, ist KI-Sicherheit noch ein recht junges Thema, das kaum verstanden und selbst von Cybersicherheitsexperten häufig ignoriert oder abgetan wird. Es ist an der Zeit, Unklarheiten und Missverständnisse darüber auszuräumen, was wir unter KI-Sicherheit verstehen, welchen Bedrohungen sie ausgesetzt ist und mit welchen Ansätzen sich im gesamten Unternehmen eine sichere KI-Umgebung schaffen lässt.

Eine neue Angriffsfläche

KI-Sicherheit bezeichnet die strategische Umsetzung robuster Maßnahmen und Richtlinien, um die KI-Systeme, Daten und Abläufe Ihres Unternehmens vor unbefugtem Zugriff, Manipulation, böswilligen Angriffen und anderen digitalen Bedrohungen zu schützen. Für jedes Unternehmen, das KI-Tools einsetzt, ist es unerlässlich, Sicherheit in seine KI-Nutzungsstrategie einzubeziehen, da jede neue Komponente, die in ein digitales System integriert wird – einschließlich KI-gestützter Anwendungen –, die verfügbare „Angriffsfläche“ vergrößert, über die Bedrohungsakteure in das System eindringen oder ihm Schaden zufügen können. 

Die Absicherung KI-gestützter Erweiterungen Ihrer digitalen Infrastruktur – unabhängig davon, ob es sich um statistische Modelle oder große Sprachmodelle (Large Language Models, LLMs) wie ChatGPT und andere handelt – ist entscheidend, um die Integrität, den Datenschutz und die Zuverlässigkeit Ihres Systems zu gewährleisten, das Vertrauen Ihrer Kunden zu stärken und den Ruf Ihres Unternehmens zu schützen. Da immer mehr Unternehmen KI-Tools und -Lösungen für Entscheidungsprozesse, betriebliche Abläufe und sensible Kundeninteraktionen einsetzen, ist eine solide KI-Sicherheitsstrategie unerlässlich, damit diese Tools vertrauenswürdig bleiben und zuverlässig vor externen Bedrohungen sowie internen Schwachstellen geschützt sind.

Risiken von KI-Modellen

LLMs werden teils als clevere Spielzeuge, teils als leistungsstarke Werkzeuge betrachtet. Tatsächlich sind sie jedoch die jüngste Ergänzung der kritischen Informationsinfrastruktur eines Unternehmens und müssen als anfällige Angriffsfläche behandelt werden. Ein Großteil der frühen Diskussion über die Risiken von LLMs konzentrierte sich darauf, Bedrohungen zu identifizieren und zu bewältigen, die auf menschlichem Verhalten beruhen, etwa Datenverlust und unsachgemäße Nutzung. Heimtückischer sind jedoch verdeckte Angriffe auf die Modelle und/oder ihre Datensätze. Diese Angriffe nehmen nicht nur hinsichtlich des Schadens zu, den sie anrichten können, sondern auch in Bezug auf Umfang, Größenordnung und Raffinesse. Zugleich werden sie immer schwieriger zu erkennen. Im Folgenden stellen wir drei Arten von Angriffen vor, die für Unternehmen, die LLMs und andere Modelle generativer KI (GenAI) einsetzen, die größten Bedrohungen darstellen.

Jailbreaks/Prompt-Injection

Jailbreak- oder Prompt-Injection-Techniken versuchen, ein LLM dazu zu bringen, Informationen bereitzustellen, die als gefährlich, illegal, unmoralisch oder unethisch eingestuft werden oder anderweitig den gängigen gesellschaftlichen Normen widersprechen. Etwa zwei Stunden nach der Veröffentlichung von ChatGPT-4 im März 2023 gelang es durch erfolgreiche Jailbreak-Versuche, das System dazu zu bringen, Anleitungen für eine alarmierende Vielzahl antisozialer Aktivitäten bereitzustellen. 

Seitdem haben zahlreiche Bedrohungsakteure sorgfältig formulierte, äußerst detaillierte Prompts entwickelt – darunter Rollenspiele, prädiktive Texte, umgekehrte Psychologie und andere Techniken –, um LLMs dazu zu bringen, interne Inhaltsfilter und Kontrollmechanismen zu umgehen, die ihre Antworten regulieren. Die Gefahr eines erfolgreichen Jailbreak-Angriffs auf ein GenAI-System wie ein LLM besteht darin, dass dabei die Schutzmechanismen außer Kraft gesetzt werden, die das Modell daran hindern, schädliche Befehle auszuführen, etwa Anweisungen, Schutzmaßnahmen zu ignorieren oder destruktive Handlungen vorzunehmen. Sobald diese Grenze zwischen akzeptabler und inakzeptabler Nutzung aufgehoben ist, verfügt das Modell über keine weiteren Schutzmechanismen, die es daran hindern, den neuen Anweisungen zu folgen.

Datenvergiftung

Ein Poisoning-Angriff kann auf das Modell, die Trainingsdaten des Modells oder eine ungesicherte Datenquelle Ihres Unternehmens abzielen. Ziel eines Poisoning-Angriffs ist es, die von Ihrem Modell erzeugten Ergebnisse oder Vorhersagen zu verfälschen. Dies kann dazu führen, dass sich Ihr Unternehmen auf die fehlerhaften Ergebnisse verlässt und falsche, potenziell schädliche Entscheidungen trifft, fehlerhafte oder unrichtige Informationen verbreitet oder andere unüberlegte Maßnahmen auf Grundlage der Modellausgabe ergreift.

• Datenvergiftung-Angriffe zielen auf den Trainingsdatensatz des Modells ab. Der Bedrohungsakteur verändert oder manipuliert die Daten oder fügt schädliche, fehlerhafte, verzerrte oder anderweitig ungeeignete Daten hinzu, die die Modellausgabe verfälschen. 
• Modellvergiftung-Angriffe zielen auf das Modell selbst ab. Der Angreifer verändert das Modell oder dessen Parameter, um fehlerhafte Ausgaben zu erzeugen. 
• Backdoor-Angriffe erfordern ein zweistufiges Vorgehen. Zunächst manipuliert der Bedrohungsakteur den Datensatz des Modells, indem er schädliche Daten hinzufügt und so eine verborgene Schwachstelle schafft, die das Modell erst beeinträchtigt, wenn sie ausgelöst wird. Die Aktivierung der Schwachstelle ist der zweite Schritt dieses Angriffs. Dadurch kann der Hacker Ihrer Organisation zu einem selbst gewählten Zeitpunkt Schaden zufügen.

Adversarielle KI

Adversariale Angriffe erfolgen, nachdem Modelle bereitgestellt wurden und im Einsatz sind. Diese Angriffe unterscheiden sich in ihrer Vorgehensweise, sind jedoch allesamt schwer zu erkennen und sehr gefährlich.

• Modellinversion-Angriffe analysieren die Ausgaben eines Modells, um sensible Informationen über das Modell selbst oder den Datensatz aufzudecken, mit dem es trainiert wurde. Dies kann zu Datenschutzverletzungen führen.
• Membership-Inferenz-Angriffe zielen darauf ab, dass ein Bedrohungsakteur herauszufinden versucht, ob bestimmte Datenpunkte, etwa Informationen über eine bestimmte Person, Teil des Trainingsdatensatzes waren. Bei Erfolg stellen diese Angriffe einen erheblichen Eingriff in die Privatsphäre dar.
• Modelldiebstahl-Angriffe umfassen die genaue Untersuchung der Ausgaben eines trainierten Modells, um dessen geistiges Eigentum zu stehlen oder zu kopieren und so das ursprüngliche Modell zu klonen – in der Regel mit dem Ziel, daraus kommerziellen Nutzen zu ziehen.
• Wasserzeichenangriffe verändern die Parameter eines trainierten Modells, um ein verborgenes Muster einzubetten, mit dem sich „beweisen“ lässt, wem das Modell gehört. Dies kann zu erheblichen finanziellen Verlusten sowie zum Verlust von Wettbewerbsvorteilen führen.
• Modellinferenz-Angriffe analysieren die Ausgaben eines Modells, um vertrauliche Informationen über die Trainingsdaten oder die Modellparameter zu ermitteln, was zu Datenschutzverletzungen führen kann.

Lösungen

Innovative Schutzstrategien und Bereitstellungstaktiken müssen kontinuierlich weiterentwickelt werden, um mit neuen KI-Technologien wie LLMs Schritt zu halten. Die proaktive Implementierung von Schutzmaßnahmen gegen bekannte und neu auftretende Bedrohungen ist der einzig sinnvolle Ansatz, um eine sichere Umgebung für die unternehmensweite Einführung von LLMs in großem Maßstab zu schaffen. 

Unsere Plattform schützt Ihr Unternehmen vor Benutzern, die versuchen, Systemkontrollen zu umgehen oder außer Kraft zu setzen. Dazu analysiert sie Sprachmuster und Kategorien wie Rollenspiele, hypothetische Gespräche, die Erschaffung fiktiver Welten und umgekehrte Psychologie, um Prompts zu erkennen, die auf einen Verstoß gegen die Regeln zur zulässigen Nutzung abzielen.

Darüber hinaus werden ausgehende und eingehende Inhalte auf toxische, voreingenommene oder anderweitig inakzeptable Bestandteile überprüft. Benutzer werden darauf hingewiesen, dass der Prompt erst gesendet wird, wenn sein Inhalt entsprechend geändert wurde. Ein detaillierter Prompt-Verlauf ermöglicht zudem die Überprüfung solcher Prompts und der Benutzer, die sie erstellt haben. Unsere Plattform bietet Administratoren außerdem die Möglichkeit, eine menschliche Überprüfung der vom Modell ausgegebenen Informationen vorzuschreiben. So wird sichergestellt, dass alle in der Unternehmensdokumentation verwendeten Inhalte korrekt und sachlich richtig sind.

Fazit

Das Verständnis und die Umsetzung von KI-Sicherheitsprotokollen werden in einem zunehmend von KI geprägten Geschäftsumfeld rasch zu einer zentralen unternehmerischen Notwendigkeit. Durch die Integration von KI-Sicherheitstools in Ihre Infrastruktur ermöglichen Sie Ihrem Unternehmen, sich dynamisch und in Echtzeit an neue Bedrohungen anzupassen, gewährleisten einen robusten Schutz seiner KI-Systeme, Daten und Betriebsabläufe und geben Entscheidungsträgern die nötige Sicherheit. Kurz gesagt: KI-Sicherheit ermöglicht es Ihrem Unternehmen, Cyberkriminellen – und Ihren Wettbewerbern – stets einen Schritt voraus zu sein.

Über den Autor

F5 Newsroom Staff

Weitere Blogbeiträge von F5 Newsroom Staff