GenAI Defense: Kontrolle, Leistung, Flexibilität

Kim BielerSenior Manager, Produktmanagement | F5

Gute Sicherheit beginnt mit einer guten Verteidigung. In dieser Hinsicht unterscheidet sich generative KI nicht von anderen neuen Technologien der vergangenen Jahre. Prävention, Erkennung und Reaktion sind bei Bedrohungen, die auf KI-Anwendungen abzielen, ebenso notwendig wie bei jeder anderen Anwendung oder Angriffsfläche. Angreifer verfolgen nach wie vor dieselben Ziele: in die Umgebung einzudringen, Zugriff auf Geheimnisse und geschützte Daten zu erlangen, den Betrieb zu stören, Systeme für eigene Zwecke zu missbrauchen oder den Ruf der Marke zu schädigen.

Der Unterschied liegt in der rasanten Verbreitung von generativer KI unter Endnutzern und in der Überzeugung innerhalb von Unternehmen, dass sie von der Konkurrenz abgehängt werden, wenn sie nicht auf diesen Zug aufspringen. Sicherheitsteams werden davon überrascht, wie weit die Nutzung nicht autorisierter Large Language Models (LLMs) durch Mitarbeitende bereits verbreitet ist und wie schnell die Unternehmensleitung LLM-basierte Anwendungen in den Produktivbetrieb überführen möchte. Die Gefahr kommt aus den eigenen Reihen!

Ein weiterer Unterschied ist die auf natürlicher Sprache basierende Benutzeroberfläche der am häufigsten verwendeten LLMs, die sowohl gutwilligen als auch böswilligen Nutzern den Einstieg erleichtert. Wenn erfolgreiche Techniken für Prompt-Angriffe einfache Zeilenumbrüche, Emojis und Gedichte umfassen, müssen Verteidiger neue Tricks lernen (und möglicherweise den Thesaurus hervorholen).

Das Zusammenwirken dieser Faktoren bringt Sicherheitsteams in eine schwierige Lage. Die traditionelle Schutzmaßnahme in Situationen mit hohem Risiko und großer Unsicherheit besteht darin, die Angriffsfläche zu begrenzen, indem der Spielraum für zulässige Aktivitäten eingeschränkt wird. Bei LLMs bedeutet das, zu kontrollieren, welche Modelle verwendet werden dürfen, wer Zugriff hat und welche Prompts und Antworten zugelassen werden. Sind die Kontrollen jedoch zu streng, leiden Produktivität, Mitarbeitermotivation und Kundenerlebnis. Stellen Sie sich vor, Sie interagieren mit einem medizinischen Chatbot und können Ihre Symptome nicht beschreiben, weil diese gegen eine Richtlinie zu sexuellen Begriffen verstoßen.

Was Sicherheitsteams brauchen, sind Kontrolle, Handlungsspielraum, und Flexibilität, um das Unternehmen, seine Mitarbeitenden und seine Kunden zu schützen und gleichzeitig reibungslose Abläufe, erfolgreiche Projekte und ein hochwertiges Nutzererlebnis zu ermöglichen. 

Lösungen für KI-Sicherheit

Kontrolle

• Datensicherheit: Unternehmen mit sensiblen oder geschützten Daten, die interne KI-Anwendungen für ihre Mitarbeitenden entwickeln, sind häufig mit einer On-Premises-Lösung besser beraten, da die Daten so innerhalb des Unternehmens verbleiben.
• Robuste Zugriffskontrollen: Granulare Berechtigungen für Einzelpersonen und Teams – und zunehmend auch für KI-Agenten –, um den Zugriff auf Modelle, Schutzmechanismen und Betriebskennzahlen zu beschränken und die Kosten unter Kontrolle zu halten.
• Einhaltung gesetzlicher Vorschriften: Funktionen, die Unternehmen dabei unterstützen, die wachsende Zahl regulatorischer Vorgaben für den Einsatz von KI und den Datenschutz einzuhalten, die sich je nach Branche und Region unterscheiden.

Leistungsfähigkeit

• Schnelle Wertschöpfung: Die Bereitstellung und Einrichtung von Sicherheitslösungen muss schnell und einfach erfolgen, insbesondere bei lokalen Installationen, damit Unternehmen Anwendungen schneller entwickeln, testen und veröffentlichen können.
• GenAI-gestützte Schutzmechanismen: Regex- und neuronale-netzbasierte Schutzmechanismen haben zwar nach wie vor ihre Stärken, reichen jedoch bei Weitem nicht an die Anpassungsfähigkeit und das Kontextverständnis von GenAI heran.
• Red-Teaming: Anbieter-Lösungen müssen Tools bereitstellen, die realistische Angriffe simulieren, damit Anwendungen vor der Produktivsetzung sowie bei jeder Entdeckung neuer Angriffsarten und Schwachstellen gründlich getestet werden können.

Flexibilität

• Modellunabhängig: Unternehmen müssen in der Lage sein, die besten öffentlich verfügbaren Modelle für ihre Anwendungsfälle auszuwählen, bei Verfügbarkeit besserer Modelle zu wechseln und ihre eigenen internen Modelle sowie RAG-Daten zu nutzen.
• Anpassbarkeit: Keine Sicherheitslösung kann jeden spezifischen Anwendungsfall und jedes Risikoprofil vorhersehen. Daher müssen Unternehmen die Möglichkeit haben, vorkonfigurierte Kontrollen und Angriffe anzupassen und zu optimieren.
• Robuste API: Es versteht sich von selbst, dass jedes Sicherheitsprodukt für Unternehmen eine leistungsfähige API benötigt, über die Daten in bestehende Arbeitsabläufe integriert werden können.
• Bereitstellungsoptionen: Da jeder Anwendungsworkflow anders ist, möchten Infrastrukturteams selbst entscheiden können, an welcher Stelle im Technologie-Stack KI-Sicherheitstools eingesetzt werden.

Derzeit gibt es nur eine kleine Auswahl an Lösungen auf dem Markt, die sich mit der Sicherheit von KI-Anwendungen befassen. Davon sind nur die F5 AI Runtime Security-Lösungen ausdrücklich darauf ausgerichtet, Sicherheitsteams dabei zu unterstützen, interne und kundenorientierte GenAI-basierte Anwendungen wirksam zu schützen.

Über den Autor

Kim BielerSenior Manager, Produktmanagement | F5

Weitere Blogbeiträge von Kim Bieler