Vom Chaos zur Kohärenz: Digitale Zersplitterung und KI-Risiken bewältigen

F5 Newsroom Staff

Die unkontrollierte Ausbreitung digitaler Systeme ist kein neues Phänomen. Viele, wahrscheinlich sogar die meisten Unternehmen erleben sie im Zuge ihres Wachstums. Teams und Abteilungen führen zweckgebundene Anwendungen, Tools und Lösungen ein, ohne die IT-Abteilung darüber zu informieren, und diese Tools lassen sich nicht effektiv in bestehende Systeme integrieren. Mitunter stellen IT-Teams Anwendungen bereit, deren Funktionen sich teilweise mit denen anderer Anwendungen überschneiden, während andere Funktionen ungenutzt bleiben. Manchmal werden Anwendungen nicht mehr verwendet und fristen als Zombiesysteme ihr Dasein – nicht ganz tot, aber nie aktualisiert, nie entfernt und voller Sicherheitslücken. Und manchmal liegt es weder am Unternehmen noch an seinen Teams, sondern an den allgemeinen Rahmenbedingungen. Das Aufkommen der Cloud für Computing, Speicherung, Zusammenarbeit und vieles mehr, gefolgt von der Covid-Pandemie, dem tiefgreifenden Wandel hin zur Arbeit im Homeoffice und der uneinheitlichen System-Governance während dieser chaotischen Zeit hat zweifellos zur explosionsartigen Ausbreitung digitaler Systeme in allen Unternehmen beigetragen – insbesondere im Sicherheitsbereich.

Auf den ersten Blick mag der Einsatz mehrerer Tools in der gesamten Cybersicherheitsinfrastruktur eines Unternehmens wie ein vernünftiger, risikoarmer und umfassender Ansatz erscheinen. Wenn sich jedoch einzelne Sicherheitstools und -lösungen innerhalb einer Infrastruktur unkontrolliert vermehren, können sie erhebliche Herausforderungen und Risiken mit sich bringen, darunter:

• Lösungen, die isoliert arbeiten, nicht miteinander kommunizieren oder Informationen austauschen können und daher nicht zu einer ganzheitlichen Betrachtung der Sicherheitslage des Unternehmens beitragen können. Diese Fragmentierung erschwert die Korrelation und Analyse von Sicherheitsereignissen und Warnmeldungen, was zu Verzögerungen bei der Reaktion auf Vorfälle, einer höheren Komplexität bei der Bewältigung von Sicherheitsvorfällen und möglicherweise übersehenen Bedrohungen führt.
• Mangelnde Integration und Transparenz erschweren die Überwachung und Kontrolle von Datenflüssen. Dadurch entstehen blinde Flecken, an denen sensible Daten abfließen oder ohne ordnungsgemäße Autorisierung abgerufen werden können.
• Redundanz, die zu widersprüchlichen oder inkonsistenten Sicherheitsmaßnahmen, Ressourcenverschwendung, erhöhter Komplexität sowie Herausforderungen bei der Wartung und Aktualisierung von Sicherheitssystemen führt.
• Inkonsistente Autorisierungstools und/oder -protokolle, die unbeabsichtigt dazu führen können, dass unbefugte Personen Zugriff auf kritische Daten erhalten.

Eine sorgfältige Prüfung mit anschließender kompromissloser Konsolidierung zur Verschlankung der Sicherheitsinfrastruktur ist eindeutig ein möglicher Weg. Doch auch dieser birgt Fallstricke: Wird eine neue Technologie wie generative künstliche Intelligenz (GenAI) in das digitale Ökosystem eines Unternehmens eingeführt, kann der bestehende Sicherheitsapparat keinen Schutz bieten. Die Risiken einer unternehmensweiten Bereitstellung eines GenAI-Modells oder großen Sprachmodells (LLM) ohne vorhandene Sicherheitsmaßnahmen sind hinlänglich dokumentiert: der unbeabsichtigte Verlust geistigen Eigentums oder geschützter, vertraulicher beziehungsweise sensibler Daten durch schlecht formulierte Anfragen; das Einschleusen fehlerhaften oder sogar schädlichen Codes über LLM-Antworten, zu deren Beurteilung die Mitarbeitenden nicht in der Lage sind; die versehentliche Verbreitung falscher oder ungenauer Informationen, die einer LLM-Antwort entnommen, aber nicht überprüft wurden; und noch sehr, sehr viele weitere.

Es überrascht nicht, dass neue Risiken neue Gegenmaßnahmen erfordern. Diese noch jungen Maßnahmen sollten mindestens einige technische Lösungen, einen Governance-Rahmen und kontinuierliche Anstrengungen umfassen, wie zum Beispiel:

• Spezialisierte Scanner zur Moderation und Filterung von Inhalten in Prompt-Eingaben und Modellausgaben, um schädliche oder anderweitig unangemessene Inhalte zu erkennen und zu blockieren
• Ethische Richtlinien, die die Interaktionen der Nutzer mit dem Modell an den Werten und Standards der Organisation ausrichten
• Funktionen zur Faktenprüfung, mit denen Informationen überprüft und Ungenauigkeiten oder Falschinformationen gekennzeichnet werden können, bevor sie in Unternehmensinhalte einfließen
• Modellunabhängigkeit, um eine Anbieterbindung und Probleme aufgrund von Einschränkungen seitens des Anbieters zu vermeiden
• Vollständige Transparenz im gesamten System, damit das Sicherheitspersonal in Echtzeit sehen kann, was vor sich geht
• Ein umfassendes Regelwerk aus Richtlinien und Verfahren für den ethischen und verantwortungsvollen Einsatz der Modelle, das Transparenz, Rechenschaftspflicht und die Einhaltung unternehmensinterner, branchenspezifischer oder regulatorischer Anforderungen gewährleistet
• Rollen- oder richtlinienbasierte Zugriffskontrollen stellen sicher, dass nur autorisierte Mitarbeitende Zugriff auf die Modelle, Daten und Funktionen haben, die sie zur Erfüllung ihrer Aufgaben benötigen.
• Funktionen zur Nachverfolgung und Überprüfung der Nutzung durch Benutzer sowie der verwendeten Inhalte, um Schwachstellen zu erkennen, Risiken zu bewerten und geeignete Schutzmaßnahmen umzusetzen.

Am wichtigsten ist vielleicht, dass sich solche Lösungen an die spezifischen Anforderungen, das Risikoprofil und das regulatorische Umfeld eines Unternehmens anpassen lassen. Die modellunabhängigen KI-Laufzeitsicherheitslösungen von F5 bieten umfassende Sicherheitsfunktionen in einer einfach zu installierenden und zu bedienenden Lösung für Unternehmen, die KI-Modelle beliebiger Anzahl oder Art einsetzen – darunter LLMs, multimodale Modelle, Retrieval-Augmented Generation (RAG), feinabgestimmte Modelle sowie interne, externe, private oder Open-Source-Modelle. Die Lösungen von F5 ermöglichen eine vollständige Beobachtbarkeit des gesamten Systems, sodass Administratoren jedes Modell und dessen Aktivitäten einsehen können.

F5 implementiert robuste Schutzmechanismen zum Schutz vor bekannten und neuartigen Bedrohungen. So beschränken richtlinienbasierte Zugriffskontrollen den Modellzugriff auf von Administratoren festgelegte Personen und Gruppen. Gleichzeitig können Administratoren Ratenbegrenzungen festlegen, um die Modellnutzung zu überwachen und zu regulieren sowie Denial-of-Service-Angriffe (DoS) auf Modelle zu verhindern. Anpassbare Scanner prüfen ausgehende und eingehende Inhalte, um sicherzustellen, dass vertrauliche personenbezogene Daten oder Unternehmensdaten die Organisation nicht verlassen und schädliche, verdächtige oder anderweitig unzulässige Inhalte nicht hineingelangen. Weitere Scanner prüfen KI-Prompts auf Inhalte, die zwar dem Unternehmen nicht schaden, aber nicht mit den Unternehmenswerten übereinstimmen oder nicht dem geschäftlichen Verwendungszweck entsprechen. 

Alle Anfragen und Antworten werden von den Scannern überprüft und je nach den vom Unternehmen festgelegten Schwellenwerten geschwärzt, blockiert oder genehmigt. Zudem werden sämtliche auf der Plattform ausgeführten Interaktionen protokolliert, damit Administratoren sie überprüfen können und Prüfbarkeit sowie Rechenschaftspflicht gewährleistet sind. Unser modellunabhängiger Bot lässt sich nahtlos in Arbeitsplatz-Tools wie Slack und Microsoft Teams integrieren. So können Benutzer direkt aus diesen Tools auf alle verfügbaren Modelle zugreifen und profitieren von hoher Sicherheit und kompromissloser Leistung, während zugleich die Produktivität gesteigert sowie Kommunikation und Innovation gefördert werden. Diese zentrale Lösung bildet eine solide Grundlage für einen proaktiven, ganzheitlichen Sicherheitsansatz, mit dem sich die mit der Bereitstellung von GenAI-Modellen verbundenen Risiken wirksam mindern lassen. Klicken Sie hier und erfahren Sie mehr über unsere Lösungen für GenAI-Laufzeitsicherheit und -Enablement.

Über den Autor

F5 Newsroom Staff

Weitere Blogbeiträge von F5 Newsroom Staff