Die Bedeutung der Berechtigungsverwaltung für große Sprachmodelle beim Einsatz in Unternehmen

F5 Newsroom Staff

Große Sprachmodelle (Large Language Models, LLMs) wie ChatGPT und Claude kamen Ende 2022 und Anfang 2023 auf und lösten eine Welle des Bewusstseins für die Leistungsfähigkeit von KI aus. Viele Unternehmen erkannten sofort das transformative Potenzial dieser Technologie, das mit dem Aufkommen des World Wide Web oder der Cloud vergleichbar ist, und versuchten, ihre Möglichkeiten zu nutzen, ohne sich viele Gedanken über Schutz und Sicherheit zu machen. Andere Unternehmen verfielen aus Frustration in eine zögerliche Haltung, weil sie nicht wussten, wie sie sich anpassen sollten, und manche erstarrten schlichtweg.

Seit ihrem Aufkommen haben LLMs das gesamte Ökosystem grundlegend verändert – von der Planung von Investitionsstrategien und Markttaktiken über die Neugestaltung betrieblicher Abläufe bis hin zur Erstellung juristischer Dokumente. Auch die Modelle selbst haben sich kontinuierlich weiterentwickelt: von großen öffentlichen Basismodellen wie ChatGPT und Bard über feinabgestimmte, branchenspezifische Modelle wie Harvey und BloombergGPT bis hin zu Organisationen, die zunehmend eigene Modelle feinabstimmen oder Modelle mit abrufgestützter Generierung (Retrieval-Augmented Generation, RAG) entwickeln, und neuerdings zu internen Modellen. Diese jüngste Entwicklung ist ein Phänomen für sich: Diese internen Modelle werden mit proprietären Daten trainiert, um gezielte Aufgaben innerhalb einer Organisation, einer Abteilung oder eines Teams zu erfüllen.

Beim RAG-Prozess werden spezifische Unternehmensdaten – beispielsweise Rechtsdokumente, Kundendienstunterlagen oder Marketingkampagnen – in das Modell eingespeist. Anschließend wird das Modell darauf trainiert, Muster und andere Inhalte zu erkennen und zu analysieren, und so lange weiterentwickelt, bis die festgelegten Leistungsschwellen erreicht sind. Danach wird es für den vorgesehenen Zweck eingesetzt. Interne RAG- und feinabgestimmte Modelle ermöglichen richtlinienbasierte Zugriffskontrollen (Policy-Based Access Controls, PBAC), durch die nur autorisierte Personen mit dem Modell und seinen Daten interagieren können. Ähnlich wie Unternehmen Active Directory und andere Berechtigungssysteme nutzen, um den Datenzugriff zu segmentieren und zu steuern, lässt sich auch der Zugriff auf Informationen und Modelle nach Teams oder Einzelpersonen aufteilen – je nach Unternehmensrichtlinie, geschäftlichem Bedarf oder anderen unternehmensspezifischen Kriterien. Da der Einsatz von KI-Modellen im gesamten Unternehmen weiter zunimmt, wird die Vergabe von Zugriffsberechtigungen auch künftig ein wichtiger Bestandteil des Geschäftsbetriebs und zugleich ein entscheidender Faktor für die Sicherheit von LLMs sein.

• Schutz sensibler Daten, geistigen Eigentums, juristischer Dokumente, personenbezogener Daten (PII) und anderer vertraulicher Inhalte wird einfacher, wenn der Zugriff auf solche Informationen nur Mitarbeitern oder anderen Personen mit entsprechender Berechtigung gewährt wird. Die Risiken von Datendiebstahl nehmen mit jeder zusätzlichen Sicherheitsebene ab. 
• Die Einhaltung von Vorschriften zu Datenschutz und Datensicherheit, Branchenstandards, etwa für automatisierte Entscheidungsfindung, Richtlinien des Unternehmens zur akzeptablen Nutzung und anderen Vorgaben lässt sich in kleineren Gruppen und bei gezielten oder unterschiedlichen Anforderungen leichter erreichen, nachverfolgen und aufrechterhalten. 
• Da Kostenstrukturen für die Modellnutzung weiterhin schwanken werden, bevor sie sich stabilisieren, steht die Ressourcenzuweisung ganz oben auf der Liste der Vorteile, die sich durch die Vergabe von Modellberechtigungen ergeben. Durch die Begrenzung der Anzahl der Teams oder Mitarbeitenden, die Zugriff auf ein Modell haben, lässt sich die Nutzung von Rechenressourcen effizient steuern. Zudem können Unternehmen die Anzahl der Lizenzen, Abonnements oder Nutzerplätze für Modelle bedarfsgerecht festlegen, was beim Einsatz mehrerer Modelle zunehmend an Bedeutung gewinnt. 
• Die Möglichkeit, Modellaktionen oder -aktivitäten anzupassen, und zwar auf der Grundlage spezifischer Anwendungsfälle und/oder Benutzergruppen, optimiert die Funktionalität. Zudem ermöglicht die Anpassung von Filtern und der Empfindlichkeit von Scannern Reaktionen, die auf die Anforderungen des Unternehmens zugeschnitten sind.

Das Wissen, dass ihnen die Möglichkeit zur Implementierung einer robusten richtlinienbasierten Zugriffskontrolle (Policy-Based Access Control, PBAC) für Modelle der generativen künstlichen Intelligenz (GenAI) zur Verfügung steht, ist eine enorme Erleichterung für Unternehmen, die noch immer zu bestimmen versuchen, welche Modelle – und welche Arten von Modellen – sie benötigen und wie sie diese unternehmensweit bereitstellen und absichern können. Diese entscheidende und bewährte Komponente der Sicherheitsinfrastruktur eines Unternehmens begrenzt potenzielle Sicherheitslücken, indem sie unnötige Zugriffe auf sensible Daten minimiert, und verringert das Risiko von Insiderbedrohungen. Systeme für das Identitäts- und Zugriffsmanagement (Identity and Access Management, IAM) sowie Tools zur Rollenverwaltung, die Benutzerauthentifizierung, Autorisierung und Auditierung zentralisieren, sind für eine effektive PBAC-Implementierung von entscheidender Bedeutung. 

Allerdings muss auch das Risiko einer unkontrollierten Ausbreitung von Technologien berücksichtigt werden. Diese entsteht, wenn zu viele Anwendungen und Geräte in einem System nur unzureichend oder gar nicht miteinander integriert sind, und kann Schwachstellen schaffen, wo zuvor möglicherweise keine bestanden. Die Bereitstellung einer umfassenden LLM-Sicherheitslösung wie F5 AI Runtime Security, die als übergreifende Vertrauensschicht fungiert und alle unternehmensweit eingesetzten Modelle abdeckt, schließt die entscheidende Lücke bei einer typischen Einführung mehrerer LLMs. Unsere einheitliche, modellunabhängige und skalierbare Lösung belastet die Infrastruktur nicht zusätzlich und lässt sich nahtlos in die bestehende Sicherheitsarchitektur integrieren. Darüber hinaus ermöglicht sie die granulare Vergabe von Berechtigungen für Gruppen und Einzelpersonen im gesamten Unternehmen, ohne die Rechenkosten zu erhöhen oder die Modelllatenz zu steigern. 

Da der Einsatz fortschrittlicher GenAI-Modelle wie LLMs in Unternehmen immer üblicher und zugleich vielfältiger wird, muss Sicherheit bereits in den frühen Phasen der Bereitstellung fest verankert werden. Die Vergabe von Berechtigungen über IAM und PBAC muss als entscheidendes Mittel zur Risikominderung priorisiert werden, während gleichzeitig Produktivität, Innovation und Wettbewerbsvorteile gesteigert werden.

Über den Autor

F5 Newsroom Staff

Weitere Blogbeiträge von F5 Newsroom Staff