DLP und TMI im Zeitalter der LLMs

F5 Newsroom Staff

Seit dem Aufkommen der sozialen Medien vor über zwei Jahrzehnten fühlen sich Menschen überall zunehmend, immer mehr, und noch mehr damit wohl, Informationen zu teilen – manchmal erheblich mehr als nötig. Unsere gemeinsame Entwicklung führte in rasantem Tempo vom Teilen zu vieler Informationen (TMI) auf MySpace und Facebook über Instagram- und Pinterest-Fotos von jeder Minute unseres Lebens bis hin zu menschenähnlichen, KI-gestützten Unterhaltungen mit großen Sprachmodellen (LLMs). Im Kontext generativer KI (GenAI) ist übermäßiges Teilen leider nicht nur ein gesellschaftlicher Fauxpas, sondern stellt insbesondere für Unternehmen ein erhebliches Sicherheitsrisiko dar. 

GenAI-Modelle wie LLMs bieten bemerkenswerte Möglichkeiten zur Erstellung verschiedenster Inhalte – darunter auch präzise und relevante Inhalte. Gleichzeitig sind sie jedoch äußerst durchlässig für Informationen und stellen ein erhebliches Risiko dar, wenn sie mit detaillierten, privaten oder sensiblen Daten gespeist werden. Die einfache Interaktion mit LLMs kann Nutzer in falscher Sicherheit wiegen und dazu führen, dass sie unbeabsichtigt kritische Daten übermäßig preisgeben oder diese durch LLMs versehentlich offengelegt werden. Tatsächlich ist dies inzwischen so alltäglich geworden, dass Berichte kaum noch für Aufsehen sorgen, wonach Führungskräfte strategische Unternehmensdokumente weitergeben, Ärzte Patientendaten eingeben oder Entwickler proprietären Quellcode in ein öffentliches Modell wie ChatGPT oder andere hochladen.

Dies sind nur einige Beispiele dafür, wie sensible Informationen unbeabsichtigt preisgegeben werden können, weil die Person, die sie übermittelt, nicht wusste, dass sie Teil der Wissensbasis des Modells werden. Sie lassen sich nicht zurückholen, und es gibt keine zweite Chance. Sie sind da draußen. Für immer.

Der Schlüssel zur Nutzung des Potenzials von LLMs ohne Beeinträchtigung der Sicherheit liegt in der Kunst und Wissenschaft der Prompt-Erstellung. Es ist unerlässlich, Prompts zu formulieren, die detailliert genug sind, um die gewünschte Antwort hervorzurufen, und zugleich zurückhaltend genug, um sensible Informationen zu schützen. Dies erfordert ein durchdachtes Vorgehen, bei dem die notwendige Genauigkeit mit dem Gebot der Diskretion in Einklang gebracht wird. Nutzern von KI-Modellen und -Anwendungen sollten unter anderem folgende Tipps mit auf den Weg gegeben werden:

• Fassen Sie sich kurz und klar: Vermeiden Sie unnötige Details in Prompts, durch die vertrauliche Informationen offengelegt werden könnten. Dazu können Namen von Personen oder Projekten, Datumsangaben, Reiseziele und andere Einzelheiten gehören.
• Hypothetische Szenarien verwenden: Formulieren Sie Anfragen hypothetisch, wenn Sie bei sensiblen Aufgaben KI-Unterstützung in Anspruch nehmen. Verwenden Sie keine echten Namen von Unternehmen, Personen, Projekten oder Orten. 
• Bewusstsein aufrechterhalten: Die Schulungen und Weiterbildungsmaßnahmen zur KI-Sicherheit, die Sie Ihren Mitarbeitenden zu den Risiken der Preisgabe zu vieler Informationen anbieten, sollten durch regelmäßige Erinnerungen und hilfreiche Leitlinien zu bewährten Vorgehensweisen bei der Nutzung von KI-Tools ergänzt werden.
• Überwachungsmechanismen implementieren: Überwachen Sie die Nutzung von KI-Tools, um potenzielle Datenlecks zu erkennen und zu verhindern sowie mögliche interne Bedrohungen zu identifizieren.

Doch selbst der gewissenhafteste Mitarbeiter, der einen sorgfältig formulierten Prompt verfasst, kann Sicherheitsprobleme verursachen. Deshalb kann eine automatisierte Vertrauensschicht mit anpassbaren Inhaltsscannern der Schlüssel zu einem lückenlosen Schutz vor Datenverlust (Data Loss Prevention, DLP) sein. Unsere Sicherheits- und Enablement-Plattform für GenAI-Implementierungen prüft ausgehende und eingehende Inhalte, um sicherzustellen, dass vertrauliche personenbezogene Daten oder Unternehmensdaten die Organisation nicht verlassen und schädliche, verdächtige oder anderweitig inakzeptable Inhalte nicht hineingelangen. Weitere Scanner prüfen Prompts auf Inhalte, die dem Unternehmen zwar nicht schaden, aber nicht mit den Unternehmenswerten übereinstimmen oder nicht dem geschäftlichen Verwendungszweck entsprechen. Alle über unsere modellunabhängige Plattform ausgeführten Interaktionen werden zur Überprüfung durch Administratoren sowie zur Gewährleistung von Prüfbarkeit und Verantwortlichkeit protokolliert.

Da LLMs immer stärker in unsere täglichen Abläufe integriert werden, kann die Bedeutung eines verantwortungsvollen Umgangs mit ihnen kaum überschätzt werden. Die absichtliche oder versehentliche Preisgabe zu vieler Informationen kann weitreichende und äußerst negative Folgen haben. Durch die Einführung umsichtiger Praktiken für die Nutzung dieser leistungsstarken Tools durch Mitarbeitende kann Ihr Unternehmen die Vorteile generativer KI ausschöpfen und zugleich persönliche sowie geschäftliche Informationen schützen. Klicken Sie hier, um einen Vorführtermin für unsere Sicherheits- und Enablement-Plattform für generative KI zu vereinbaren.

Über den Autor

F5 Newsroom Staff

Weitere Blogbeiträge von F5 Newsroom Staff