So erstellen Sie organisationsspezifische KI-Sicherheitsrichtlinien

F5 Newsroom Staff

Einleitung

Seit der Veröffentlichung von ChatGPT im November 2022 beobachten wir, dass Modelle der generativen künstlichen Intelligenz (GenAI) in Unternehmen rasch eingeführt werden – ohne jegliche Schutzmechanismen oder Kontrollinstanzen, die auf die Bremse treten oder die Systeme abschalten könnten.

Regierungsbehörden tun sich schwer damit, Vorschriften zu erarbeiten, die sowohl Nutzer als auch Innovationen schützen und zugleich kriminelles oder schlichtweg rücksichtsloses Verhalten einzelner Bedrohungsakteure, krimineller Organisationen, nichtstaatlicher Akteure, Staaten und Unternehmen verhindern – einschließlich jener, die diese Modelle entwickeln und von ihnen profitieren. 

Die anspruchsvolle Aufgabe der Governance für LLMs ist den CISOs zugefallen. Die Ausarbeitung einer Reihe von KI-Sicherheits richtlinien und entsprechender Kontrollen für ein Unternehmen ist eine gewaltige Herausforderung, da es nicht möglich ist, sämtliche KI-Aspekte mit einem einzigen Regelwerk abzudecken. So müssen KI-spezifische Richtlinien beispielsweise bestehende Richtlinien für die Beschaffung, Bereitstellung, Sicherheit und Nutzung von IT-Systemen ergänzen, erweitern oder sogar ersetzen. Hinzu kommen Rechts- und Compliance-Richtlinien, die von der Aufbewahrung von Dokumenten über die Rechte an geistigem Eigentum bis hin zur Vertragsgestaltung reichen, sowie Personalrichtlinien für Anwendungen zur automatisierten Prüfung von Lebensläufen – und entsprechend weiter für jede Funktion und jeden Geschäftsbereich des Unternehmens.

Dieser Blogbeitrag bietet einen Ausgangspunkt für die Ausarbeitung grundlegender Richtlinien, die sich mit den dringendsten Anliegen im Umfeld der KI-Einführung befassen: der sicheren Bereitstellung und Nutzung von GenAI-Modellen im gesamten Unternehmen. Unsere modellunabhängige AI Guardrails-Lösung deckt viele der zentralen Aspekte ab, die in den nachfolgend beschriebenen Musterrichtlinien aufgeführt sind.

Zusätzlich zu den Richtlinienentwürfen haben wir eine Vorlage erstellt, die Sie zur Ausarbeitung Ihrer eigenen KI-Sicherheitsrichtlinien verwenden können. Diese Beispiele stellen keine Rechtsberatung dar. Bitte lassen Sie sich rechtlich beraten, bevor Sie KI-Sicherheitsrichtlinien implementieren.

Beispielrichtlinien

Richtlinie zur Modellintegration

Der erste Schritt bei der Einführung eines KI-Modells in Ihrem gesamten Unternehmen besteht darin, festzulegen, wie Sie dabei vorgehen möchten. Dabei sind unter anderem folgende Aspekte zu berücksichtigen:

• Die Anzahl der Modelle, die Ihr Unternehmen derzeit benötigt
  • Planen Sie bereits in der Anfangsphase zusätzliche Kapazitäten ein, damit die Anzahl der Benutzer und Modelle später erhöht werden kann.
• Ob Ihre Modelle öffentlich (ChatGPT, Claude, Bard usw.), privat (maßgeschneidert oder in andere Anwendungen wie Salesforce integriert) oder intern sein sollten – oder eine Kombination daraus
• Welche Art von Plattform eignet sich am besten für die Bereitstellung in Ihrem gesamten Unternehmen: SaaS, Private Cloud, Public Cloud, On-Premises, Air-Gapped oder eine andere Art von Plattform?
  • Hinweis: Die Einschränkung der Nutzung von SaaS-Anwendungen anhand von Modellen ist angesichts der großen Anzahl von Modellen, die bereits von SaaS-Anbietern eingesetzt werden, kaum praktikabel.
  • Stellen Sie sicher, dass jede Plattform je nach Bedarf hoch- und herunterskaliert werden kann.
• Netzwerksegmentierung
• Kompatibilität mit vorhandener Software und bestehenden Systemen, um eine unkontrollierte Ausbreitung der Technologielandschaft zu vermeiden
• Redundanzen
• Sicherheitslücken

Richtlinie für den Benutzerzugriff

Legen Sie klar fest, wer welche Modelle wie oft und zu welchen Zwecken verwenden darf.

• Ist die Nutzung auf Beschäftigte und Auftragnehmer beschränkt, oder erhalten auch andere Personen, etwa Geschäftspartner, Kunden usw., vollständigen oder eingeschränkten Zugriff?
• Ermöglicht der Zugriff auf das Netzwerk/System den vollständigen Zugriff auf das Modell bzw. die Modelle, oder werden dafür abgestufte Berechtigungen oder richtlinienbasierte Zugriffskontrollen (Policy-Based Access Controls, PBAC) angewendet?
• Benötigen verschiedene Gruppen oder Abteilungen unterschiedliche Funktionen innerhalb eines bestimmten Modells, oder sollten einige Gruppen von der Nutzung bestimmter Funktionen ausgeschlossen werden?
• Wie und warum werden Zugriffsrechte oder Berechtigungen zur Durchführung administrativer Tätigkeiten vergeben?

Richtlinie zur akzeptablen Nutzung

Was als akzeptable oder inakzeptable Nutzung von Modellen gilt, kann sich von Organisation zu Organisation erheblich unterscheiden. Zu den allgemein zu berücksichtigenden Aspekten gehören:

• Wie das Modell verwendet werden sollte, beispielsweise ausschließlich für geschäftliche Zwecke des Unternehmens und im Einklang mit den übrigen einschlägigen Richtlinien; z. B. keine private Nutzung, keine Nutzung für andere Unternehmen (Nebentätigkeiten), keine Nutzung für kriminelle oder sonstige illegale, unethische oder gefährliche Zwecke usw.?
• Welche Begriffe sollte ein Filter für unzulässige Begriffe umfassen? Beispielsweise könnten bestimmte anatomische Begriffe in einem Tiefbauunternehmen unzulässig sein, nicht jedoch in einem Pharmaunternehmen oder einem Hersteller medizinischer Diagnosegeräte.
• Auch die Ressourcenzuweisung kann sich auf die Nutzung auswirken. In der Anfangsphase der Bereitstellung und Einführung kann es hilfreich sein, eine Aufgabenhierarchie zu entwickeln, die eine geplante Erweiterung um zusätzliche Aufgaben ermöglicht, wenn sich Anwendungsfälle und geschäftliche Anforderungen weiterentwickeln.

Richtlinie für Prompt-Inhalte

Prompt-Inhalte orientieren sich an der Richtlinie zur zulässigen Nutzung, haben jedoch einen anderen Geltungsbereich. Zu klärende Punkte sind unter anderem:

• Zulässige Inhalte bei der Nutzung eines öffentlichen Modells, z. B. unspezifische Begriffe, allgemeine Fragen usw.
• Modellübergreifend unzulässige Inhalte, z. B. obszöne, voreingenommene, abwertende, toxische und ähnliche Begriffe sowie personenbezogene Daten (PII)
• Verbotene Inhalte bei der Nutzung eines öffentlichen Modells, z. B. unternehmensspezifische Begriffe (Markennamen, Projektnamen usw.), der Name des Unternehmens, Namen von Wettbewerbern sowie Unternehmensdokumente (Verträge, E-Mails, Tagesordnungen, Kalender, Sitzungsprotokolle, Rohdaten, Quellcode, Richtlinien, Verfahren, Leitfäden usw.)
• Unzulässige Inhalte bei der Nutzung privater oder interner Modelle, beispielsweise Themen, die nur für kleine Gruppen interner Nutzer relevant sind, wie etwa Gehaltsabrechnungen oder Geschäftsstrategien

Richtlinie zur Nutzung von Modellausgaben

Der Umgang mit Modellausgaben ist angesichts der unzureichenden internen Kontrollmechanismen der meisten öffentlich zugänglichen Modelle ein heikles Thema. Daher müssen Organisationen strenge interne Richtlinien entwickeln und durchsetzen, die den Nutzern Orientierung bieten. Zu den zu berücksichtigenden Aspekten gehören:

• Menschliche Überprüfung 
  • Bevor modellgenerierte Inhalte für irgendeinen Zweck verwendet werden dürfen, einschließlich der Aufnahme in Unternehmensdokumentationen jeglicher Art, müssen sämtliche Modellausgaben von einem Menschen daraufhin überprüft werden, ob sie – je nach Kontext – korrekt, sachlich richtig und/oder authentisch und somit nicht frei erfunden, ausgedacht oder unbelegt sind.
  • Die Verifizierung muss den Namen der prüfenden Person und einen Zeitstempel enthalten.
• Unveränderte Inhalte verwenden 
  • Modellausgaben, die vor der Aufnahme in die Unternehmensdokumentation nicht wesentlich verändert wurden, müssen als solche gekennzeichnet werden, beispielsweise durch eine Fußnote, Endnote oder einen Link zum Prompt.
  • Von einem Modell bereitgestellter Code darf erst verwendet werden, nachdem er von [zwei] leitenden Mitarbeitenden mit Fachkenntnissen in der jeweiligen Programmiersprache geprüft und verifiziert wurde.
  • Die Verifizierung muss den Namen der prüfenden Person und einen Zeitstempel enthalten.

Richtlinie zur Nutzungsüberwachung und -prüfung

Mit der zunehmenden Verbreitung von Modellen gewinnt die Beobachtbarkeit immer mehr an Bedeutung. Zu wissen, was Ihre Benutzer tun, und zu verstehen, wie leistungsfähig die Modelle sind, ist entscheidend für Effizienz und Wirksamkeit.

• Orientieren Sie diese Richtlinie an der E-Mail-Datenschutzrichtlinie Ihres Unternehmens (z. B. kein Anspruch auf Vertraulichkeit), sofern dies nach den Gesetzen des jeweiligen Bundesstaates zur elektronischen Überwachung zulässig ist.
• Stellen Sie sicher, dass die Beschäftigten verstehen, dass ihre Nutzung des Modells – unabhängig davon, ob sie über ein privates oder unternehmenseigenes Gerät erfolgt – durch automatisierte Anwendungen überwacht und nachverfolgt wird, wobei in einigen Fällen Echtzeitwarnungen an den Benutzer und in anderen Fällen an den Administrator gesendet werden.
  • Die Erfassung bestimmter Informationen, wie etwa der Stimmung der Nutzer, ist in einigen Rechtsordnungen nicht zulässig.
  • In bestimmten Rechtsordnungen oder unter bestimmten Umständen kann die Löschung von Benutzerdaten erforderlich sein.
• Ermitteln Sie, welche Informationen zu welchem Zweck erfasst werden, beispielsweise Parameter zur Modellnutzung (Kosten, Genauigkeit usw.), Inhalte (Prompts/Antworten), Überprüfungen oder die Nutzerinteraktion.

Aufbewahrungsrichtlinie für den Verlauf von Prompts und Antworten

Wie oben erwähnt, kann die Möglichkeit, Benutzerinteraktionen nachzuverfolgen und zu prüfen, viele äußerst nützliche Datenpunkte liefern. Einige Aufsichtsbehörden haben jedoch begonnen, sich in diesem Zusammenhang mit dem Schutz der Privatsphäre der Benutzer zu befassen. Stellen Sie sicher, dass Ihre Organisation alle entsprechenden Vorschriften versteht und ordnungsgemäß umsetzt. Zu den zu berücksichtigenden Aspekten gehören:

• Ermitteln, wie lange Inhalte (Eingabeaufforderungen, Antworten, Warnmeldungen usw.) standardmäßig aufbewahrt werden, ob solche Inhalte für bestimmte Zwecke länger aufbewahrt werden können und welche Rollen darüber entscheiden.
• Beschreiben Sie den Prozess zum Löschen von Inhalten (Häufigkeit, automatisiert oder manuell usw.).
• Alle Eingaben und Antworten werden mindestens (X lang) oder länger aufbewahrt, wenn dies von der/den (Rolle(n)) als notwendig erachtet wird.

Kontrollrichtlinie für SaaS-Drittanbieter

Bei der Nutzung von Drittanbietersoftware, beispielsweise über einen SaaS-Anbieter, sind zusätzliche Aspekte zu berücksichtigen.

• SaaS-Anbieter müssen offenlegen, ob ein LLM in ihrer Anwendung bzw. ihrem Produkt zum Einsatz kommt und wofür es verwendet wird.
• SaaS-Anbieter sollten Unternehmenskunden eine KI-Stückliste (AI Bill of Materials, ABOM) zur Verfügung stellen, in der die Nutzung des LLM und der Prozess der menschlichen Validierung beschrieben werden.
• Richtlinien für SaaS-Anbieter müssen durch die mit dem Beschaffungs- und Lizenzierungsprozess abgestimmte Governance-Funktion für Drittanbieter durchgesetzt werden.

Weitere Informationen zu den KI-Laufzeitsicherheitslösungen von F5 finden Sie hier.

Über den Autor

F5 Newsroom Staff

Weitere Blogbeiträge von F5 Newsroom Staff