Die Rolle der KI-Governance bei der Verbesserung von Compliance und Sicherheit in Unternehmen

F5 Newsroom Staff

Die rasche Einführung großer Sprachmodelle (Large Language Models, LLMs) und anderer KI-Tools in Unternehmen revolutioniert die Geschäftsabläufe und steigert die Produktivität. Gleichzeitig bringen diese Tools erhebliche Herausforderungen in Bezug auf Sicherheit und Compliance mit sich, da sie die Angriffsfläche von Unternehmen vergrößern. In der Vergangenheit haben Unternehmen Nutzen und Markteinführungsgeschwindigkeit häufig Vorrang vor soliden Governance- und Kontrollmaßnahmen eingeräumt – und die Entwicklung der KI-Governance bildet dabei keine Ausnahme. Da Unternehmen Funktionen der künstlichen Intelligenz und des maschinellen Lernens (ML) in immer mehr Aufgaben integrieren, müssen sie unbedingt einen umfassenden KI-Governance-Rahmen schaffen, der diesen neuen Risiken Rechnung trägt und sowohl intern als auch extern Compliance und Sicherheit gewährleistet.

Die Notwendigkeit einer KI-Governance

Da KI-/ML-Tools in verschiedenen Unternehmensbereichen wie Betrieb, Vertrieb, Recht, Personalwesen und weiteren zunehmend an Bedeutung gewinnen, müssen die Sicherheitsverantwortlichen des Unternehmens – darunter etwa CISOs, CIOs, CTOs, CSOs, CDOs, Compliance-Beauftragte und/oder die Rechtsabteilung – ein unternehmensweites Rahmenwerk für die KI-Governance entwickeln und implementieren. Dieser Prozess ist entscheidend, um die steigende Nachfrage nach KI-Tools mit der Notwendigkeit in Einklang zu bringen, die wachsende Angriffsfläche zu schützen.

Diese Aufgabe umfasst die Zusammenstellung eines funktionsübergreifenden Teams mit Vertretern aller wichtigen Unternehmensbereiche, um einen Konsens über die Governance-Grundsätze zu erzielen und die Zustimmung der Stakeholder einschließlich der obersten Führungsebene zu sichern. Eine Begrenzung des Teams auf sechs bis acht Mitglieder kann die Entscheidungs- und Umsetzungsprozesse effizienter gestalten. Die mit der Technologie am stärksten befasste Führungskraft aus dem Sicherheitsbereich sollte die Leitung übernehmen; ihre Rolle besteht jedoch nicht darin, als Fachexperte zu fungieren, sondern als Moderator, der Neutralität wahrt und Voreingenommenheit vermeidet.

Aktuelle Situation und Herausforderungen

Der rasante Aufstieg von LLMs und anderen Produkten im Bereich der generativen KI (GenAI) eröffnet Unternehmen vielfältige Möglichkeiten, Geschäftsprozesse zu optimieren, das Kundenerlebnis zu verbessern und die berufliche Produktivität zu steigern. Dazu gehört auch die Einführung individuell entwickelter, unternehmenseigener Modelle, die auf proprietären Daten basieren, um branchen- oder unternehmensspezifische Anwendungsfälle abzudecken. Die schnelle Verbreitung dieser Tools sowie die große Vielfalt an Modellen und deren Anpassungsmöglichkeiten stellen eine kognitive Belastung für Nutzer dar, die möglicherweise noch nie zuvor mit derart komplexen digitalen Werkzeugen gearbeitet haben.

Die Sicherheitsverantwortlichen müssen alle Beteiligten – Mitarbeitende, Auftragnehmer, Kunden und alle anderen – über die Risiken, Verantwortlichkeiten, Ergebnisse und Vorteile der Nutzung dieser bahnbrechenden Lösungen aufklären.

Rahmenwerk für KI-Governance

Bei der Einrichtung eines Governance-Rahmens für KI sollten Sicherheitsverantwortliche mehrere zentrale Bereiche berücksichtigen, darunter: 

• Menschen: Die Sicherheitsverantwortlichen müssen Abteilungs-, Team- und Fachbereichsleitungen in allen Unternehmensbereichen dafür sensibilisieren, wie wichtig eine konsensbasierte KI-Governance ist.
• Grundsätze: Governance-Grundsätze sollten mit den Unternehmenswerten und dem Markenimage im Einklang stehen. Sie schaffen eine klare Grundlage für den geschäftlichen Nutzen und ein solides Fundament für KI-spezifische Richtlinien, die Themen wie die zulässige Nutzung und die Folgen eines Missbrauchs regeln. Beispiele hierfür sind die verpflichtende Überprüfung aller LLM-Ausgaben durch Menschen sowie die Kennzeichnung der LLM-Nutzung in der internen Kommunikation. Werden diese Grundsätze frühzeitig festgelegt, können bestehende Unternehmensrichtlinien angepasst und neue Richtlinien erstellt werden. 
• Regulierung: Bei der KI-Governance müssen regionale, nationale und globale Vorschriften berücksichtigt werden, die von bestehenden Datenschutzgesetzen wie der Datenschutz-Grundverordnung (DSGVO) der Europäischen Union und dem California Consumer Privacy Act (CCPA) beeinflusst werden. Führungskräfte, die für Datenschutz und Compliance verantwortlich sind, müssen fest in den Governance-Rahmen eingebunden sein und sicherstellen, dass auf KI ausgerichtete oder von KI abhängige Modelle, Tools und Verfahren die regulatorischen Anforderungen an Einwilligung, Datenanonymisierung und Datenlöschung erfüllen. 
• Ethik: KI-Governance ist arbeitsintensiv und konzentriert sich darauf, wie Menschen arbeiten, und nicht auf die von ihnen verwendeten Werkzeuge. Ethische Überlegungen müssen in die KI-Entwicklung einbezogen werden, wobei Menschen bei der Technologiegestaltung als Instanz für ethische Entscheidungen fungieren.
• Kontrollmechanismen: Die KI-Governance sollte drei Stufen menschlicher Mitwirkung umfassen: Human-in-the-Loop (HITL), Human-on-the-Loop (HOTL) und Human-in-Control (HIC). Dadurch werden die menschliche Aufsicht und Verantwortlichkeit bei sämtlichen KI-Prozessen gewährleistet und die mit autonomen KI-Entscheidungen verbundenen Risiken reduziert.

Der wirtschaftliche Nutzen von KI-Governance

Die Implementierung einer KI-Governance erfordert Investitionen in Technologie und Personal. Die Produktivitätssteigerungen und Einsparungen bei den Personalkosten, die sich durch den Einsatz von LLMs in zentralen Geschäftsabläufen erzielen lassen, können jedoch erheblich genug sein, um diese Investitionen zu rechtfertigen. Durch die Einführung eines Verantwortlichkeitsmodells, bei dem bestimmte Mitarbeitende für die Ergebnisse der KI verantwortlich sind, lässt sich der Bedarf an zusätzlichem Supportpersonal minimieren. Wenn ein solcher Rahmen geschaffen wird und sowohl von der Führungsebene als auch von den Mitarbeitenden mitgetragen wird, kann das Unternehmen erweiterte Risiken effizient, wirksam und sicher steuern und messbare Vorteile erzielen, die mit den Unternehmenswerten und -richtlinien im Einklang stehen.

Klicken Sie hier und vereinbaren Sie eine Demonstration unserer Plattform für GenAI-Sicherheit und -Implementierung.

Über den Autor

F5 Newsroom Staff

Weitere Blogbeiträge von F5 Newsroom Staff