Lernressourcen für KI-Governance und -Management
KI-Management umfasst die praktische Umsetzung von Strategien und Prozessen zur Überwachung des gesamten Lebenszyklus von KI-Systemen innerhalb eines Unternehmens. KI-Governance bezeichnet die Einrichtung von Rahmenwerken, Richtlinien und Prozessen, die als Leitlinien für die Entwicklung und Bereitstellung von KI-Systemen dienen, wobei der Schwerpunkt auf Vertrauenswürdigkeit und Resilienz liegt. Diese sorgfältig zusammengestellte Informationssammlung vermittelt Ihnen das Wissen und die Werkzeuge, die Sie benötigen, um sich in der sich wandelnden KI-Landschaft zurechtzufinden. Ganz gleich, ob Sie bereits über langjährige Erfahrung verfügen oder gerade erst einsteigen: Entdecken Sie diese Ressourcen und erfahren Sie, wie sich das Datenmanagement für KI-Inferenz vereinfachen lässt.
Geschäftsstrategie für KI-Anwendungen
Entdecken Sie Strategien zur Integration von KI in Ihre Geschäftsabläufe, um Innovationen voranzutreiben und einen strategischen Fahrplan für die Einführung von KI zu entwickeln.
Generative KI und digitale Transformation
Erfahren Sie, wie generative KI mit innovativen Anwendungen und Technologien die digitale Transformation branchenübergreifend revolutioniert.
KI-Transparenz
Erfahren Sie, wie wichtig Transparenz beim Einsatz von KI-Systemen ist und wie sich Verfahren implementieren lassen, die Verzerrungen durch KI begrenzen sowie Verantwortlichkeit und Vertrauen gewährleisten. Darüber hinaus ermöglicht Transparenz bei KI-Analysen Unternehmen, das volle Potenzial ihrer Daten auszuschöpfen, Prozesse zu optimieren und das Projektmanagement zu verbessern.
F5 KI-Zusammenarbeit und -Partnerschaften
Erfahren Sie, wie F5 gemeinsam mit Partnern Fortschritte bei KI-Managementsystemen und Orchestrierungsplattformen vorantreibt, um die Verwaltung von Inferenzdaten zu vereinfachen.
Häufig gestellte Fragen
Bei der Governance von KI-Modellen liegt der Schwerpunkt darauf, Risiken in den Modellausgaben zu reduzieren, etwa Ungenauigkeiten, Halluzinationen, Verzerrungen, unangemessene Inhalte und Datenlecks. Bei der Governance von KI-Agenten geht es hingegen darum, potenziell schädliche Aktionen von Agenten zu kontrollieren, beispielsweise unbefugte Systemaufrufe, kostspielige Endlosschleifen und Rechteausweitungen. Die Governance von Agenten erfordert, ihnen eindeutige nicht-menschliche Identitäten zuzuweisen, Laufzeitkontrollen kontinuierlich durchzusetzen und bei wichtigen Entscheidungen oder Aktionen Menschen einzubeziehen.
Das EU-Gesetz über künstliche Intelligenz definiert vier Risikostufen für KI-Systeme: unannehmbares Risiko, hohes Risiko, Transparenzrisiko sowie minimales oder kein Risiko. Bestimmte KI-Praktiken mit unannehmbarem Risiko sind verboten, während Anwendungen mit minimalem oder keinem Risiko im Rahmen des Gesetzes grundsätzlich keinen zusätzlichen Vorschriften unterliegen. Das AI Risk Management Framework (RMF) des US-amerikanischen National Institute of Standards and Technology (NIST) ist ein freiwilliger Rahmen, der in vier Funktionen gegliedert ist: Govern, Map, Measure und Manage. Das EU-Gesetz über künstliche Intelligenz soll eine sichere, menschenzentrierte und vertrauenswürdige KI gewährleisten, zugleich Rechte schützen und Innovationen fördern. Das NIST AI RMF konzentriert sich hingegen stärker auf die Vertrauenswürdigkeit von KI-Systemen.
Rechenschaftspflicht und Haftung sind zentrale Aspekte bei agentischer KI. Unternehmen müssen im Rahmen ihres Governance-Programms klare Verantwortlichkeiten für KI-Agenten festlegen. Bei schwerwiegenden Fehlern oder finanziellen Verlusten richtet sich die Haftung nach dem geltenden Rechtsrahmen, den vertraglichen Vereinbarungen und den Rollen der beteiligten Unternehmen. Je nach den Umständen kann die Verantwortung bei dem Unternehmen liegen, das den Agenten einsetzt, beim Anbieter oder Entwickler oder bei anderen Parteien.
Die Zuweisung nicht-menschlicher Identitäten (Non-Human Identities, NHIs) zu Agenten erhöht die Sicherheit, da Unternehmen die Aktionen von Agenten durch granulare Zugriffsrichtlinien nach dem Prinzip der geringsten Rechte einschränken können. Ein effektives NHI-Management trägt dazu bei, eine unkontrollierte Ausbreitung von Agenten zu begrenzen. Indem Unternehmen beispielsweise nur verifizierten Identitäten die Ausführung von Systemaufrufen gestatten, reduzieren sie die Anzahl der Schattenagenten, die keine solchen Aufrufe ausführen könnten. Darüber hinaus können Unternehmen kurzlebige Identitätstoken verwenden, um die mit verwaisten oder inaktiven Agenten verbundenen Sicherheitsrisiken zu verringern.
KI-Agentenschwärme entstehen, wenn mehrere Agenten autonom zusammenarbeiten, Kontext austauschen oder externe Tools aufrufen, um mehrstufige Aufgaben zu erledigen. Open-Source-Tools und -Frameworks können dabei helfen, solche Schwärme zu verwalten. Beispielsweise können Unternehmen das OpenTelemetry-Framework (OTel) zusammen mit Tools wie Jaeger oder Grafana Tempo einsetzen, um KI-Agentenschwärme zu überwachen und zu prüfen. OTel erfasst die Telemetriedaten der Agenten, während Jaeger oder Tempo eine visuelle Übersicht erstellt, die die Prüfung erleichtert.
Die Einrichtung eines unternehmensweiten KI-Governance-Ausschusses sollte mit der Zusammenstellung eines funktionsübergreifenden Teams aus hochrangigen Führungskräften aus den Bereichen Engineering, Cybersicherheit, Recht, Finanzen und Produktmanagement beginnen. Sobald die Zuständigkeiten festgelegt sind, sollte das Team Richtlinien erarbeiten und diese anschließend im gesamten Unternehmen in die Praxis umsetzen, gegebenenfalls über ein Kompetenzzentrum (Center of Excellence, CoE). Das mit Fachkräften aus den Bereichen Technik und Risikomanagement besetzte CoE kann standardisierte Prozesse zur Ermittlung, Bewertung und Klassifizierung von KI-Systemen entwickeln, richtlinienkonforme Entwicklungsprozesse optimieren, Identitätskontrollen einführen sowie Nachverfolgungs- und Testverfahren implementieren.