Das Gesetz der Europäischen Union über künstliche Intelligenz

F5 Newsroom Staff

Während KI die internationale Geschäftswelt grundlegend verändert, hat sich die Verordnung der Europäischen Union über künstliche Intelligenz (EU-KI-Verordnung) zu einem wichtigen Meilenstein in der technologischen Entwicklung entwickelt. Dieser bedeutende Rechtsrahmen, der in 27 Ländern in Kraft getreten ist und jedes Unternehmen sowie jede Organisation betrifft, die KI einsetzen möchte, wird künftig maßgeblich bestimmen, wie KI-Systeme entwickelt und eingesetzt werden.

Ziel des Gesetzes ist es, Innovation mit strengen Vorgaben in Einklang zu bringen und zugleich eine verantwortungsvolle, transparente und ethische Entwicklung und Nutzung von KI voranzutreiben. Während viele Fragen zu seiner Umsetzung und seinen Folgewirkungen noch unbeantwortet – und in einigen Fällen sogar ungestellt – sind, konzentrieren wir uns auf seine vielfältigen Auswirkungen auf Großunternehmen, insbesondere im Hinblick auf Innovation und die Schaffung operativer Voraussetzungen. Diese neue Verordnung zu verstehen und sich an sie anzupassen, ist keine Option, sondern eine Notwendigkeit.

Risiko

Der EU AI Act führt strenge Vorgaben und empfindliche Sanktionen für die Innovation, Entwicklung und Implementierung von KI ein. Diese wegweisende Gesetzgebung mit mehreren Schwerpunkten befasst sich technologieübergreifend mit Datenqualität, Transparenz, menschlicher Aufsicht und Rechenschaftspflicht und führt eine risikobasierte Klassifizierung für KI-Systeme ein.

Die vier Kategorien – inakzeptables/verbotenes Risiko, hohes Risiko, begrenztes Risiko und minimales/kein Risiko – werden eher beschrieben als definiert und bleiben in Grenzfällen etwas unscharf. Diese Hierarchie bildet jedoch den Kern des Gesetzes und bestimmt den Umfang der regulatorischen Prüfung sowie die zu erfüllenden Compliance-Anforderungen. 

Diese neue Regulierungslandschaft bietet Unternehmen – ob sie es begrüßen oder nicht – die Gelegenheit, die Risikostufen ihrer KI-Systeme zu bewerten, die Datensicherheit und Data Governance zu stärken, Grundsätze und Verfahren für eine ethische Gestaltung von KI umzusetzen, während des gesamten Softwareentwicklungszyklus regelmäßige Tests und Validierungen durchzuführen sowie umfassende Compliance- und Notfallpläne zu entwickeln. Diese Maßnahmen tragen nicht nur zur Einhaltung des Gesetzes bei, sondern ermöglichen es auch, das volle Potenzial von KI sicher und verantwortungsvoll auszuschöpfen.

Auch wenn die risikobasierten Klassifizierungen des Gesetzes für KI-Systeme Auslegungsspielraum lassen, ist die Betonung des Risikos ein entscheidender Schritt, um sicherzustellen, dass KI-Technologien sicher, verantwortungsvoll und unter ausreichender menschlicher Aufsicht entwickelt und eingesetzt werden. Die Einbindung von Observability-Lösungen für die Vertrauensebene, die Bedrohungen erkennen und anschließend die Risikoexposition ganzheitlich mindern können, wird zunehmend an Bedeutung gewinnen, da GenAI-Tools immer stärker multimodal werden und – vielleicht noch wichtiger – auf immer mehr Ebenen innerhalb von Organisationen eine noch größere Abhängigkeit von ihnen entsteht, als dies bereits heute der Fall ist. 

Innovation

Die strengen Vorschriften des Gesetzes stellen zwar erhebliche Herausforderungen dar, doch sein Schwerpunkt auf Transparenz, Rechenschaftspflicht und dem Schutz der Grundrechte bietet Unternehmen die Möglichkeit, KI-Innovationen auf ethischere und nachhaltigere Modelle auszurichten. Dies könnte zur Entwicklung von KI-Systemen führen, die nicht nur neuartig sind, sondern auch mit gesellschaftlichen Werten und Normen im Einklang stehen. In diesem Zusammenhang ist die im Gesetz vorgesehene Einrichtung sogenannter „regulatorischer Reallabore“ von Bedeutung.

Die Aufnahme von „regulatorischen Reallaboren“ in das Gesetz ist ein begrüßenswerter Ansatz, da sie Innovationen in einem kontrollierten Umfeld ermöglicht. Dies wird Unternehmen dabei helfen, technologische Grenzen zu erweitern und zugleich regulatorische Standards einzuhalten. Der nächste logische Schritt besteht darin, Kundenunternehmen auch nach der Bereitstellung des Produkts die Kontrolle zu ermöglichen. Dazu muss sichergestellt werden, dass die Systeminfrastruktur über ausreichende Funktionen für die Berechtigungsvergabe, Überwachung, Prüfung und Zuordnung verfügt, die verhindern, dass Nutzer die regulatorischen Vorgaben umgehen.

Die entscheidende Herausforderung für Unternehmen wird darin bestehen, das richtige Gleichgewicht zwischen Innovationsstreben, der Einhaltung des Gesetzes und einer an ethischen Standards ausgerichteten KI-Entwicklung zu finden, ohne dabei Kreativität oder technologischen Fortschritt zu hemmen. Mit einer proaktiven Herangehensweise lassen sich die Einhaltung regulatorischer Vorgaben und die damit verbundenen Schwierigkeiten in einen Wettbewerbsvorteil verwandeln.

Das Gesetz enthält zwar komplexe und potenziell kostspielige Compliance-Anforderungen, die Unternehmen zunächst belasten könnten, bietet aber zugleich die Chance, die Entwicklung von KI transparenter voranzutreiben. Dies wird letztlich das Vertrauen von Verbrauchern und Stakeholdern stärken und eine nachhaltige, langfristige Einführung fördern. Da Unternehmen weiterhin in generative KI investieren, um in ihrem Bereich eine führende Position einzunehmen, sollten sie mit vertrauenswürdigen Technologiepartnern für die KI-Implementierung zusammenarbeiten, um die Einhaltung des Gesetzes und darüber hinaus der sich rasch wandelnden regulatorischen Rahmenbedingungen sicherzustellen.

Governance

Der EU AI Act stellt einen bedeutenden Fortschritt bei der Regulierung von KI-Technologien dar. Er schafft einen neuen Präzedenzfall für die globale KI-Governance und zwingt Unternehmen dazu, ihren Ansatz bei der KI-Entwicklung zu überdenken. Zwar bringt er Herausforderungen hinsichtlich der Einhaltung von Vorschriften und der Ressourcenzuweisung mit sich, eröffnet aber zugleich Wege für verantwortungsvolle und ethische Innovationen – ein dringend notwendiger Wandel, der die KI-Branche in eine verantwortungsvollere und transparentere Zukunft führen wird. Sicherheit und Vertrauenswürdigkeit sind in jeder Phase des Lebenszyklus der KI-Softwareentwicklung wichtig. Ebenso entscheidend ist es, konsequent sicherzustellen, dass das Verhalten von Modellen und Nutzern dem Geist des Gesetzes entspricht. 

Die Anpassung organisatorischer Prozesse an diese Vorschriften stellt zwar eine Herausforderung dar, bietet Unternehmen jedoch zugleich die Chance, Vertrauen und andere gesellschaftliche Werte von Anfang an in ihre Produkte und Dienstleistungen einfließen zu lassen. Plattformen, die Sicherheit und Vertrauenswürdigkeit gewährleisten, gewinnen angesichts des Inkrafttretens solcher Rechtsvorschriften weiter an Bedeutung. Da sich die Rahmenbedingungen für die Regulierung von KI und die Einhaltung entsprechender Vorschriften kontinuierlich weiterentwickeln, müssen Unternehmen flexibel und informiert bleiben und sich konsequent dafür einsetzen, diese Veränderungen in ihrer Unternehmenskultur zu verankern. US-Unternehmen sind gut beraten, die unvermeidliche Regulierung als Chance zu begreifen, KI-Innovationen innerhalb neuer Rahmenbedingungen neu zu definieren. So können sie sicherstellen, dass ihre KI-Strategien nicht nur regelkonform sind, sondern auch bei der ethischen und verantwortungsvollen Entwicklung von KI eine Vorreiterrolle einnehmen.

Über den Autor

F5 Newsroom Staff

Weitere Blogbeiträge von F5 Newsroom Staff