Ein anwendungsorientiertes Triumvirat für die Governance agentischer KI

F5-Ökosystem | 16. September 2025

Innovation ist das eine. Governance das andere. Eine besorgniserregende Kombination von Umfrageergebnissen bestätigt, dass Unternehmen die Einführung generativer KI mit Hochdruck vorantreiben – trotz Lücken in der Governance, die zum Innehalten veranlassen sollten.

Laut der KI-Agenten-Umfrage von PwC vom Mai 2025 haben 79 % der Unternehmen KI eingeführt, und nur 2 % ziehen agentische KI überhaupt nicht in Betracht. Unabhängig davon, ob diese Agenten tatsächlich agentische Eigenschaften aufweisen – etwa die Fähigkeit, Arbeitspläne zu erstellen, mehrstufige Aktionen auszuführen, Ergebnisse zu bewerten und sich selbst anzupassen – oder ob es sich um Chatbots handelt, die einzelne Anfragen an ein ausgewähltes großes Sprachmodell (LLM) weiterleiten: Der Verbreitungsgrad ist sehr hoch, und fast alle dieser Unternehmen planen, ihre Ausgaben für KI im kommenden Jahr zu erhöhen.

Ein Vergleich mit unserer eigenen Studie – die anhand eines KI-Reifegradindex die operativen Fähigkeiten zur erfolgreichen Skalierung, Absicherung und dauerhaften Aufrechterhaltung von KI-Systemen quantifiziert – zeigt: Nur 2 % der Unternehmen sind sehr gut darauf vorbereitet, die Herausforderungen zu meistern, die mit der Konzeption, Bereitstellung und dem Betrieb KI-gestützter Systeme einhergehen.

Dennoch haben IT- und Sicherheitsteams keine Wahl. Das belegt eine Studie von EY, der zufolge die Mehrheit der Führungskräfte der Ansicht ist, noch in diesem Jahr agentische KI einführen zu müssen, um bis zu diesem Zeitpunkt im nächsten Jahr der Konkurrenz voraus zu sein. Unternehmen, die sich die Zeit nehmen, Sicherheits- und Governance-Lücken gezielt zu schließen, werden 2026 weiter sein und weniger angreifbar dastehen als diejenigen, die diese Lücken ignorieren. Die folgenden drei Praktiken bilden einen Dreiklang, der dazu beiträgt, die Risiken beim Einstieg in generative und agentische KI zu verringern:

1. Sichern Sie Ihre Modelle ab

Neues muss abgesichert werden, und jede Form generativer KI basiert im Kern auf einem oder mehreren LLMs. Es reicht nicht aus, darauf zu vertrauen, dass die Modellentwickler kontinuierlich die Genauigkeit verbessern, Halluzinationen reduzieren und Jailbreaks verhindern. Unternehmen müssen in Prompt- und Modelldienste investieren, die unerwünschte Verhaltensweisen unabhängig erkennen und unterbinden können. Da zudem jedes Unternehmen, das ein LLM nutzt, tatsächlich mehrere verwendet, müssen Anwendungen vom API-Aufruf zur Inferenz entkoppelt werden, um ihre Anforderungen an Verfügbarkeit, Routing, Skalierung und Kostenkontrolle zu erfüllen.

2. Schützen Sie Ihre Daten

Die Unternehmensdaten, auf die Modelle zugreifen können, können für das Unternehmen neu sein oder auch nicht. In jedem Fall müssen sie geschützt werden. Dabei reicht es nicht aus, Daten im Ruhezustand abzusichern oder bei der Übertragung über das Netzwerk zu verschlüsseln. Daten, die in welcher Form auch immer in der privaten Unternehmensumgebung vorliegen, müssen ebenfalls erkannt und geschützt werden – auch dann, wenn sie mit einem genehmigten Drittanbieterdienst oder durch einen Drittanbieter genutzt werden sollen. Damit keine Missverständnisse entstehen: Nicht die Herkunft der Daten steht im Mittelpunkt, sondern ihr Abfluss.

3. Sichern Sie Ihre Agenten ab

Agenten verändern die Spielregeln, weil sie mithilfe von LLMs entscheiden, welche Maßnahmen sie ergreifen, um ein Ziel zu erreichen, das sie selbst festlegen. Um agieren zu können, benötigen sie Berechtigungen, um Aktionen auszuführen, auf Ressourcen zuzugreifen sowie Informationen zu erstellen, zu ändern und zu löschen. Sie müssen von einer externen Instanz überwacht und kontrolliert werden, die nah genug am Agenten ist, um ihn wirksam beobachten und bewerten zu können. Dabei haben sich zwei zentrale Ansätze herauskristallisiert, deren Weiterentwicklung in den kommenden Monaten aufmerksam verfolgt werden sollte: Guardrail-Frameworks (wie MCP-Universe) und LLM-as-a-Judge-Frameworks (wie Microsoft LLM-as-a-Judge Framework).

Der erstgenannte Ansatz ermittelt die Referenzwahrheit (Ground Truth) mithilfe sehr spezifischer, aufgabenbezogener Operationen. Dabei werden die Ergebnisse der von einem Agenten initiierten Aktionen mit den Ergebnissen separater Aktionen verglichen, die eine explizit gesteuerte Software vorab ausgeführt hat. Seine Stärke liegt im stetig wachsenden Bestand an Beispielcode, mit dem sich verschiedene Fakten – etwa Wetterdaten oder historische Tatsachen – anhand vorab ausgewählter, nachweislich zuverlässiger Quellen überprüfen lassen. Das Framework sammelt diese Informationen und vergleicht sie anschließend als Referenzwahrheit mit den Ergebnissen eines eingesetzten Agenten.

Letzterer Ansatz nutzt ein anderes LLM oder sogar mehrere LLMs, um das Verhalten eines eingesetzten Agenten zu analysieren und die Qualität und Angemessenheit seiner Ergebnisse anhand der vom Unternehmen festgelegten Kriterien zu bewerten. Beide Ansätze sind vielversprechend, entwickeln sich rasch weiter und stehen unter der Kontrolle des Unternehmens. Noch besser: Beide lassen sich bei Bedarf durch Kontrollmechanismen mit menschlicher Beteiligung (Human-in-the-Loop) ergänzen.

Dieses Dreigespann aus Kontrollmechanismen für Modelle, Daten und Agenten schließt die Lücken in Cybersicherheit und Governance, durch die ein Unternehmen sonst den neuartigen Risiken generativer KI und agentischer Systeme ausgesetzt wäre.

Wenn Sie mehr über den Einsatz dieser Arten von Kontrollen als unabhängige Infrastrukturdienste erfahren möchten, lesen Sie die aktuelle Ankündigung von F5 zu CalypsoAI, dem Pionier für Sicherheits-, Red-Teaming- und Governance-Lösungen für KI-Anwendungen und -Agenten.

Teilen

Über den Autor

James Hendergart
James HendergartSenior Director, Technische Forschung | F5

Weitere Blogbeiträge von James Hendergart

Ähnliche Blogbeiträge

F5 und Equinix bündeln ihre Kräfte, um die sichere Anwendungsbereitstellung in Multicloud-Umgebungen zu vereinfachen
F5-Ökosystem | 05.08.2025

F5 und Equinix bündeln ihre Kräfte, um die sichere Anwendungsbereitstellung in Multicloud-Umgebungen zu vereinfachen

F5 und Equinix ermöglichen es Unternehmen, sich weltweit sicher und zuverlässig mit ihren Partnern zu vernetzen.

API-Sicherheitsrisiken und -herausforderungen
F5-Ökosystem | 21.07.2025

API-Sicherheitsrisiken und -herausforderungen

Erfahren Sie, warum APIs für die moderne App-Entwicklung unverzichtbar sind und wie Sie sie vor den häufigsten Sicherheitslücken schützen. Profitieren Sie von Expertentipps und direkt umsetzbaren Strategien.

Ein Meilenstein für die Community Impact Grants von F5
F5-Ökosystem | 21.01.2025

Ein Meilenstein für die Community Impact Grants von F5

F5 feiert das fünfjährige Bestehen seines innovativen Community Impact Grant-Programms, das gemeinnützige Organisationen, bei denen sich F5-Mitarbeitende ehrenamtlich engagieren, mit Fördermitteln in Höhe von 5.000 US-Dollar unterstützt.

Mit moderner, anpassungsfähiger und sicherer Gesundheits-IT Leben retten
F5-Ökosystem | 22.05.2023

Mit moderner, anpassungsfähiger und sicherer Gesundheits-IT Leben retten

Die IT-Investitionen im Gesundheitswesen tragen dazu bei, die schnellsten Wege zu einer besseren Versorgung zu finden, indem sie die medizinische Betreuung näher an die Patientinnen und Patienten bringen. Viele Gesundheitsunternehmen nutzen riesige Mengen an klinischen und anderen Gesundheitsdaten, um Entwicklungen zu verfolgen und übergreifende Trends in der gesamten Gesundheitslandschaft zu erkennen. Gleichzeitig nähern sie sich einer möglichst präzisen, individuell zugeschnittenen Versorgung an.

Verbesserung der Benutzer- und Administrationserfahrung durch sicheren hybriden Zugriff
F5-Ökosystem | 16.09.2020

Verbesserung der Benutzer- und Administrationserfahrung durch sicheren hybriden Zugriff

Diese Kombination aus BIG-IP Access Policy Manager und Azure Active Directory ermöglicht Identitätsföderation, zentralisierten Benutzerzugriff (über Single Sign-on) und erhöhte Anwendungssicherheit (durch Multi-Faktor-Authentifizierung) für geschäftskritische Anwendungen sowie cloudbasierte und SaaS-Anwendungen. Dieser Ansatz vereinfacht die Einrichtung und Bereitstellung, reduziert den Verwaltungsaufwand und verbessert die gesamte Administration.

Das Internet der Sicherheitsdinge
F5-Ökosystem | 11.05.2015

Das Internet der Sicherheitsdinge

Nein, das ist keine Tirade über die Sicherheit des IoT. Es ist eine Geschichte über Veränderung – genauer gesagt über Veränderung und ihre Auswirkungen auf die Sicherheit. Veränderung ist allgegenwärtig. Es gibt unzählige Axiome und Sprichwörter über Veränderung, also ist es ...