Führender Anbieter von Workforce-Technologie sichert KI im großen Maßstab mit F5 ab

Ein globaler Anbieter von Workforce-Technologie benötigte eine lückenlose KI-Governance für Dutzende interne Produktteams, bevor er KI-gestützte Services sicher skalieren konnte. F5 AI Guardrails verschaffte der Sicherheitsorganisation des Unternehmens die nötige Transparenz und Kontrolle, um von einer Handvoll produktiver Anwendungsfälle zu einer unternehmensweiten Einführung überzugehen.

Geschäftliche Herausforderung

Große Anbieter von Unternehmenstechnologie stehen vor einer besonders schwierigen Variante eines bekannten Problems: Sie müssen bei KI schnell vorankommen, doch bereits ein einziger unsachgemäßer Umgang mit offengelegten Daten kann katastrophale regulatorische Folgen und Reputationsschäden nach sich ziehen. Dies gilt insbesondere für Unternehmen, die im Auftrag Hunderttausender Kundenorganisationen sensible Personaldaten verwalten.

Einer der weltweit größten Anbieter von Human-Capital-Management- und Workforce-Technologien befand sich in genau dieser Situation. Das interne KI-Programm war schnell gewachsen: Mehr als 50 Produktteams entwickelten KI-gestützte Tools und Services. Dutzende KI-Anwendungen waren bereits produktiv im Einsatz, und die Roadmap sah Hunderte weitere vor. Das rasante Wachstum stellte die Governance vor große Herausforderungen: Ein einziges Team war dafür verantwortlich, jede KI-Anwendung zu prüfen und freizugeben, bevor sie unternehmensweit produktiv eingesetzt werden konnte. Das Unternehmen benötigte ein einheitliches Verfahren, um nachzuweisen, dass jede Anwendung auch in großem Maßstab sicher betrieben werden konnte.

Eine leitende Führungskraft im Sicherheitsbereich war dafür verantwortlich, den Einsatz von KI in allen Produktteams zu steuern, und berichtete dabei an die obersten Technologie- und Datenschutzverantwortlichen des Unternehmens. Dieses Governance-Modell verlieh dem Programm die nötige Stringenz, bedeutete jedoch auch, dass jede KI-Sicherheitslösung den Anforderungen zahlreicher Interessengruppen gerecht werden und einer kritischen Prüfung durch die Unternehmensleitung standhalten musste.

Das Unternehmen benötigte eine Möglichkeit, sowohl den ein- als auch den ausgehenden KI-Datenverkehr abzusichern. Dazu gehörten Informationen und Prompts, die von Mitarbeitenden und Systemen an KI-Modelle gesendet wurden, ebenso wie die von den Modellen zurückgegebenen Ergebnisse. Dieser Schutz musste gewährleistet werden, ohne die Dutzenden von Produktteams auszubremsen, die bereits auf der bestehenden KI-Infrastruktur und vorhandenen KI-Anwendungen aufbauten. Die Lösung musste zuverlässig funktionieren, auf der vorhandenen Unternehmensinfrastruktur betrieben werden können, sich in andere Sicherheitstools integrieren lassen und skalierbar genug sein, um das Datenverkehrsaufkommen eines globalen Unternehmens zu bewältigen.

Lösungen

Das Unternehmen entschied sich für F5 AI Guardrails, das in der eigenen Cloud-Umgebung des Unternehmens selbst gehostet und direkt in die interne Middleware-Schicht integriert wird, die den gesamten KI-Datenverkehr produktteamübergreifend weiterleitet. Auf Wunsch entwickelte F5 zudem benutzerdefinierte Erkennungsfunktionen, um die Lösung optimal an die Bereitstellungsumgebung anzupassen. Diese Funktionen umfassten die Erkennung von Versuchen, Prompts zu extrahieren, das Modell zu manipulieren oder Daten zu verschleiern beziehungsweise zu verändern, um die standardmäßige Überprüfung zu umgehen. Mit der implementierten Lösung werden jeder an ein KI-Modell gesendete Prompt und jede zurückgegebene Antwort inline und bidirektional überprüft.

Ergebnisse

Schützen Sie sensible Daten bei jeder KI-Interaktion

AI Guardrails scannt Prompts und Antworten inline und in Echtzeit im gesamten Datenverkehr, den die einzelnen Produktteams über die KI-Middleware-Schicht des Unternehmens leiten. Dadurch erhält die Sicherheitsorganisation Einblick in beide Seiten jeder KI-Interaktion.

Jedes Produktteam kann die Sicherheit unabhängig konfigurieren, indem es Richtlinienverstöße in Echtzeit blockiert, Aktivitäten prüft, ohne sie zu blockieren, oder die Prüfung bei Bedarf umgeht. Ein plattformweiter „Notausschalter“ bietet dem Sicherheitsteam im Falle eines Vorfalls eine zentrale Kontrollmöglichkeit. Die Ergebnisse werden automatisch in das bestehende Security Information and Event Management (SIEM) des Unternehmens eingespeist. So erhält das Sicherheitsteam vollständige Transparenz über KI-Aktivitäten sowie über alle anderen Sicherheitssignale, die es bereits überwacht, ohne ein separates, isoliertes Tool einführen zu müssen.

KI-Einführung mühelos und sicher skalieren

Das Unternehmen startete mit rund 10 KI-Anwendungen im Produktivbetrieb. Anfängliche Fragen zur Leistungsfähigkeit konnten schnell geklärt werden, und die Lösung blieb auch unter realen Produktionslasten und der aufmerksamen Beobachtung durch die Geschäftsleitung stabil. Alle Fristen wurden eingehalten, ohne die laufenden Arbeitsabläufe zu beeinträchtigen.

Das Unternehmen arbeitet nun auf Hunderte von Anwendungsfällen in mehr als 50 Produktgruppen hin. Dank einer Sicherheitsarchitektur, die sich bereits im großen Maßstab bewährt hat, kann das Governance-Team des Unternehmens neue KI-Anwendungsfälle schneller prüfen und freigeben. Dadurch erhalten die globalen Produktteams einen klareren und einheitlicheren Weg bis zum Produktivbetrieb. AI Guardrails unterstützt dieses Wachstum innerhalb eines ambitionierten, von der Unternehmensleitung vorgegebenen Zeitplans und erweitert die Kapazitäten mit zunehmender Akzeptanz.

Governance stärken und gleichzeitig die Compliance vereinfachen

Ein zentralisiertes Berichtswesen bietet dem Unternehmen einen lückenlosen Audit-Trail zur Erfüllung der Compliance-Anforderungen. Im Rahmen einer Reihe von Prüfungen durch die Geschäftsleitung und die Governance-Verantwortlichen lieferten AI Guardrails die erforderlichen Nachweise dafür, dass die Systeme konsequent überwacht und kontrolliert wurden. Diese Transparenz trug dazu bei, Governance von einem Hindernis in einen wiederholbaren, belastbaren Prozess zu verwandeln, hinter dem die Führungskräfte auf allen Ebenen stehen konnten.

Zuverlässigkeit und operative Resilienz gewährleisten

Nachdem anfängliche Fragen zur Performance durch die direkte, praxisnahe Zusammenarbeit mit F5-Experten geklärt worden waren, entwickelte sich AI Guardrails zu einer der vertrauenswürdigsten Komponenten der Sicherheitsarchitektur des Unternehmens.

Der Leiter der KI-Plattform des Unternehmens sagt: „Die Lösung von F5 ist so zuverlässig und stabil, dass wir fast vergessen haben, dass es euch überhaupt gibt … und genau das ist für uns der Idealfall bei Sicherheitsanbietern.“

Nachdem sich die Leistungsfähigkeit von AI Guardrails auch im großen Maßstab bewährt hat, prüft das Unternehmen nun weitere Funktionen der F5 AI Security Platform, darunter Red Teaming und die Behebung von Schwachstellen, um dieses Vertrauen auf ein breiteres Spektrum von KI-Risiken auszuweiten.