Verantwortungsvolle KI skalieren mit F5 AI Guardrails und F5 Red Team

Tom JohnsonGlobaler Rechtsberater für Produkt- und Datenschutzfragen | F5

F5 hat kürzlich zwei neue KI-Sicherheitsprodukte angekündigt: F5 AI Guardrails und F5 AI Red Team. Diese Ankündigung erfolgt zu einem entscheidenden Zeitpunkt, da die Branchenaufsichtsbehörden den Einsatz von KI zur Bereitstellung von Dienstleistungen für Verbraucher zunehmend kritisch prüfen.

Zwar gibt es einige KI-spezifische Vorschriften wie den viel beachteten EU AI Act, doch in vielen Rechtsordnungen greifen die Regulierungsbehörden auf bestehende regulatorische Rahmenwerke zurück, um sicherzustellen, dass Unternehmen KI verantwortungsvoll einsetzen. Daher müssen Unternehmen selbst in Rechtsordnungen ohne KI-spezifische Vorschriften häufig hohe Compliance-Anforderungen erfüllen, um KI-Innovationen in ihren Technologie-Stacks produktiv einzusetzen. Darüber hinaus funktionieren viele Modelle, darunter auch große Sprachmodelle (Large Language Models, LLMs), wie Blackboxen. Dies erschwert ihren Einsatz zusätzlich, da Unternehmen ihren Compliance-Verpflichtungen in Bezug auf Fairness, Transparenz und Erklärbarkeit nachkommen müssen.

F5 AI Guardrails und AI Red Team, die neuesten Ergänzungen der F5 Application Delivery and Security Platform (ADSP) , bieten robuste Compliance-Kontrollen, die Unternehmen dabei unterstützen, Ein- und Ausgaben von KI-Modellen besser zu verstehen und miteinander in Beziehung zu setzen, Verzerrungen zu beseitigen und die menschliche Aufsicht zu stärken.

All dies lässt sich mit wenigen Klicks umsetzen. So werden diese Erkenntnisse in aktive Schutzmaßnahmen überführt, die sicherstellen, dass Modelle die Compliance-Verpflichtungen eines Unternehmens und seine internen Standards für einen verantwortungsvollen und ethischen Einsatz von KI einhalten. Für Unternehmen, die ihre KI-Bereitstellungen aufgrund rechtlicher oder regulatorischer Risiken bislang zurückhalten, ist dies ein revolutionärer Fortschritt.

Risikofaktoren von KI-Modellen für jeden Anwendungsfall einfacher handhaben und minimieren

Die Funktionen von F5 AI Guardrails tragen entscheidend dazu bei, dass Unternehmen ihre Strategien für die KI-Governance verbessern können. Dies ist immer dann von zentraler Bedeutung, wenn KI direkte Auswirkungen auf das Leben von Menschen hat. Ein Beispiel hierfür sind Finanzinstitute, die KI zur Bearbeitung von Kreditanträgen einsetzen möchten. Für diese Institute könnte jedes Mal ein Risiko entstehen, wenn eine KI einen Kredit ablehnt, den ein menschlicher Prüfer genehmigt hätte. Das Problem dabei ist jedoch, dass es nur sehr wenige geeignete Tools gibt, mit denen sich nachvollziehen lässt, warum ein Modell einen Kredit überhaupt ablehnt. Selbst wenn ein Modell vor seinem Einsatz gründlich getestet wird, reicht eine mangelnde Erklärbarkeit weder für regulatorische Prüfungen aus noch erfüllt sie die unternehmenseigenen Transparenzanforderungen.

Bei der erstmaligen Bereitstellung eines KI-Modells möchten Unternehmen das Modell gründlich testen und validieren, um sicherzustellen, dass es nicht außer Kontrolle gerät, indem es vertrauliche Informationen preisgibt, Verzerrungen reproduziert oder unfaire Entscheidungen trifft, für die das Unternehmen rechtlich haftbar gemacht werden könnte.

F5 AI Red Team ermöglicht umfassende und strategische Tests von KI-Systemen: Durch automatisierte adversariale Tests von Systemen in großem Maßstab werden sowohl offensichtliche als auch schwer erkennbare Verhaltensweisen und Schwachstellen identifiziert, sodass Teams einen umfassenden Überblick über alle Risiken erhalten. Diese Red-Teaming-Funktionen basieren auf einer branchenführenden Datenbank, die jeden Monat um mehr als 10.000 neue Angriffsprompts erweitert wird. Unternehmen können zudem eigene Tests erstellen, um bei Modellaktualisierungen ein konsistentes Verhalten sicherzustellen. So können Teams gewährleisten, dass sich Modelle wie erwartet verhalten, und ihre Strategien für Datensicherheit, Bedrohungsmanagement und Governance entsprechend ausrichten und anpassen, um neu auftretenden Risiken stets einen Schritt voraus zu sein.

Mit F5 AI Guardrails können Unternehmen Prompts mit Antworten korrelieren, Warnmeldungen für bestimmte Mengen themenbezogener Prompts festlegen und kritische Prompts zur Überprüfung und Korrektur hervorheben. Die Lösung stellt die Tools für die menschliche Aufsicht und Dokumentation bereit, die KI-Governance-Teams benötigen.

F5 AI Red Team bietet sowohl einen Überblick aus der Vogelperspektive darüber, warum sich ein Modell auf eine bestimmte Weise verhält, als auch eine Detailansicht, die Aufschluss darüber gibt, welche Merkmale oder Tokens innerhalb eines Prompts den größten Einfluss auf eine bestimmte Schlussfolgerung hatten. Um auf das Beispiel aus dem Finanzdienstleistungssektor zurückzukommen: Ein Unternehmen kann die Funktionen von F5 AI Red Team nutzen, um zu ermitteln, welche Daten in einem Kreditantrag den größten Einfluss auf die Schlussfolgerung oder das Ergebnis eines Modells hatten und auf welche konkreten Datenquellen es sich bei seiner Entscheidungsfindung am stärksten stützte. Dadurch stehen Unternehmen mehr Datenpunkte zur Verfügung, um die Funktionsweise eines Modells abzubilden, über- oder untergewichtete Merkmale zu identifizieren und Rückmeldungen für ein weiteres Training oder eine Feinabstimmung zu geben. Außerdem können sie schnell Dokumentationen zur Unterstützung von Audits und Compliance-Maßnahmen erstellen.

Hürden für die Einführung von KI beseitigen und die Compliance beschleunigen

Einfachheit ist ein entscheidendes Differenzierungsmerkmal. Diese Point-and-Click-Lösung macht die Entwicklung maßgeschneiderter interner Tools überflüssig und ergänzt die übrigen Komponenten von F5 ADSP um agile Tests, Überwachung und Feinabstimmung, die über die bloße Einhaltung von Standards hinausgehen. Unternehmen können ihre KI-Initiativen und die Bereitstellung mehrerer komplexer KI-Modelle trotz regulatorischen Gegenwinds beschleunigen und dabei Datenschutz und Fairness für Verbraucher als Eckpfeiler ihrer eigenen Serviceangebote etablieren.

Dabei ist zu beachten, dass Regulierungsbehörden selbst in Bereichen, in denen noch keine ausdrücklichen Vorschriften für den Einsatz von KI entwickelt wurden, bestehende Rechtsrahmen neu auslegen, um sie auf KI-Prozesse anzuwenden. Ein weiteres Beispiel aus dem Finanzdienstleistungssektor: Regulierungsbehörden messen den KI-Einsatz von Unternehmen derzeit am ursprünglich 1970 verabschiedeten Fair Credit Reporting Act (FCRA). AI Guardrails hilft Unternehmen, ihre Anforderungen bereits heute zu erfüllen und sich zugleich besser auf neue Vorschriften vorzubereiten, die künftig in Kraft treten könnten.

Beschleunigen Sie die Einführung regelkonformer, transparenter und risikoarmer KI

Nach dieser Übernahme und der Erweiterung der Funktionen von F5 ADSP verfügen Unternehmen über alles, was sie benötigen, um das Blackbox-Problem der KI zu überwinden und gleichzeitig gegenüber Aufsichtsbehörden ihr Risikomanagement und ihre Data Governance nachzuweisen. Einige der wertvollsten KI-Anwendungsfälle, die bislang als hochriskant galten, können nun mit geeigneten Schutzmechanismen, menschlicher Überwachung und Werkzeugen zur Erklärbarkeit umgesetzt werden. F5 unterstützt Unternehmen dabei, dieses Ziel schneller zu erreichen – mit einer umfassenden Plattform und einfachen Werkzeugen, die für jede Umgebung konzipiert sind.

Weitere Informationen finden Sie in unserem vorherigen Blogbeitrag.

Über den Autor

Tom JohnsonGlobaler Rechtsberater für Produkt- und Datenschutzfragen | F5

Weitere Blogbeiträge von Tom Johnson