Steuern Sie Ihre KI-Gegenwart und gestalten Sie Ihre KI-Zukunft vorausschauend

Chuck HerrinCISO im Außendienst | F5

KI wird oft als der enthusiastischste Praktikant beschrieben, den man je hatte. Sie ist unermüdlich und kreativ, erfindet aber manchmal Dinge oder ist überzeugt, es besser zu wissen. Viele Unternehmen vertrauen KI-Modellen und den Anwendungen, die sie nutzen, sensible Daten und kritische Workflows an, bevor die richtigen Schutzmechanismen eingerichtet sind. Das führt unweigerlich zu Imageschäden, Compliance-Risiken und vielen langen Nächten für frustrierte Sicherheitsteams, die häufig erst im Nachhinein erfahren, dass ein neues Modell produktiv geschaltet oder zur Nutzung freigegeben wurde.

Dieser Ansatz muss sich ändern, und wir werden ihn ändern. In den vergangenen Monaten haben wir bei F5 zwei wichtige Meilensteine auf unserem Weg zu mehr KI-Sicherheit bekannt gegeben. Erstens haben wir nach der Übernahme von CalypsoAI zwei neue Produkte auf den Markt gebracht: F5 AI Guardrails und F5 AI Red Team. Damit stellen wir großen Unternehmen fortschrittliche KI-Sicherheitslösungen bereit. Zweitens haben wir dargelegt, wie sich KI-Modelle und -Agenten ohne Kompromisse absichern lassen. Heute möchte ich diese Punkte miteinander verknüpfen und zeigen, wie diese Schritte F5 Kunden dabei helfen, KI vertrauensvoll, schnell und vor allem ohne Abstriche einzuführen. Es ist an der Zeit, mit Zuversicht Innovationen voranzutreiben. Und für Sicherheitsteams ist es an der Zeit, Schwachstellen sehr schnell aufzuspüren.

Unsere aktuelle Analyse zur Einstellung von Sicherheitsteams gegenüber KI hat zahlreiche Bedenken offengelegt. Drei weitere Erkenntnisse stechen hervor:

1. 71 % der Sicherheitsexperten sind vor allem über Risiken besorgt, die durch internen Missbrauch oder das Verhalten von Modellen entstehen.
2. Die Bedenken hinsichtlich des Missbrauchs von KI-Modellen übersteigen die Sorgen über böswilligen Missbrauch um 134 %.
3. 52 % der Datenschutzbedenken von Sicherheitsteams betreffen die Nutzung von Schatten-KI und die Offenlegung sensibler Daten gegenüber LLMs.

Mit anderen Worten: Natürlich sind externe Angreifer relevant, doch die alltäglichen Risiken, die SecOps-Teams am meisten beschäftigen, gehen von (in der Regel) wohlmeinenden Nutzern, allzu selbstsicheren Modellen sowie fragmentierten oder fehlenden Kontrollen aus. Diese Daten aus der Praxis sind der Grund, warum wir uns so stark auf Laufzeitsicherheit und die Durchsetzung von Richtlinien konzentrieren – denn zur Laufzeit manifestieren sich Risiken tatsächlich in Prompts, Antworten, Tools und Aktionen von Agenten.

Was der Fokus von F5 auf KI-Sicherheit für Kunden bedeutet

Angesichts des rasanten Tempos, mit dem KI eingeführt wird, treiben wir die Vision von F5 voran, umfassende, modellunabhängige Sicherheit für KI-Anwendungen, -Modelle, -Agenten und -Daten zu bieten – von der Pilotphase bis zum Produktivbetrieb. Dazu integrieren wir zwei wichtige, sich ergänzende Produkte in die F5 Application Delivery and Security Platform (ADSP):

• F5 AI Guardrails: Eine Laufzeit-Sicherheits- und Governance-Ebene, die Prompts, Antworten und Aktionen von Agenten und Tools über beliebige Modelle oder Anbieter hinweg prüft, steuert und schützt. Sie ermöglicht es Teams, Datenlecks zu erkennen und zu verhindern, schädliche oder verzerrte Ausgaben zu moderieren und das Prinzip der geringsten Rechte für Modelle und Agenten durchzusetzen – ohne die Benutzererfahrung zu beeinträchtigen.
• F5 AI Red Team: KI-spezifische Red-Team-Funktionen mit umfangreichen adversarialen Tests, die Ihre KI-Systeme kontinuierlich anhand Tausender Angriffsmuster prüfen und jeden Monat um mehr als 10.000 neue Angriffsprompts ergänzt werden. Diese fortlaufend optimierte Testsammlung deckt Prompt-Injection, Jailbreaks, Modelldestillation, Datenexfiltration und weitere Angriffsmethoden ab und liefert detaillierte, auditfähige Protokolle und Fingerabdrücke.

In der Feedbackschleife entfaltet sich die Magie

Erkenntnisse und Ergebnisse aus Tests fließen direkt in dynamische Schutzmaßnahmen ein – aktive Leitplanken. Das bedeutet, dass sich Ihre Abwehrmaßnahmen parallel zu neuen Bedrohungen und Systemänderungen weiterentwickeln – ohne auf die nächste vierteljährliche Überprüfung oder den Patch-Zyklus eines Anbieters warten zu müssen. Je besser die Tests werden, desto besser wird auch Ihr Schutz – Monat für Monat.

Dieser Ansatz ist von entscheidender Bedeutung, um mit der kontinuierlichen Weiterentwicklung durch Bedrohungsakteure Schritt zu halten, die kürzlich die Entwicklung von Exploit-Code auf Grundlage von CVE-Erkenntnissen mithilfe von KI vollständig automatisiert haben. Wir müssen KI einsetzen, um uns gegen KI-gestützte Angriffe zu verteidigen; andernfalls ist das Ungleichgewicht einfach zu groß. Diese kontinuierliche Verbesserung wird zum Markenzeichen der KI-gestützten Abwehr werden. F5 setzt auf diese Methodik und integriert sie direkt in F5 ADSP.

Effektive KI ohne Kompromisse bei der Sicherheit

In unserem kürzlich veröffentlichten Blogbeitrag „KI-Modelle und -Agenten ohne Kompromisse absichern“ haben wir dargelegt, dass Sie sich nicht zwischen Benutzerfreundlichkeit, Geschwindigkeit und Sicherheit entscheiden müssen. Das ist leicht gesagt – doch wir setzen dieses Versprechen mit den folgenden Maßnahmen in die Praxis um:

1. Konsistenz über alle Modelle und Clouds hinweg. Modelle werden sich ändern, Anbieter werden wechseln – Ihre Schutzmechanismen sollten jedoch unverändert bleiben. F5 ermöglicht einheitliche Richtlinien in einer hybriden Welt mit mehreren Modellen – einschließlich lokaler Bereitstellungen und Open-Source-Modelloptionen.
2. Schutz mit niedriger Latenz – von Grund auf. Durch die Vermeidung von Failovers bleiben Anwendungen schnell und ausfallsicher, selbst wenn Sicherheitsrichtlinien inline durchgesetzt werden.
3. Compliance, die von Anfang an integriert und nicht nachträglich aufgesetzt ist. Vorkonfigurierte und benutzerdefinierte Audit-Vorlagen für Compliance-Vorgaben wie die Datenschutz-Grundverordnung (DSGVO), HIPAA und den EU AI Act sowie durchgängige Observability und SIEM-/SOAR-Integrationen von Drittanbietern ermöglichen eine einfache, wiederholbare und zuverlässige Erfassung von Nachweisen.

Was Sie vom neuen Kapitel von F5 im Bereich KI-Sicherheit erwarten können

Sie kennen F5 bereits für unsere Fähigkeit, Anwendungen schnell, verfügbar und sicher zu halten. KI-Sicherheit fügt sich nahtlos in diese bestehende Struktur ein. Das nächste Kapitel der KI-Sicherheit reduziert Risiken aus allen Richtungen und macht sie transparent. Bekämpfen Sie neue gegnerische Bedrohungen wie Prompt-Injection, Jailbreaks, Modelldestillation und Versuche der Datenexfiltration mit agentenbasierter Threat Intelligence, die jeden Monat aus mehr als 10.000 neuen Angriffs-Prompts lernt. Erkennen und verhindern Sie die Offenlegung sensibler Daten gegenüber öffentlichen und privaten LLMs in Echtzeit und setzen Sie DLP- und Zugriffsrichtlinien durch, die auf Ihre Datenklassifizierungen abgestimmt sind.

Sorgen Sie schließlich für eine verantwortungsvolle KI-Nutzung, indem Sie schädliche oder voreingenommene Ausgaben moderieren, rollenbasierte und kontextabhängige Berechtigungen für Modelle und Agenten durchsetzen und Risikobewertungsrahmen auf öffentliche und unternehmenseigene Modelle anwenden. Über all diese Schutzmaßnahmen hinweg können Sie die Beobachtbarkeit durch zentrale Transparenz und Nachverfolgbarkeit sämtlicher KI-Interaktionen vereinfachen – mit detaillierten Protokollen, agentenbasierten Fingerabdrücken und Integrationen in Ihre bestehende SIEM-/SOAR-Lösung, um Störsignale zu reduzieren und relevante Signale hervorzuheben.

Die heutigen Fallstricke direkt angehen

Sich ausschließlich auf die Schutzmechanismen von Frontier-Modellen zu verlassen, ist riskant. Angreifer nehmen diese zuerst ins Visier, und Ihr Risiko geht weit über einen einzelnen Anbieter hinaus. Unverbundene Einzellösungen erhöhen das Grundrauschen und schaffen blinde Flecken. Und undurchsichtige, „KI-gestützte“ Magie ist keine Governance. Sie benötigen transparente Kontrollen mit menschlicher Beteiligung, revisionssichere Nachweise und Richtlinien, die Sie Aufsichtsbehörden und Ihrem Vorstand verständlich erläutern können.

Wenn Sie gerade erst mit KI beginnen, setzen Sie dort an, wo das Risiko am höchsten ist – bei der Erkennung von Schatten-KI, dem Schutz sensibler Daten oder adversarialen Tests – und erweitern Sie Ihre Maßnahmen von dort aus. Wenn Sie KI bereits produktiv einsetzen, erfassen Sie die Toolchains und Datenflüsse Ihrer Agenten und wenden Sie anschließend an den Schnittstellen das Prinzip der geringsten Rechte sowie Schutzmechanismen zur Laufzeit an.

Alles zusammenführen

F5 AI Guardrails und F5 AI Red Team beschleunigen die Umsetzung der Mission von F5, die umfassendste Plattform zur Absicherung von KI bereitzustellen. Sie stehen im Einklang mit unserem Anspruch, Modelle und Agenten ohne Kompromisse zu schützen, und zielen darauf ab, die Herausforderungen zu bewältigen, mit denen SecOps in der Praxis tatsächlich konfrontiert ist. Die KI-Angriffsfläche entwickelt sich täglich weiter. Mit diesen neuen Funktionen erhalten Sie einen adaptiven Laufzeitschutz und agentenbasierte Bedrohungsinformationen, die mit dieser Entwicklung Schritt halten und Ihre Modelle, Agenten und Daten von der Pilotphase bis zum Produktivbetrieb schützen.

Bringen Sie Ihre Modelle mit – wir zeigen Ihnen modellunabhängige Schutzmechanismen für Ihren gesamten Stack. Weitere Informationen finden Sie in unserem aktuellen Video.

Über den Autor

Chuck HerrinCISO im Außendienst | F5

Chuck Herrin ist Field CSO bei F5.

Weitere Blogbeiträge von Chuck Herrin