F5 schließt Übernahme von CalypsoAI ab und führt F5 AI Guardrails sowie F5 AI Red Team ein

Shawn WormkeVice President und General Manager | F5 NGINX

Jede neue Technologie bringt sowohl Chancen als auch Risiken mit sich. Bei KI ist das nicht anders: Sie ermöglicht bahnbrechende Fortschritte, darunter die Automatisierung komplexer Arbeitsabläufe, bessere Entscheidungen mithilfe prädiktiver Analysen und die Erstellung realistischer synthetischer Medien. Gleichzeitig entstehen dadurch Schwachstellen wie Datenschutzverletzungen, die Ausnutzung von Modellen und die Verstärkung von Verzerrungen. Da sich die Fähigkeiten von KI rasant weiterentwickeln, halten Sicherheitsmaßnahmen oft nicht Schritt. Dadurch sind Unternehmen sowohl offensichtlichen Gefahren als auch unvorhergesehenen Bedrohungen ausgesetzt. Wenn sich eine Technologie schneller weiterentwickelt als ihre Schutzmaßnahmen, verlagert sich die Verantwortung für die Sicherheit häufig von den Entwicklern auf die Anwender.

Seit Jahrzehnten unterstützt F5 Unternehmen dabei, sich in der sich wandelnden digitalen Landschaft zurechtzufinden, Innovationen zu beschleunigen, eine zuverlässige Konnektivität sicherzustellen und sensible Systeme vor potenziellen Schäden zu schützen. Da KI heute an der Spitze des technologischen Fortschritts steht, erfordert sie nicht nur einen wohlüberlegten Einsatz, sondern auch adaptive Sicherheitsmaßnahmen, um Benutzer zu schützen, Daten abzusichern, gezielte Angriffe abzuwehren und eine ethisch verantwortungsvolle KI-Governance zu gewährleisten. Unternehmen, die die Vorteile von KI möglichst schnell nutzen möchten, benötigen adaptive „Leitplanken“, um jeden Benutzer sowie die mit hoher Geschwindigkeit und in großem Umfang übertragenen Daten zu schützen und sich umfassend gegen böswillige Akteure zu verteidigen.

Wir stellen F5 AI Guardrails vor

F5 freut sich, heute bekannt geben zu können, dass wir die Übernahme von CalypsoAI, einem Vorreiter an der Spitze der KI-Sicherheit, abgeschlossen haben. Zugleich stellen wir die neueste Ergänzung zum Schutz unserer digitalen Verkehrswege vor: F5 AI Guardrails – umfassende Laufzeitsicherheit für KI-Modelle und -Agenten. Mit dieser neuen Lösung kann F5 nun einen modellunabhängigen Ansatz anbieten, der KI-Daten schützt, gegnerische Bedrohungen abwehrt und eine verantwortungsvolle KI-Governance über alle Interaktionen hinweg gewährleistet. Die KI-Landschaft entwickelt sich mit Millionen proprietärer und quelloffener Modelle sowie deren feinabgestimmten Varianten ständig weiter. Gegenwart und Zukunft der KI-Sicherheit beschränken sich nicht auf einige wenige monolithische LLMs, sondern umfassen eine Vielzahl proprietärer und öffentlicher KI-Innovationen, die unabhängig von einem bestimmten Modellanbieter jeweils ein einheitliches Maß an Datenschutz und Sicherheit erfordern. Jedes Modell weist ein anderes Risikoprofil auf und benötigt daher maßgeschneiderte Guardrails, damit KI-Interaktionen nicht über akzeptable Grenzen hinausgehen.

F5 AI Red Team identifiziert offensichtliche und verborgene Bedrohungen

Was man nicht sieht, kann man nicht schützen. Auf allen physischen und digitalen Verkehrswegen gibt es unzählige Stellen, an denen Leitplanken sinnvoll sein könnten. Bekannte Unfallschwerpunkte oder stark frequentierte Kreuzungen werden natürlich vorrangig behandelt, doch es bedarf eines strategischeren, präventiven Ansatzes. F5 AI Red Team fungiert als Auge am Himmel: Es analysiert die Landschaft und simuliert dabei das reale Chaos des Berufsverkehrs, das Verhalten von Verkehrsteilnehmern mit denkbar extremer Aggressivität und die Schwachstellen, die sie aufdecken könnten. Indem AI Red Team nicht nur ermittelt, wo Unfälle in KI-Systemen wahrscheinlich sind, sondern auch, wo sie die größten Auswirkungen hätten, zeigt es genau auf, wo Leitplanken benötigt werden und wie dringend sie eingerichtet werden sollten.

Wir führen AI Red Team ein, um diese Funktion nahtlos bereitzustellen. Dabei setzen wir Schwärme autonomer Agenten frei, die Tausende von Angriffsmustern simulieren und Schwachstellen in KI-Systemen aufspüren. Diese Agentenschwärme beschleunigen die Erkennung sowohl gängiger KI-Schwachstellen als auch besonders schwer auffindbarer Worst-Case-Exploits, mit denen sich Sicherheitsteams aus Zeitgründen nicht befassen können. Darüber hinaus basieren die simulierten Angriffstechniken auf unserer führenden Datenbank für KI-Schwachstellen – einer umfangreichen Bibliothek, die regelmäßig um mehr als 10.000 neue Angriffsmuster pro Monat ergänzt wird, um aktuelle Entwicklungen abzubilden. Die gewonnenen Erkenntnisse sind bereits für sich genommen wertvoll, doch mit nur wenigen Klicks können Teams jede Erkenntnis in aktive AI Guardrails umsetzen.

Einblick in die Blackbox der KI

Das „Was“ und „Wo“ von KI-Bedrohungen zu kennen, ist eine Grundvoraussetzung für die Aufrechterhaltung der Sicherheitslage. Das „Wie“ und „Warum“ zu verstehen, ist jedoch entscheidend für deren Verbesserung. Die undurchsichtige „Blackbox“-Natur von KI-Systemen hat dies in der Vergangenheit erschwert und erfordert einen völlig neuen Ansatz. Angenommen, Ihre KI stößt auf eine Guardrail und eine Eingabeaufforderung wird blockiert. Bei herkömmlichen Methoden wie der statischen Schlüsselwort- oder Regex-Filterung wären Ihnen Benutzer, Datum und Uhrzeit sowie der Auslöser bekannt, aber Sie hätten kein vollständiges Bild davon, was passiert ist. Entscheidend ist, dass F5 AI Guardrails und AI Red Team der Erklärbarkeit Priorität einräumen und Kunden so dabei helfen, zu verstehen, warum ein KI-System eine bestimmte Entscheidung getroffen oder eine bestimmte Aktion ausgeführt hat.

Mit fortschrittlichen Funktionen wie Agentic Fingerprints und Outcome Analysis erhalten Teams nun detaillierte Einblicke in jede KI-Interaktion – einschließlich einer ausführlichen Begründung, warum eine Eingabe akzeptiert oder blockiert wurde, sowie des Kontexts, der zu dieser Entscheidung geführt hat. Dieser Detailgrad ist nicht nur entscheidend, um Sicherheitsteams umfassend zu informieren, sondern vereinfacht auch die Einhaltung regulatorischer Vorgaben erheblich – durch leicht zugängliche Audit-Trails und vorgefertigte Vorlagen für die jeweiligen regulatorischen Rahmenwerke.

Sichern Sie Ihre KI-Gegenwart und gestalten Sie Ihre KI-Zukunft vorausschauend

KI wird nicht verschwinden und sie wird auch nicht langsamer. MCP-Server, das A2A Protocol, Retrieval Augmented Generation (RAG) und alle künftigen Innovationen werden die globalen Triebkräfte für die Leistungsfähigkeit von KI exponentiell verstärken. Die Leistungsfähigkeit von KI darf jedoch nicht auf Kosten der KI-Sicherheit vorangetrieben werden. F5 hat sich auf der Anwendungsebene einen hervorragenden Ruf erworben und unterstützt Unternehmen dabei, sich auf unseren digitalen Datenautobahnen schneller und intelligenter zu bewegen. Wir sehen keinen Grund, dies im KI-Zeitalter zu ändern. F5 AI Guardrails und AI Red Team stellen sicher, dass wir dieses Versprechen intelligenter Geschwindigkeit einhalten und umfassende Sicherheit für KI-Modelle, Agenten und vernetzte Daten bieten können.

Wir können nicht genau vorhersagen, wie die KI-Landschaft in einem Jahr aussehen wird. Bei F5 sind wir überzeugt, dass die beste Vorbereitung auf die Zukunft darin besteht, Unternehmen mit Tools auszustatten, die sich an ihre Anforderungen anpassen, statt ihnen den Weg vorzugeben. Mit AI Guardrails und AI Red Team sowie der gebündelten Leistungsfähigkeit der F5 Application Delivery and Security Platform (ADSP) bieten wir Ihnen die Flexibilität, sich an jede Umgebung, Cloud und jedes KI-Modell anzupassen – in dem Wissen, dass nicht wir Ihre künftigen Anforderungen am besten beurteilen können, sondern Sie selbst.

Über den Autor

Shawn WormkeVice President und General Manager | F5 NGINX

Weitere Blogbeiträge von Shawn Wormke