Das Management der Cybersicherheit in einer von KI geprägten Welt ist anspruchsvoller denn je. Da Unternehmen generative und agentenbasierte KI-Tools rasch einführen, sind sie zunehmend Risiken wie Prompt-Injection-Angriffen, Datenlecks und Herausforderungen bei der Einhaltung gesetzlicher Vorgaben ausgesetzt. Die dynamische und stark vernetzte Struktur von KI-Anwendungen, -Modellen und APIs vergrößert die Angriffsfläche, verschärft die regulatorische Kontrolle und führt zu blinden Flecken im Betrieb.
Herkömmliche punktuelle Sicherheitslösungen können mit der komplexen und sich ständig weiterentwickelnden KI-Bedrohungslandschaft kaum Schritt halten. Unternehmen stehen vor der Aufgabe, diese leistungsstarken Tools in ihre Betriebsabläufe zu integrieren und dabei Compliance-Vorgaben einzuhalten, sensible Daten zu schützen und betriebliche Verzögerungen zu vermeiden – und das mit beispielloser Geschwindigkeit und in bislang ungekanntem Umfang.
Wir bei F5 sind überzeugt, dass die Absicherung von KI-Workflows nicht zulasten von Geschwindigkeit, Benutzerfreundlichkeit oder Skalierbarkeit gehen darf. Daher freuen wir uns, die Übernahme von CalypsoAI bekannt zu geben. Als Vorreiter im Bereich der KI-Sicherheit für Unternehmen bietet CalypsoAI adaptiven Schutz, Bedrohungsüberwachung in Echtzeit und auditfähige Governance für KI-Systeme. Mit dieser Übernahme ist F5 das erste Unternehmen, das durchgängigen Schutz für jede App, jede API und nun auch für jedes KI-Modell und jeden KI-Agenten bereitstellt – überall.
Gemeinsam mit CalypsoAI definieren wir die KI-Sicherheit für Unternehmen neu und ermöglichen es Organisationen, sicher zu skalieren, Risiken zu minimieren, die Compliance zu vereinfachen und leistungsstarke KI-Workflows bereitzustellen. Durch die Integration der Funktionen von CalypsoAI in die F5 Application Delivery and Security Platform (ADSP) erhalten Unternehmen Zugang zur weltweit umfassendsten End-to-End-Lösung für KI-Sicherheit, mit der sie ihre KI-Systeme von der Pilotphase bis zum Produktivbetrieb ohne Kompromisse absichern können.
Wir haben mit James White, CTO von CalypsoAI, und Kunal Anand, Chief Innovation Officer bei F5, darüber gesprochen, wie diese bahnbrechende Lösung die KI-Sicherheit in Unternehmen über den gesamten Lebenszyklus von KI-Systemen hinweg vereinfacht.
F: Willkommen bei F5, James! Können Sie uns etwas über die Mission von CalypsoAI erzählen und darüber, wie es zu dieser Partnerschaft kam?
James White: Vielen Dank! Unsere Mission bei CalypsoAI war es schon immer, Unternehmen in die Lage zu versetzen, KI vertrauensvoll und sicher einzusetzen. Da Unternehmen den Einsatz von KI rasch ausweiten, sind sie zunehmenden Risiken wie adversarialen Angriffen, unkontrolliertem Modellverhalten, Richtlinienverstößen und sich wandelnden Compliance-Anforderungen ausgesetzt. Angesichts der rasanten Entwicklung der KI lassen sich diese Risiken mit herkömmlichen Tools nicht bewältigen, wodurch Lücken bei Schutz und Governance entstehen.
Um dem zu begegnen, haben wir Lösungen entwickelt, die KI-Workflows in allen Phasen des KI-Reifegrads absichern. Dazu gehören proaktive Angriffstests durch KI-Red-Teaming, Echtzeitschutz durch Lösungen wie Laufzeitüberwachung und die Durchsetzung von Richtlinien sowie zentrale Beobachtbarkeit und Compliance zur Erfüllung regulatorischer Standards wie der DSGVO und des EU AI Act.
Durch den Zusammenschluss mit F5 können wir unsere Vision weiterentwickeln und diese Funktionen nahtlos in einer einheitlichen Plattform integrieren. So können Unternehmen KI testen, bereitstellen und skalieren, ohne Abstriche bei der Sicherheit zu machen.
F: Kunal, wie unterstützt diese Übernahme die Vision von F5 für den Erfolg von Unternehmen?
Kunal Anand: KI ist nicht einfach nur eine weitere Workload, sondern eine neue, dynamische Angriffsfläche, die herkömmliche Sicherheitsmaßnahmen umgeht. Seit Jahrzehnten befindet sich F5 an der entscheidenden Schnittstelle zwischen Anwendungen und Benutzern. Die Absicherung von KI-Modellen, Agenten und Datenflüssen ist die logische Erweiterung unserer Kernaufgabe.
Unsere Vision ist eine einheitliche, adaptive Plattform, die Code, APIs und nun auch die KI-Konstrukte absichert, auf denen moderne Anwendungen basieren. Durch die Integration der KI-nativen Sicherheitslösung von CalypsoAI in unsere ADSP lassen wir diese Vision Wirklichkeit werden. Dabei geht es nicht darum, einfach eine neue Funktion hinzuzufügen. Vielmehr wird der KI-Schutz direkt in die Anwendungsstruktur eingebettet. Unternehmen können nun mit KI entwickeln, anstatt lediglich auf die damit verbundenen Risiken zu reagieren. Genau das ist der Unterschied zwischen einer führenden Rolle und der bloßen Teilnahme an diesem Wandel.
F: James, können Sie näher auf die konkreten Herausforderungen eingehen, für deren Bewältigung CalypsoAI entwickelt wurde?
James White: Wenn Unternehmen einen neuen KI-Stack implementieren möchten, schaffen KI-Workflows eine dynamische Angriffsfläche, die besondere Herausforderungen mit sich bringt:
- KI-Schwachstellen: Zu den Risiken zählen Prompt-Injection-Angriffe, Datenvergiftung und gezielte Manipulationen, die die Integrität von KI-Systemen beeinträchtigen können. Eine der drängendsten Herausforderungen, auf die Sicherheitsexperten hinweisen ist die zunehmende Verbreitung von Schatten-KI. Dabei erhöht die unbefugte Nutzung von KI-Diensten Dritter Risiken wie Datenabfluss und operative blinde Flecken. Fachleute betonen, dass die Anforderungen der KI an Daten und die Grundsätze der Cybersicherheit häufig nur durch Kompromisse in Einklang gebracht werden können, sodass Unternehmen zwischen leistungsfähiger KI und robuster Sicherheit wählen müssen.
- Compliance-Lücken: Vorschriften wie die DSGVO und der EU AI Act erfordern eine zentrale Aufsicht und klare Verantwortlichkeiten, doch vielen Unternehmen fehlen wirksame Tools, um die Einhaltung der Vorschriften für KI-Systeme effizienter zu gestalten.
- Schatten-KI: Die unüberwachte oder unbefugte Nutzung von KI-Diensten Dritter erhöht Risiken wie Datenabfluss und operative blinde Flecken.
- Fragmentierte Sicherheitstools: Viele Unternehmen setzen auf nicht miteinander verbundene Tools oder manuelle Prozesse, was zu Ineffizienzen und Engpässen führt.
Die Integration der speziell entwickelten Lösungen von CalypsoAI in die F5 ADSP begegnet diesen Herausforderungen direkt und bietet in jeder Phase – vom Pilotprojekt bis zum Produktivbetrieb – proaktiven Schutz in Echtzeit.
F: Kunal, welche wesentlichen Vorteile können Kunden von der Integration von CalypsoAI in die F5 ADSP erwarten?
Kunal Anand: Sie bietet KI-Sicherheit über den gesamten Lebenszyklus hinweg. Drei Vorteile kommen unmittelbar zum Tragen:
- Modelle vor der Bereitstellung absichern. Stellen Sie sich das wie kontinuierliches, automatisiertes Red-Teaming für Ihre KI vor. CalypsoAI konfrontiert Ihre Modelle mit Tausenden adversarieller Prompts und erkennt und behebt Schwachstellen innerhalb von Stunden statt Wochen. So können Teams schneller robuste Systeme bereitstellen.
- KI zur Laufzeit schützen. Dies ist kein passiver Log-Scanner, sondern ein Echtzeitschutz, der direkt im Datenpfad sitzt und Prompt-Injections, Datenexfiltration sowie andere Angriffe aktiv blockiert, ohne die Leistung zu beeinträchtigen. Wir verhindern Sicherheitsverletzungen, statt sie nur zu melden.
- Einheitliche Observability für KI. KI-Systeme können wie eine Blackbox wirken und dadurch erhebliche operative blinde Flecken verursachen. CalypsoAI überwacht jeden Prompt, jede Antwort und jede Dateninteraktion in Ihrer gesamten KI-Landschaft. So wird aus Unklarheit ein klares Bild, das Teams dabei unterstützt, Probleme zu beheben, Abweichungen zu erkennen und eine vollständige, revisionssichere Dokumentation des KI-Verhaltens zu führen. Was man nicht sehen kann, kann man auch nicht schützen.
F: James, was macht den Ansatz von CalypsoAI für Unternehmen so wegweisend?
James White: Unser Ansatz ist sowohl proaktiv als auch kontinuierlich. So simulieren unsere Red-Teaming-Tools beispielsweise während der Entwicklung gegnerische Angriffe, um KI-Systeme einem Belastungstest zu unterziehen und sicherzustellen, dass Schwachstellen vor der Bereitstellung behoben werden. Nach der Bereitstellung erkennen Live-Überwachungs- und Laufzeitschutzsysteme ungewöhnliches Verhalten und Angriffe wie Datenexfiltration in Echtzeit und reagieren darauf.
Dieser mehrschichtige Sicherheitsansatz bietet Unternehmen die nötigen Werkzeuge, um sich von der Pilotphase bis zum Produktivbetrieb vor Risiken zu schützen, die Einhaltung regulatorischer Vorgaben zu vereinfachen und ihre KI-Innovationen sicher voranzutreiben. CalypsoAI ist der etablierte Branchenexperte für die Sicherheit von KI-Modellen nach ihrer Bereitstellung. Unsere Lösungen ermöglichen uns einzigartige Einblicke in die Messung und vergleichende Bewertung der Anfälligkeit der weltweit meistgenutzten generativen und agentischen KI-Modelle. Unser CASI-Sicherheitsindex und unsere Agentic-Warfare-Resistance-Ranglisten führen jeweils die zehn besten Modelle in diesen Bereichen auf. So können Unternehmen besser beurteilen, welche Modelle sie einsetzen sollten und welche inhärenten Risiken mit deren Einsatz verbunden sind.
F: Kunal, warum wird diese Partnerschaft die Sicherheit von KI in Unternehmen grundlegend verändern?
Kunal Anand: Der derzeitige Ansatz funktioniert nicht, und die Unternehmen wissen das. Der Markt bietet einen Flickenteppich aus spezialisierten KI-Sicherheitstools, die 10 % des Problems lösen, gleichzeitig aber 100 % mehr Betriebsaufwand verursachen. Unternehmen sind gezwungen, für ihre eigene Sicherheit als Systemintegratoren zu fungieren.
Das ist ein echter Wendepunkt, denn es handelt sich um eine Integration und nicht um ein Add-on. Wir konsolidieren den Stack. Wir integrieren KI-Sicherheit in unsere gesamte F5 ADSP. Dadurch wird sie zu einer nativen Funktion der Infrastruktur und nicht zu einer weiteren Lösung, die verwaltet werden muss. Und weil es F5 ist, läuft diese Plattform überall dort, wo Sie sie benötigen – als Hardware, Software oder SaaS und in jeder Cloud. Eine einheitliche Plattform ist einem Flickwerk aus Einzellösungen immer überlegen. Das ist der entscheidende Unterschied.
In einer KI-zentrierten Welt ist die Absicherung des KI-Betriebs keine Option, sondern geschäftskritisch. Durch die Kombination von F5 und CalypsoAI verfügen Unternehmen nun über die erforderlichen Werkzeuge sowie die nötige Governance und Kontrolle, um ohne Kompromisse Innovationen voranzutreiben.
Über den Autor
Kunal Anand leitet als Chief Product Officer die Produktorganisation von F5. Er ist für Produktvision, Strategie und Umsetzung verantwortlich und stellt die Entwicklung wegweisender Lösungen sicher, die kritische Herausforderungen bewältigen und außergewöhnliche Kundenerlebnisse schaffen. In seiner vorherigen Funktion als Chief Technology and AI Officer bestimmte Kunal die Technologie- und KI-Strategie sowie die entsprechende Vision des Unternehmens. Vor seiner Zeit bei F5 hatte Kunal bei Imperva die Doppelfunktion des Chief Technology Officer und Chief Information Security Officer inne. Sein Weg zu Imperva begann 2018 mit der Übernahme von Prevoty, einem 2013 von ihm mitgegründeten Start-up für Anwendungssicherheit. Vor seinem Wechsel zu Prevoty war er Director of Technology bei BBC Worldwide. Kunal verfügt über langjährige Innovations- und umfassende technische Erfahrung und leitete bei Gravity, MySpace und dem NASA Jet Propulsion Lab Teams in den Bereichen Sicherheit, Daten, Technologie und Engineering. Kunal verfügt über mehr als 15 Jahre Erfahrung in den Bereichen KI und maschinelles Lernen – von Modelltraining und dem Einsatz KI-gestützter Algorithmen zur Produktoptimierung bis hin zur Konzeption und Implementierung von KI-Architekturen. Kunal hat einen Bachelor-of-Science-Abschluss in Informatik vom Babson College.
Weitere Blogbeiträge von Kunal AnandÄhnliche Blogbeiträge
F5 und Equinix bündeln ihre Kräfte, um die sichere Anwendungsbereitstellung in Multicloud-Umgebungen zu vereinfachen
F5 und Equinix ermöglichen es Unternehmen, sich weltweit sicher und zuverlässig mit ihren Partnern zu vernetzen.
API-Sicherheitsrisiken und -herausforderungen
Erfahren Sie, warum APIs für die moderne App-Entwicklung unverzichtbar sind und wie Sie sie vor den häufigsten Sicherheitslücken schützen. Profitieren Sie von Expertentipps und direkt umsetzbaren Strategien.
Ein Meilenstein für die Community Impact Grants von F5
F5 feiert das fünfjährige Bestehen seines innovativen Community Impact Grant-Programms, das gemeinnützige Organisationen, bei denen sich F5-Mitarbeitende ehrenamtlich engagieren, mit Fördermitteln in Höhe von 5.000 US-Dollar unterstützt.
Mit moderner, anpassungsfähiger und sicherer Gesundheits-IT Leben retten
Die IT-Investitionen im Gesundheitswesen tragen dazu bei, die schnellsten Wege zu einer besseren Versorgung zu finden, indem sie die medizinische Betreuung näher an die Patientinnen und Patienten bringen. Viele Gesundheitsunternehmen nutzen riesige Mengen an klinischen und anderen Gesundheitsdaten, um Entwicklungen zu verfolgen und übergreifende Trends in der gesamten Gesundheitslandschaft zu erkennen. Gleichzeitig nähern sie sich einer möglichst präzisen, individuell zugeschnittenen Versorgung an.
Verbesserung der Benutzer- und Administrationserfahrung durch sicheren hybriden Zugriff
Diese Kombination aus BIG-IP Access Policy Manager und Azure Active Directory ermöglicht Identitätsföderation, zentralisierten Benutzerzugriff (über Single Sign-on) und erhöhte Anwendungssicherheit (durch Multi-Faktor-Authentifizierung) für geschäftskritische Anwendungen sowie cloudbasierte und SaaS-Anwendungen. Dieser Ansatz vereinfacht die Einrichtung und Bereitstellung, reduziert den Verwaltungsaufwand und verbessert die gesamte Administration.
Das Internet der Sicherheitsdinge
Nein, das ist keine Tirade über die Sicherheit des IoT. Es ist eine Geschichte über Veränderung – genauer gesagt über Veränderung und ihre Auswirkungen auf die Sicherheit. Veränderung ist allgegenwärtig. Es gibt unzählige Axiome und Sprichwörter über Veränderung, also ist es ...