Vor Kurzem traf ich mich mit Vertretern eines Finanzdienstleistungsunternehmens, das daran arbeitet, sämtliche Abläufe zu automatisieren – von der Ausführung von Transaktionen bis hin zur Durchführung umfangreicher Analysen. Zu diesem Zweck plant das Unternehmen den Einsatz von 100.000 KI-Agenten – fünfmal so viele, wie es Beschäftigte hat.
Und sie sind damit nicht allein. Viele Unternehmen aus den unterschiedlichsten Branchen setzen auf KI, um ihre betriebliche Effizienz zu steigern.
Dieser drastische Anstieg der KI-Nutzung wird tiefgreifende Auswirkungen darauf haben, wie Unternehmen ihre Umgebungen absichern. Ich weise Unternehmen häufig darauf hin, dass es nicht ausreicht, nur einen einzelnen Aspekt ihrer KI-Infrastruktur abzusichern. Der Einsatz von KI in Unternehmen erfordert eine neue Architektur und damit auch ein neues Sicherheitsmodell, das Infrastruktur und Workloads über den gesamten KI-Prozess hinweg durchgängig schützt.
“Durch die Absicherung der neuen Kontrollpunkte können Unternehmen den Einsatz von KI im großen Maßstab sicherer, schneller und zuverlässiger gestalten.”
Wo genau sollten also Sicherheitsmaßnahmen greifen? Um ihre KI-Architektur besser zu schützen, müssen Unternehmen die neu entstehenden Kontrollpunkte entlang der KI-Prozesskette absichern.
Dieser Pfad lässt sich ganz einfach nachvollziehen: Der Prompt erreicht zunächst eine Anwendung. Diesen Schritt bezeichnen wir als Ingress. Von dort aus stellen Workflows den Kontext zusammen, rufen interne APIs auf und koordinieren Agenten. Anschließend gelangt der angereicherte Prompt zur Modellebene, wo er durch Inferenz in Tokens umgewandelt wird. Aus diesen Tokens entstehen Ergebnisse, die an den Benutzer zurückgegeben werden.
Das ist die neue Wertschöpfungskette, und ich zeige Ihnen, wie F5 dabei hilft, kritische Kontrollpunkte entlang dieser Kette abzusichern.
Wo alles beginnt: Der Prompt
Die KI-Reise beginnt mit einem Prompt, dem ersten Interaktionspunkt zwischen der Außenwelt und dem KI-System. Ein Prompt kann aus einer Benutzeranfrage stammen, die in eine Chat-Oberfläche eingegeben wurde, aus einem API-Aufruf oder aus einem maschinell erzeugten Ereignis. Der Prompt selbst kann natürliche Sprache, strukturierte Anweisungen oder Systemanweisungen enthalten oder aus Foto-, Audio- oder Videoeingaben bestehen.
Eingang: Der Prompt gelangt in das System
Prompts gelangen über die Ingress-Schicht in Ihre KI-Infrastruktur. Sie bildet die erste Verteidigungslinie und übernimmt die Steuerung des Datenverkehrs für das KI-System, indem sie Überprüfung, Richtliniendurchsetzung, Bereinigung und Datenverkehrsweiterleitung vereint.
Das ist die Eingangstür. Und dabei ist Folgendes zu beachten: Bei den Besuchern, die an diese Tür klopfen, handelt es sich längst nicht mehr nur um Menschen. Dazu gehören auch automatisierte, KI-gestützte Angriffssysteme, die darauf ausgelegt sind, Endpunktsicherheit und herkömmliche WAF-Schutzmechanismen zu umgehen und Daten- sowie Anwendungssicherheitssysteme ins Visier zu nehmen.
KI-gestützte Angreifer können heute spontan neuartige Payloads generieren. Wenn Bedrohungsakteure in Echtzeit lernen und ihre Strategie anpassen können, müssen Ihre Abwehrmechanismen dazu ebenfalls in der Lage sein.
Aus diesem Grund entwickelt F5 eine neue Generation von WAF-Lösungen, die auf einem von Grund auf neu entwickelten neuronalen Netzwerk basieren. Dieses wird anhand realer Live-Angriffsdaten trainiert, um Bedrohungen zu erkennen und darauf zu reagieren, ohne auf vorhandene Signaturen oder statische WAF-Regeln angewiesen zu sein. Wir entwickeln Abwehrsysteme, die in Echtzeit lernen und sich anpassen können. Ihre KI-gestützten Funktionen ermöglichen es ihnen, neue Angriffe zu erkennen und sofort Maßnahmen zu ergreifen.
Die Ergebnisse unserer internen Tests sind beachtlich: Zero-Day-Angriffe werden ohne vorab vorhandene Definitionen erkannt, die Falsch-Positiv-Rate sinkt von 28 % auf 1 % und die sofort einsatzbereite Erkennungsgenauigkeit steigt von 64 % auf 98 %. Dies ist keine herkömmliche WAF. Es handelt sich um etwas grundlegend Neues, das wir in F5 Distributed Cloud Services und andere Bereiche der F5 Application Delivery and Security Platform (ADSP) integrieren.
Workflows: Prompts werden zu Aktionen
Ein Prompt wird in der Regel um zusätzlichen Kontext angereichert, um hilfreiche Ausgaben zu erzeugen. Dieser Kontext stammt aus Workflows, die Datenquellen, Anwendungen, Agenten und APIs miteinander verbinden. Diese Workflows bringen jedoch auch erhebliche Sicherheitsrisiken mit sich, darunter die unsichere Verarbeitung von Ausgaben, Datenlecks und weitere Bedrohungen, die aufgrund der Systemkomplexität und eingeschränkten Beobachtbarkeit nur schwer zu erkennen sind.
Da täglich neue Bedrohungen entstehen, müssen Unternehmen KI-Workflows in jeder Umgebung absichern und kontrollieren. Dazu benötigen sie mehrschichtige Schutzmechanismen, die nahtlos zusammenwirken, um komplexe, KI-gestützte Angriffe abzuwehren. Und genau das bieten wir. F5 AI Red Team ermöglicht automatisierte, mehrstufige Angriffstests und arbeitet dabei Hand in Hand mit F5 AI Guardrails, um sicherzustellen, dass KI-Systeme innerhalb festgelegter Grenzen sicher und verantwortungsvoll arbeiten. Wenn diese Lösungen eine Schwachstelle erkennen, wandelt F5 AI Remediate priorisierte Erkenntnisse aus den Angriffstests automatisch in validierte, optimierte Schutzmaßnahmen für die Laufzeit um.
Der wahre Wert dieser miteinander verknüpften Lösungen liegt nicht nur in der schnelleren Erkennung. Vielmehr verkürzen sie die Zeitspanne zwischen dem Auffinden und dem Beheben einer Schwachstelle. Wenn die Risikoerkennung direkt in die Risikominderung übergeht, verändert sich die Gleichung für KI-Sicherheit grundlegend.
Inferenz: Token werden zu Mehrwert
Der angereicherte Prompt, der nun in numerische Tokens umgewandelt wurde, gelangt anschließend zum trainierten Modell. Dort werden die Tokens durch eine Reihe probabilistischer Berechnungen verarbeitet, die Klassifizierungs- oder Schlussfolgerungsaufgaben ausführen, Wahrscheinlichkeiten bewerten, Vorhersagen treffen und Ergebnisse erzeugen.
Token bilden die Kosten für den Betrieb von KI ab und werden von fünf Variablen bestimmt: Durchsatz, Zeit bis zum ersten Token, Kosten pro Token, Latenz und Token pro Watt. Bei all diesen Variablen ist Energie der letztlich begrenzende Faktor. Wenn Ihre KI-Infrastruktur nicht optimiert ist, verschwenden Sie Energie und vernichten Margen. Bei KI ist Leistung gleich Wirtschaftlichkeit – und Wirtschaftlichkeit schafft Handlungsspielraum.
Hier trägt F5 dazu bei, die Vorzeichen zu ändern, indem sichergestellt wird, dass KI-Daten und -Workloads mit minimaler Latenz und geringem Stromverbrauch verarbeitet und übertragen werden. Dies senkt die Betriebskosten und ermöglicht eine effiziente Skalierung von KI-Fabriken. Durch die Auslagerung energieintensiver Netzwerk-, Verwaltungs- und Sicherheitsaufgaben auf hocheffiziente DPUs ermöglichen moderne KI-Architekturen auf Basis von F5- und NVIDIA-Technologien die Vorverarbeitung von Daten mit minimaler Latenz und geringem Stromverbrauch, noch bevor Inferenzanfragen die ressourcenintensiven GPUs erreichen.
Unternehmen, die diese gemeinsame Lösung implementiert haben, verzeichnen eine Steigerung des Token-Durchsatzes um bis zu 40 %, eine Verkürzung der Zeit bis zum ersten Token um 61 % und eine Verbesserung der Reaktionszeit um 34 % – bestätigt durch unabhängige Tests von The Tolly Group. Diese Art von Transformation entsteht aus der Erkenntnis, dass KI-Fabriken nicht nur schnell, sondern auch programmierbar und kontrollierbar sein müssen.
KI-Initiativen mit Zuversicht vorantreiben
Tatsache ist, dass KI-Innovationen eine solide, anpassungsfähige Architektur erfordern. Indem Unternehmen die neuen Kontrollpunkte verstehen und absichern, können sie den unternehmensweiten Einsatz von KI sicherer, schneller und zuverlässiger skalieren.
F5 war bei der Absicherung von IT-Architekturen im Internet- und Cloud-Zeitalter führend. Da sich Unternehmensarchitekturen nun durch KI erneut weiterentwickeln, bietet F5 ADSP eine konvergente Plattform, die Unternehmen dabei unterstützt, ihre Daten, Modelle und Systeme über den gesamten KI-Lebenszyklus hinweg zu schützen – mit Abwehrmechanismen, die lernen, sich anpassen und unmittelbar auf Bedrohungen in Echtzeit reagieren können.
Weitere Informationen finden Sie auf unserer Webseite zu KI-Sicherheitslösungen.
Über den Autor
Kunal Anand leitet als Chief Product Officer die Produktorganisation von F5. Er ist für Produktvision, Strategie und Umsetzung verantwortlich und stellt die Entwicklung wegweisender Lösungen sicher, die kritische Herausforderungen bewältigen und außergewöhnliche Kundenerlebnisse schaffen. In seiner vorherigen Funktion als Chief Technology and AI Officer bestimmte Kunal die Technologie- und KI-Strategie sowie die entsprechende Vision des Unternehmens. Vor seiner Zeit bei F5 hatte Kunal bei Imperva die Doppelfunktion des Chief Technology Officer und Chief Information Security Officer inne. Sein Weg zu Imperva begann 2018 mit der Übernahme von Prevoty, einem 2013 von ihm mitgegründeten Start-up für Anwendungssicherheit. Vor seinem Wechsel zu Prevoty war er Director of Technology bei BBC Worldwide. Kunal verfügt über langjährige Innovations- und umfassende technische Erfahrung und leitete bei Gravity, MySpace und dem NASA Jet Propulsion Lab Teams in den Bereichen Sicherheit, Daten, Technologie und Engineering. Kunal verfügt über mehr als 15 Jahre Erfahrung in den Bereichen KI und maschinelles Lernen – von Modelltraining und dem Einsatz KI-gestützter Algorithmen zur Produktoptimierung bis hin zur Konzeption und Implementierung von KI-Architekturen. Kunal hat einen Bachelor-of-Science-Abschluss in Informatik vom Babson College.
Weitere Blogbeiträge von Kunal AnandÄhnliche Blogbeiträge
Vier Gründe, warum Sie den F5 Post-Mythos Security Summit nicht verpassen sollten
Holen Sie sich Expertenrat, um Ihre Apps, APIs und Modelle in der Post-Mythos-Welt zu schützen.
Von einer App zu einer ganzen Agentenflotte: Ein 90-Tage-Framework für KI-Sicherheit
Vermeiden Sie den kostspieligen Ansatz „Jetzt bereitstellen, später absichern“ – mit einem umfassenden Framework zum Schutz von KI-Modellen, Anwendungen und autonomen Agenten.
Fünf Stufen antifragiler Cyberresilienz verwandeln Praxis in Ergebnisse
Erfahren Sie, wie fünf Stufen antifragiler Resilienz Störungen in adaptive Verhaltensweisen überführen, die Ausfälle begrenzen und hybride Multicloud-Architekturen stärken.
Warum Ihre KI-Richtlinien, Governance und Leitplanken nicht warten können
KI-Richtlinien und -Governance dürfen nicht länger als reine Formalitäten oder Zukunftsthemen betrachtet werden. Sie müssen durch praktische, durchsetzbare Leitplanken ergänzt werden.
Wenn „privat“ nicht privat ist: Wie ChatGPT-Unterhaltungen öffentlich wurden
KI verändert die Arbeitsabläufe in Unternehmen, doch eine übersehene Einstellung hat bereits Tausende vertraulicher Unterhaltungen öffentlich zugänglich gemacht
KI-Nutzung verstehen: Warum Unternehmen Transparenz brauchen
Anstatt einen zu laxen oder zu strengen Ansatz zu verfolgen, können Unternehmen durch mehr Transparenz bei der KI-Nutzung fundierte und durchsetzbare Entscheidungen treffen.