Einzelhändler entwickeln agentenbasierte KI-Tools, die auf bestimmte Aufgaben zugeschnitten sind, um das Kundenerlebnis und den Betrieb ihrer Online-Plattformen spürbar zu verbessern.
Mit dem Aufkommen persönlicher Einkaufsagenten entwickeln Unternehmen ihre Infrastruktur weiter, um maschinengesteuertes Einkaufen zu unterstützen – mit erheblichen Auswirkungen auf die Sicherheit.
“Einzelhändler müssen ihre Risikostrategien und Sicherheitsmaßnahmen anpassen, um autonome Agenten angemessen zu kontrollieren.”
Sicherheitsteams werden von Daten, Warnmeldungen und Protokollen überflutet. Sie benötigen verwertbaren Kontext, um die Komplexität zu reduzieren und effizient zu reagieren, indem sie die kritischsten Bedrohungen priorisieren, noch bevor ein Kompromittierungsindikator in der Umgebung gefunden wird.
In diesem Blogbeitrag gehen wir der Frage nach, wie autonome Agenten außer Kontrolle geraten können und warum Sicherheits- und Risikoteams sorgfältig abwägen müssen, welche Aktionen sie ihnen erlauben.
Die Realität des Einzelhandels
Für Einzelhändler bietet agentenbasierte KI ein außergewöhnliches Potenzial. Ein führender E-Commerce-Anbieter setzt bereits komplexe persönliche Einkaufsassistenten ein, die Kaufsignale von Kunden und dynamische Shop-Umgebungen in Echtzeit verstehen.
Auch wenn der geschäftliche Nutzen und der Wettbewerbsvorteil einer optimierten Kundeninteraktion überzeugende Argumente sind, sind die Auswirkungen auf die Sicherheit erheblich. Im Gegensatz zu KI-Agenten ist agentische KI darauf ausgelegt, selbstständig wahrzunehmen, Schlussfolgerungen zu ziehen und zu handeln . Diese Autonomie wirft Fragen hinsichtlich Nachvollziehbarkeit, Verantwortlichkeit und Governance auf.
“Führende E-Commerce-Anbieter setzen bereits komplexe persönliche Einkaufsassistenten ein.”
Der E-Commerce-Sektor weist bereits einen der höchsten Anteile fortschrittlicher Angriffe auf Web- und mobile APIs auf, wobei Reseller-Bots für jede fünfte Transaktion verantwortlich sind, bei der ein Artikel in den Warenkorb gelegt wird. Angreifer werden weiterhin Bots einsetzen, um Cyberangriffe auf große Sprachmodelle (LLMs) im Backend zu skalieren. Hackerorganisationen, die bereits wichtige Onlinedienste wie Click-to-Collect bei großen Einzelhändlern lahmgelegt haben, werden ihre Taktiken, Techniken und Verfahren (TTPs) zweifellos anpassen, um agentenbasierte Workflows ins Visier zu nehmen.
Einzelhändler benötigen einen neuen Ansatz, um den sicheren Einsatz agentenbasierter KI zu gewährleisten. Werden Risikostrategien und Sicherheitsmaßnahmen nicht an die besondere Architektur und das Verhalten autonomer Agenten angepasst, stellt dies ein Unternehmensrisiko dar.
Lassen Sie herkömmliche Werkzeuge im Schuppen
Ach, die gute alte Zeit! Den Perimeter schützen. Sicherheitskontrollen wie Netzwerk- und Webanwendungs-Firewalls einsetzen. Statische und dynamische Tests durchführen. In Client-Server-Architekturen, in denen der Nord-Süd-Datenverkehr vorherrschte und herkömmliche Sicherheitsmaßnahmen für Webanwendungen Risiken abwehren konnten, war dies zwar praktikabel. Doch die rasante Modernisierung von Anwendungen, die zunehmende Verbreitung API-basierter Systeme und hochgradig vernetzte KI-Ökosysteme haben zu einer immer größeren Angriffsfläche und einem exponentiell wachsenden Volumen des Maschine-zu-Maschine-Datenverkehrs (Ost-West) geführt.
Dann führten viele Unternehmen Schnittstellen zur Verarbeitung natürlicher Sprache (Natural Language Processing, NLP) ein. Während die Sicherheitsteams noch fieberhaft versuchten, Schritt zu halten, führen Unternehmen nun agentenbasierte KI ein.
“Bewährte Sicherheitspraktiken, Rahmenwerke und die regulatorische Aufsicht werden durch agentische KI auf eine harte Probe gestellt.”
Bestehende Paradigmen wie Defense-in-Depth sind weiterhin anwendbar, da neuartige KI-Angriffe auf das Frontend häufig zu klassischen Exploits wie Remote Code Execution (RCE) im Backend führten.
Etablierte Best Practices im Sicherheitsbereich wie die verantwortungsvolle Offenlegung, bestehende Rahmenwerke wie Common Vulnerabilities and Exposures (CVEs) und die regulatorische Aufsicht können jedoch mit dem Wettrüsten im Bereich agentischer KI kaum Schritt halten.
Wer ist bei MCP dabei?
Das Model Context Protocol kommt zur Rettung! Der von Anthropic vorgeschlagene Standard und das von Google vorgeschlagene Agent2Agent-Protokoll (A2A) unterstützen die Kommunikation zwischen Modellen und Ressourcen beziehungsweise zwischen Agenten, doch keines der beiden deckt sämtliche Interoperabilitätsanforderungen ab für agentenbasierte KI.
MCP und A2A sind wichtige Fortschritte auf dem Weg zu Standardisierung und Interoperabilität. Doch wie steht es um die Sicherheit? Sind Ihre bestehenden Sicherheitskontrollen für MCP gerüstet?
Die explosionsartige Zunahme von Tools und Anwendungen führt zu Schatten-KI. Gleichzeitig können KI-Agenten neuartige Angriffs-Prompts nicht erkennen, wodurch sie von Grund auf angreifbar und anfällig für die Offenlegung sensibler Daten sind.
“Verantwortliche für die Abwehr müssen handeln, um eine wirksame Governance sicherzustellen, indem sie bestehende Kontrollen nachrüsten und neue implementieren.”
Sicherheits- und Risikoteams müssen handeln, um eine wirksame Governance sicherzustellen. Dazu müssen sie bestehende Kontrollen nachrüsten und neue einführen, um agentenbasierte Risiken in den Griff zu bekommen. Insbesondere müssen Web Application Firewalls und API-Sicherheitslösungen MCP unterstützen. Darüber hinaus müssen Bot-Management-Tools widerstandsfähig bleiben, wenn Automatisierungs-Toolkits durch KI erweitert werden und Angreifer ihre Angriffe schnell für böswillige Zwecke nutzbar machen können. Um beispielsweise das Scraping von LLM-Trainingsdaten und Inhalten in Pipelines für Retrieval-Augmented Generation (RAG) zu verhindern, müssen Bot-Management-Tools neue Angriffstechniken mithilfe von ML-Modellen erkennen, die schädliche Muster identifizieren, und Verschlüsselung sowie Verschleierung einsetzen, um eine Umgehung zu verhindern.
Verantwortliche für die Abwehr müssen zudem Schwachstellentests für KI-Modelle und -Anwendungen in Verbindung mit Laufzeitprüfungen einsetzen. Diese Erweiterungen sind unerlässlich, um die Nachverfolgbarkeit zu gewährleisten und die für eine Human-in-the-Loop-Überwachung (HITL) erforderlichen Erkenntnisse bereitzustellen.
Der Leitstern: Sehen. Festlegen. Zusammenführen. Speichern.
Das Erfolgsrezept für agentenbasierte Sicherheit besteht darin, die Erkennungszeit zu verkürzen, die Behebung zu beschleunigen und Sicherheitsteams zu entlasten.
Die Wahl der KI-Modelle kann Ihr gesamtes KI-System gefährden. Daher müssen diese vor der Bereitstellung und während des Betriebs abgesichert werden. F5 AI Red Team in Verbindung mit F5 AI Guardrails ermöglicht fortlaufende Tests und kontinuierliche Verhaltensreferenzwerte, anhand derer potenziell bösartige Aktivitäten erkannt werden können.
“Das Risikomanagement für agentenbasierte KI erfordert, mögliche Fehlentwicklungen zu erkennen, geeignete Leitplanken festzulegen und Muster zusammenzuführen, um die Reaktion auf Vorfälle zu automatisieren.”
Anstatt spezifische, namentlich bekannte und öffentlich gemachte Angriffe abzuwehren und damit die Möglichkeit offenzulassen, dieselbe grundlegende Schwachstelle erneut auszunutzen, bietet ein proaktiver Ansatz, der durch kontinuierliche Tests auf die Aufdeckung grundlegender Schwachstellen ausgerichtet ist, einen besseren Schutz.
Red teaming kann gegnerische Angriffe simulieren, um KI-Systeme einem Belastungstest zu unterziehen und sicherzustellen, dass Risiken vor der Bereitstellung behoben werden. In Kombination mit Live-Überwachung und Laufzeitschutzsystemen können Sicherheitskontrollen ungewöhnliches Verhalten und Angriffe wie Datenexfiltration kontinuierlich erkennen und automatisch darauf reagieren.
Da Vorschriften wie der EU AI Act und Rahmenwerke des NIST verbindlich werden, muss die Sicherheitslage von KI-Systemen nachweisbar sein.
Indem Einzelhändler mögliche Probleme frühzeitig erkennen, geeignete Schutzmaßnahmen einrichten und Muster zur Automatisierung der Reaktion auf Vorfälle ableiten, sparen sie Zeit und letztlich auch Geld.
Die Zukunft ist jetzt
Risiken agentischer KI lassen sich mit herkömmlichen Tools nicht vollständig bewältigen, da diese Lücken bei Schutz und Governance hinterlassen.
Um dem entgegenzuwirken, müssen E-Commerce-Anbieter KI-Workflows in allen Phasen des KI-Reifegrads absichern. Dazu gehören proaktive Angriffstests, die Überprüfung und Durchsetzung von Sicherheitsrichtlinien zur Laufzeit sowie eine zentralisierte Überwachung und Compliance, um neue regulatorische Standards zu erfüllen.
Durch die Integration von Red-Teaming- und Laufzeit-Schutzmechanismen in die F5 Application Delivery and Security Platform (ADSP) können Einzelhändler die Einführung agentenbasierter KI durchgängig absichern – von der Pilotphase bis zum Produktivbetrieb.
Weitere Informationen finden Sie unter „F5-Lösungen für den E-Commerce“.
Über den Autor
Ähnliche Blogbeiträge
Vier Gründe, warum Sie den F5 Post-Mythos Security Summit nicht verpassen sollten
Holen Sie sich Expertenrat, um Ihre Apps, APIs und Modelle in der Post-Mythos-Welt zu schützen.
Von einer App zu einer Flotte von KI-Agenten: Ein 90-Tage-Framework für KI-Sicherheit
Vermeiden Sie den kostspieligen Ansatz „Erst bereitstellen, später absichern“ – mit einem umfassenden Framework zum Schutz von KI-Modellen, Anwendungen und autonomen Agenten.
Fünf Stufen antifragiler Cyberresilienz verwandeln Praxis in Ergebnisse
Erfahren Sie, wie fünf Stufen antifragiler Resilienz Störungen in adaptive Verhaltensweisen überführen, die Ausfälle begrenzen und hybride Multicloud-Architekturen stärken.
Warum Ihre KI-Richtlinien, Governance und Leitplanken nicht warten können
KI-Richtlinien und -Governance dürfen nicht länger als reine Formalitäten oder Zukunftsthemen betrachtet werden. Sie müssen durch praktische, durchsetzbare Leitplanken ergänzt werden.
Wenn „privat“ nicht privat ist: Wie ChatGPT-Unterhaltungen öffentlich wurden
KI verändert die Arbeitsabläufe in Unternehmen, doch eine übersehene Einstellung hat bereits Tausende vertraulicher Unterhaltungen öffentlich zugänglich gemacht
KI-Nutzung verstehen: Warum Unternehmen Transparenz brauchen
Anstatt einen zu laxen oder zu strengen Ansatz zu verfolgen, können Unternehmen durch mehr Transparenz bei der KI-Nutzung fundierte und durchsetzbare Entscheidungen treffen.