So wählen Sie den richtigen Partner für KI- und Anwendungssicherheit aus

Louise ScullySenior Manager, Produktmarketing, KI-Sicherheit & Bedrohungsanalyse | F5

Die Integration von KI in Anwendungen hat die Wahl eines Cybersicherheitspartners schwieriger denn je gemacht. Leider können Unternehmen diese Entscheidung nicht aufschieben. Angreifer, die selbst mit KI-Tools ausgestattet sind, finden und nutzen Schwachstellen schneller aus als je zuvor.

An KI-gestützten Anwendungen, die angegriffen werden können, mangelt es nicht. Laut dem F5 2026 State of Application Strategy Report bereiten sich 98 % der Unternehmen auf agentenbasierte KI vor. Allerdings rechnen 77 % dieser Unternehmen mit Herausforderungen bei der Verwaltung des Zugriffs von KI-Agenten. Und nur 28 % geben an, die Arbeitsabläufe von Entwicklern über eine zentrale KI-Verwaltungsstelle zu optimieren.

Diese Diskrepanz zwischen der Einführung von KI und der KI-Sicherheit wirft eine wichtige Frage auf: Wie sollten Unternehmen die Anwendungssicherheit erweitern, um KI-gestützte Anwendungen zu schützen? Um diese Frage zu beantworten, ist es hilfreich zu verstehen, wo herkömmliche Anwendungssicherheit weiterhin unverzichtbar ist und wo KI neue Sicherheitsanforderungen mit sich bringt.

Die Weiterentwicklung der Grundlagen der Anwendungssicherheit

Anwendungssicherheit schützt Anwendungen und APIs vor Schwachstellen, schädlichem Datenverkehr, Missbrauch und unbefugten Aktivitäten. Zur Laufzeit setzen Unternehmen Schutzmaßnahmen wie Web Application Firewalls (WAFs), API-Sicherheit, Bot-Management und die Abwehr verteilter Denial-of-Service-Angriffe (DDoS) ein, um Anwendungen und die von ihnen bereitgestellten Dienste zu schützen.

Moderne Softwarearchitekturen haben diese Prozesse komplexer gemacht. Heutige Anwendungen bestehen aus zahlreichen kleineren Diensten, die über APIs miteinander kommunizieren. Diese Dienste sind häufig über mehrere Public-Cloud-Anbieter, lokale Rechenzentren und Edge-Standorte verteilt. Jede Verbindung auf diesem Weg stellt einen potenziellen Einstiegspunkt für Angreifer dar.

Moderner Schutz für Webanwendungen und APIs (WAAP) vereint in der Regel vier zentrale Laufzeitkontrollen:

• WAFs: Überprüfen HTTP- und HTTPS-Datenverkehr und helfen dabei, Angriffe auf Anwendungsebene zu blockieren, bevor sie die Anwendungen erreichen.
• API-Sicherheit: APIs erkennen und schützen, einschließlich Schatten-APIs und nicht verwalteter Endpunkte, und gleichzeitig böswillige oder missbräuchliche API-Aktivitäten identifizieren.
• Bot-Management: Unterscheiden Sie legitime Automatisierung von schädlichen Bots und tragen Sie dazu bei, Scraping, Credential Stuffing, Kontoübernahmen und anderen automatisierten Missbrauch zu verhindern.
• DDoS-Abwehr: Schützen Sie die Verfügbarkeit von Anwendungen vor Angriffen, die darauf abzielen, Anwendungen und Dienste zu überlasten.

KI-gestützte Anwendungen bergen Risiken, für die herkömmliche Sicherheitskontrollen für Anwendungen nicht ausgelegt sind. Um sie zu schützen, reicht es nicht aus, lediglich neue Regeln zu einer bestehenden WAF hinzuzufügen.

Herkömmliche Sicherheitskontrollen für Anwendungen bewerten in erster Linie Protokolle, Anfragen, Code, Datenverkehrsmuster und bekannte Angriffstechniken. KI bringt eine zusätzliche Herausforderung mit sich: Schädliche Anweisungen können über syntaktisch korrekte, natürlichsprachliche Prompts übermittelt werden. Daher müssen Sicherheitskontrollen auch Kontext und Absicht verstehen.

Dieser neue Angriffsansatz bedeutet, dass Unternehmen speziell entwickelte Kontrollen für KI-Prompts und -Antworten, sensible Daten, den Modellzugriff sowie Interaktionen mit Agenten und Tools einrichten und zugleich regeln müssen, wie KI in der gesamten Belegschaft eingesetzt wird.

Wie Anwendungssicherheit auf KI ausgeweitet wird

Herkömmliche Technologien für Anwendungssicherheit sind für KI-gestützte Anwendungen nach wie vor unverzichtbar, ihre Rolle unterscheidet sich jedoch von der speziell für KI entwickelten Sicherheit. Im Folgenden erfahren Sie, wie sich gängige Ansätze in die übergeordnete Sicherheitsarchitektur einfügen. Einen ausführlicheren Vergleich bestimmter Unternehmen und ihrer Fähigkeiten finden Sie, wenn Sie hier klicken.

Cloud-native WAFs

Cloud-native WAFs schützen weiterhin die Webanwendungs- und API-Ebene, doch die herkömmliche WAF-Prüfung allein deckt viele KI-spezifische Bedrohungen nicht ab. Einige Cloud-Anbieter kombinieren ihre WAF-Funktionen daher mit separaten KI-Sicherheitsdiensten, die Prompts und Antworten prüfen, Prompt-Injection- und Jailbreak-Versuche erkennen, sensible Daten schützen und KI-spezifische Schutzmechanismen durchsetzen.

Vorteile

• Native Infrastrukturintegration: Von Cloud-Anbietern bereitgestellte WAFs ermöglichen in der Regel eine native Integration in das Ökosystem des jeweiligen Cloud-Anbieters, wodurch sich die Firewalls einfach bereitstellen und verwalten lassen.
• Sicherheitsintegration: Cloudbasierte WAFs lassen sich häufig im Rahmen einer mehrschichtigen Sicherheitsstrategie mit anderen KI-gestützten und herkömmlichen Cybersicherheitsfunktionen integrieren. So können Sie beispielsweise problemlos DDoS-Abwehr, Bot-Management und weitere Dienste hinzufügen.
• Globale Netzwerke: Cloud-Anbieter verfügen häufig über große globale Netzwerke, die dabei helfen, schädliche Aktivitäten zu erkennen und die Latenz bei Maßnahmen zur Bedrohungsabwehr zu reduzieren. Darüber hinaus betreiben Cloud-Anbieter und Cybersicherheitsunternehmen häufig Forschungslabore, die täglich Bedrohungsinformationen zur Ausgestaltung von WAF-Regeln bereitstellen.

Nachteile

• Geschlossenes Ökosystem: Von Cloud-Anbietern angebotene WAFs schützen hauptsächlich Anwendungen und KI-Workloads, die in deren Clouds ausgeführt werden.
• Einschränkungen bei der Bereitstellung: Cloud-native WAFs sind für Unternehmen mit Multi-Cloud- oder Hybridumgebungen nicht immer die richtige Wahl.
• Netzwerkkomplexität: Wenn Datenverkehr über das Netzwerk eines Anbieters geleitet wird, können Bedrohungen oder andere Anwendungsprobleme nur schwer erkannt werden. Um beispielsweise die Ursache zu ermitteln, müssen Sie möglicherweise Netzwerkkonfigurationen, DNS-Einstellungen, das Caching-Verhalten oder die Anwendung selbst untersuchen.
• Nutzungsabhängige Preisgestaltung: Wenn Anbieter nach der Anzahl der ausgewählten Regeln oder Zusatzoptionen abrechnen, lassen sich die Kosten nur schwer prognostizieren.

Plattformen für Anwendungsbereitstellung und -sicherheit

Plattformen für die Anwendungsbereitstellung und -sicherheit unterstützen Unternehmen dabei, Anwendungen und APIs in verteilten Umgebungen zuverlässig bereitzustellen, zu optimieren und zu schützen. Einige Anbieter erweitern diese Plattformen um KI-Gateway- und KI-Sicherheitsfunktionen, um Inferenzdatenverkehr zu verwalten, den Zugriff auf Modelle und Agenten zu steuern und KI-spezifische Sicherheitskontrollen anzuwenden.

Vorteile

• Flexible Bereitstellung: Einige dieser Lösungen zum Schutz der Anwendungsbereitstellung sind als lokale Appliances, in der Cloud und in Hybridkonfigurationen verfügbar.
• Hybrides Sicherheitsmodell: Diese Lösungen bieten möglicherweise hybride Sicherheit, die sowohl eine signaturbasierte Angriffserkennung als auch ein positives Sicherheitsmodell nutzt. Dieses lernt das typische Anwendungsverhalten und erkennt anschließend Anomalien.
• Mehrschichtige Sicherheit: Lösungen zum Schutz der Anwendungsbereitstellung lassen sich häufig mit anderen Sicherheitslösungen integrieren, etwa mit WAFs sowie Tools für Bot-Management, Laufzeittransparenz, DDoS-Abwehr und API-Sicherheit.
• Integration von Drittanbieterlösungen: Einige Lösungen lassen sich in WAFs von Drittanbietern integrieren. So können Unternehmen ihre Funktionen erweitern und gleichzeitig eine Abhängigkeit von einem bestimmten Anbieter vermeiden.

Nachteile

• Einschränkungen als eigenständige Lösung: Trotz Integrationen von Drittanbietern eignen sich einige Lösungen am besten für Teams, die den jeweiligen Anbieter bereits für die Bereitstellung von Anwendungen nutzen. Wenn Sie lediglich Sicherheitsfunktionen benötigen, können diese Lösungen unnötig hohe Kosten und vermeidbare Komplexität verursachen.
• Kosten für Zusatzoptionen: Einige Anbieter stellen Funktionen wie API-Erkennung oder Managed Services nur als kostenpflichtige Zusatzoptionen bereit, wodurch sich die Gesamtkosten erhöhen.

F5 AI Security Platform

Die F5 AI Security Platform vereint Erkennung, Governance, Tests und Laufzeitschutz für den KI-Einsatz im gesamten Unternehmen. F5 Workforce AI Security bietet Transparenz über die genehmigte und nicht genehmigte KI-Nutzung, einschließlich der Modelle, Tools, Prompts und Daten, die von den Mitarbeitenden verwendet werden. F5 AI Gateway dient als zentraler Kontrollpunkt für die Steuerung des Zugriffs auf KI-Modelle, Agenten und Tools. F5 AI Red Team identifiziert mithilfe adversarialer Tests Schwachstellen und Sicherheitslücken in KI-Systemen, während F5 AI Guardrails bei KI-Interaktionen Richtlinien durchsetzt, um die Offenlegung sensibler Daten, böswillige Aktivitäten und Richtlinienverstöße zu verhindern.

Zusammen erweitern diese Funktionen die Anwendungssicherheit auf die neuen, durch KI entstandenen Kontrollpunkte. Die F5 AI Security Platform erweitert die Strategie der F5 Application Delivery and Security Platform (ADSP) auf Unternehmens-KI und vereint speziell entwickelte KI-Sicherheitslösungen mit den bewährten Funktionen von F5 für die Anwendungs- und API-Sicherheit.

Wichtigste Funktionen:

• Kontinuierliche Tests: Red teaming findet Schwachstellen und behebt sie automatisch.
• Laufzeitschutz: Teams können Schutzmechanismen durchsetzen, um sich gegen Bedrohungen zur Laufzeit wie Prompt-Injection und Jailbreaking zu schützen.
• Vereinfachte Richtlinienerstellung: Dank natürlicher Sprachverarbeitung können Teams mühelos individuelle Richtlinien und Kontrollen erstellen.
• Sicherheit für KI-Arbeitskräfte: Unternehmen können Schatten-KI aufdecken, Workflows nach ihrer Absicht klassifizieren und die Nutzung mithilfe durchsetzbarer Kontrollen steuern.

Die AI Security-Plattform ist ein wesentlicher Bestandteil der F5 Application Delivery and Security Platform (ADSP), die erweiterte Sicherheits- und Traffic-Management-Funktionen für Anwendungen und APIs bietet. Die Plattform kann überall bereitgestellt werden und ermöglicht es Unternehmen, KI-Sicherheit ohne zusätzliche Komplexität in die Anwendungssicherheit zu integrieren.

Häufig gestellte Fragen

Kann eine WAF eine KI-Anwendung schützen?

Eine WAF ist nach wie vor ein wichtiger Bestandteil des Schutzes einer KI-gestützten Anwendung, da die Anwendung und ihre APIs weiterhin herkömmlichen Webangriffen ausgesetzt sind. Der Schutz durch eine WAF allein deckt jedoch keine KI-spezifischen Risiken wie Prompt-Injection, Jailbreaks, schädliche Modellausgaben oder unsicheres Agentenverhalten ab. Unternehmen benötigen zusätzlich zum herkömmlichen Schutz von Webanwendungen und APIs spezielle Sicherheitskontrollen für KI.

Wie ergänzt KI-Sicherheit die Anwendungssicherheit?

Anwendungssicherheit schützt die Anwendungen, APIs und den Datenverkehr, die KI-Systeme unterstützen. KI-Sicherheit ergänzt dies um speziell für die KI-Ebene entwickelte Kontrollen. Dazu gehören adversarielle Tests von Modellen und Agenten, die Überprüfung von Prompts und Antworten, der Schutz vor Prompt-Injection und Datenlecks, die Steuerung des Zugriffs auf Modelle und Tools sowie Transparenz über die KI-Nutzung im Unternehmen.

Wie wirkt sich die Integration von KI auf die Anwendungssicherheit aus?
Zur Absicherung KI-gestützter Anwendungen reicht es nicht aus, einer Web Application Firewall (WAF) neue Regeln hinzuzufügen. Herkömmliche Anwendungs- und API-Sicherheit bleibt unverzichtbar, doch KI bringt zusätzliche Risiken auf der Modell- und Interaktionsebene mit sich. Unternehmen müssen außerdem Schutzmechanismen für KI-Prompts und -Antworten einrichten, Modelle und Agenten auf Widerstandsfähigkeit gegen adversarielle Angriffe testen, den Zugriff auf Modelle und Tools steuern, sensible Daten schützen und transparent nachvollziehen können, wie KI im gesamten Unternehmen eingesetzt wird.

Erfahren Sie mehr über die F5 AI Security Platform.

Über den Autor

Louise ScullySenior Manager, Produktmarketing, KI-Sicherheit & Bedrohungsanalyse | F5

Louise Scully ist Senior Managerin im Produktmarketing für KI-Sicherheit und Threat Intelligence bei F5. Im Laufe ihrer Karriere war sie in den Bereichen Produktmarketing, Produktmanagement, Markteinführungsstrategie, Kommunikation, Thought Leadership und Kategorieentwicklung für KI-Sicherheit und Unternehmenstechnologie tätig. Bevor sie zu F5 kam, leitete Louise das Marketing bei CalypsoAI und Artomatix und trug dazu bei, KI-Technologien und Forschungsergebnisse auf den Markt zu bringen.

Weitere Blogbeiträge von Louise Scully