Bis vor Kurzem ging es beim Einsatz von KI in Unternehmen vor allem darum, Menschen dabei zu helfen, schneller zu arbeiten. Mitarbeitende nutzten KI-Copiloten, um Code zu schreiben, Informationen zusammenzufassen, Inhalte zu erstellen und Fragen zu beantworten. Dann wurde KI stärker in die Unternehmen integriert und bildete die Grundlage für interne Assistenten und kundenorientierte Anwendungen.
Jetzt treten wir in eine grundlegend andere Phase ein. Agentische KI-Systeme beantworten nicht nur Fragen. Sie können im Web surfen, Daten abrufen, APIs aufrufen, Tools einsetzen, Workflows ausführen und Aktionen durchführen – mitunter mit wenig oder ganz ohne menschliches Zutun.
Das ist ein enormer Sprung in puncto Leistungsfähigkeit. Gleichzeitig vergrößert sich dadurch die Angriffsfläche erheblich – ein Thema, das ich in meinem Vortrag „KI im Produktivbetrieb absichern“ auf dem F5 Post-Mythos Security Summit behandle, den F5 bis zum 31. Oktober auf Abruf bereitstellt.
“KI wird leistungsfähiger, stärker vernetzt und autonomer. Die Frage ist nicht, ob sich dadurch Ihre Angriffsfläche vergrößert, sondern ob Ihre Sicherheitsstrategie damit Schritt hält.”
Wenn KI handeln kann, wird ihr Verhalten zur Angriffsfläche
Herkömmliche Anwendungen sind relativ vorhersehbar. Bei gleichen Eingaben unter gleichen Bedingungen ist in der Regel auch die gleiche Ausgabe zu erwarten. Sicherheitsteams haben über Jahrzehnte hinweg Methoden entwickelt, um die Infrastruktur, Anwendungen, APIs, Identitäten und Daten zu schützen, die diesen Interaktionen zugrunde liegen.
KI verändert diese Ausgangslage, da ihr Verhalten nichtdeterministisch sein kann. Bei KI-Anwendungen wird das Verhalten selbst zu einem Teil der Angriffsfläche.
Betrachten Sie alles, was an einer modernen KI-Interaktion beteiligt ist: Prompts, Modelle, Unternehmensdaten, APIs, Systeme für Retrieval-Augmented Generation (RAG), Tools, Agenten und die Aktionen, die diese Agenten ausführen. Jede Verbindung schafft eine weitere Stelle, an der etwas schiefgehen oder ein Angreifer versuchen kann, das System zu manipulieren.
Die Risiken sind vielfältig. Prompt-Injection kann das Verhalten eines KI-Systems beeinflussen, übermäßige Autonomie kann es einem Agenten ermöglichen, über die vorgesehenen Befugnisse hinaus zu handeln, und unsichere Server für das Model Context Protocol (MCP) sowie die unbefugte Nutzung von Tools können zusätzliche Zugangswege zu sensiblen Systemen und Daten eröffnen. Zugleich lassen sich RAG-Workflows manipulieren, und KI-Anwendungen können sensible Informationen offenlegen oder schädliche beziehungsweise unangemessene Ausgaben erzeugen.
All diese Risiken verschärfen die Sicherheitsherausforderungen, vor denen Unternehmen bereits stehen. Während sich KI von Copiloten über kundenorientierte Anwendungen hin zu autonomen Agenten weiterentwickelt, bleiben bestehende Risiken für Unternehmen bestehen, während neue hinzukommen.
Ein technologischer Wandel, zwei wachsende Angriffsflächen
Ein weiterer Grund, warum dieses Problem immer schwieriger zu bewältigen ist: Unternehmen haben es nicht nur mit einer einzigen KI-Angriffsfläche zu tun.
Die erste ist die KI, die Menschen und zunehmend auch Agenten bereits nutzen. KI-Dienste von Drittanbietern haben leistungsstarke Modelle und Tools im gesamten Unternehmen leicht zugänglich gemacht. Mitarbeitende stehen unter Druck, mithilfe von KI schneller und effizienter zu arbeiten – oft ohne zu verstehen, welche Informationen sie dabei möglicherweise offenlegen oder welche Risiken ein bestimmter KI-Dienst mit sich bringt.
KI einfach zu blockieren, ist keine realistische Lösung. Mitarbeitende finden Wege, die Sperren zu umgehen, und Unternehmen riskieren, dass die KI-Nutzung noch stärker dem Blickfeld ihrer Sicherheits- und IT-Teams entzogen wird.
Die zweite Angriffsfläche bildet die KI, die Unternehmen selbst entwickeln und einsetzen. Hier erstreckt sich das potenzielle Risiko über Anwendungen, Modelle, Prompts, Agenten, APIs, Tools und Unternehmensdaten sowie deren Zusammenspiel.
Manche Fehlfunktionen können auftreten, ohne dass überhaupt ein Angreifer im Spiel ist: eine unsichere Ausgabe, die versehentliche Offenlegung sensibler Informationen oder ein Agent, der ein Tool aufruft, das er nicht aufrufen sollte. Andere sind gezielte Angriffe, die darauf abzielen, Modelle zu manipulieren, Wissensquellen zu vergiften, Informationen zu extrahieren oder Agenten zu unbeabsichtigten Aktionen zu veranlassen.
Aus Sicht eines Kunden, einer Aufsichtsbehörde oder eines Sicherheitsteams können die Folgen bemerkenswert ähnlich aussehen.
KI-Sicherheit darf nicht der Preis für KI-Innovation sein
Dadurch stehen Sicherheitsverantwortliche vor einer schwierigen Herausforderung. Unternehmen wollen bei KI schnell vorankommen – und müssen dies zunehmend auch. Doch jede neue KI-Anwendung, jeder neue Agent, jedes neue Modell, jedes neue Tool und jede neue Verbindung kann Risiken mit sich bringen, auf die herkömmliche Sicherheitsansätze nicht ausgelegt sind.
Um diese Herausforderungen zu bewältigen, benötigen Unternehmen mehr Transparenz und Kontrolle über diese wachsenden KI-Angriffsflächen hinweg, ohne dabei ihre Geschäftsabläufe auszubremsen. Sie müssen KI-Interaktionen unabhängig davon schützen, wo sie stattfinden, sowohl unbeabsichtigtem als auch böswilligem Verhalten begegnen und geeignete Schutzmaßnahmen umsetzen, ohne eine weitere Hürde für die Einführung von KI zu schaffen.
Wir bei F5 sind überzeugt, dass es dafür einen Weg gibt. Wir haben einen Ansatz entwickelt, der Unternehmen dabei unterstützt, KI sowohl in ihren selbst entwickelten Anwendungen als auch in den von ihren Mitarbeitenden genutzten KI-Lösungen zu erkennen, zu testen, zu steuern und zu schützen. Dabei bietet er Kontrollmechanismen genau dort, wo KI-Interaktionen tatsächlich stattfinden.
Auf diesen Ansatz werde ich beim virtuellen F5 Post-Mythos Security Summit in meiner Session „Ihre KI ist jetzt eine Angriffsfläche“ näher eingehen. Wir werden uns ansehen, wie sich die KI-Bedrohungslandschaft verändert, was Unternehmen schützen müssen, wenn KI zunehmend autonom als Agent agiert, und wie F5 Unternehmen dabei helfen kann, KI-Anwendungen, Modelle, Agenten, Tools, APIs und Daten abzusichern, ohne die Einführung von KI zu behindern.
KI wird leistungsfähiger, stärker vernetzt und autonomer. Die Frage ist nicht, ob sich dadurch Ihre Angriffsfläche vergrößert. Sondern ob Ihre Sicherheitsstrategie damit Schritt hält.
Besuchen Sie mit mir den F5 Post-Mythos Security Summit und erfahren Sie, wie Sie die neue KI-Angriffsfläche unter Kontrolle bringen.
Über den Autor
Ähnliche Blogbeiträge
Vier Gründe, warum Sie den F5 Post-Mythos Security Summit nicht verpassen sollten
Holen Sie sich Expertenrat, um Ihre Apps, APIs und Modelle in der Post-Mythos-Welt zu schützen.
Von einer App zu einer Flotte von KI-Agenten: Ein 90-Tage-Framework für KI-Sicherheit
Vermeiden Sie den kostspieligen Ansatz „Erst bereitstellen, später absichern“ – mit einem umfassenden Framework zum Schutz von KI-Modellen, Anwendungen und autonomen Agenten.
Fünf Stufen antifragiler Cyberresilienz verwandeln Praxis in Ergebnisse
Erfahren Sie, wie fünf Stufen antifragiler Resilienz Störungen in adaptive Verhaltensweisen überführen, die Ausfälle begrenzen und hybride Multicloud-Architekturen stärken.
Warum Ihre KI-Richtlinien, Governance und Leitplanken nicht warten können
KI-Richtlinien und -Governance dürfen nicht länger als reine Formalitäten oder Zukunftsthemen betrachtet werden. Sie müssen durch praktische, durchsetzbare Leitplanken ergänzt werden.
Wenn „privat“ nicht privat ist: Wie ChatGPT-Unterhaltungen öffentlich wurden
KI verändert die Arbeitsabläufe in Unternehmen, doch eine übersehene Einstellung hat bereits Tausende vertraulicher Unterhaltungen öffentlich zugänglich gemacht
KI-Nutzung verstehen: Warum Unternehmen Transparenz brauchen
Anstatt einen zu laxen oder zu strengen Ansatz zu verfolgen, können Unternehmen durch mehr Transparenz bei der KI-Nutzung fundierte und durchsetzbare Entscheidungen treffen.