Die meisten Unternehmen haben die Einführung ihrer generativen KI nicht geplant. Ein Team setzte einen Chatbot auf, ein anderes verband ein Modell mit internen Daten, und inzwischen ruft ein Agent unbemerkt Tools in der Produktionsumgebung auf. Irgendwo in diesem Sprint vom Pilotprojekt bis zur Bereitstellung blieb die Sicherheit auf der Strecke und musste später nachziehen.
Genau diese Lücke soll das Whitepaper von F5, „Generative KI absichern: Ein 30-60-90-Tage-Framework“, schließen. Statt KI-Sicherheit als bloßen Punkt auf einer Beschaffungscheckliste oder als einmaliges Audit zu betrachten, beschreibt unser Framework einen klar strukturierten 90-Tage-Plan, der Teams von der Absicherung einer einzelnen Anwendung über den Betrieb eines flottenweiten Programms bis hin zum Schutz autonomer Agenten führt.
Wie sieht dieses Framework also aus?
An den Tagen 0–30 geht es um Disziplin, nicht um die Geschwindigkeit der Bereitstellung
Bei jeder neuen GenAI-Anwendung ist die Versuchung groß, sie möglichst schnell bereitzustellen. Unser KI-Sicherheitsframework sieht jedoch einen anderen ersten Schritt vor: Modellauswahl, Red Teaming und die Konzeption von Schutzmechanismen sind die eigentliche Aufgabe der ersten 30 Tage – und keine Hürden, die es möglichst schnell zu überwinden gilt.
Das bedeutet, das reine Modell zunächst einem Red-Teaming zu unterziehen, um eine Sicherheitsbasis zu schaffen, darauf die Anwendung aufzubauen und anschließend das Gesamtsystem erneut per Red-Teaming zu prüfen, um festzustellen, ob die Anwendung die Sicherheit erhöht oder verringert hat. Außerdem müssen Schutzmechanismen für vier klar abgegrenzte Kategorien entwickelt werden – bestehende Vorschriften, KI-spezifische Vorschriften, anwendungsfallspezifische Bedrohungen und Erkenntnisse aus dem Red-Teaming –, damit nichts übersehen wird, nur weil es sich nicht eindeutig einer Kategorie zuordnen ließ.
Das Ergebnis dieser ersten Phase ist ein wiederholbarer Kreislauf: Sobald eine neue Zero-Day-Bedrohung auftritt, wird das System erneut einem Red-Teaming unterzogen, die Schutzmechanismen werden angepasst und validiert und das System wird anschließend erneut bereitgestellt.
Tag 30–60 macht aus einer abgesicherten App ein Programm
Eine Anwendung gut abzusichern, ist ein gutes Ergebnis. 20 Anwendungen auf dieselbe Weise, im selben Rhythmus und mit derselben Nachvollziehbarkeit abzusichern, ist jedoch eine völlig andere Herausforderung. An diesem Punkt geraten die meisten Unternehmen ins Stocken.
Unser Framework umfasst vier Säulen, die aus punktuellen Sicherheitsmaßnahmen ein skalierbares Programm machen:
- Festgelegte Red-Team-Zyklen, abgestimmt auf die Risikostufe
- Richten Sie eine Patch-Pipeline für Schutzmechanismen ein, mit der sich Aktualisierungen gleichzeitig für viele Anwendungen bereitstellen (und zurücksetzen) lassen.
- Etablieren Sie einen flottenweiten Reaktionsprozess für Zero-Day-Schwachstellen mit verbindlichen SLAs.
- Befähigen Sie das SOC, damit Sicherheitsverantwortliche KI-Vorfälle mit derselben Souveränität untersuchen können wie jede andere Bedrohung.
Diese zweite Phase ist abgeschlossen, wenn ein Unternehmen für jede KI-Anwendung angeben kann, wer dafür verantwortlich ist und wann sie zuletzt getestet wurde.
Tag 60–90 befasst sich mit einem grundlegend anderen Risiko
Autonome Agenten beantworten nicht nur Fragen. Sie sind kontinuierlich aktiv, durchdenken mehrstufige Pläne und führen mithilfe von Tools konkrete Aktionen aus. Das bedeutet, dass sich das für Anfrage-Antwort-Anwendungen entwickelte Sicherheitsmodell nicht ohne Weiteres übertragen lässt.
Die Antwort unseres Frameworks beruht auf zwei zentralen Ideen. Erstens muss die Beobachtbarkeit über die Protokollierung von Ergebnissen hinausgehen und auch die Gedankengänge erfassen: Jeder Gedanke, jeder Tool-Aufruf und jede Entscheidung eines Agenten müssen miteinander verknüpft werden, damit sich bei einer nachträglichen Untersuchung nicht nur rekonstruieren lässt, was passiert ist, sondern auch, wie es dazu kam. Zweitens führt das bloße Blockieren eines Gedankens meist dazu, dass der Agent mitten in der Aufgabe nicht mehr weiterarbeiten kann, wenn seine Überlegungen in eine riskante Richtung abdriften. Stattdessen setzt das Framework auf Thought Injection: Ein riskanter Gedanke wird durch einen sichereren ersetzt, sodass der Agent produktiv weiterarbeiten kann. Ergänzt wird dies durch Kontrollen auf Aktionsebene, etwa Tool-Berechtigungen und Genehmigungsschranken für besonders folgenreiche Aktionen. GenAI-Sicherheit ist kein einzelner Meilenstein, den man erreicht und dann hinter sich lässt. Sie ist ein kontinuierlicher Betriebsprozess, bei dessen Etablierung dieses Framework Sicherheitsteams unterstützen soll – bevor Lücken in ihren KI-Implementierungen zu Sicherheitsvorfällen führen.
Lesen Sie unser Whitepaper mit dem vollständigen 30-60-90-Tage-Framework, einschließlich der Checklisten für die Phasen 1 bis 3, die Ihr Team sofort einsetzen kann. Melden Sie sich außerdem unbedingt für unser bevorstehendes Webinar an.
Über die Autoren
James White ist ein erfolgreicher Ingenieur und Unternehmensleiter mit fast zwei Jahrzehnten Erfahrung in der Unternehmenssoftwarebranche.
Weitere Blogbeiträge von James WhiteÄhnliche Blogbeiträge
Vier Gründe, warum Sie den F5 Post-Mythos Security Summit nicht verpassen sollten
Holen Sie sich Expertenrat, um Ihre Apps, APIs und Modelle in der Post-Mythos-Welt zu schützen.
Von einer App zu einer ganzen Agentenflotte: Ein 90-Tage-Framework für KI-Sicherheit
Vermeiden Sie den kostspieligen Ansatz „Jetzt bereitstellen, später absichern“ – mit einem umfassenden Framework zum Schutz von KI-Modellen, Anwendungen und autonomen Agenten.
Fünf Stufen antifragiler Cyberresilienz verwandeln Praxis in Ergebnisse
Erfahren Sie, wie fünf Stufen antifragiler Resilienz Störungen in adaptive Verhaltensweisen überführen, die Ausfälle begrenzen und hybride Multicloud-Architekturen stärken.
Warum Ihre KI-Richtlinien, Governance und Leitplanken nicht warten können
KI-Richtlinien und -Governance dürfen nicht länger als reine Formalitäten oder Zukunftsthemen betrachtet werden. Sie müssen durch praktische, durchsetzbare Leitplanken ergänzt werden.
Wenn „privat“ nicht privat ist: Wie ChatGPT-Unterhaltungen öffentlich wurden
KI verändert die Arbeitsabläufe in Unternehmen, doch eine übersehene Einstellung hat bereits Tausende vertraulicher Unterhaltungen öffentlich zugänglich gemacht
KI-Nutzung verstehen: Warum Unternehmen Transparenz brauchen
Anstatt einen zu laxen oder zu strengen Ansatz zu verfolgen, können Unternehmen durch mehr Transparenz bei der KI-Nutzung fundierte und durchsetzbare Entscheidungen treffen.