Unser ursprünglicher Beitrag zu diesem Thema bringt es klar auf den Punkt: Sicherheit und die Einhaltung gesetzlicher Vorschriften sind keine Nebensache. Sie wirken sich unmittelbar auf die Leistung, Verfügbarkeit und Skalierbarkeit von Anwendungen sowie auf die betriebliche Effizienz aus. Werden gesetzliche Anforderungen nicht erfüllt, kann dies rechtliche Risiken mit sich bringen, den betrieblichen Aufwand erhöhen und in manchen Fällen die Bereitstellung von Diensten vollständig unterbrechen. Die ursprünglichen Empfehlungen heben außerdem bewährte Maßnahmen wie Verschlüsselung, FIPS-konforme Geräte und automatisierte Compliance-Prüfungen hervor.
Diese Grundlage gilt nach wie vor.
Was sich durch KI ändert, ist, wo Compliance gewährleistet werden muss und wie oft sie durchgesetzt werden muss.
Herkömmliche Anwendungen folgen meist vordefinierten Abläufen. Sie verarbeiten Anfragen, greifen auf bekannte Systeme zu und liefern erwartete Ergebnisse. KI-Anwendungen fügen eine probabilistische Entscheidungsebene hinzu. Sie interpretieren Prompts, generieren Antworten, beziehen externe Kontextinformationen ein und rufen zunehmend Tools auf oder lösen Aktionen aus. Das bedeutet, dass es bei Compliance nicht mehr nur darum geht, Datenspeicher und Übertragungswege abzusichern. Vielmehr müssen auch das Laufzeitverhalten, der Modellzugriff, generierte Ausgaben und der Kontextfluss durch das System kontrolliert werden.
Das alte Problem bleibt also bestehen. Der Umfang des Problems wird größer, und die Kontrollen müssen näher am Inferenzpunkt ansetzen.
Folgen mangelnder Sicherheit und der Nichteinhaltung regulatorischer Vorgaben
Auswirkungen auf die Leistung
Bei der herkömmlichen Bereitstellung von Anwendungen wirkt sich die Einhaltung regulatorischer Vorgaben in der Regel durch bekannte Zusatzbelastungen auf die Leistung aus. Verschlüsselung erhöht den Verarbeitungsaufwand. Prüfungen erhöhen die Latenz. Vorgaben zur Datensouveränität können erfordern, dass der Datenverkehr innerhalb bestimmter Rechtsräume verbleibt, was die Weiterleitung erschweren und die Effizienz beeinträchtigen kann. Bei KI bestehen diese Belastungen weiterhin, doch kommt eine neue hinzu: Entscheidungen zur Einhaltung regulatorischer Vorgaben müssen nun während der Bearbeitung der Anfrage getroffen werden.
Ein KI-System muss möglicherweise feststellen, ob ein bestimmtes Modell eine bestimmte Eingabe verarbeiten darf, ob die für den Abruf verwendeten Daten rechtmäßig eine regionale Grenze überschreiten dürfen, ob sensible Kontextinformationen vor der Inferenz unkenntlich gemacht werden müssen und ob die generierte Ausgabe gefiltert werden muss, bevor sie zurückgegeben wird. All das ist mit Aufwand verbunden. Jede einzelne dieser Prüfungen kostet Zeit, erhöht die Komplexität oder beides.
Der Unterschied ist subtil, aber wichtig. In der Vergangenheit prägten Compliance-Anforderungen häufig die Architektur. Bei KI-Systemen bestimmen sie zunehmend auch die Ausführung zur Laufzeit. Es geht nicht mehr nur darum, den Zugang zur Anwendung zu schützen. Vielmehr wird bewertet, was die Anwendung während ihres Denkprozesses tut.
Auswirkungen auf die Verfügbarkeit
Verfügbarkeit war schon immer ein wichtiger Aspekt bei der Bereitstellung von Anwendungen. Robuste Sicherheitspraktiken und eine FIPS-konforme Infrastruktur verbessern die Verfügbarkeit und verringern das Risiko von Abschaltungen oder Dienstunterbrechungen aufgrund von Compliance-Verstößen. Dasselbe Prinzip gilt auch für KI, allerdings vervielfachen sich hier die möglichen Fehlerarten.
Bei einer herkömmlichen Anwendung kann die Nichteinhaltung von Vorgaben dazu führen, dass Transaktionen blockiert werden, eine regionale Isolierung erzwungen oder der Dienst vorübergehend ausgesetzt wird, bis eine Kontrolllücke behoben ist. Bei einem KI-System kann die Verfügbarkeit selbst dann beeinträchtigt sein, wenn die Plattform weiterhin in Betrieb ist. Ein Modell kann erreichbar sein, die API einwandfrei funktionieren und die Infrastruktur reibungslos laufen – dennoch kann der Dienst faktisch nicht verfügbar sein, weil Richtlinien die Bearbeitung einer Anfrage verhindern.
Dafür kann es mehrere Gründe geben. Möglicherweise ist in der erforderlichen Region kein regelkonformes Modell verfügbar. Ein abgerufener Dokumentensatz kann regulierte Daten enthalten, die einem bestimmten Benutzer oder in einem bestimmten Rechtsraum nicht zugänglich gemacht werden dürfen. Eine Ausgabe besteht möglicherweise die Richtlinienprüfungen nicht und muss zurückgehalten werden. Ein Agent kann daran gehindert werden, einen Workflow abzuschließen, weil eine der vorgesehenen Aktionen gegen Governance-Regeln verstößt.
Verfügbarkeit in der KI ist daher nicht mehr nur eine Frage der Betriebszeit. Es geht auch darum, ob die Ausführung gemäß den geltenden Richtlinien zulässig ist. Das System kann technisch online sein, während es operativ nicht in der Lage ist, zu antworten, zu handeln oder die Aufgabe abzuschließen. Das ist eine ganz andere Art von Ausfall, die mit herkömmlichen Vorstellungen von Verfügbarkeit nicht vollständig erfasst wird.
Auswirkungen auf die betriebliche Effizienz
Automatisierte Compliance-Verfahren reduzieren manuelle Eingriffe und ermöglichen es IT-Teams, sich auf wertschöpfendere Aufgaben zu konzentrieren, anstatt fortlaufend Anpassungen an regulatorische Vorgaben vorzunehmen. Diese Logik gilt nach wie vor. Das Problem ist, dass KI-Systeme weitaus mehr Situationen schaffen, die geregelt werden müssen.
Herkömmliche Compliance-Programme gehen von einem relativ stabilen Umfeld aus. Sie definieren Regeln für den Umgang mit Daten, Zugriffskontrollen, Prüfpunkte und Auditverfahren. Anschließend überprüfen Sie, ob die Systeme diese Vorgaben einhalten. Diese Aufgabe ist zwar nicht trivial, aber klar eingegrenzt.
KI lässt diese Grenzen verschwimmen. Ausgaben sind dynamisch. Aktionspfade können sich von einem Durchlauf zum nächsten unterscheiden. Agenten können Anfragen verketten, Tools aufrufen und im Laufe der Zeit Kontext ansammeln. Das bedeutet, dass sich Teams nicht mehr allein auf statische Validierung verlassen können. Sie benötigen eine Überwachung zur Laufzeit, eine kontinuierliche Richtlinienprüfung und einen besseren Einblick in das Verhalten.
Das erhöht den Betriebsaufwand, sofern die Bereitstellungs- und Sicherheitsebenen nicht darauf ausgelegt sind, ihn aufzufangen. Andernfalls gerät die Organisation in eine Endlosschleife aus der Anpassung von Richtlinien, der Untersuchung ungewöhnlicher Ausgaben und dem Versuch zu erklären, warum ein System, das Anweisungen befolgt hat, dennoch ein Ergebnis hervorgebracht hat, das gegen geschäftliche oder regulatorische Vorgaben verstößt. Das ist kein Auditproblem. Das ist ein Problem der Steuerungsebene.
Bewährte Verfahren zur Minderung von Sicherheits- und Compliance-Risiken
Verschlüsselung und FIPS-konforme Geräte
Dieser Teil bleibt unverändert. Verschlüsselung ist nach wie vor unerlässlich, um sensible Daten sowohl bei der Übertragung als auch im Ruhezustand zu schützen. Zudem nennt unser ursprüngliches ADC08 Verschlüsselung und FIPS-konforme Geräte ausdrücklich als grundlegende Maßnahmen zum Schutz regulierter Daten und zur Unterstützung einer resilienten Bereitstellung.
Neu ist die Erkenntnis, dass KI in der Schicht zwischen Eingabe und Ausgabe Risiken mit sich bringt.
Mit anderen Worten: Selbst wenn die Datenübertragung verschlüsselt ist und die Datenspeicherung alle Vorschriften erfüllt, muss darauf vertraut werden können, dass das Modell mit dem empfangenen Kontext angemessen umgeht, und seine Ausgaben müssen kontrolliert werden. Prompt-Injection, die Offenlegung sensibler Kontextinformationen und der unsachgemäße Umgang mit Ausgaben sind Probleme, die selbst bei einwandfreier zugrunde liegender Kryptografie auftreten können. Solide Grundlagen sind nach wie vor wichtig, denn ohne sie bricht alles andere zusammen. Sie decken jedoch nicht mehr die gesamte Angriffsfläche oder alle Compliance-relevanten Bereiche ab.
Die bisherigen Kontrollen bleiben also notwendig. Für sich allein reichen sie jedoch nicht mehr aus.
Automatisierte Compliance-Prüfungen
Unsere ursprünglichen Empfehlungen sehen automatisierte Compliance-Prüfungen und eine Echtzeitüberwachung vor, um den Aufwand für manuelle Audits zu reduzieren, Richtlinien konsequent durchzusetzen und potenzielle Verstöße schnell zu erkennen. Mit KI gewinnen diese Empfehlungen noch mehr an Bedeutung, müssen jedoch auch weiterentwickelt werden.
Bei herkömmlichen Anwendungen bedeutet automatisierte Compliance häufig, Konfigurationen zu überprüfen, den Speicherort von Daten zu validieren, Zugriffsmuster zu überwachen und bei Abweichungen Warnmeldungen auszugeben. Bei KI-Systemen muss sie darüber hinaus auch die Prüfung von Prompts, die Validierung der Modellauswahl, die Überwachung von Retrieval-Quellen, die Kontrolle von Ausgaben und in einigen Fällen die Bewertung von Aktionsabfolgen im Zeitverlauf umfassen.
Das ist der eigentliche Wendepunkt. Die Compliance-Automatisierung geht von der statischen Überprüfung zur Durchsetzung zur Laufzeit über.
Das Ziel besteht nicht mehr nur darin, zu bestätigen, dass die Umgebung korrekt konfiguriert wurde. Vielmehr muss sichergestellt werden, dass sich das System während des Betriebs weiterhin innerhalb akzeptabler Grenzen verhält. Dafür sind mehr Kontext, mehr Transparenz und mehr in die Bereitstellungspfade eingebettete Richtlinienlogik erforderlich. Das bedeutet auch, dass die Funktionen für Anwendungsbereitstellung und Sicherheit zunehmend zusammenwachsen, da das, was früher als „Compliance“ galt, heute oft Teil der Anfrageverarbeitung selbst ist.
Fazit
Mangelnde Sicherheit und die Nichteinhaltung regulatorischer Vorgaben gefährden weiterhin Leistung, Verfügbarkeit, Skalierbarkeit und betriebliche Effizienz. Bewährte Kontrollen, Verschlüsselung, eine FIPS-konforme Infrastruktur und automatisierte Compliance-Tools bilden nach wie vor die Grundlage, um dieses Risiko zu mindern. Was sich durch KI ändert, ist der Schwerpunkt des Problems.
In traditionellen Systemen bezog sich die Compliance hauptsächlich auf die Anwendung als Ganzes. In KI-Systemen muss sie hingegen bis in den Entscheidungsprozess selbst hineinreichen. Dabei muss berücksichtigt werden, welche Daten das Modell verarbeitet, welche Ergebnisse es erzeugt, welche Aktionen es auszuführen versucht und ob diese Verhaltensweisen innerhalb der regulatorischen und organisatorischen Grenzen bleiben.
Unverändert bleibt die Notwendigkeit einer konsequenten Sicherheitsstrategie und einer soliden Bereitstellungsarchitektur.
Was sich ändert, ist, dass Verfügbarkeit allein nicht mehr ausreicht, Verschlüsselung allein nicht mehr ausreicht und statische Richtlinienprüfungen allein nicht mehr ausreichen.
KI erhöht die Anforderungen, weil das System nicht nur Anfragen bearbeitet. Es ist an Entscheidungen beteiligt. Und sobald das der Fall ist, wird Compliance zu einem Thema, das zur Laufzeit berücksichtigt werden muss.
Erfahren Sie mehr über die 10 größten Herausforderungen bei der Anwendungsbereitstellung für Unternehmen weltweit.
Über den Autor
Lori MacVittie ist Distinguished Engineer und Chief Evangelist im Office of the CTO von F5 und verfügt über umfassende Expertise in den Bereichen Anwendungsbereitstellung, Automatisierungsstrategie und Infrastruktur. Sie ist dafür bekannt, Komplexität verständlich zu machen – ob sie Leitplanken für KI-Agenten definiert, fragile Multicloud-Architekturen analysiert oder die Grenzen skalierbarer Systeme auslotet. Sie verfügt über mehr als dreißig Jahre Branchenerfahrung in der Anwendungsentwicklung, IT-Architektur sowie im Netzwerk- und Systembetrieb. Bevor sie zu F5 kam, war sie als mehrfach ausgezeichnete Technologie-Redakteurin tätig. MacVittie hat einen Masterabschluss in Informatik und ist eine produktive Autorin, deren Veröffentlichungen die Bereiche Sicherheit, Cloud und Unternehmensarchitektur abdecken. Außerdem spielt sie leidenschaftlich gern Brett- und Videospiele und vertritt mit voller Überzeugung klare Ansichten zum Thema Käse.
Weitere Blogbeiträge von Lori Mac VittieÄhnliche Blogbeiträge
Was sind die Top 10 der Anwendungsbereitstellung?
Mit der Top-10-Liste für die Anwendungsbereitstellung möchte F5 Unternehmen dabei unterstützen, Herausforderungen bei der Bereitstellung und Absicherung von Anwendungen, APIs und generativer KI zu bewältigen.
KI-App-Bereitstellung – Top 10: Inkompatible Bereitstellungsrichtlinien
Nicht aufeinander abgestimmte Richtlinien werden zu Auslösern für KI-Ausfälle: Inkonsistente Failover-Mechanismen, Zeitüberschreitungen, Grenzwerte und Sicherheitskontrollen führen zu schleichenden Fehlern, unvollständigen Ergebnissen und je nach Endpunkt unterschiedlichen Resultaten.
Top 10 der KI-Anwendungsbereitstellung: Unzureichender Umgang mit Latenz
KI macht Latenz zu einem Vertrauensproblem und nicht nur zu einer Frage der Performance: Langsame Antworten eines „Assistenten“ wirken wie Zögern oder Versagen, und tokenreiche Prompts und Ausgaben erhöhen den Arbeitsaufwand selbst bei einwandfrei funktionierenden Systemen.
KI-App-Bereitstellung – Top 10: Nicht optimierte Datenverkehrssteuerung
KI stellt herkömmliche Annahmen zur Datenverkehrssteuerung infrage: Backends sind nicht austauschbar, die Kosten variieren und Agenten verzweigen sich unvorhersehbar – daher muss das Routing Modell, GPU-Zustand und Datenlokalität berücksichtigen.
KI-App-Bereitstellung – Top 10: Unzureichende Datenverkehrskontrollen
Herkömmliche Ratenbegrenzungen und Drosselungsmechanismen erfassen das tatsächliche Schadensausmaß nicht. KI-Workloads verteilen sich auf Modelle, Vektordatenbanken und Dienste und führen so zu Latenzspitzen, kaskadierenden Ausfällen und wiederholten Anfragen.
Top 10 der KI-App-Bereitstellung: Unvollständige Observability
KI skaliert nicht von allein. Ohne eine einheitliche Steuerungsebene, die Grenzen zwischen Tools und Zuständigkeiten überwindet, wird die Inferenz zur fragilsten und koordinationsintensivsten Ebene.