Wenn intelligent nicht sicher ist: Was mein Riffaquarium mich über KI, Automatisierung und Schutzmechanismen gelehrt hat

F5-Ökosystem | 05. August 2025

Application Delivery ist im Zeitalter von KI und Automatisierung kein optionales Extra. Sie ist unverzichtbar, da Load Balancer, API-Gateways und Service Meshes zur letzten Verteidigungslinie werden, wenn autonome Systeme vom vorgesehenen Ablauf abweichen.

Anfang dieser Woche ist mir ein Controller ausgefallen.

Genauer gesagt ist der Apex-Controller meines Sekundärsystems ausgefallen. Er ist die Automatisierungszentrale, die einen Teil der Infrastruktur meines Riffaquariums steuert, darunter zwei Pumpen, die dem Hauptsystem beim Wasserwechsel frisches Salzwasser zuführen.

Diese Pumpen waren mit dem Rückfallwert EIN konfiguriert – einer standardmäßigen Sicherheitsmaßnahme für den Fall, dass das System nicht mehr reagiert. Als der Controller ausfiel, schalteten sie sich daher ein und liefen einfach weiter. Unkontrolliert. Unkoordiniert. Unbemerkt.

Das Ergebnis? Der Haupttank wäre beinahe übergelaufen, während eine völlig aufgelöste Lori versuchte, die Situation unter Kontrolle zu bringen. Und es war eine Erinnerung daran, dass Automatisierung ohne Grenzen nicht intelligent ist. Sie ist riskant.

Und diese Erkenntnis ist für die Art und Weise, wie wir moderne IT-Architekturen aufbauen, von entscheidender Bedeutung – insbesondere jetzt, da KI zunehmend das Steuer übernimmt.

Automatisierung ist nur so sicher wie ihr Verhalten im Fehlerfall

Was im Tank geschah, war weder auf einen Softwarefehler noch auf ein Hardwareproblem zurückzuführen. Die Pumpen taten genau das, was ihnen vorgegeben worden war. Das Problem bestand darin, dass sie einfach weiterliefen, als die Steuerung ausfiel. Es gab keinen Schutzschalter. Keine externe Überwachung. Keine intelligente Rückfallstrategie.

Genau das kann in einem KI-gesteuerten IT-System passieren.

Stellen Sie sich vor, KI-generierte Richtlinienaktualisierungen werden auf die Live-Infrastruktur angewendet. Oder in Echtzeit getroffene Entscheidungen zur Datenverkehrssteuerung auf Grundlage eines Modells, das unbemerkt versagt. Oder eine Bereitstellungspipeline, die weiterhin Änderungen ausrollt, weil der Controller nie ausdrücklich „Stopp“ gesagt hat.

In solchen Momenten bedeutet Schweigen keine Zustimmung. Es bedeutet Gefahr.

Die Rolle von Load Balancern als Schutzschalter

In den meisten Unternehmensarchitekturen setzen wir auf Load Balancer, API-Gateways und Service-Meshes, die als eine Art Schutzschalter fungieren. Sie überwachen den Systemzustand, erkennen Latenzen, wenden Wiederholungslogiken an und trennen fehlerhafte Systeme ab, bevor diese alle anderen Systeme zum Ausfall bringen.

Das ist nicht nur betriebliche Sorgfalt; so begrenzen wir Ausfälle und bewahren das Vertrauen in autonome Systeme.

Wenn die Steuerungsebene ausfällt, besteht die Aufgabe des Load Balancers darin, den Datenverkehr zu stoppen, und nicht davon auszugehen, dass alles in Ordnung ist.

Manchmal ist „Fail-on“ die richtige Antwort

Natürlich sollten sich bei einem Ausfall nicht alle Systeme abschalten. In meinem Riffaquarium sind auch die Umwälzpumpen des Schaubeckens automatisiert, aber diese sind bewusst so konfiguriert, dass sie bei einem Ausfall eingeschaltet bleiben.

Denn ohne Strömung sinkt der Sauerstoffgehalt, und die Fische sterben.

Auf diese Nuance kommt es an. Einige Systeme müssen unter allen Umständen weiterlaufen, etwa DNS, Identitätsdienste und die grundlegende Telemetrie. Aber Prozessautomatisierungen wie die Richtliniengenerierung oder gestaffelte Bereitstellungen? Diese müssen sich abschalten, wenn der Controller nicht mehr verfügbar ist.

Und genau hier sorgen KI-Agenten für echte Spannungen: Sie wissen nicht immer, wann sie falschliegen. Deshalb muss die sie umgebende Architektur es erkennen.

Die Nutzung von KI nimmt zu – und damit auch der Bedarf an klaren Grenzen

Die Ergebnisse des F5 State of Application Strategy Report 2025 bestätigen, was die meisten von uns in der Praxis bereits beobachten: KI entwickelt sich von einem beratenden zu einem handelnden System.

  • 77 % der Befragten gaben an, dass sie möchten, dass KI Vorschläge erstellt, um Richtlinien und Konfigurationen anzupassen.
  • 45 % wünschen sich, dass KI diese Richtlinien automatisch in Echtzeit anpasst, um die SLOs einzuhalten.
  • 55 % wünschen sich, dass KI Skripte ausführt, um neue Konfigurationen und Richtlinien bereitzustellen bzw. bestehende anzupassen.

Das zeigt uns etwas Wichtiges: Wir treten in das Zeitalter autonomer digitaler Agenten ein, und Unternehmen schrecken davor nicht zurück. Sie beschleunigen ihre Entwicklung.

Aber eine KI, die Konfigurationen ohne menschliche Überprüfung erstellen oder ändern kann? Das ist, als würde man die Pumpen unbeaufsichtigt laufen lassen. Es ist nur eine Frage der Zeit, bis etwas überflutet wird oder kaputtgeht.

Fazit: Entwickeln Sie Systeme, die wissen, wann sie aufhören müssen

KI ist nicht optional. Schutzschalter ebenso wenig.

Da wir immer mehr intelligente Agenten in unsere Systeme einbinden – in Verkehrsflüsse, Konfigurations-Engines und politische Entscheidungsprozesse –, müssen wir die zugrunde liegende Infrastruktur mit klaren, automatischen Begrenzungen ausstatten.

Load Balancer. Gateways. Integritätsprüfungen. Wiederholungslogik. Das sind nicht nur Muster, sondern Leitplanken für eine sichere Autonomie. Dies ist einer der Hauptgründe für die Entwicklung der Application Delivery Top 10, die die Bedeutung der Anwendungsbereitstellung für den Betrieb und die Absicherung einer digitalen Infrastruktur hervorheben sollen. Denn sie wird nur noch wichtiger werden, wenn die Automatisierung den manuellen Betrieb als Steuerungsinstanz des digitalen Geschäfts ablöst.

Automatisierung ohne Disziplin bedeutet keine Resilienz.

Es ist einfach nur Chaos mit einem Cronjob.

Teilen
Schlagwörter: 2025

Über den Autor

Lori Mac Vittie
Lori Mac VittieDistinguished Engineer und Chief Evangelist | F5

Lori MacVittie ist Distinguished Engineer und Chief Evangelist im Office of the CTO von F5 und verfügt über umfassende Expertise in den Bereichen Anwendungsbereitstellung, Automatisierungsstrategie und Infrastruktur. Sie ist dafür bekannt, Komplexität verständlich zu machen – ob sie Leitplanken für KI-Agenten definiert, fragile Multicloud-Architekturen analysiert oder die Grenzen skalierbarer Systeme auslotet. Sie verfügt über mehr als dreißig Jahre Branchenerfahrung in der Anwendungsentwicklung, IT-Architektur sowie im Netzwerk- und Systembetrieb. Bevor sie zu F5 kam, war sie als mehrfach ausgezeichnete Technologie-Redakteurin tätig. MacVittie hat einen Masterabschluss in Informatik und ist eine produktive Autorin, deren Veröffentlichungen die Bereiche Sicherheit, Cloud und Unternehmensarchitektur abdecken. Außerdem spielt sie leidenschaftlich gern Brett- und Videospiele und vertritt mit voller Überzeugung klare Ansichten zum Thema Käse.

Weitere Blogbeiträge von Lori Mac Vittie

Ähnliche Blogbeiträge

F5 und Equinix bündeln ihre Kräfte, um die sichere Anwendungsbereitstellung in Multicloud-Umgebungen zu vereinfachen
F5-Ökosystem | 05.08.2025

F5 und Equinix bündeln ihre Kräfte, um die sichere Anwendungsbereitstellung in Multicloud-Umgebungen zu vereinfachen

F5 und Equinix ermöglichen es Unternehmen, sich weltweit sicher und zuverlässig mit ihren Partnern zu vernetzen.

API-Sicherheitsrisiken und -herausforderungen
F5-Ökosystem | 21.07.2025

API-Sicherheitsrisiken und -herausforderungen

Erfahren Sie, warum APIs für die moderne App-Entwicklung unverzichtbar sind und wie Sie sie vor den häufigsten Sicherheitslücken schützen. Profitieren Sie von Expertentipps und direkt umsetzbaren Strategien.

Ein Meilenstein für die Community Impact Grants von F5
F5-Ökosystem | 21.01.2025

Ein Meilenstein für die Community Impact Grants von F5

F5 feiert das fünfjährige Bestehen seines innovativen Community Impact Grant-Programms, das gemeinnützige Organisationen, bei denen sich F5-Mitarbeitende ehrenamtlich engagieren, mit Fördermitteln in Höhe von 5.000 US-Dollar unterstützt.

Mit moderner, anpassungsfähiger und sicherer Gesundheits-IT Leben retten
F5-Ökosystem | 22.05.2023

Mit moderner, anpassungsfähiger und sicherer Gesundheits-IT Leben retten

Die IT-Investitionen im Gesundheitswesen tragen dazu bei, die schnellsten Wege zu einer besseren Versorgung zu finden, indem sie die medizinische Betreuung näher an die Patientinnen und Patienten bringen. Viele Gesundheitsunternehmen nutzen riesige Mengen an klinischen und anderen Gesundheitsdaten, um Entwicklungen zu verfolgen und übergreifende Trends in der gesamten Gesundheitslandschaft zu erkennen. Gleichzeitig nähern sie sich einer möglichst präzisen, individuell zugeschnittenen Versorgung an.

Verbesserung der Benutzer- und Administrationserfahrung durch sicheren hybriden Zugriff
F5-Ökosystem | 16.09.2020

Verbesserung der Benutzer- und Administrationserfahrung durch sicheren hybriden Zugriff

Diese Kombination aus BIG-IP Access Policy Manager und Azure Active Directory ermöglicht Identitätsföderation, zentralisierten Benutzerzugriff (über Single Sign-on) und erhöhte Anwendungssicherheit (durch Multi-Faktor-Authentifizierung) für geschäftskritische Anwendungen sowie cloudbasierte und SaaS-Anwendungen. Dieser Ansatz vereinfacht die Einrichtung und Bereitstellung, reduziert den Verwaltungsaufwand und verbessert die gesamte Administration.

Das Internet der Sicherheitsdinge
F5-Ökosystem | 11.05.2015

Das Internet der Sicherheitsdinge

Nein, das ist keine Tirade über die Sicherheit des IoT. Es ist eine Geschichte über Veränderung – genauer gesagt über Veränderung und ihre Auswirkungen auf die Sicherheit. Veränderung ist allgegenwärtig. Es gibt unzählige Axiome und Sprichwörter über Veränderung, also ist es ...