KI-Agenten sind da, und sie rufen nicht einfach nur APIs auf oder stellen Inhalte bereit. Sie denken. Sie treffen Entscheidungen. Sie planen und delegieren. Und all das tun sie über Ihre gesamte Infrastruktur, Ihre Dienste und Ihren Traffic-Management-Stack hinweg.
Das Problem? Die meisten unserer Systeme haben keine Ahnung, was die KI-Agenten tun.
Traditionelle Observability wurde für die Überwachung von Services entwickelt. Sie wissen schon, echte Dinge: Anfragen, Antworten, Latenzen, Pfade. Sie wurde nicht dafür entwickelt, zu verstehen, warum eine Anfrage erfolgte – nur, dass sie erfolgte. Doch inzwischen kann Ihr Datenverkehr aus einer rekursiven Schlussfolgerungsschleife innerhalb eines Agenten stammen, und alles, was Sie in Ihren Logs sehen, ist ein POST an /search mit einer Payload und dem Statuscode 200.
Das ist keine Observability. Das ist Intransparenz.
Wenn wir KI-Agenten sicher in den operativen Betrieb überführen wollen, insbesondere in Produktionsumgebungen, müssen Systeme zur Datenverkehrssteuerung ein wesentlicher Bestandteil Ihrer Strategie sein.
Doch zunächst muss die Observability aufholen. Dabei gilt es, drei entscheidende Lücken zu schließen.
1. Entscheidungen protokollieren, nicht nur Anfragen
Agenten reagieren nicht nur. Sie treffen Entscheidungen. Sie bewerten. Sie stellen zurück, leiten um, eskalieren oder rufen Tools auf. Und wenn Sie nur die HTTP-Ebene protokollieren, entgeht Ihnen der Teil, auf den es wirklich ankommt: warum etwas passiert ist.
Sie benötigen strukturierte Protokolle, die die Absicht des Agenten, die ausgewählte Aktion, die bewerteten Alternativen und das Ergebnis erfassen. Sie müssen Entscheidungswege nachvollziehen können – nicht nur Statuscodes.
Was zu tun ist:
- Erweitern Sie die Protokollformate um semantische Felder wie „
Absicht, ausgeführte Aktion, Konfidenzwert,und „Richtlinienbeschränkung“. - Kennzeichnen Sie Entscheidungen anhand des ursprünglichen Agenten und verfolgen Sie sie lückenlos über alle Tool-Aufrufe hinweg.
2. Semantik nachverfolgen, nicht nur Pfade
Zwei POST-Anfragen an denselben Endpunkt können völlig unterschiedliche Bedeutungen haben, wenn sie von KI-Agenten stammen. Bei der einen könnte es sich um eine Anfrage zur Faktenprüfung handeln, bei der anderen um einen Auslöser für die Inhaltserstellung. Der Pfad ist identisch, doch der Zweck, der Kontext und das Risiko sind es nicht.
Das bedeutet, dass semantisches Tagging beim Routing und bei der Observability einen zentralen Stellenwert erhalten muss.
Was zu tun ist:
- Verwenden Sie die Inline-Überprüfung (von Nutzdaten oder Headern), um Absichts-Tags zu extrahieren, wie etwa
summarize, verify_identity oder generate. - Beziehen Sie diese Tags in Routing-, Ratenbegrenzungs- und Authentifizierungsentscheidungen ein. Behandeln Sie nicht alle POST-Anfragen gleich.
3. Verhalten im Zeitverlauf überwachen
Agenten verhalten sich nicht wie zustandslose Clients. Sie entwickeln sich weiter. Sie versuchen es erneut. Sie geraten ins Stocken. Sie passen sich an. Deshalb müssen Observability-Systeme über die Nachverfolgung einzelner Anfragen hinausgehen und damit beginnen, Verhaltensprofile zu erstellen.
Sie sollten wissen, was für einen Agenten „normal“ ist: wie viele Wiederholungsversuche er unternimmt, welche Tools er verwendet und wie lange seine Aufgaben dauern. Und wenn sich das ändert? Auch das sollten Sie wissen.
Was zu tun ist:
- Erfassen Sie fortlaufende Metriken für jede Agentenidentität: Wiederholungsversuche, Aufgabentiefe und Tool-Nutzung.
- Bei Anomalien warnen: Schleifen, zunehmende Latenz, übermäßige Tool-Nutzung.
Was das für das Verkehrsmanagement bedeutet
All dies hat konkrete Auswirkungen auf die Systeme, auf die wir uns bei der Steuerung, Absicherung und Skalierung unserer Anwendungen verlassen:
KI-Agenten sind keine Benutzer. Sie sind keine Clients. Sie sind nicht einmal Dienste im herkömmlichen Sinne. Sie sind autonome Workflows. Und solange wir sie nicht als solche behandeln – angefangen bei der Observability –, werden wir weiterhin im Blindflug unterwegs sein.
Nein, Ihr Datenverkehr ist also nicht mehr einfach nur Datenverkehr. Und Ihre Infrastruktur sollte ihn auch nicht so behandeln.
Fangen Sie an, so zu protokollieren, als würde ein KI-Agent zusehen. Denn wahrscheinlich tut er das auch.
Über den Autor
Lori MacVittie ist Distinguished Engineer und Chief Evangelist im Office of the CTO von F5 und verfügt über umfassende Expertise in den Bereichen Anwendungsbereitstellung, Automatisierungsstrategie und Infrastruktur. Sie ist dafür bekannt, Komplexität verständlich zu machen – ob sie Leitplanken für KI-Agenten definiert, fragile Multicloud-Architekturen analysiert oder die Grenzen skalierbarer Systeme auslotet. Sie verfügt über mehr als dreißig Jahre Branchenerfahrung in der Anwendungsentwicklung, IT-Architektur sowie im Netzwerk- und Systembetrieb. Bevor sie zu F5 kam, war sie als mehrfach ausgezeichnete Technologie-Redakteurin tätig. MacVittie hat einen Masterabschluss in Informatik und ist eine produktive Autorin, deren Veröffentlichungen die Bereiche Sicherheit, Cloud und Unternehmensarchitektur abdecken. Außerdem spielt sie leidenschaftlich gern Brett- und Videospiele und vertritt mit voller Überzeugung klare Ansichten zum Thema Käse.
Weitere Blogbeiträge von Lori Mac VittieÄhnliche Blogbeiträge
Ein umfassender Leitfaden zur Bereitstellung und Sicherheit von KI-Anwendungen
Entdecken Sie optimale Strategien für die Absicherung und Bereitstellung von KI-Anwendungen.
KI zulassen und einführen? Lehren aus der Public Cloud
Die Einführung von KI steht unmittelbar bevor und könnte entscheidend sein, um wettbewerbsfähig zu bleiben. Daher muss die IT-Sicherheit proaktiv handeln und der KI-Einführung schon jetzt einen Schritt voraus sein, um sie auf einen risikogerechten Weg zu lenken.
Stand der Anwendungsstrategie 2022: Zeit für die Modernisierung des Betriebs
Es ist deutlich geworden, dass Unternehmen ihren Fokus erneut auf die Geschäftsfunktionen richten müssen, um die Dynamik ihrer digitalen Transformation aufrechtzuerhalten. Kundenerlebnisse haben zwar weiterhin Priorität, doch auch Geschäftsfunktionen wie Recht, Personalwesen und Finanzen müssen digitalisiert werden. Das bedeutet, dass CIOs das Steuer übernehmen, während sich die digitale Transformation von der Modernisierung von Anwendungen hin zur Modernisierung von Betriebsabläufen verlagert.
F5s Weg zu einer vielseitigen Plattform für Anwendungsanalysen
F5 bietet heute die umfassendsten Anwendungsdienste entlang des gesamten Weges vom Code bis zum Kunden. Künftig werden wir verstärkt auf Anwendungstelemetrie und -analysen setzen, damit unsere Kunden wertvolle Erkenntnisse über ihre Anwendungen, Geschäftsabläufe und Benutzererlebnisse gewinnen können. Beim Ausbau unserer Cloud-Analysefunktionen werden wir ML und KI noch stärker nutzen, um unsere Kunden bei der Verbesserung ihrer Geschäftsdienste zu unterstützen.
Telemetrie: Eine andere Art von Daten
Verwenden wir den Begriff „Telemetrie“ nur, weil er attraktiver klingt als „Daten“? Letztlich sind sowohl Daten als auch Telemetrie strukturierte Informationseinheiten. Es ist kein Verbrechen, die Begriffe synonym zu verwenden. Doch wenn man es genau nimmt, gibt es einen Unterschied. Und dieser Unterschied wird immer wichtiger werden, je weiter Unternehmen in die Datenökonomie vordringen.
MTTR bedeutet nicht „Mean Time to Reboot“
„Schnell scheitern“ lautet heute das Mantra für mehr Geschwindigkeit. Ob in DevOps oder im Geschäftsleben: Wer in einer digitalen Wirtschaft agiert, muss eine möglichst perfekte Verfügbarkeit gewährleisten.