Wie KI-Agenten in Unternehmen erwachsen werden

James WhiteCTO, KI-Sicherheit | F5

KI-Agenten sind nicht nur ein Hype – sie werden bereits produktiv eingesetzt und erleben derzeit einen Wachstumsschub.

James White, VP of Engineering bei F5, bringt es treffend auf den Punkt: Wer Agenten verstehen will, sollte nicht in Softwareversionen, sondern in menschlichen Entwicklungsstufen denken. Ein Agent ist nicht v1.0, sondern eine digitale Entität, die das Potenzial hat, produktiv zu sein, aber auch gefördert werden muss.

Die Reifekurve von Agenten

Wie Menschen benötigen auch Agenten in ihren frühen Entwicklungsphasen ständige Aufmerksamkeit. Ähnlich wie ein Neugeborenes, das sich noch nicht selbst ernähren kann, sind sie zunächst eher ein Versprechen als von praktischem Nutzen. Doch Babys lernen, selbstständig zu essen, und wachsen schnell zu Kindern und Erwachsenen heran. Ebenso beginnen Agenten mit besseren Modellen, Werkzeugen und einer besseren Sicherheitsinfrastruktur, einen spürbaren Beitrag zu leisten.

Heute befinden wir uns in der Phase des „Rasenmähens“, in der ein Kind beginnt, Aufgaben im Haushalt zu übernehmen und den Erwachsenen das Leben zu erleichtern. Agenten können inzwischen klar definierte Aufgaben selbstständig erledigen – sei es das Erstellen von Recherchen, das Programmieren mit GitHub Copilot oder das Online-Shopping über Googles neue Agentenschnittstellen. Mit zunehmendem Wissen, Fachwissen und Können entwickeln sie sich stetig weiter.

Willkommen im Zeitalter der nichtmenschlichen Ressourcen

Diese Entwicklung erzwingt ein Umdenken bei der Unternehmenssicherheit, die darauf ausgelegt ist, IT-Systeme und -Dienste vor menschlichen Aktivitäten zu schützen. Ähnlich wie menschliche Mitarbeitende benötigen auch Agenten spezifische Zugriffskontrollen und Berechtigungen, wenn sie sich durch Ihre digitale Umgebung bewegen.

Wie wird dieser Wandel aussehen? Betrachten wir es einmal so: Wir haben Personalabteilungen geschaffen, um menschliche Mitarbeitende zu verwalten. Agenten können als nichtmenschliche Ressourcen – sogenannte NHRs – betrachtet werden, die in Unternehmen auf der ganzen Welt echte, wertvolle Arbeit leisten können.

Die derzeitigen Agenten entsprechen hinsichtlich Erfahrung und Leistung dem Niveau von Hochschulabsolventen, werden sich aber schon bald auf das Niveau von Fach- und Führungskräften mit den entsprechenden Verantwortlichkeiten weiterentwickeln. Damit steigen auch die Anforderungen an NHRs: Sie werden mehr kosten und benötigen umfassendere Zugriffsrechte sowie höhere Sicherheitsvorkehrungen.

Das bedeutet, dass Unternehmen Folgendes benötigen werden:

• Richtlinien für den Zugriff und die Berechtigungen von Agenten
• Kostenverfolgung und ROI-Modelle für den Einsatz von Agenten
• Sicherheitsstandards speziell für agentisches Verhalten und Risiken durch laterale Bewegungen

Warum auch die Sicherheit erwachsen werden muss

Der Haken? Wir können diese Agenten nicht wie herkömmliche Software behandeln. Ihre Autonomie, ihre Handlungsfähigkeit und ihr Potenzial zur Zusammenarbeit schaffen eine grundlegend neue Angriffsfläche.

Um den Vergleich mit der menschlichen Entwicklung heranzuziehen: Man würde ein Baby nicht so fest in Luftpolsterfolie einwickeln, dass es sich nicht mehr bewegen kann. Am Arbeitsplatz hält man junge Beschäftigte weder an der kurzen Leine noch überwacht man sie ständig. Stattdessen setzt man Grenzen, innerhalb derer sie sich sicher weiterentwickeln und Erfahrungen sammeln können.

Genau das leisten die KI-Laufzeitsicherheitslösungen von F5 für KI-Anwendungen und -Agenten. Wir bremsen Agenten nicht aus, sondern fungieren als Bodyguard, der bereitsteht, sobald Bedrohungen auftreten.

Wie geht es weiter?

Je autonomer, integrierter und leistungsfähiger KI-Agenten werden, desto weniger werden sie als abstrakte „Agenten“ wahrgenommen und desto mehr werden sie einfach Teil des Teams. Das wissen wir, weil wir unsere eigenen Agenten entwickeln und produktiv einsetzen. Als nichtmenschliche Ressourcen leisten sie wertvolle Arbeit.

Doch Agenten, die über Zugriffsrechte und entsprechende Fähigkeiten verfügen, benötigen wie jede andere Ressource Aufsicht, Kontrollmechanismen und Transparenz. Erfolgreich werden nicht die Unternehmen sein, die die schnellsten Agenten entwickeln, sondern diejenigen, die die sichersten entwickeln.

F5 schützt diese neue Belegschaft aus nichtmenschlichen Ressourcen. Denn Innovation ohne Schutz ist kein Fortschritt, sondern ein Risiko.

Über den Autor

James WhiteCTO, KI-Sicherheit | F5

James White ist ein erfolgreicher Ingenieur und Unternehmensleiter mit fast zwei Jahrzehnten Erfahrung in der Unternehmenssoftwarebranche.

Weitere Blogbeiträge von James White