Warum Modell-Routing zur Sicherheitsinfrastruktur werden könnte

Lori Mac VittieDistinguished Engineer und Chief Evangelist | F5

In den letzten zwei Jahrzehnten stand bei der Unternehmenssicherheit die Identität im Mittelpunkt. Benutzer authentifizieren. Aktion autorisieren. Anfrage protokollieren. Agentenbasierte KI zeigt die Grenzen dieses Modells auf.

Da Unternehmen zunehmend auf KI-Systeme setzen, um Informationen abzurufen, Entscheidungen zu treffen und Aufgaben auszuführen, geht es nicht mehr nur darum, wer die Anfrage stellt. Vielmehr stellt sich die Frage, welchem Modell die Ausführung der Aufgabe überhaupt anvertraut werden sollte.

Gleichzeitig zeichnet sich ein zweiter Trend ab: KI-Funktionen verlagern sich auf die Endgeräte. PCs werden mit Neural Processing Units (NPUs) und integrierten Modellen ausgeliefert, die Inferenzen lokal ausführen können. Kleine Sprachmodelle entwickeln sich zu praxistauglichen Komponenten alltäglicher Anwendungen, statt ausschließlich als Cloud-Dienste verfügbar zu sein.

Diese beiden Trends überschneiden sich auf interessante Weise.

Mit der Verlagerung von KI auf Endgeräte könnte sich das Modell-Routing von einem Mechanismus zur Leistungs- und Kostenoptimierung zu einem grundlegenden Element der Sicherheitsarchitektur entwickeln.

Die derzeitige Annahme: Ein Modell, viele Berechtigungen

Die meisten heutigen Agentenarchitekturen gehen von einem universell einsetzbaren Modell aus, das auf eine wachsende Zahl von Tools, APIs, Datenquellen und Unternehmenssystemen zugreifen kann.

Sicherheitsmaßnahmen werden in der Regel rund um das Modell angeordnet:

• Identitätssysteme ermitteln, wer eine Anfrage initiiert hat.
• Zugriffskontrollen bestimmen, welche Ressourcen verfügbar sind.
• Guardrails versuchen, das Verhalten einzuschränken.
• Auditing protokolliert Aktionen nach ihrer Ausführung.

Dieser Ansatz entspricht der traditionellen Anwendungsarchitektur, bei der eine einzelne Anwendung Berechtigungen erhält und Sicherheitskontrollen festlegen, welche Aktionen sie ausführen darf. Die Herausforderung besteht darin, dass große Sprachmodelle zunehmend Aufgaben mit sehr unterschiedlichen Risikoprofilen übernehmen sollen.

Das Zusammenfassen eines Dokuments, das Genehmigen einer Spesenabrechnung, das Ändern eines Kundendatensatzes und das Löschen von Produktionsinfrastruktur sind keine gleichwertigen Vorgänge. Dennoch behandeln viele Architekturen sie als Varianten derselben Interaktion.

Mit der Erweiterung der Fähigkeiten von Agenten wächst der Druck, immer leistungsfähigere Systeme fortlaufend durch zusätzliche Richtlinien, Kontrollen und Aufsichtsmaßnahmen abzusichern.

Das Ergebnis ist eine zunehmende Komplexität sowohl bei der Governance als auch bei der Durchsetzung.

Ein alternativer Ansatz: Autorität durch Spezialisierung

Was, wenn die Lösung nicht in strengeren Kontrollen für ein universell einsetzbares Modell besteht? Was, wenn die Lösung darin besteht, die Befugnisse jedes einzelnen Modells zu beschränken?

Historisch gesehen haben sich verteilte Systeme hin zur Spezialisierung entwickelt, da Spezialisierung die Komplexität reduziert und Fehlerdomänen begrenzt. Datenbanken übernehmen Datenbankfunktionen. Proxys übernehmen Proxyfunktionen. Lastverteiler übernehmen Lastverteilungsfunktionen.

KI-Architekturen könnten einen ähnlichen Weg einschlagen.

Anstelle eines einzelnen Modells mit weitreichenden Berechtigungen könnten Unternehmen Portfolios spezialisierter Modelle einsetzen:

• Lokale Modelle für Zusammenfassungen und Klassifizierungen
• Retrievalmodelle für den Zugriff auf Unternehmenswissen
• Workflow-Modelle für die Orchestrierung
• Aktionsmodelle für spezifische Geschäftsprozesse
• Stark eingeschränkte Modelle für privilegierte Vorgänge

Jedes Modell würde nur über die Fähigkeiten verfügen, die für seine vorgesehene Funktion erforderlich sind. Anstatt sich nach der Modellauswahl ausschließlich auf die Durchsetzung von Richtlinien zu verlassen, könnten Architekten Berechtigungen zunehmend direkt an die Auswahl des Modells selbst knüpfen.

Das gewählte Modell wird Teil der Sicherheitsentscheidung.

Modell-Routing als Richtlinien-Routing

Heute wird Modell-Routing vor allem unter Kosten- und Leistungsaspekten diskutiert. Unternehmen leiten Anfragen je nach Anforderungen an die Latenz, Token-Kosten oder Schlussfolgerungsfähigkeiten an unterschiedliche Modelle weiter. Im Laufe der Zeit könnten die Routing-Kriterien erheblich erweitert werden.

Eine zukünftige Routing-Entscheidung könnte folgende Aspekte berücksichtigen:

• Datensensibilität
• Regulatorische Anforderungen
• Erforderliche Berechtigungsstufe
• Anforderungen an den Werkzeugzugriff
• Vorgaben zur Datenresidenz
• Vertrauensniveau des Benutzers
• Endpunktfunktionen

In diesem Modell geht es beim Routing weniger darum, das günstigste Modell zu finden, sondern vielmehr darum, die sicherste Ausführungsumgebung auszuwählen.

• Eine Anfrage, die sensible Finanzdaten betrifft, kann auf die lokale Verarbeitung beschränkt werden.
• Eine Anfrage, die Zugriff auf Kundensysteme erfordert, kann an ein vom Unternehmen gehostetes Modell mit genehmigten Tools weitergeleitet werden.
• Eine Anfrage, die destruktive Aktionen umfasst, muss möglicherweise an eine streng kontrollierte Ausführungsumgebung eskaliert werden.

Die Routing-Schicht wird damit faktisch zu einem Entscheidungspunkt für Richtlinien.

Warum Endgeräte-KI die Ausgangslage verändert

Das Aufkommen von Endpunkt-KI könnte diesen Wandel beschleunigen.

In der Vergangenheit zwangen in der Cloud gehostete Modelle Unternehmen zu relativ zentralisierten Architekturen. Die Daten wurden an das Modell übertragen, da sich dieses in der Cloud befand. Da leistungsfähige Modelle nun direkt auf den Geräten der Nutzer verfügbar werden, entstehen neue Architekturmuster.

Vertrauliche Informationen müssen das Endgerät möglicherweise nie verlassen. Bestimmte Arbeitsabläufe können vollständig innerhalb lokaler Vertrauensgrenzen ausgeführt werden.

Organisationen erhalten zusätzliche Möglichkeiten, Datenschutz, Leistung und Governance in Einklang zu bringen. Noch wichtiger ist, dass ihnen damit ein zusätzlicher grundlegender Sicherheitsmechanismus zur Verfügung steht.

Die Möglichkeit, zu entscheiden, ob eine Aufgabe lokal oder remote ausgeführt werden soll, wird zu einem wichtigen Instrument der Architektursteuerung. In manchen Szenarien kann selbst das sicherste Cloud-Modell ein größeres Risiko darstellen als ein ausreichend leistungsfähiges lokales Modell, das keinerlei Netzwerkzugriff hat.

Argumente für ein lokales KI-Gateway

Dadurch eröffnet sich die Möglichkeit für eine neue Infrastrukturebene.

Anstatt Anwendungen den direkten Aufruf von Modellen zu ermöglichen, könnten Unternehmen zunehmend lokale KI-Gateways einsetzen, die für Folgendes zuständig sind:

• Modellauswahl
• Richtliniendurchsetzung
• Tool-Autorisierung
• Kontrollen für Datenübertragungen
• Audit-Erstellung
• Kontextfilterung

Ein möglicher Implementierungsansatz ist eine schlanke, auf WebAssembly basierende Laufzeitumgebung, die als lokaler Proxy für Inferenz und Richtlinien fungiert. Eine solche Schicht würde es Organisationen ermöglichen, unabhängig davon, welches Modell die Aufgabe letztlich ausführt, einheitliche Governance-Regeln anzuwenden. Noch wichtiger ist, dass sie Sicherheitsentscheidungen vom Verhalten des Modells entkoppelt.

Anstatt darauf zu hoffen, dass ein Modell eine Richtlinie befolgt, steuert das Gateway von vornherein, ob das Modell die entsprechende Berechtigung erhält.

Diese Unterscheidung wird immer wichtiger, je autonomer die Modelle werden.

Strategische Implikationen

Aus diesem Wandel ergeben sich mehrere weiterreichende Implikationen.

Erstens könnte das Modell-Routing zu einer zentralen Architekturfunktion werden, statt lediglich der Plattformoptimierung zu dienen.

Zweitens könnten kleinere, spezialisierte Modelle in Unternehmensumgebungen wertvoller werden als größere Allzweckmodelle, da sie klarere Befugnisgrenzen bieten.

Drittens könnte KI auf Endgeräten ebenso sehr zu einer Governance-Strategie wie zu einer Leistungsstrategie werden.

Schließlich könnten Organisationen damit beginnen, die Modellauswahl als Teil der Zugriffskontrolle selbst zu betrachten.

In dieser Zukunft beschränken sich Sicherheitsentscheidungen nicht mehr nur auf Fragen zu Benutzern und Ressourcen. Sie umfassen auch die Frage, welchem Modell eine bestimmte Aufgabe anvertraut werden sollte.

Ausblick

Seit Jahren dient die Identität als zentrale Steuerungsebene für die Unternehmens-IT. Agentenbasierte Systeme stellen diese Annahme infrage.

Da KI immer stärker in Geschäftsprozesse integriert wird, benötigen Sicherheitsarchitekturen neue Mechanismen, um Befugnisse einzuschränken, die Angriffsfläche zu begrenzen und die betriebliche Komplexität zu reduzieren.

Die Spezialisierung von Modellen bietet einen möglichen Lösungsweg. Anstatt immer umfangreichere Sicherheitsframeworks für zunehmend leistungsfähige Modelle zu entwickeln, könnten Unternehmen Befugnisse auf spezialisierte Modelle verteilen und mithilfe einer Routing-Infrastruktur die Einhaltung dieser Grenzen durchsetzen.

Wenn es dazu kommt, wird sich das Modell-Routing über die reine Leistungsoptimierung hinaus zu einem richtlinienbasierten Routing weiterentwickeln. Und richtlinienbasiertes Routing war schon immer Teil der Sicherheitsinfrastruktur.

Über den Autor

Lori Mac VittieDistinguished Engineer und Chief Evangelist | F5

Lori MacVittie ist Distinguished Engineer und Chief Evangelist im Office of the CTO von F5 und verfügt über umfassende Expertise in den Bereichen Anwendungsbereitstellung, Automatisierungsstrategie und Infrastruktur. Sie ist dafür bekannt, Komplexität verständlich zu machen – ob sie Leitplanken für KI-Agenten definiert, fragile Multicloud-Architekturen analysiert oder die Grenzen skalierbarer Systeme auslotet. Sie verfügt über mehr als dreißig Jahre Branchenerfahrung in der Anwendungsentwicklung, IT-Architektur sowie im Netzwerk- und Systembetrieb. Bevor sie zu F5 kam, war sie als mehrfach ausgezeichnete Technologie-Redakteurin tätig. MacVittie hat einen Masterabschluss in Informatik und ist eine produktive Autorin, deren Veröffentlichungen die Bereiche Sicherheit, Cloud und Unternehmensarchitektur abdecken. Außerdem spielt sie leidenschaftlich gern Brett- und Videospiele und vertritt mit voller Überzeugung klare Ansichten zum Thema Käse.

Weitere Blogbeiträge von Lori Mac Vittie