Inferenz ist jetzt das operative Gravitationszentrum

Lori Mac VittieDistinguished Engineer und Chief Evangelist | F5

Erkenntnisse aus dem Bericht „State of Application Strategy 2026“

Jahrelang konnten wir uns den Luxus leisten, KI als etwas zu betrachten, das neben dem eigentlichen System existiert. Sie kam in Pilotprojekten, Machbarkeitsstudien und sorgfältig abgegrenzten Experimenten zum Einsatz, bei denen ein Scheitern kaum Folgen hatte. Diese Sichtweise war sinnvoll, solange Inferenz nur sporadisch erfolgte und vom zentralen Anwendungsablauf entkoppelt war.

Das gilt nicht mehr.

Inferenz ist nun fest in den Anfragepfad integriert – und das verändert alles. Sie verhält sich jetzt wie jede andere Produktions-Workload und muss dieselben Anforderungen an Latenz, Verfügbarkeit, Skalierbarkeit und Sicherheit erfüllen. Die Daten bestätigen dies: Rund drei Viertel der Unternehmen setzen bereits KI-gestützte Anwendungen ein, und mehr als 80 % erwarten, dass KI in naher Zukunft in ihrem gesamten Portfolio verankert sein wird. Spätestens dann ist KI keine Option mehr. Sie wird zum Bestandteil des Systems.

Observability hat sich von der nachträglichen Analyse zum Eingabefaktor gewandelt

Einer der deutlichsten Indikatoren für diesen Wandel ist die Entwicklung der Observability. In der Vergangenheit diente sie als Diagnosewerkzeug. Man erfasste Telemetriedaten, analysierte sie und nutzte sie, um nachzuvollziehen, was bereits geschehen war.

Laut unserem „Bericht zum Stand der Anwendungsstrategie 2026“ hat sich diese Rolle verändert, und die Zahlen zur Nutzung von Observability-Daten machen dies unmissverständlich deutlich.

• Die Nutzung für Warnmeldungen stieg von 41 % im Jahr 2023 auf 96 % im Jahr 2026.
• Die durch Betriebsdaten gesteuerte Automatisierung stieg von 51 % auf 97 %.
• Der Anteil der Erkenntnisse stieg von 33 % auf 97 %.
• Die Ursachenanalyse stieg von 47 % auf 95 %.
• Die Berichterstattung zu SLOs und SLIs stieg von 41 % auf 96 %.

Das sind keine schrittweisen Verbesserungen. Das ist eine nahezu flächendeckende Akzeptanz und, was noch wichtiger ist, eine nahezu vollständige Abhängigkeit.

Observability dient nicht mehr nur der Berichterstattung über das System, sondern speist das System mit Daten. Betriebsdaten steuern heute Entscheidungen zur Laufzeit, gestalten die Automatisierung, beeinflussen das Routing und fließen in die Durchsetzung von Richtlinien ein. In einer inferenzgesteuerten Architektur ist das kein optionales Extra, sondern eine Grundvoraussetzung.

Der operative Druck konzentriert sich auf die Inferenz

Wenn Sie verstehen möchten, wo ein System wirklich entscheidend ist, sollten Sie dem operativen Druck folgen. In KI-Architekturen konzentriert sich dieser Druck auf die Schichten, die die Inferenz umgeben.

Aus betrieblicher Sicht nannten die Befragten:

• Prompt-Ebene: 29 %
• Token- und Steuerungsebene: 23 %
• Modell-Routing: 17 %
• Ausgabemoderation: 14 %

Sicherheitsexperten nannten nahezu identische Prioritäten:

• Prompt-Ebene: 25 %
• Token- und Steuerungsebene: 23 %
• Ausgabemoderation: 19 %
• Modell-Routing: 17 %

Diese Übereinstimmung ist wichtig. Sie zeigt, dass sowohl die Betriebs- als auch die Sicherheitsteams dasselbe erkannt haben: Die entscheidende Arbeit findet während der Inferenz statt.

Hier werden Latenzen sichtbar, hier entstehen Kosten und hier müssen Risiken gesteuert werden. Trainingspipelines und Datenaufbereitung sind nach wie vor wichtig, haben im laufenden Betrieb jedoch nicht dieselbe unmittelbare Bedeutung. Das System reagiert zum Zeitpunkt der Inferenz entweder korrekt und schnell – oder eben nicht.

Inferenz ist in diesem Kontext keine Phase des Lebenszyklus. Sie ist die eigentliche Arbeitslast.

Die Automatisierung hat die KI bereits fest im Griff

Ein weiteres Zeichen für Reife ist die Art und Weise, wie eine Arbeitslast gesteuert wird. Bei KI erfolgt diese Steuerung überwiegend programmgesteuert.

Bei Anwendungsfällen wie der Beschleunigung der Automatisierung, der Anpassung von Richtlinien und der Generierung von Vorschlägen erweist sich die API-gesteuerte Automatisierung durchweg als bevorzugter Ansatz. Selbst Befragte, die KI derzeit nicht für die Automatisierung einsetzen, bevorzugen API-gesteuerte Mechanismen.

Diese Beständigkeit spiegelt die Erwartung wider, dass diese Systeme mit minimalem menschlichem Eingreifen arbeiten werden. Sie sind darauf ausgelegt, in Echtzeit zu agieren, zu reagieren und sich anzupassen. Inferenz wird in dem Moment operativ, in dem sie in diese automatisierten Abläufe eingebettet wird.

Wir haben diese Schwelle bereits überschritten.

Die Multi-Modell-Realität verstärkt den Wandel

Hinzu kommt, dass Unternehmen nicht nur ein einziges Modell einsetzen. Mittlerweile ist es üblich, mehrere Modelle parallel zu betreiben – häufig fünf bis sieben. Die meisten Anpassungsverfahren bleiben dabei schlank und setzen auf Prompt Engineering, Retrieval-Augmented Generation, Embeddings oder begrenztes Fine-Tuning.

Dies bringt bekannte betriebliche Herausforderungen mit sich: die Auswahl des richtigen Modells für eine bestimmte Anfrage, die Implementierung einer Fallback-Logik, die Verwaltung von Versionen, die Abwägung von Kosten und Leistung sowie die Durchsetzung von Richtlinien über heterogene Endpunkte hinweg.

An diesem Punkt ähnelt das System zunehmend jeder anderen verteilten Anwendung. Es erfordert Routing, Orchestrierung und Governance. Inferenz muss bereitgestellt, verwaltet und abgesichert werden, statt lediglich aufgerufen zu werden.

Inferenz ist zum Gravitationszentrum geworden

Insgesamt ergibt sich ein klares Bild.

1. Die Inferenz erfolgt direkt im Anfragepfad.
2. Observability versorgt sie mit Echtzeitkontext.
3. Automatisierung steuert sein Verhalten über APIs.
4. Multi-Modell-Architekturen erhöhen den Bedarf an Routing und Steuerung.

Diese Kombination macht die Inferenz zum operativen Schwerpunkt. Nicht als Zukunftsprognose, sondern als bereits heute bestehende Realität.

Die Branche spricht weiterhin über die Operationalisierung von KI, als läge sie noch in der Zukunft. Die Daten zeichnen jedoch ein anderes Bild. Unternehmen haben Inferenz bereits in ihre täglichen Abläufe integriert und behandeln sie mit derselben Ernsthaftigkeit wie jede andere kritische Komponente des Anwendungsstacks.

Die eigentliche Frage ist nicht, ob KI operativ eingesetzt werden wird. Vielmehr geht es darum, ob Unternehmen erkennen, dass dies bereits der Fall ist, und ob sie bei der Inferenz dieselbe Disziplin, Sorgfalt und architektonische Denkweise anwenden, die sie seit Langem auf alle anderen von ihnen betriebenen Systeme anwenden.

Weitere Informationen finden Sie im vollständigen „2026 State of Application Strategy Report“.

Über den Autor

Lori Mac VittieDistinguished Engineer und Chief Evangelist | F5

Lori MacVittie ist Distinguished Engineer und Chief Evangelist im Office of the CTO von F5 und verfügt über umfassende Expertise in den Bereichen Anwendungsbereitstellung, Automatisierungsstrategie und Infrastruktur. Sie ist dafür bekannt, Komplexität verständlich zu machen – ob sie Leitplanken für KI-Agenten definiert, fragile Multicloud-Architekturen analysiert oder die Grenzen skalierbarer Systeme auslotet. Sie verfügt über mehr als dreißig Jahre Branchenerfahrung in der Anwendungsentwicklung, IT-Architektur sowie im Netzwerk- und Systembetrieb. Bevor sie zu F5 kam, war sie als mehrfach ausgezeichnete Technologie-Redakteurin tätig. MacVittie hat einen Masterabschluss in Informatik und ist eine produktive Autorin, deren Veröffentlichungen die Bereiche Sicherheit, Cloud und Unternehmensarchitektur abdecken. Außerdem spielt sie leidenschaftlich gern Brett- und Videospiele und vertritt mit voller Überzeugung klare Ansichten zum Thema Käse.

Weitere Blogbeiträge von Lori Mac Vittie