F5 und NVIDIA verbessern die Wirtschaftlichkeit von KI-Fabriken mit neuen Funktionen für beschleunigte KI-Inferenz

F5 BIG-IP Next for Kubernetes, beschleunigt durch BlueField-DPUs, erhöht den Token-Durchsatz, senkt die Kosten pro Token und ermöglicht eine sichere mandantenfähige KI-Infrastruktur – und transformiert damit KI-Fabriken für das Zeitalter agentenbasierter KI.

SEATTLE – F5 (NASDAQ: FFIV), der weltweit führende Anbieter für die Bereitstellung und Absicherung sämtlicher Apps und APIs, gab heute die Erweiterung der Funktionen im Rahmen seiner laufenden Zusammenarbeit mit NVIDIA bekannt, um Infrastrukturen für KI-Inferenz zu beschleunigen und zu optimieren.

Die erweiterte Integration kombiniert F5 BIG-IP Next for Kubernetes mit NVIDIA BlueField-3-DPUs und schafft so eine intelligente, telemetriebasierte Infrastrukturschicht, die den Token-Durchsatz durch eine bessere GPU-Auslastung erhöht, die Latenz reduziert und sichere mandantenfähige KI-Plattformen in großem Maßstab ermöglicht.

In KI-Systemen stellen Token die messbare Einheit der KI-Ausgabe dar – also die Wörter, Symbole oder Datenfragmente, die während der Inferenz erzeugt und verarbeitet werden. Umfang und Geschwindigkeit der Token-Produktion bestimmen letztlich die Benutzererfahrung, die Effizienz der Infrastruktur und den Umsatz pro Beschleuniger.

Während Unternehmen und GPUaaS-Anbieter darum wetteifern, KI zu monetarisieren und von KI-Experimenten zu umsatzgenerierenden Diensten überzugehen, ist die Effizienz der Infrastruktur zu einer entscheidenden Kennzahl geworden. Erfolg wird zunehmend nicht mehr nur an der bereitgestellten GPU-Kapazität gemessen, sondern auch an der Token-Ökonomie, dem dauerhaft erzielbaren Token-Durchsatz, der Zeit bis zum ersten Token (TTFT), den Kosten pro Token und dem Umsatz pro GPU-Beschleuniger. Die gemeinsame Lösung von F5 und NVIDIA wurde speziell dafür entwickelt, diese Kennzahlen direkt zu optimieren.

Optimierung der Tokenökonomie durch intelligente KI-Infrastruktur

Der Wandel von anwendungszentrierter Inferenz hin zu agentengesteuerten KI-Workflows erfordert neue Architekturansätze, um den Token-Durchsatz zu optimieren und Kosten zu senken. BIG-IP Next for Kubernetes nutzt jetzt NVIDIA-NIM-Statistiken, Dynamo-Laufzeitsignale und GPU-Telemetriedaten, um bereits vor der Ausführung inferenzbasierte Routing-Entscheidungen zu treffen. Durch die Echtzeitzuweisung von Workloads zu den am besten geeigneten Beschleunigern erhöht die Lösung die dauerhafte Auslastung und reduziert gleichzeitig Latenzen und Neuberechnungen.

„Bei KI-Infrastrukturen geht es längst nicht mehr nur um den Zugang zu GPUs oder die Skalierung ihrer Bereitstellung. Vielmehr steht heute die Maximierung des wirtschaftlichen Ertrags pro Beschleuniger im Mittelpunkt“, so Kunal Anand, Chief Product Officer bei F5. „Gemeinsam mit NVIDIA ermöglichen wir es KI-Fabriken, die Token-Produktion als messbare Geschäftskennzahl zu betrachten. BIG-IP Next for Kubernetes bietet die erforderliche Intelligenz und Governance, um die GPU-Auslastung zu steigern, die Kosten pro Token zu senken und gemeinsam genutzte KI-Plattformen zuverlässig zu skalieren.“

Validierte Infrastruktureffizienz: eine strukturelle Verbesserung

Die Leistungsdaten sprechen für sich. In von The Tolly Group validierten Tests erzielte BIG-IP Next for Kubernetes, beschleunigt durch NVIDIA BlueField-3-DPUs, eine Steigerung des Token-Durchsatzes um bis zu 40 %, eine um 61 % kürzere Zeit bis zum ersten Token (TTFT) sowie eine Verringerung der Gesamtlatenz von Anfragen um 34 %.

Dies sind keine schrittweisen Verbesserungen. Durch die Auslagerung von Netzwerkfunktionen, TLS/Verschlüsselung, KI-gestützter Lastverteilung und Datenverkehrsmanagement auf NVIDIA BlueField-3 DPUs erhält BIG-IP Next for Kubernetes die CPU-Kapazität des Hosts und gibt GPUs für das frei, wofür sie entwickelt wurden: eine dauerhaft leistungsstarke Inferenzverarbeitung mit hohem Durchsatz im großen Maßstab. Das Ergebnis sind eine bessere GPU-Auslastung, kürzere Warteschlangenzeiten und eine höhere Token-Ausbeute – und damit niedrigere Kosten pro Token bei gleichbleibendem Infrastrukturbedarf. Entscheidend ist, dass keine Änderungen an den Modellen erforderlich waren, sodass sich diese Verbesserungen sofort in der bestehenden KI-Fabrik-Infrastruktur umsetzen lassen. Für Unternehmen und NeoCloud-Anbieter, die um die beste Token-Wirtschaftlichkeit konkurrieren, macht dies den Unterschied zwischen einer Infrastruktur, die die KI-Leistung begrenzt, und einer Infrastruktur, die sie beschleunigt.

„Die beschleunigte Computing-Infrastruktur von NVIDIA in Verbindung mit der KI-optimierten Application Delivery and Security Platform von F5 ermöglicht eine überlegene Wirtschaftlichkeit von KI-Fabriken und bietet skalierbare, kosteneffiziente Inferenz, ohne dass Änderungen an den Modellen erforderlich sind“, sagte Kevin Deierling, SVP, Networking, NVIDIA. „Gemeinsam versetzen F5 und NVIDIA Unternehmen in die Lage, die Inferenz in KI-Fabriken effizient und wirtschaftlich zu skalieren.“

Entwickelt für agentengesteuerte KI und mandantenfähige KI-Plattformen

Moderne KI-Workloads werden zunehmend von Agenten gesteuert, sind persistent und kontextsensitiv. Sie erfordern eine intelligente Datenverkehrssteuerung, die herkömmlicher Lastausgleich nicht bieten kann. Die erweiterte Lösung BIG-IP Next for Kubernetes unterstützt jetzt:

• Inferenzbewusstes Routing für agentenbasierte KI-Workflows
• Integration mit dem NVIDIA DOCA Platform Framework (DPF) zur Vereinfachung der Bereitstellung und Lebenszyklusverwaltung von NVIDIA BlueField-DPUs
• EVPN-VXLAN mit dynamischen VRFs für sichere Mandantenfähigkeit auf Netzwerkebene
• Integrierte Sicherheit, Token-Governance und Observability in Kubernetes-KI-Umgebungen

Diese Funktionen ermöglichen es Unternehmen und NeoCloud-Anbietern, GPU-Infrastruktur sicher über verschiedene Geschäftsbereiche hinweg oder mit externen Kunden zu teilen und dabei die Leistungsisolierung sowie vorhersehbare Service-Level zu gewährleisten.

Eine Steuerungsebene für die Wirtschaftlichkeit von KI-Fabriken

F5 und NVIDIA stellen Unternehmen validierte Tools und Best Practices zur Optimierung der Inferenzarchitektur bereit. Dank dieser Fortschritte ist BIG-IP Next for Kubernetes auf dem besten Weg, sich zu einer strategischen Steuerungsebene für die Wirtschaftlichkeit von KI-Fabriken zu entwickeln, die den Token-Verbrauch steuert, Datenverkehrsflüsse optimiert und die Kapitalrendite der Infrastruktur maximiert.

Anstatt Ineffizienzen durch Überdimensionierung auszugleichen, können Unternehmen nun aus jeder bereits produktiv eingesetzten GPU einen höheren wirtschaftlichen Nutzen ziehen. Das Ergebnis sind höhere Umsätze pro GPU, ein geringerer Betriebsaufwand und skalierbare KI-Dienste, die auf nachhaltiges Wachstum ausgelegt sind. Durch die Kombination der Infrastrukturtelemetrie und DPU-Beschleunigung von NVIDIA mit der intelligenten Datenverkehrssteuerung und den Sicherheitsfunktionen von F5 unterstützen die beiden Unternehmen ihre Kunden dabei, KI-Fabriken in effiziente, monetarisierbare Plattformen zu verwandeln, die für das Zeitalter agentenbasierter KI gerüstet sind.

Begleitmaterialien

• Blog: KI-Fabriken brauchen eine intelligente Infrastruktur. Neue Ergebnisse der Tolly Group zeigen, warum.
• Bericht: Unabhängige Tests von Tolly: F5 BIG-IP Next for Kubernetes

Über F5

F5, Inc. (NASDAQ: FFIV) ist der weltweit führende Anbieter für die Bereitstellung und Absicherung sämtlicher Anwendungen. Gestützt auf drei Jahrzehnte Erfahrung hat F5 die branchenweit führende Plattform entwickelt – die F5 Application Delivery and Security Platform (ADSP) –, um jede Anwendung und jede API überall bereitzustellen und abzusichern: lokal, in der Cloud, am Edge sowie in hybriden Multicloud-Umgebungen. F5 setzt auf Innovation und die Zusammenarbeit mit den weltweit größten und fortschrittlichsten Unternehmen, um schnelle, verfügbare und sichere digitale Erlebnisse zu ermöglichen. Gemeinsam unterstützen wir uns dabei, erfolgreich zu sein und eine bessere digitale Welt zu schaffen.

Weitere Informationen finden Sie unter f5.com
Entdecken Sie die Bedrohungsforschung von F5 Labs unter f5.com/labs
Folgen Sie uns, um mehr über F5, unsere Partner und Technologien zu erfahren: Blog | LinkedIn | X | YouTube | Instagram | Facebook

F5, BIG-IP und BIG-IP Next sind Marken, Dienstleistungsmarken oder Handelsnamen von F5, Inc. in den USA und anderen Ländern. Alle anderen hierin genannten Produkt- und Unternehmensnamen können Marken ihrer jeweiligen Eigentümer sein. Die in dieser Pressemitteilung beschriebene Zusammenarbeit begründet weder ein Joint Venture noch eine rechtliche Partnerschaft oder ein Vertretungsverhältnis zwischen F5 und NVIDIA.

Zukunftsgerichtete Aussagen
Diese Pressemitteilung enthält zukunftsgerichtete Aussagen zur erwarteten Leistung, Effizienz und zu den wirtschaftlichen Vorteilen der Integration von F5 mit NVIDIA, die Risiken und Unsicherheiten unterliegen.