Dieser Blogbeitrag wurde gemeinsam von Ahmed Guetari, Vice President of Product Management – Service Provider bei F5, und Ash Bhalgat, Senior Director of AI Networking and Security Ecosystems bei NVIDIA, verfasst.
KI tritt in eine Ära ein, in der Inferenzleistung und Sicherheit darüber entscheiden, ob Kundenerwartungen erfolgreich erfüllt werden. In der sich entwickelnden Ära der Token-Ökonomie geht es bei KI-Infrastruktur nicht mehr nur um reine Rechenleistung. Vielmehr müssen Inferenzkapazitäten von der Cloud bis hin zu Edge-Rechenzentren orchestriert, abgesichert und skaliert werden. Cloud-Betreiber, die Plattformen für generative KI und Inferenz aufbauen, müssen dringend die GPU-Effizienz maximieren, die Token-Kapazität erhöhen, die Latenz reduzieren und jede Ebene ihrer KI-Infrastruktur absichern.
F5 begegnet diesen Herausforderungen durch die Skalierung der Inferenz mithilfe der Referenzarchitektur für NVIDIA Cloud Partner (NCP). Dieser grundlegende Bauplan legt fest, wie führende KI-Cloud-Anbieter GPU-beschleunigte Infrastrukturen konzipieren, aufbauen und betreiben. Die Referenzarchitektur integriert führende Technologien aus den Bereichen Computing, Netzwerk, Speicher und Sicherheit, damit NVIDIA Cloud Partner zuverlässige, leistungsstarke KI-Dienste in großem Maßstab bereitstellen können.
“Indem wir die Funktionen von F5 auf die Referenzarchitektur für NVIDIA Cloud Partner abstimmen, tragen wir dazu bei, eine neue Bilanz zu etablieren – eine, in der Token-Durchsatz, Kosten pro Token, Latenz, Energieeffizienz und Sicherheit höchste Priorität haben.”
Durch diese Zusammenarbeit spielt F5 BIG-IP nun eine entscheidende Rolle bei der Bereitstellung sicherer Inferenz mit hohem Durchsatz innerhalb des NVIDIA-Ökosystems.
F5 integriert Netzwerk-, Sicherheits- und Anwendungsbereitstellungsfunktionen eng miteinander, um gemeinsam mit NVIDIA intelligente, tokenbasierte KI-Plattformen zu ermöglichen. Damit definiert F5 den Betrieb von KI in großem Maßstab neu und bietet die Geschwindigkeit, den Schutz und die Intelligenz, die für die neue Token-Ökonomie erforderlich sind.
NCP-Referenzarchitektur: Eine Grundlage für die KI-Cloud
Die NCP-Referenzarchitektur bietet ein umfassendes Framework für die Bereitstellung von KI-Clouds. Sie kombiniert NVIDIA-Technologien für beschleunigtes Computing, Netzwerke und Software mit ergänzenden Technologien führender Partner aus dem Ökosystem und ermöglicht so leistungsstarke, skalierbare und sichere KI-Lösungen in der Cloud.
Als Teil dieser Architektur bietet F5 BIG-IP erweitertes Traffic-Management, Zero-Trust-Sicherheit, fortschrittliche Dienste und Observability für GPU-gestützte KI-Workloads und unterstützt NCPs dabei, Inferenzdienste zuverlässig bereitzustellen, zu skalieren und abzusichern.
Der Aufstieg der Token-Ökonomie und der NCP-Referenzarchitektur
Für KI-Cloud-Anbieter und Unternehmen sind Tokens die neue Währung – gemessen an Durchsatz, Gesamtlatenz, Zeit bis zum ersten Token, Energieeffizienz und Kosten pro Token. Der Erfolg hängt von der Infrastruktur ab, die Nutzer mit GPU-Clustern verbindet. Zur Unterstützung leistungsstarker KI-Dienste müssen Datenverkehrssteuerung, Schutz, Beobachtbarkeit, Mandantenfähigkeit und Richtliniendurchsetzung mit voller Leitungsgeschwindigkeit arbeiten, ohne Engpässe zu verursachen.
Die NCP-Referenzarchitektur schreibt diesen Bauplan fest. Sie definiert, wie Sovereign Clouds und KI-Clouds Rechenleistung, Netzwerke, Speicher, Telemetrie und Sicherheit miteinander verknüpfen sollten. NVIDIA BlueField-3 DPUs bilden in diesen Architekturen das zentrale Bindeglied für den Nord-Süd-Datenverkehr.
F5 wird Teil dieses Ökosystems und fungiert als erstklassiger Infrastruktur-Enabler, der Netzwerkfunktionen, Sicherheit und KI-gestützte Steuerung direkt in die Referenzarchitektur integriert.
F5: Beschleunigung von NCP-KI-Clouds für mehr Leistung, Sicherheit und Effizienz
F5 hat durch die Integration von NVIDIA-Technologie bereits hervorragende Ergebnisse erzielt. Im April 2025 gab F5 die allgemeine Verfügbarkeit von F5 BIG-IP Next for Kubernetes mit Beschleunigung durch NVIDIA BlueField-3-DPUs bekannt. Diese Lösung verlagert die Netzwerkverarbeitung, die Durchsetzung von Sicherheitsrichtlinien und die Analyse des Datenverkehrs auf die DPU, sodass die CPUs für Geschäftsanwendungen zur Verfügung stehen. SoftBank, ein NCP, der kürzlich einen Proof of Concept (PoC) in der Cloud durchgeführt hat, erzielte herausragende Leistungsergebnisse.
Über die reine Leistung hinaus sind die Funktionen von F5 BIG-IP genau auf die betrieblichen Anforderungen von NCPs abgestimmt, darunter die einheitliche Richtliniensteuerung für ein- und ausgehenden Datenverkehr, Service Mesh, die Abwehr verteilter Denial-of-Service-Angriffe (DDoS), die Durchsetzung von Zero Trust, API-Schutz, Workload-Isolierung und mandantenfähige Observability – alles in einem einzigen Durchlauf.
Im Rahmen unserer Zusammenarbeit haben wir die Routing-Logik für Large Language Models (LLMs), die tokenbasierte Messung und Steuerung des Datenverkehrs sowie die Unterstützung des Model Context Protocol (MCP) optimiert und so mehr Kontrolle und Intelligenz direkt in den Datenpfad integriert.
Durch die Unterstützung der NCP-Referenzarchitektur wird BIG-IP nun zu einem fest verankerten Bestandteil bei der Entwicklung, Bereitstellung und Verwaltung von KI-Clouds.
Beschleunigung des KI-Durchsatzes: 30 % mehr Token, 60 % kürzere TTFT
Die ersten Validierungsergebnisse sind äußerst überzeugend. Wenn F5 BIG-IP-Dienste zusammen mit der NVIDIA-Plattform für beschleunigtes Computing bereitgestellt werden, steigt die Token-Generierung um mehr als 30 %, während die Zeit bis zum ersten Token (TTFT) um 60 % sinkt.
Diese Verbesserungen ermöglichen längere, kontextbezogenere Antworten, schnellere Inferenzzyklen und eine Senkung der Kosten pro Token um 30 %. In Verbindung mit einer höheren Anzahl von Tokens pro Watt steigert diese Integration sowohl die Leistung als auch die Energieeffizienz – entscheidende Faktoren für die neue Wirtschaftlichkeit von KI.
Für Cloud-Kunden bietet der Betrieb auf NCPs erhebliche Vorteile: eine schnellere Wertschöpfung, niedrigere Betriebskosten und eine bessere Benutzererfahrung bei jedem bereitgestellten Modell.
Diese Fortschritte gehen über schrittweise Verbesserungen hinaus; sie signalisieren einen strukturellen Aufschwung bei der Bereitstellung, Absicherung und Monetarisierung von Diensten durch die KI-Cloud.
Drei Säulen des Einflusses von F5 innerhalb der NCP-Referenzarchitektur
Die Einbindung von F5 in die NCP-Referenzarchitektur wird Kunden, die KI-Dienste bereitstellen, Leistungsvorteile, erhöhte Sicherheit und einen erweiterten Funktionsumfang bieten, insbesondere in den folgenden Schlüsselbereichen:
1. Leistungssteigerungen: Entwickelt für die Token-Ökonomie: F5 BIG-IP lässt sich nahtlos in NVIDIA-GPUs, -DPUs, Netzwerk-Fabrics und Softwareplattformkomponenten (NVIDIA Dynamo, NVIDIA NIM) integrieren, um den Durchsatz bei der KI-Inferenz zu maximieren. Die F5-Lösung optimiert das Prompt-Routing, den Lastenausgleich und die Inferenzeffizienz, beseitigt Engpässe und liefert mehr Token pro Sekunde und Cluster.
In einem Umfeld, in dem jedes Token zu Umsatz und Modellgenauigkeit beiträgt, ermöglichen diese Verbesserungen eine höhere Produktivität, schnellere Reaktionszeiten und eine größere Rentabilität. Die Zusammenarbeit zwischen F5 und NVIDIA erschließt das volle Potenzial beschleunigter Infrastrukturen in der aufstrebenden Token-Ökonomie, in der Effizienz und Leistung den Geschäftserfolg unmittelbar vorantreiben.
2. Neu konzipierte Sicherheit für KI-Inferenz: KI-Inferenz in großem Maßstab eröffnet neue Angriffsflächen – von der Offenlegung von Daten bis hin zum Missbrauch von Modellendpunkten. F5 bringt seine umfassende Expertise in den Bereichen Anwendungssicherheit und Richtliniendurchsetzung direkt in die Referenzarchitektur von NVIDIA ein und bietet einen mehrschichtigen Schutz, der GPU-Clouds vom Kern bis zum Edge absichert. Dazu gehören:
- Fortschrittlicher DDoS-Schutz und adaptive Abschirmung des Datenverkehrs für Inferenz-APIs.
- Durchsetzung von Zero Trust und richtlinienbasierte Identitätskontrolle über verschiedene Umgebungen hinweg.
- Vollständige Layer-7-Firewall-Funktionalität und MCP-Sicherheit für durchgängige Integrität des Datenverkehrs.
- Umfassender Datenschutz zur Erfüllung globaler Compliance- und Datenschutzstandards.
Das Ergebnis ist eine vertrauenswürdige KI-Infrastruktur, in der Leistung und Schutz Hand in Hand gehen und die es NCP-Kunden ermöglicht, sicher zu skalieren, ohne Abstriche bei Sicherheit oder Compliance zu machen.
3. Erweiterte Funktionalität und KI-native Steuerung: Über Durchsatz und Sicherheit hinaus führt die Zusammenarbeit zwischen F5 und NVIDIA neue Mehrwertdienste ein, die die Steuerung, Transparenz und Intelligenz über GPU-Cluster hinweg verbessern. Funktionen wie LLM-Routing, granulare Token-Governance, adaptive Beobachtbarkeit und kontextabhängige Datenverkehrssteuerung ermöglichen es KI-Betreibern, die Platzierung von Workloads und die Ressourcennutzung in Echtzeit zu optimieren.
Diese Funktionen übertragen die Anwendungsbereitstellung auf Enterprise-Niveau auf den KI-Bereich und sorgen dafür, dass jedes Token, jedes Modell und jede Benutzerinteraktion präzise und effizient verarbeitet wird. So verwandelt F5 Komplexität in Kontrolle und schlägt eine Brücke zwischen herkömmlichen Anwendungen und der sich rasant entwickelnden Welt der generativen KI.
Ein neues Register für KI-Infrastruktur
Indem wir die Funktionen von F5 auf die NCP-Referenzarchitektur abstimmen, tragen wir dazu bei, neue Maßstäbe zu etablieren – Maßstäbe, bei denen Durchsatz, Kosten pro Token, Latenz, Energieeffizienz und Sicherheit bei der Gestaltung von KI-Infrastrukturen höchste Priorität haben.
KI-Clouds, die auf dieser Grundlage aufbauen, lassen sich planbarer skalieren, transparenter monetarisieren und schneller an die Weiterentwicklung von Modellen und Workloads anpassen. NCPs, Unternehmen und souveräne Clouds können sich nun auf einen validierten Referenz-Stack stützen, der sowohl Vertrauen als auch Leistung bietet.
F5 schließt sich nicht einfach nur dem NVIDIA-Ökosystem an. Gemeinsam treiben wir die Token-Ökonomie voran, in der jede Mikrosekunde, jedes Watt und jedes Token zählt. Als strategischer Wegbereiter für eine sichere, leistungsstarke und wirtschaftlich skalierbare KI-Infrastruktur arbeitet F5 mit NVIDIA zusammen, um Kunden dabei zu unterstützen, Token effizienter, schneller, sicherer und intelligenter zu generieren.
Wir freuen uns darauf, gemeinsam mit Ihnen – unseren Kunden, Partnern und Mitinnovatoren – die nächste Generation von KI-Diensten ohne Kompromisse zu entwickeln.
Weitere Informationen finden Sie auf unserer Webseite von F5 und NVIDIA.
Über die Autoren
Ähnliche Blogbeiträge
F5 und Equinix bündeln ihre Kräfte, um die sichere Anwendungsbereitstellung in Multicloud-Umgebungen zu vereinfachen
F5 und Equinix ermöglichen es Unternehmen, sich weltweit sicher und zuverlässig mit ihren Partnern zu vernetzen.
API-Sicherheitsrisiken und -herausforderungen
Erfahren Sie, warum APIs für die moderne App-Entwicklung unverzichtbar sind und wie Sie sie vor den häufigsten Sicherheitslücken schützen. Profitieren Sie von Expertentipps und direkt umsetzbaren Strategien.
Ein Meilenstein für die Community Impact Grants von F5
F5 feiert das fünfjährige Bestehen seines innovativen Community Impact Grant-Programms, das gemeinnützige Organisationen, bei denen sich F5-Mitarbeitende ehrenamtlich engagieren, mit Fördermitteln in Höhe von 5.000 US-Dollar unterstützt.
Mit moderner, anpassungsfähiger und sicherer Gesundheits-IT Leben retten
Die IT-Investitionen im Gesundheitswesen tragen dazu bei, die schnellsten Wege zu einer besseren Versorgung zu finden, indem sie die medizinische Betreuung näher an die Patientinnen und Patienten bringen. Viele Gesundheitsunternehmen nutzen riesige Mengen an klinischen und anderen Gesundheitsdaten, um Entwicklungen zu verfolgen und übergreifende Trends in der gesamten Gesundheitslandschaft zu erkennen. Gleichzeitig nähern sie sich einer möglichst präzisen, individuell zugeschnittenen Versorgung an.
Verbesserung der Benutzer- und Administrationserfahrung durch sicheren hybriden Zugriff
Diese Kombination aus BIG-IP Access Policy Manager und Azure Active Directory ermöglicht Identitätsföderation, zentralisierten Benutzerzugriff (über Single Sign-on) und erhöhte Anwendungssicherheit (durch Multi-Faktor-Authentifizierung) für geschäftskritische Anwendungen sowie cloudbasierte und SaaS-Anwendungen. Dieser Ansatz vereinfacht die Einrichtung und Bereitstellung, reduziert den Verwaltungsaufwand und verbessert die gesamte Administration.
Das Internet der Sicherheitsdinge
Nein, das ist keine Tirade über die Sicherheit des IoT. Es ist eine Geschichte über Veränderung – genauer gesagt über Veränderung und ihre Auswirkungen auf die Sicherheit. Veränderung ist allgegenwärtig. Es gibt unzählige Axiome und Sprichwörter über Veränderung, also ist es ...