Führungskräfte wissen, dass sie KI in den Mittelpunkt stellen müssen. Doch das ist leichter gesagt als getan. KI kann komplex, kostspielig und riskant sein. Zudem entwickeln sich sowohl die Technologie als auch das Ökosystem rasant weiter.
Erstens ist eine deutliche Abkehr von einem universellen Ansatz zu beobachten. Prädiktive KI/ML, generative KI und nun auch agentenbasierte KI werden jeweils an bestimmte Branchen und Anwendungsfälle angepasst. Mit der zunehmenden Verbreitung zweckgebundener KI-Modelle wird die KI-Landschaft immer vielfältiger.
Inzwischen ist klar, dass KI-Anwendungen eine maßgeschneiderte Infrastruktur benötigen, die nicht nur hinsichtlich Leistung, Kosten und Energieeffizienz optimiert ist, sondern auch mit den sich rasant weiterentwickelnden Anforderungen von KI-Modellen, -Anwendungen und -Agenten Schritt halten kann. Ein perfektes Beispiel dafür ist das Model Context Protocol (MCP), eine wegweisende Innovation, die es vor wenigen Monaten noch gar nicht gab.
Während Unternehmen darum wetteifern, die Vorteile generativer KI und zunehmend auch von KI-Agenten zu nutzen, bauen einige eigene dedizierte Rechenzentren auf. Andere wenden sich an spezialisierte Anbieter, die Cloud-Infrastrukturen in großem Maßstab bereitstellen, die auf die Unterstützung mehrerer großer Sprachmodelle (Large Language Models, LLMs) zugeschnitten sind. Diese Plattformen werden häufig als „KI-Fabriken“ oder Neoclouds bezeichnet und zeichnen sich durch massive Investitionen in beschleunigtes Computing, Netzwerktechnik und Speicher aus. Sie sind speziell darauf ausgelegt, die hohen Leistungs- und Skalierungsanforderungen von KI-Workloads zu erfüllen.
Der Aufbau einer souveränen, skalierbaren Infrastruktur für KI- und LLM-Inferenz erfordert die Bewältigung von vier zentralen Herausforderungen:
- Latenz und Leistung – Eine schnelle, reaktionsfähige KI ist unverzichtbar, insbesondere für interaktive Anwendungsfälle. Niemand wartet gerne vor einem Ladesymbol darauf, dass eine KI mit dem Denken fertig wird.
- Datensicherheit und Datenschutz – LLMs verarbeiten häufig sensible Daten. Eine sichere, vertrauliche Inferenz zu gewährleisten, ist von entscheidender Bedeutung und wird durch unterschiedliche Sicherheitsvorgaben und Compliance-Anforderungen in Cloud- und On-Premises-Umgebungen zusätzlich erschwert.
- Einhaltung gesetzlicher Vorschriften – Mit der zunehmenden Verbreitung von KI in verschiedenen Branchen stellen Vorschriften wie die Datenschutz-Grundverordnung (DSGVO) der Europäischen Union strenge Anforderungen an die Datennutzung, die Modellauswahl, die Transparenz und die Fairness. Die Einhaltung dieser Vorgaben ist unerlässlich.
- Modellverwaltung und -integration – KI-Modelle müssen kontinuierlich verwaltet, versioniert, überwacht und aktualisiert werden und sich nahtlos in bestehende Systeme integrieren lassen. Sie sind keine sofort einsatzbereite Plug-and-play-Lösung, doch Protokolle wie MCP erleichtern die Integration – trotz der Sicherheitsherausforderungen, mit denen KI-Modelle konfrontiert sind.
Den optimalen Chip für die jeweilige Aufgabe einsetzen
Bei F5 arbeiten wir mit NVIDIA zusammen, um sicherzustellen, dass KI-Fabriken und cloudbasierte KI-Infrastrukturen den Anforderungen moderner KI gerecht werden. Heute präsentieren wir auf der NVIDIA GTC Paris 2025 die nächste Innovationsstufe mit neuen Funktionen für F5 BIG-IP Next for Kubernetes auf NVIDIA BlueField-3 DPUs. Dies baut auf der verbesserten Leistung, Mandantenfähigkeit und Sicherheit auf, die wir auf der GTC San Jose 2025 vorgestellt haben. Als Teil der F5 Application Delivery and Security Platform wird F5 BIG-IP Next for Kubernetes nativ auf NVIDIA BlueField-3 ausgeführt – leistungsstarken, programmierbaren Prozessoren, die speziell für die Übertragung und Verarbeitung von Daten entwickelt wurden.
Durch die Auslagerung von Aufgaben wie Netzwerkverarbeitung, Speicherverwaltung und Sicherheitsvorgängen (z. B. Verschlüsselung und Datenverkehrsüberwachung) setzen DPUs wertvolle CPU-Zyklen und GPU-Ressourcen frei, die sich so auf KI-Training und Inferenz konzentrieren können. Dies reduziert Engpässe, steigert die Leistung und verbessert die Latenz, sodass KI-Fabriken schneller und effizienter arbeiten und mehr Token bereitstellen können.
DPUs befinden sich auf Netzwerkschnittstellenkarten und steuern den Datenfluss zwischen Servern sowie zwischen externen Kunden/Benutzern/Agenten und der KI-Fabrik. Dabei orchestrieren sie Netzwerk und Sicherheit in großem Maßstab. F5 BIG-IP Next for Kubernetes, das auf NVIDIA BlueField-3-DPUs bereitgestellt wird, ist seit April allgemein verfügbar.
KI-Prompts für das richtige Ergebnis an den richtigen Ort weiterleiten
LLMs haben sich in den letzten Monaten rasant weiterentwickelt und bieten mittlerweile eine große Bandbreite an Größen, Kosten und domänenspezifischem Fachwissen. Die Wahl des richtigen Modells für jeden Prompt sorgt nicht nur für bessere Antworten und die Einhaltung regulatorischer Vorgaben, sondern optimiert auch Ressourcenverbrauch, Kosten und Latenz.
Mit der heutigen Integration von NVIDIA NIM-Microservices können Unternehmen KI-Prompt-Anfragen nun intelligent an das am besten geeignete LLM beziehungsweise gezielt an das richtige Modell für die jeweilige Aufgabe weiterleiten. So können beispielsweise schlanke, energieeffiziente Modelle einfache Anfragen bearbeiten, während komplexere oder umfangreiche und spezialisierte Prompts an größere oder domänenspezifische Modelle weitergeleitet werden.
Dieser Ansatz ermöglicht es KI-Fabriken, Rechenressourcen effizienter zu nutzen und so die Inferenzkosten um bis zu 60 % zu senken. Davon profitieren sowohl Modellanbieter als auch Modellnutzer: Sie erhalten bessere Antworten – schneller und kostengünstiger.
Weniger Aufwand, mehr Leistung: Caching vermeidet redundante Berechnungen und steigert die Token-Ausgabe
Neben GPUs treibt NVIDIA auch auf Softwareebene kontinuierlich Innovationen voran, um zentrale Herausforderungen bei der KI-Inferenz zu bewältigen. NVIDIA Dynamo und der KV-Cache, die in NVIDIA NIM enthalten sind, sind hervorragende Beispiele dafür. NVIDIA Dynamo ermöglicht eine entkoppelte Bereitstellung für die Inferenz, indem das GPU-rechenintensive Kontextverständnis (Prefill) und die speicherbandbreitenintensive Antwortgenerierung (Decode) auf verschiedene GPU-Cluster verteilt werden. Dies verbessert die GPU-Auslastung und vereinfacht die Skalierung über mehrere Rechenzentren hinweg, da Planung, Routing und Speicherverwaltung effizient gehandhabt werden. Der KV-Cache optimiert die Speicherung und den Zugriff auf den Modellkontext. Indem häufig verwendete Daten im GPU-Speicher vorgehalten und die übrigen Daten auf die CPU oder einen anderen Speicher ausgelagert werden, werden Speicherengpässe reduziert. So lassen sich größere Modelle oder mehr Benutzer unterstützen, ohne dass zusätzliche Hardware erforderlich ist.
Eine leistungsstarke neue Funktion von BIG-IP Next for Kubernetes ist die Unterstützung von KV-Caching, das die KI-Inferenz beschleunigt und gleichzeitig den Zeit- und Energieaufwand reduziert. In Kombination mit dem intelligenten Routing von NVIDIA Dynamo, das auf einigen wenigen expliziten Metriken wie der GPU-Speicherauslastung und weiteren Kriterien basiert, ermöglicht dies eine deutlich kürzere Zeit bis zum ersten Token (TTFT), eine höhere Token-Generierungsrate und letztlich einen höheren Prompt-Durchsatz. DeepSeek konnte Kapazitätssteigerungen um das 10- bis 30-Fache nachweisen.
Kunden können die Programmierbarkeit von F5 nutzen, um die Funktionen von F5 BIG-IP zu erweitern und anzupassen und so ihre spezifischen und individuellen Anforderungen mit sehr hoher Leistung zu erfüllen.
MCP für sichere und souveräne agentenbasierte KI operationalisieren und absichern
Für die meisten Unternehmen – insbesondere für große Organisationen wie Finanzdienstleister, Telekommunikations- und Gesundheitsunternehmen mit komplexen Altsystemen – ist agentenbasierte KI äußerst attraktiv. Diese auf LLMs basierenden KI-Agenten können komplexe Datenbanken, Server, Tools und Anwendungen durchsuchen, um präzise Informationen abzurufen und so ein neues Maß an Effizienz und Erkenntnisgewinn zu ermöglichen.
MCP wurde im November 2024 von Anthropic eingeführt und verändert grundlegend, wie KI-Systeme mit realen Daten, Tools und Diensten interagieren. Als standardisierte Konnektoren ermöglichen MCP-Server KI-Modellen den Echtzeitzugriff auf APIs, Datenbanken und Dateisysteme. Dadurch kann KI die Grenzen statischer Trainingsdaten überwinden und Aufgaben effizient ausführen. Mit zunehmender Verbreitung benötigen diese Server fortschrittliche Reverse-Proxys mit Lastverteilung, robuste Sicherheitsmechanismen, Authentifizierung und Autorisierung für Daten und Tools sowie eine nahtlose Kubernetes-Integration. Damit wird MCP zu einer zentralen Säule souveräner KI-Infrastrukturen und trägt dazu bei, agentenbasierte KI abzusichern und zu ermöglichen.
Als Reverse-Proxy vor den MCP-Servern eingesetzt, kann BIG-IP Next for Kubernetes auf NVIDIA BlueField-3-DPUs MCP-Server skalieren und absichern, indem es Anfragen überprüft, Daten klassifiziert sowie deren Integrität und Datenschutz kontrolliert – und so sowohl Unternehmen als auch LLMs vor Sicherheitsbedrohungen und Datenlecks schützt. Gleichzeitig lässt sich dank der Programmierbarkeit von F5 unkompliziert sicherstellen, dass die KI-Anwendung die Anforderungen von MCP und anderen Protokollen erfüllt.
Wenn Token die neue Währung sind, sollten wir sie zählen, verwalten und mit Bedacht einsetzen.
In jüngsten Ergebnisveröffentlichungen haben einige große Unternehmen damit begonnen, die Anzahl der pro Quartal generierten Token, deren Wachstum und die damit verbundenen Umsätze offenzulegen. Dies spiegelt ein wachsendes Bedürfnis unserer Kunden wider: Sie möchten die Token-Nutzung wie ein Budget nachverfolgen, verwalten und kontrollieren können, um unerwartete Kosten zu vermeiden, wie sie bei Public Clouds mitunter entstehen.
Deshalb umfasst BIG-IP Next for Kubernetes jetzt neue Funktionen zur Messung und Steuerung des Token-Verbrauchs im gesamten Unternehmen. Wenn Kunden Wünsche äußern, hören wir zu und setzen sie mit Sorgfalt um.
Aufbau sicherer, schneller, souveräner und flexibler KI-Fabriken
Während Branchen KI-Fabriken entwickeln und Länder ihre souveräne KI aufbauen, gewinnen KI-Agenten zunehmend an Bedeutung. Daher müssen Infrastrukturen, Ökosysteme und Anwendungen flexibel und anpassungsfähig sein. Unternehmen, die KI effizient einsetzen, können schneller agieren, ihre Kunden besser bedienen und Kosten senken. Um dieses Potenzial auszuschöpfen, muss KI jedoch sicher, skalierbar und kosteneffizient bleiben, ohne das Innovationstempo zu bremsen.
Hier kommt F5 ins Spiel. Im vergangenen März haben wir Performance, Mandantenfähigkeit und Sicherheit bereitgestellt. Mit BIG-IP Next for Kubernetes ermöglichen wir jetzt Innovationen, die mit der Geschwindigkeit von KI Schritt halten.
Unser Versprechen: Mehr Tokens pro Dollar und pro Watt. Probieren Sie es aus und überzeugen Sie sich selbst vom Unterschied.
Nehmen Sie an der GTC Paris 2025 teil?
F5 ist stolz darauf, Gold-Sponsor der NVIDIA GTC Paris 2025 zu sein. Besuchen Sie uns am Stand G27 und erfahren Sie, wie die F5 Application Delivery and Security Platform eine sichere, leistungsstarke KI-Infrastruktur unterstützt. Nehmen Sie außerdem an unserer gemeinsamen Session mit NVIDIA teil: „Sichere Infrastruktur von Grund auf: Aufbau vertrauenswürdiger KI-Fabriken“ am Donnerstag, den 12. Juni, um 10:00 Uhr MESZ.
Weitere Informationen zu F5 BIG-IP Next for Kubernetes, das auf NVIDIA BlueField-3-DPUs bereitgestellt wird, finden Sie in meinem vorherigen Blogbeitrag. Lesen Sie außerdem unbedingt unsere Pressemitteilung zur heutigen Ankündigung.
Das KI-Engagement von F5 geht noch weiter – erfahren Sie, wie F5 KI-Anwendungen überall sicher bereitstellt.
Über den Autor
Ähnliche Blogbeiträge
F5 und Equinix bündeln ihre Kräfte, um die sichere Anwendungsbereitstellung in Multicloud-Umgebungen zu vereinfachen
F5 und Equinix ermöglichen es Unternehmen, sich weltweit sicher und zuverlässig mit ihren Partnern zu vernetzen.
API-Sicherheitsrisiken und -herausforderungen
Erfahren Sie, warum APIs für die moderne App-Entwicklung unverzichtbar sind und wie Sie sie vor den häufigsten Sicherheitslücken schützen. Profitieren Sie von Expertentipps und direkt umsetzbaren Strategien.
Ein Meilenstein für die Community Impact Grants von F5
F5 feiert das fünfjährige Bestehen seines innovativen Community Impact Grant-Programms, das gemeinnützige Organisationen, bei denen sich F5-Mitarbeitende ehrenamtlich engagieren, mit Fördermitteln in Höhe von 5.000 US-Dollar unterstützt.
Mit moderner, anpassungsfähiger und sicherer Gesundheits-IT Leben retten
Die IT-Investitionen im Gesundheitswesen tragen dazu bei, die schnellsten Wege zu einer besseren Versorgung zu finden, indem sie die medizinische Betreuung näher an die Patientinnen und Patienten bringen. Viele Gesundheitsunternehmen nutzen riesige Mengen an klinischen und anderen Gesundheitsdaten, um Entwicklungen zu verfolgen und übergreifende Trends in der gesamten Gesundheitslandschaft zu erkennen. Gleichzeitig nähern sie sich einer möglichst präzisen, individuell zugeschnittenen Versorgung an.
Verbesserung der Benutzer- und Administrationserfahrung durch sicheren hybriden Zugriff
Diese Kombination aus BIG-IP Access Policy Manager und Azure Active Directory ermöglicht Identitätsföderation, zentralisierten Benutzerzugriff (über Single Sign-on) und erhöhte Anwendungssicherheit (durch Multi-Faktor-Authentifizierung) für geschäftskritische Anwendungen sowie cloudbasierte und SaaS-Anwendungen. Dieser Ansatz vereinfacht die Einrichtung und Bereitstellung, reduziert den Verwaltungsaufwand und verbessert die gesamte Administration.
Das Internet der Sicherheitsdinge
Nein, das ist keine Tirade über die Sicherheit des IoT. Es ist eine Geschichte über Veränderung – genauer gesagt über Veränderung und ihre Auswirkungen auf die Sicherheit. Veränderung ist allgegenwärtig. Es gibt unzählige Axiome und Sprichwörter über Veränderung, also ist es ...