Da Unternehmen ihre Innovationen beschleunigen und KI-gestützte, bahnbrechende Produkte wie selbstfahrende Autos oder große Sprachmodelle (Large Language Models, LLMs) entwickeln, ist eine effiziente Infrastruktur entscheidend, um den Betrieb zu skalieren und wettbewerbsfähig zu bleiben. Traditionell setzten Rechenzentren auf Hauptprozessoren (Central Processing Units, CPUs) für allgemeine Rechenaufgaben und Grafikprozessoren (Graphics Processing Units, GPUs) für rechenintensive parallele Verarbeitungsaufgaben, die für KI und maschinelles Lernen von zentraler Bedeutung sind. Da KI-Modelle immer größer und komplexer werden, haben sich Rechenzentren zur neuen Recheneinheit entwickelt und stoßen damit an die Grenzen herkömmlicher Cloud-Netzwerke. Um den Wandel hin zum Computing im Rechenzentrumsmaßstab zu ermöglichen, hat sich die Datenverarbeitungseinheit (Data Processing Unit, DPU) als dritte Säule des Computings etabliert.
Der Aufstieg der KI-Fabriken
In einem früheren Beitrag unserer Reihe über KI-Fabriken hat F5 eine KI-Fabrik definiert als eine umfangreiche Investition in Speicher-, Netzwerk- und Rechenkapazitäten, die den Anforderungen an Training und Inferenz mit hohem Volumen und hoher Leistung gerecht wird. Ähnlich wie herkömmliche Produktionsanlagen nutzen KI-Fabriken vortrainierte KI-Modelle, um Rohdaten in verwertbare Erkenntnisse umzuwandeln.
Was ist eine Datenverarbeitungseinheit (Data Processing Unit, DPU)?
Eine DPU ist ein programmierbarer Prozessor, der dafür ausgelegt ist, enorme Datenbewegungen und -verarbeitungsaufgaben durch Hardwarebeschleunigung mit der Leitungsgeschwindigkeit eines Netzwerks zu bewältigen. Ende 2024 kündigten wir die Bereitstellung von BIG-IP Next for Kubernetes auf NVIDIA BlueField-3-DPUs an. NVIDIA BlueField ist eine Plattform für beschleunigtes Computing in Rechenzentrumsinfrastrukturen, die speziell für den Betrieb von NVIDIA-KI-Fabriken entwickelt wurde. Während die CPU für universelle Rechenaufgaben in Computeranwendungen zuständig ist und die GPU bei beschleunigten Rechenaufgaben wie KI-bezogenen, groß angelegten Vektor- und Matrixberechnungen sowie beim Grafik-Rendering besonders leistungsfähig ist, wird die NVIDIA BlueField-DPU häufig in eine PCIe-Netzwerkschnittstellenkarte (Peripheral Component Interconnect Express, NIC) integriert, die für die Netzwerkanbindung des Hosts oder Chassis eines KI-Clusters verantwortlich ist. Mit anderen Worten: Die NIC ist inzwischen im Wesentlichen zu einem leistungsstarken Prozessor geworden, der für die Verarbeitung von Daten beim Ein- und Ausgang aus dem Server optimiert ist. Die BlueField-DPU kann auch als Netzwerkgerät für die Kommunikation zwischen Clustern fungieren, wenn sich mehrere Hosts oder Chassis in einem einzigen KI-Cluster befinden.
“Eine DPU ist ein programmierbarer Prozessor, der dafür ausgelegt ist, enorme Datenmengen mithilfe von Hardwarebeschleunigung mit voller Netzwerkgeschwindigkeit zu übertragen und zu verarbeiten.”
Entfesselte Leistung
Durch die Übernahme von softwaredefinierter Vernetzung, Speicherverwaltung und Sicherheitsdiensten reduzieren BlueField-DPUs die Rechenlast der CPUs, sodass diese sich auf die Aufgaben konzentrieren können, für die sie am besten geeignet sind. Diese Auslagerungsfunktion ist für KI-Fabriken von entscheidender Bedeutung, da dort enorme Datenmengen schnell verarbeitet und übertragen werden müssen, um die Anforderungen komplexer KI-Modelle und Echtzeit-Inferenzaufgaben zu erfüllen.
BlueField-DPUs leisten einen wesentlichen Beitrag zur Energieeffizienz und Skalierbarkeit von KI-Fabriken. Da KI-Fabriken enorme Rechenressourcen benötigen, ist eine effiziente Steuerung der Stromversorgung und Kühlung von entscheidender Bedeutung. DPUs sorgen mit ihren spezialisierten Beschleunigungs-Engines und leistungsstarken Netzwerkschnittstellen dafür, dass Daten mit minimaler Latenz und geringem Stromverbrauch verarbeitet und übertragen werden. Diese Effizienz senkt nicht nur die Betriebskosten, sondern ermöglicht auch eine effektive Skalierung von KI-Fabriken. Mit BlueField-DPUs können KI-Fabriken und groß angelegte Infrastrukturen eine ausgewogene, leistungsstarke und hocheffiziente Infrastruktur realisieren, die die kontinuierliche Innovation und Bereitstellung von KI-Technologien unterstützt.
Wo werden BlueField-DPUs in KI-Fabriken eingesetzt?
Betrachtet man die KI-Referenzarchitektur von F5, werden DPUs üblicherweise in den Funktionsbereichen RAG-Korpusverwaltung, Feinabstimmung, Training und Inferenzdienste sowie in den Speicherclustern eingesetzt, die diese Funktionen unterstützen. Darüber hinaus kommen DPUs in zahlreichen Anwendungen zum Einsatz, bei denen ein hoher Datendurchsatz und Energieeffizienz erforderlich sind, beispielsweise zur Unterstützung von 5G-Funkzugangsnetzen (RAN).
Die F5-KI-Referenzarchitektur mit Hervorhebung der Bereiche, in denen DPUs üblicherweise eingesetzt werden.
Auslagerung und Beschleunigung der Anwendungsbereitstellung und -sicherheit auf die DPU
Die neue Anforderung an ein effizientes Datenverkehrsmanagement und eine robuste Sicherheit für KI-Fabriken stellt einen wichtigen Wandel dar, bei dem der Datenfluss und eine gehärtete Infrastruktur zur Abwehr von Sicherheitsbedrohungen im Mittelpunkt stehen. F5 BIG-IP Next for Kubernetes wird auf NVIDIA BlueField-3-DPUs bereitgestellt und ermöglicht Konnektivität mit geringer Latenz und hohem Durchsatz, indem die Datenübertragung von der CPU auf die DPUs ausgelagert und beschleunigt wird. Darüber hinaus integriert die Lösung umfassende Sicherheitsfunktionen wie Firewalls, DDoS-Abwehr, WAF, API-Schutz und Angriffserkennung direkt auf der programmierbaren NVIDIA BlueField-3-DPU. So können Sie eine Architektur schaffen, die KI-Modelle und -Anwendungen von Bedrohungen isoliert und Datenintegrität sowie Datensouveränität gewährleistet.
BIG-IP Next for Kubernetes unterstützt Mandantenfähigkeit und ermöglicht so das Hosting mehrerer Benutzer und KI-Workloads auf einer gemeinsamen Infrastruktur bei gleichzeitiger Netzwerkisolierung. Die Verwaltung einer umfangreichen KI-Infrastruktur wird mit BIG-IP Next for Kubernetes vereinfacht, da die Lösung eine zentrale Stelle für die Verwaltung von Netzwerken, Datenverkehr, Sicherheit und mandantenfähigen Umgebungen bereitstellt. Dies vereinfacht den Betrieb und senkt die Betriebskosten, indem detaillierte Daten zum Datenverkehr für Netzwerktransparenz und Leistungsoptimierung bereitgestellt werden. Die Integration von BIG-IP Next for Kubernetes und der NVIDIA BlueField-3 DPU trägt dazu bei, dass KI-Fabriken ihr volles Potenzial ausschöpfen können, während gleichzeitig die Anzahl der eingesetzten Tools und die betriebliche Komplexität reduziert werden.
Unterstützt von F5
Für Unternehmen, die in KI investieren, ist eine optimierte und sichere Infrastruktur unverzichtbar. F5 BIG-IP Next for Kubernetes auf NVIDIA BlueField-3-DPUs ist eine strategische Investition, die hohe Leistung, Skalierbarkeit und Sicherheit bietet und so die Rendite umfangreicher KI-Infrastrukturen maximiert. Unternehmen, die GPUs und DPUs zur Unterstützung ihrer Investitionen in KI-Fabriken einsetzen, können F5 kontaktieren, um zu erfahren, wie BIG-IP Next for Kubernetes ihre KI-Workloads optimieren kann.
Das Engagement von F5 im Bereich KI geht noch weiter – erfahren Sie, wie F5 KI-Anwendungen überall absichert und bereitstellt.
Möchten Sie mehr über KI-Fabriken erfahren? Entdecken Sie weitere Beiträge aus unserer Blogreihe zu KI-Fabriken:
- Was ist eine KI-Fabrik? ›
- Retrieval-Augmented Generation (RAG) für KI-Fabriken ›
- Traffic-Management für die Dateneinspeisung in KI-Fabriken optimieren ›
- Edge-Datenquellen optimal mit KI-Fabriken verbinden ›
- Multicloud-Skalierbarkeit und -Flexibilität unterstützen KI-Fabriken ›
- API-Schutz für KI-Fabriken: Der erste Schritt zur KI-Sicherheit ›
- Die Bedeutung der Netzwerksegmentierung für KI-Fabriken ›
- KI-Fabriken produzieren die modernsten aller modernen Anwendungen: KI-Anwendungen ›
Über den Autor
Hunter Smit ist Senior Manager im Produktmarketing für Lösungen und Strategie bei F5. Er leitet das Lösungsmarketing für das gesamte F5-Portfolio, einschließlich KI-Infrastruktur und Anwendungssicherheit, und treibt den Einstieg von F5 in den aufstrebenden Markt für die Bereitstellung von KI-Daten voran. Hunter ist Mitglied des Beirats der School of Business der Whitworth University und war als Lehrbeauftragter für Produktmarketing tätig. Er erwarb an der Whitworth University einen MBA sowie einen Bachelor of Business Administration mit Schwerpunkt Management.
Weitere Blogbeiträge von Hunter SmitÄhnliche Blogbeiträge
F5 und Equinix bündeln ihre Kräfte, um die sichere Anwendungsbereitstellung in Multicloud-Umgebungen zu vereinfachen
F5 und Equinix ermöglichen es Unternehmen, sich weltweit sicher und zuverlässig mit ihren Partnern zu vernetzen.
API-Sicherheitsrisiken und -herausforderungen
Erfahren Sie, warum APIs für die moderne App-Entwicklung unverzichtbar sind und wie Sie sie vor den häufigsten Sicherheitslücken schützen. Profitieren Sie von Expertentipps und direkt umsetzbaren Strategien.
Ein Meilenstein für die Community Impact Grants von F5
F5 feiert das fünfjährige Bestehen seines innovativen Community Impact Grant-Programms, das gemeinnützige Organisationen, bei denen sich F5-Mitarbeitende ehrenamtlich engagieren, mit Fördermitteln in Höhe von 5.000 US-Dollar unterstützt.
Mit moderner, anpassungsfähiger und sicherer Gesundheits-IT Leben retten
Die IT-Investitionen im Gesundheitswesen tragen dazu bei, die schnellsten Wege zu einer besseren Versorgung zu finden, indem sie die medizinische Betreuung näher an die Patientinnen und Patienten bringen. Viele Gesundheitsunternehmen nutzen riesige Mengen an klinischen und anderen Gesundheitsdaten, um Entwicklungen zu verfolgen und übergreifende Trends in der gesamten Gesundheitslandschaft zu erkennen. Gleichzeitig nähern sie sich einer möglichst präzisen, individuell zugeschnittenen Versorgung an.
Verbesserung der Benutzer- und Administrationserfahrung durch sicheren hybriden Zugriff
Diese Kombination aus BIG-IP Access Policy Manager und Azure Active Directory ermöglicht Identitätsföderation, zentralisierten Benutzerzugriff (über Single Sign-on) und erhöhte Anwendungssicherheit (durch Multi-Faktor-Authentifizierung) für geschäftskritische Anwendungen sowie cloudbasierte und SaaS-Anwendungen. Dieser Ansatz vereinfacht die Einrichtung und Bereitstellung, reduziert den Verwaltungsaufwand und verbessert die gesamte Administration.
Das Internet der Sicherheitsdinge
Nein, das ist keine Tirade über die Sicherheit des IoT. Es ist eine Geschichte über Veränderung – genauer gesagt über Veränderung und ihre Auswirkungen auf die Sicherheit. Veränderung ist allgegenwärtig. Es gibt unzählige Axiome und Sprichwörter über Veränderung, also ist es ...