Was ist eine Datenverarbeitungseinheit (DPU)?

Eine Data Processing Unit (DPU) ist ein spezialisierter Prozessor, der datenintensive Aufgaben auslagert und beschleunigt, sodass zentrale Verarbeitungseinheiten (CPUs) für anwendungsspezifische Workloads zur Verfügung stehen. DPUs sind für die Verarbeitung von Hochgeschwindigkeitsnetzwerkverkehr, Speicheranfragen und Sicherheitsaufgaben konzipiert und eignen sich daher für moderne Rechenzentren mit hoher Packungsdichte sowie für die Anforderungen des High Performance Computing (HPC).

DPUs im Detail verstehen

DPUs und ihre Pendants, die Infrastructure Processing Units (IPUs), erfüllen die Anforderung, gängige und durchsatzintensive Aufgaben von CPUs auszulagern. Durch die Reduzierung von Verschlüsselungsaufgaben, Speicher-E/A-Vorgängen und der Verarbeitung von Netzwerkpaketen mit hoher Bandbreite können CPUs für Anwendungsaufgaben mit höherer Dichte eingesetzt werden, wie sie containerbasierte Anwendungen, Cloud- oder Hypervisor-Partitionierung sowie rechenintensive Aufgaben im Bereich der künstlichen Intelligenz (KI) erfordern.

Zu den wichtigsten Funktionen gehören:

• Netzwerk: Aufbauend auf den Funktionen intelligenter Netzwerkschnittstellenkarten (SmartNICs) können DPUs große Mengen an Paketdatenströmen mit nahezu voller Leitungsgeschwindigkeit verarbeiten, Netzwerk-Overlay-Aufgaben einschließlich VXLAN auslagern und Sicherheitsdienste sowie Dienste von Application Delivery Controllern bereitstellen, etwa Firewall-Unterstützung, TLS-Offloading, Lastverteilung und Datenverkehrsweiterleitung. Darüber hinaus können DPUs Entropiequellen für kryptografisch sichere Pseudozufallszahlengeneratoren (CSPRNGs) bereitstellen.
• Speicher: Durch die Beschleunigung der Datenübertragung zwischen Hosts und Speichersystemen unterstützen DPUs fortschrittliche Speicherprotokolle wie Non-Volatile Memory Express over Fabrics (NVMe-oF) und ermöglichen so die höheren Geschwindigkeiten, die für Solid-State-Speicher und hyperkonvergente Infrastrukturen (HCI) erforderlich sind. DPUs unterstützen außerdem Ver- und Entschlüsselung, Komprimierung und Deduplizierung, wodurch CPUs zusätzlich entlastet werden.
• Virtualisierung: Durch die Auslagerung von Netzwerkaufgaben des Hypervisors und containerbasierter Netzwerkaufgaben lässt sich die HCI-Infrastruktur besser partitionieren und mandantenfähig gestalten, sodass eine höhere Workload-Dichte und damit ein höherer ROI der Infrastruktur erzielt werden kann.

Vorteile der Verwendung von DPUs

Die Optimierung der CPU-Leistung für anwendungsspezifische Aufgaben in HCI- und HPC-Umgebungen gewinnt zunehmend an Bedeutung, da Rechendichte und Stromverbrauch zu neuen Kennzahlen für die Kosteneffizienz von Infrastrukturen werden. Fortschritte bei Netzwerkgeschwindigkeiten und der Verringerung von Latenzen, eine höhere Speicherleistung sowie die Notwendigkeit, mehr Benutzern Rechenressourcen bereitzustellen, belasten die CPUs zusätzlich durch nicht anwendungsspezifische Aufgaben. Die derzeit anerkannten und aus der HPC-Branche übernommenen Erfolgskennzahlen sind CPU-Dichte und -Leistung.

Zu den Kennzahlen für das Verhältnis der Rechenleistung gehören unter anderem:

• Anzahl der CPU-Kerne (pro Rack, Knoten oder insgesamt für Benutzer verfügbar)
• Gleitkommaoperationen pro Sekunde (FLOPS)1
• Stromverbrauch (gemessen in durchschnittlichen und maximalen Kilowatt)
• Messung der physischen Fläche (in Quadratfuß oder Quadratmetern)

Diese Messgrößen werden von HPCs seit Langem verwendet, um die Leistung von Supercomputern bei der Inbetriebnahme und im weiteren Zeitverlauf zu messen. Da sich die Technologien der beiden Branchen zunehmend annähern, kommen sie immer häufiger auch in herkömmlichen Rechenzentren zum Einsatz.

DPUs bieten eine Möglichkeit, die CPU-Verfügbarkeit für anwendungs- und rechenintensive Pipelines zu erhöhen. Bei diesen kann es zu Engpässen kommen, wenn die CPU weniger anspruchsvolle Aufgaben übernehmen muss, die keine Rechenaufgaben sind. Mit zunehmender Dichte und steigender Zahl an Anwendungsaufgaben verschärft sich diese Problematik, sodass DPUs dazu beitragen können, diesen Engpass zu beseitigen. Durch die Integration von DPUs in die Rechenzentrumsinfrastruktur werden CPUs entlastet und können eine bessere Leistung pro Kern bereitstellen. Alternativ lassen sich Rechenressourcen partitionieren und mandantenfähig bereitstellen, damit mehr Benutzer auf die Systemressourcen zugreifen können.

Wie arbeitet F5 mit DPUs zusammen?

Aufbauend auf seinen Erfolgen beim Einsatz von SmartNICs sowie ASIC- und FPGA-Technologien nutzt F5 die Rechenleistung und die Position einer DPU im Inline-Datenverkehr innerhalb der Compute-Infrastruktur, um die Workload-Kapazität, Leistung und Sicherheit von HCI-/HPC-Infrastrukturen zu steigern und zu verbessern.

Durch die Nutzung von NVIDIA BlueField-3-DPUs bietet F5 zahlreiche Vorteile für Serviceprovider und Großunternehmen, die umfangreiche Computing-Ressourcen aufbauen und gleichzeitig deren Auslastung maximieren möchten. Dazu gehören unter anderem:

• Vereinfachte Integration: F5 vereint Netzwerkfunktionen, Sicherheit, Traffic-Management und Lastverteilung in einer konsolidierten, auf DPU-Integrationen ausgerichteten Service-Suite. Sie bietet eine integrierte Übersicht über diese Services in der gesamten HCI-/HPC-Infrastruktur sowie die erforderliche Beobachtbarkeit und granulare Steuerung zur Optimierung rechenintensiver Workloads.
• Verbesserte Sicherheit: F5 unterstützt wichtige Sicherheitsfunktionen wie Firewall, Abwehr verteilter Denial-of-Service-Angriffe (DDoS), API-Schutz, Verschlüsselung und Zertifikatsverwaltung, indem diese Funktionen auf die DPU ausgelagert werden.
• Verbesserte Leistung: F5 beschleunigt Netzwerk- und Sicherheitsfunktionen. Dies ist entscheidend, um die Anforderungen hochverdichteter Infrastrukturen zu erfüllen und Anwendungen im Cloud-Maßstab bereitzustellen.
• Unterstützung für Mandantenfähigkeit: F5 ermöglicht eine skalierbare mandantenfähige Architektur, mit der Serviceanbieter eine Vielzahl von Mandanten sicher auf derselben Infrastruktur hosten und gleichzeitig deren Workloads und Daten getrennt und geschützt halten können.

Weitere Informationen zu integrierten DPU- und F5-Lösungen finden Sie in den Ressourcen auf der rechten Seite.

1Standardmessungen für wissenschaftlich basierte HPC-Berechnungen wurden traditionell mit Gleitkommazahlen einfacher oder doppelter Genauigkeit (FP32 und FP64) durchgeführt. Bei aktuellen KI-Trends wird die Leistung inzwischen mit halber oder geringerer Genauigkeit (FP16) gemessen. Die Verwendung einer Speicheradressierung mit geringerer Genauigkeit (Gleitkomma- und Ganzzahldatentypen) ermöglicht ein schnelleres Training und einen geringeren Speicherbedarf von Sprachmodellen.