So verbessert ein globaler Cloud-Anbieter die Datenbereitstellung mit F5

Hunter SmitSenior Manager, Produktmarketing | F5

Objektspeicher wurde als kostengünstiger, langlebiger Speicherort für Daten konzipiert – nicht als der am stärksten ausgelastete Dienst im Rechenzentrum. Bis zum KI-Zeitalter spielte diese Unterscheidung kaum eine Rolle, da die Zugriffe darauf – etwa durch Backups, Archive, Medien und Anwendungsressourcen – wenig anspruchsvoll waren. Mit dem Aufkommen von Workloads für Modelltraining, Feinabstimmung und Retrieval-Augmented Generation (RAG) änderten sich die Lese-/Schreibmuster jedoch grundlegend: Statt gelegentlicher Abrufe ist nun eine kontinuierliche Auslastung bis an die Kapazitätsgrenze gefragt.

Diese Verschiebung führt zu einem wirtschaftlichen Problem. Ihr GPU-Cluster ist wahrscheinlich der teuerste Posten in der Bilanz Ihrer Infrastruktur – und solange er auf Daten wartet, erwirtschaftet er nichts. Jede Verzögerung im Speicherpfad schlägt auf Hardware durch, deren Betrieb pro Stunde mehr kostet als fast alles andere in Ihrer Umgebung. Damit haben sich die Verhältnisse umgekehrt: Die Bereitstellungsschicht vor Ihrem Speicher bestimmt nun die Rendite Ihrer teuersten Rechenressourcen, und dieser Pfad ist nicht länger bloße Infrastruktur, sondern vielmehr ein eigenständiges Produkt.

Was ein Betreiber von Hyperscale-Speichern dagegen unternommen hat

Einer der Kunden von F5, ein globaler Cloud-Anbieter, betreibt in Dutzenden von Rechenzentren einen S3-kompatiblen Objektspeicherdienst. Der Dienst dient als primärer Speicherort für unstrukturierte Kundendaten und zunehmend auch als Datenquelle für die Modelltrainingspipelines dieser Kunden. Jeder Lese- und Schreibvorgang durchläuft zunächst eine Load-Balancing-Schicht, bevor er überhaupt einen Indexierungs- oder Speicherknoten erreicht. Diese auf Citrix NetScaler-Appliances basierende Schicht war zum Engpass geworden.

Die Anforderungen waren nicht ungewöhnlich. Es waren ganz normale Anforderungen, deren Umsetzung in diesem Maßstab jedoch wirtschaftlich äußerst anspruchsvoll war. Der Anbieter musste TLS mit Leitungsgeschwindigkeit terminieren und neu verschlüsseln, auf Layer 7 anhand des S3-Bucket-Namens routen und Ratenbegrenzungen in einem Active-Active-Cluster konsistent durchsetzen. Dabei mussten sowohl globale Limits auf Serviceebene als auch gezielte Limits pro Bucket gelten, damit der Ingest-Job eines Mandanten nicht allen anderen die Ressourcen entzieht. Außerdem waren ein globaler Server-Lastenausgleich über mehrere Standorte hinweg sowie FIPS-Unterstützung für regulierte Mandanten erforderlich. Wie sich zeigt, ist die faire Ressourcenverteilung in einer Multi-Tenant-Umgebung eine Richtlinienfrage auf der Bereitstellungsebene, denn sobald der Datenverkehr die Speicherknoten erreicht, ist der Schaden bereits entstanden.

Der Anbieter ersetzte seine veraltete Infrastruktur aus Application Delivery Controllern (ADCs) durch F5 BIG-IP auf F5 rSeries. TLS wird mit Leitungsgeschwindigkeit terminiert und erneut verschlüsselt. Anfragen werden auf Layer 7 anhand des S3-Bucket-Namens weitergeleitet, und Richtlinien auf Bucket-Ebene werden nun zentral definiert, statt in der gesamten Infrastruktur mehrfach angelegt zu werden. Ratenbegrenzungen werden einmalig definiert und einheitlich auf den gesamten Cluster angewendet, statt für jedes Gerät manuell abgestimmt zu werden. Global Server Load Balancing verteilt den Datenverkehr standortübergreifend, und regulierte Mandanten behalten ihre FIPS-Abdeckung.

Die Hardware wurde ebenso grundlegend verändert wie die Umsetzung der Richtlinien. Die neue Infrastruktur benötigt 80 % weniger Stellfläche, bietet den 2,4-fachen Nenndurchsatz, verbraucht pro Gigabit Nenndurchsatz nur etwa ein Fünftel der Energie und umfasst 222 Geräte weniger, die gepatcht, zertifiziert und gewartet werden müssen. Zusätzliche Kapazitätsreserven werden normalerweise mit den beiden Ressourcen erkauft, die in einem Rechenzentrum am knappsten sind: Strom und Rack-Einheiten. Hier gingen sie mit einer Verringerung beider Faktoren einher, sodass die freigesetzte Kapazität nun eine Option darstellt und keine zusätzliche Investition erfordert. In einer Anlage, in der KI-Kapazität anhand von Strom und Platz bemessen wird, verfügt der Anbieter nun über mehr von beidem, ohne sich im Voraus darauf festgelegt zu haben, wofür diese Ressourcen eingesetzt werden.

Das versteht F5 unter KI-Datenbereitstellung. Der Pfad zwischen Speicher und Rechenressourcen bildet eine Grenze. Erst ein dort eingefügter Kontrollpunkt ermöglicht es, Erreichbarkeit, Richtlinien und Ausfallsicherheit bei der Bereitstellung durchzusetzen. Das bedeutet, diesen Pfad als gezielt konzipierte Kontroll- und Datenebenen mit eigenen Anforderungen an Leistung, Sicherheit und Governance zu behandeln – und nicht als nachträglich an das Speicher-Array angefügte Nebensache.

Warum das wichtig ist, selbst wenn Sie nie ein Modell trainieren

Kaum etwas an der Situation dieses Kunden ist spezifisch für maschinelles Lernen oder das Training von Frontier-Modellen – und genau darum geht es. Da S3 auf HTTP basiert, lassen sich all die Verfahren, die F5 über drei Jahrzehnte für den Webverkehr entwickelt hat – von intelligenter, zustandsabhängiger Lastverteilung und Protokollprüfung bis hin zur Auslagerung der Verschlüsselung und zur Drosselung pro Mandant –, unmittelbar auf Objektspeicher anwenden, sobald ein leistungsfähiger Proxy vorgeschaltet wird. Derselbe zentrale Zugangspunkt, der eine Trainingspipeline stabil und voll ausgelastet hält, sorgt auch für planbare Backup-Zeitfenster und gleichmäßige Analyseabfragen und verhindert, dass eine ressourcenintensive Anwendung die Speicherleistung für alle anderen beeinträchtigt. Die Bereitstellung von Daten für KI ist die Workload, durch die dieser zentrale Zugangspunkt endgültig nicht mehr zu ignorieren war.

Drei Fragen an die Verantwortlichen für Ihren Speicher

Wenn Sie die Speicherstrategie Ihres eigenen Unternehmens bewerten, sollten Sie drei Fragen berücksichtigen:

1. Wenn die Leistung eines Speicherknotens nachlässt, wodurch wird der Datenverkehr umgeleitet und wie schnell? Wenn die Antwort lautet, dass der Client es erneut versucht, haben Sie keine Bereitstellungsebene, sondern eine Bereitstellungsarchitektur, die auf Hoffnung basiert.
2. Können Sie die Anfragerate für einen einzelnen Mandanten oder Bucket begrenzen, ohne den Speichercluster selbst anzutasten? Wenn nicht, ist Ihre Fairness-Richtlinie lediglich eine Empfehlung.
3. Welcher Anteil Ihres Budgets für die Erneuerung der Speicherinfrastruktur basiert auf der Annahme, dass der Zugang unverändert bleibt? Dieser Anbieter stellte fest, dass das eigentliche Optimierungspotenzial in der Bereitstellungsebene lag – und nicht in der dahinterliegenden Speicherinfrastruktur.

Die wichtigste Erkenntnis ist, dass Kapazität und Bereitstellung zwei unterschiedliche Entscheidungen sind. Kapazität kauft man. Bereitstellung gestaltet man architektonisch. Da Datenpipelines zunehmend zu den Workloads werden, von denen Ihr Unternehmen am stärksten abhängt, haben diejenigen Teams die Nase vorn, die den Zugriffspfad zum Speicher mit derselben Sorgfalt behandeln, die sie seit jeher auf den Speicher selbst verwenden.

Das Engagement von F5 im Bereich KI geht noch weiter – erfahren Sie, wie F5 KI-Anwendungen überall absichert und bereitstellt.

Über den Autor

Hunter SmitSenior Manager, Produktmarketing | F5

Hunter Smit ist Senior Manager im Produktmarketing für Lösungen und Strategie bei F5. Er leitet das Lösungsmarketing für das gesamte F5-Portfolio, einschließlich KI-Infrastruktur und Anwendungssicherheit, und treibt den Einstieg von F5 in den aufstrebenden Markt für die Bereitstellung von KI-Daten voran. Hunter ist Mitglied des Beirats der School of Business der Whitworth University und war als Lehrbeauftragter für Produktmarketing tätig. Er erwarb an der Whitworth University einen MBA sowie einen Bachelor of Business Administration mit Schwerpunkt Management.

Weitere Blogbeiträge von Hunter Smit