Optimieren Sie das Traffic-Management für die Datenaufnahme in KI-Fabriken

Griff ShelleyProduktmarketing-Manager | F5

Im Sommer 2024 erklärte Nvidia-Gründer und CEO Jensen Huang, offereddass „eine neue Art von KI-Fabriken in Rechenzentren einen neuen Rohstoff produziert: künstliche Intelligenz“. Betrachten wir KI also einmal so, als wäre sie ein physischer Rohstoff. Das weckt Bilder von Fords River Rouge Complex – einem Sinnbild für vertikale Integration und Industrialisierung. Auf der einen Seite gingen Eisen und Gummi hinein, auf der anderen kamen Ford-Automobile heraus. Mit eigenen Docks, 100 Meilen internen Eisenbahngleisen, einem eigenen Kraftwerk und sogar eigenen integrierten Stahl-, Glas- und Papierwerken war The Rouge rund um die Uhr in Betrieb und produzierte fast 1,5 Millionen Autos pro Jahr.

Ebenso nehmen die KI-Fabriken von heute und morgen, die hochvolumige, leistungsstarke Trainings- und Inferenzmodelle unterstützen, enorme Mengen an Rohstoffen auf. Genauer gesagt: Daten. Strukturierte und unstrukturierte Daten, Videos, Texte und vieles mehr. Diese Fabriken wandeln diese Daten in tokenisierte Ausgaben um, die sich in unzähligen Anwendungen nutzen lassen. Und genau wie der Rouge-Komplex eine präzise Steuerung jeder einzelnen Produktionsstufe erforderte, benötigen KI-Workloads robuste Systeme für das Datenverkehrsmanagement, um die Aufnahme, Verarbeitung und Bereitstellung von Daten zu bewältigen – kurz gesagt: die Logistik. Mit den richtigen Lösungen für das Datenverkehrsmanagement können KI-Fabriken Rohstoffe aus der Praxis nutzbar machen. Mithilfe der richtigen Logistikwerkzeuge können Teams einen nahtlosen Datenfluss, einen hohen Durchsatz, geringe Latenzzeiten und Sicherheit gewährleisten – ähnlich wie bei einem Fließband, das in jeder Phase reibungslos läuft.

Was jede KI-Fabrik benötigt

Harvard Business Review erläuterte 2020, wie die Alibaba-Tochter Ant Group mithilfe ihrer KI-Fabrik verwertbare Erkenntnisse gewinnt, um „eine Vielzahl von Geschäftsbereichen zu steuern und dabei [mehr als] zehnmal so viele Kunden zu bedienen wie die größten US-Banken – mit weniger als einem Zehntel der Beschäftigten“. Ebenso überzeugend ist die Art und Weise, wie die Ant Group den Aufbau einer KI-Fabrik konzipiert:

„Vier Komponenten sind für jede Fabrik unverzichtbar. Die erste ist die Datenpipeline, ein teilautomatisierter Prozess, der Daten systematisch, nachhaltig und skalierbar erfasst, bereinigt, integriert und schützt. Die zweite sind Algorithmen, die Vorhersagen über zukünftige Zustände oder Aktivitäten des Unternehmens treffen. Die dritte ist eine Experimentierplattform, auf der Hypothesen zu neuen Algorithmen getestet werden, um sicherzustellen, dass ihre Empfehlungen die beabsichtigte Wirkung erzielen. Die vierte ist die Infrastruktur, also die Systeme, die diesen Prozess in Software verankern und ihn mit internen und externen Nutzern verbinden.“

In einem früheren Beitrag unserer Reihe über KI-Fabriken, definierte F5 eine KI-Fabrik als eine massive Investition in Speicher-, Netzwerk- und Rechenkapazitäten, die den Anforderungen an hochvolumiges, leistungsstarkes Training und Inferencing gerecht wird. Deshalb sind die erste und die vierte Komponente auf der Liste der Ant Group besonders interessant: Die Herausforderung, die erforderlichen Systeme für eine sichere und effiziente Verwaltung der von KI-Modellen aufgenommenen Daten einzurichten, rückt die Frage in den Mittelpunkt, wie KI-Fabriken die sie umgebende Infrastruktur gestalten sollten, um Mehrwert zu schaffen.

Das Traffic-Management für die Aufnahme von KI-Daten ist ein kontinuierlicher Prozess, bei dem medienreicher KI-Datenverkehr für Modelle mit mehreren Milliarden Parametern verwaltet und zu Zwecken des maschinellen Lernens und Trainierens in eine KI-Fabrik übertragen wird. Hier kommt eine leistungsstarke Traffic-Management-Lösung ins Spiel, die diesen Datenverkehr in die KI-Fabrik leitet. Ohne eine solche Lösung müssen Teams möglicherweise schon bald Verbindungen wiederverwenden, um den Datenfluss aufrechtzuerhalten, oder stoßen an die Grenzen der Speicherinfrastruktur. Beides ist für die hohen Kapazitäts- und niedrigen Latenzanforderungen an den Datentransport ungeeignet, die KI-Fabriken benötigen, um mit der gewünschten, optimierten Geschwindigkeit und Skalierbarkeit zu arbeiten.

Verwaltung des KI-Datenverkehrs zu, durch und zwischen KI-Fabriken.

KI-Fabriken am Laufen halten

Doch die Entwicklung in diesem Bereich steht keineswegs still. Immer komplexere KI-Modelle benötigen immer größere Datenmengen, die in immer kürzeren Abständen eingespeist werden müssen. Dadurch entsteht eine Herausforderung im Hinblick auf die Datengravitation, denn für ein KI-Modell ist es von großer Bedeutung, ob sich die Daten in der Cloud oder lokal befinden. Eine KI-Fabrik, die der Anziehungskraft des künftigen KI-Datenbedarfs standhalten soll, benötigt eine skalierbare Infrastruktur, die mit den Anforderungen an eine schnellere Gewinnung von Erkenntnissen aus den empfangenen Daten Schritt halten kann. Die Infrastruktur einer KI-Fabrik kann letztlich über den Erfolg und den geschäftlichen Nutzen des von ihr unterstützten KI-Modells entscheiden. Dieses rasante Wachstum beim Konsum umfangreicher Medieninhalte kann den Netzwerkverkehr und die damit verbundenen Kosten erheblich steigern, wenn die Verarbeitung über bestimmte Cloud-Anbieter erfolgt. Unternehmen, die mit dieser Situation konfrontiert sind, stehen daher vor einer doppelten Herausforderung: Sie müssen den für effiziente KI-Lernmodelle erforderlichen Hochgeschwindigkeits-Datendurchsatz aufrechterhalten und zugleich die Komplexität und die Kosten bewältigen, die mit der Datenübertragung und -verarbeitung in der Cloud verbunden sind.

Eine sorgfältige Prüfung der vier im einführenden Artikel über KI-Fabriken beschriebenen Bereitstellungsarten für KI-Fabriken (AI-SaaS, Cloud-Hosting, Self-Hosting oder Edge-Hosting) kann Unternehmen dabei helfen, diese komplexen Herausforderungen zu bewältigen, indem die Abhängigkeit von der Cloud-Bandbreite verringert oder beseitigt wird. Durch die lokale Datenverarbeitung spielt die Cloud-Bandbreite nicht nur keine Rolle mehr. Unternehmen erhalten dadurch auch die vollständige Kontrolle über sensible Trainingsdatensätze. Dies erleichtert wiederum die Einhaltung regulatorischer Anforderungen (z. B. DSGVO, HIPAA oder PCI DSS), da Unternehmen kontrollieren können, wie Daten gespeichert, abgerufen und verarbeitet werden. Gleichzeitig wird die Offenlegung von Daten minimiert, indem sensible Informationen innerhalb des sicheren Unternehmensnetzwerks verbleiben.

Eine bessere Infrastruktur schafft mehr Mehrwert für KI-Fabriken

KI-Datenverkehr und Anwendungsdatenverkehr interagieren auf ähnliche Weise mit F5 BIG-IP Local Traffic Manager (LTM) und Next-Generation-Hardware-Lösungen. Das bedeutet, dass Teams ihre KI-Datenverkehrsflüsse ebenso wie herkömmliche Anwendungsdatenverkehrsflüsse mit Tools wie dem FastL4-Profil optimieren und so die Leistung und den Durchsatz virtueller Server steigern können. Mithilfe von TCP-Optimierungen können sie die Verarbeitung von TCP-Verbindungen durch die Systeme präzise abstimmen, was für die Netzwerkleistung entscheidend ist. Sie können sogar OneConnect von BIG-IP einsetzen und so den Netzwerkdurchsatz steigern, indem die zwischen ihren BIG-IP-Systemen und den Mitgliedern des Backend-Pools hergestellten Verbindungen effizient verwaltet werden. Unternehmen, die nach einer Lösung zur Verteilung des KI-Datenverkehrs zwischen KI-Fabriken suchen, müssen nicht lange suchen. F5 entwickelt seit über zwei Jahrzehnten Tools zur Optimierung der Verwaltung des Anwendungsdatenverkehrs. Daher eignet sich BIG-IP LTM ideal für die Verarbeitung des eingehenden KI-Datenverkehrs.

KI-Anwendungen sind die modernsten aller modernen Anwendungen. Ohne eine robuste, vielseitige Lösung für das Traffic-Management bleiben nutzbare Daten ungenutzt, und der Mehrwert, den ein KI-Modell daraus ziehen könnte, geht verloren. Das Rouge-Werk verfügte über eigene Docks und ein kilometerlanges Schienennetz – KI-Fabriken setzen auf F5-Lösungen wie BIG-IP.

Der Fokus von F5 auf KI geht noch weiter – erfahren Sie, wie F5 KI-Anwendungen überall absichert und bereitstellt.

Möchten Sie mehr über KI-Fabriken erfahren? Entdecken Sie weitere Beiträge aus unserer Blogreihe zu KI-Fabriken:

• Was ist eine KI-Fabrik? ›
• Retrieval-Augmented Generation (RAG) für KI-Fabriken ›
• Edge-Datenquellen optimal mit KI-Fabriken verbinden ›
• Multicloud-Skalierbarkeit und -Flexibilität unterstützen KI-Fabriken ›
• Die Leistungsfähigkeit und Bedeutung der NVIDIA BlueField DPU für KI-Fabriken ›
• API-Schutz für KI-Fabriken: Der erste Schritt zur KI-Sicherheit ›
• Die Bedeutung der Netzwerksegmentierung für KI-Fabriken ›
• KI-Fabriken produzieren die modernsten aller modernen Anwendungen: KI-Anwendungen ›

Über den Autor

Griff ShelleyProduktmarketing-Manager | F5

Griff Shelley ist Product Marketing Manager bei F5 und auf Lösungen für die Anwendungsbereitstellung in den Bereichen Hardware, Software und SaaS spezialisiert. Mit seiner Leidenschaft dafür, innovative Technologien mit dem Erfolg seiner Kunden zu verbinden, treibt Griff Go-to-Market-Projekte für die globale und lokale Anwendungsbereitstellung, Cloud-Dienste und die Infrastruktur für KI-Datenverkehr voran. Vor seiner Karriere in der Technologiebranche war er Studienberater im Hochschulbereich und erwarb Abschlüsse an der Eastern Washington University und der Auburn University.

Weitere Blogbeiträge von Griff Shelley