Es heißt, dass sich am IT-Budget entscheidet, ob eine Strategie Erfolg hat oder scheitert. Wenn das stimmt, dann sind KI-Strategien lebendiger denn je.
Unsere jüngste Studie zeigt, dass Unternehmen im Durchschnitt 18 % ihres IT-Budgets allein für KI bereitstellen. Doch erst die Art und Weise, wie diese 18 % verteilt werden, gibt uns einen Einblick in ihre KI-Strategien.
Etwa 18 % des KI-Budgets fließen heute in KI-Dienste, also in Anwendungen von Drittanbietern, die KI-Tools integrieren oder bereitstellen. Der Rest entfällt auf Modelle (19 %), Entwicklung (16 %), Sicherheit (9 %), Datentechnologien (11 %) und GPUs (9 %).
In Verbindung mit der gleichmäßigen Aufteilung der Ausgaben auf Training (50 %) und Inferenz (50 %) sowie der Erkenntnis, dass KI sowohl in der Public Cloud (80 %) als auch lokal (54 %) bereitgestellt werden soll, lässt sich daraus schließen, dass Unternehmen erhebliche Änderungen an ihrer Infrastruktur planen, um den gesamten KI-Lebenszyklus zu unterstützen.
Ein Teil dieser Unterstützung erfordert eine Neubewertung des Netzwerks.
Beim Aufbau der Infrastruktur zur Unterstützung sowohl des Trainings als auch der Inferenz müssen moderne Anwendungsumgebungen wie Kubernetes sowie die Datenverkehrsflüsse zwischen KI-Instanzen, Modellen und den Anwendungen, die diese nutzen, sorgfältig berücksichtigt werden.
NVIDIA ist zwar nicht der einzige Anbieter von Beschleunigungstechnologien (GPUs, DPUs, IPUs usw.), nimmt jedoch bei Referenzarchitekturen eine führende Rolle ein. Gerade in diesen Details zeigen sich erhebliche Auswirkungen auf die Netzwerk- und Skalierbarkeitsarchitektur.
KI-Pods, -Cluster und -Fabriken
In der Branche herrscht derzeit erhebliche Verunsicherung hinsichtlich der Verwendung Kubernetes-spezifischer Begriffe. Während Betreiber inzwischen mit den Definitionen von Pods und Clustern vertraut sind, legen führende GPU-Anbieter diese Begriffe bei der Bereitstellung von Inferenzsystemen im großen Maßstab zunehmend großzügig aus.
NVIDIA spricht beispielsweise von KI-Pods, bei denen es sich um Kubernetes-Cluster handelt. Eine Gruppe zusammengehöriger Cluster bezeichnet das Unternehmen als KI-Fabrik.
Ich bin nicht hier, um über Begrifflichkeiten zu streiten – solche Diskussionen gewinne ich ohnehin selten. Stattdessen konzentriere ich mich auf diese Einheiten von KI-Fähigkeiten und darauf, was sie für das Netzwerk bedeuten.
Eine der Realitäten bei der Skalierung insbesondere generativer KI ist der Bedarf an Rechenzyklen – genauer gesagt an GPU-Rechenzyklen. Um diesen Bedarf zu decken, müssen vor allem Anbieter von KI-Diensten komplexe KI-Recheneinheiten aufbauen. NVIDIA bezeichnet diese Einheiten als KI-Pods, andere werden dafür zweifellos ihre eigenen speziellen Bezeichnungen haben. Im Wesentlichen handelt es sich dabei um Kubernetes-Cluster.
Das bedeutet viel Ost-West-Datenverkehr innerhalb der KI-Recheneinheit, aber auch viel Nord-Süd-Datenverkehr in diese KI-Recheneinheiten hinein. Und genau hier zeichnet sich an der Grenze zwischen herkömmlicher Rechenzentrumsinfrastruktur und neu entstehenden KI-Rechenkomplexen ein bedeutender Wandel ab.
An dieser Schnittstelle passiert eine Menge, insbesondere bei Dienstanbietern, die eine Netzwerkisolierung für jeden einzelnen Mandanten benötigen. Zudem besteht ein erheblicher Bedarf an Traffic-Management auf den Ebenen L4–7, einschließlich einer Ratenbegrenzung, damit die KI-Ressourcen nicht überlastet werden. Hinzu kommen der erwartete Lastausgleich für Skalierung und Verteilung sowie Netzwerkdienste wie erweiterte CGNAT-Funktionen.
Vieles davon wird auch von Unternehmen benötigt, die ihre KI-Implementierungen skalieren möchten, um eine wachsende Zahl geschäftlicher Anwendungsfälle abzudecken – von Produktivitätssteigerungen über die Code- und Inhaltserstellung bis hin zur Workflow-Automatisierung und natürlich dem zunehmenden Interesse am Einsatz von KI im IT-Betrieb. Auch wenn eine mandantenspezifische Isolierung für Unternehmen möglicherweise nicht erforderlich ist, kann sie dazu beitragen, dass KI-Workloads mit hoher Priorität – etwa Automatisierung und Betriebsanalysen – nicht durch KI-Workloads mit niedrigerer Priorität ausgebremst werden.
Ob Serviceanbieter oder Unternehmen: Das Netzwerk im Rechenzentrum wird sich erheblich verändern. Die Integration von KI-Workloads in eine herkömmliche Rechenzentrumsarchitektur kann dazu führen, dass diese nicht skalierbar ist oder nicht einmal zuverlässig funktioniert.
Es ist wichtig, die Veränderungen der Rechenzentrumsarchitektur zu verstehen und über Tools und Technologien wie BIG-IP Next SPK zu verfügen, die die erforderlichen Funktionen bereitstellen, um das Netzwerk des Rechenzentrums erfolgreich zu modernisieren und so sämtliche KI-Workloads sowie die Geschäftsprozesse zu unterstützen, die letztlich von ihnen abhängen werden.
Über den Autor
Lori MacVittie ist Distinguished Engineer und Chief Evangelist im Office of the CTO von F5 und verfügt über umfassende Expertise in den Bereichen Anwendungsbereitstellung, Automatisierungsstrategie und Infrastruktur. Sie ist dafür bekannt, Komplexität verständlich zu machen – ob sie Leitplanken für KI-Agenten definiert, fragile Multicloud-Architekturen analysiert oder die Grenzen skalierbarer Systeme auslotet. Sie verfügt über mehr als dreißig Jahre Branchenerfahrung in der Anwendungsentwicklung, IT-Architektur sowie im Netzwerk- und Systembetrieb. Bevor sie zu F5 kam, war sie als mehrfach ausgezeichnete Technologie-Redakteurin tätig. MacVittie hat einen Masterabschluss in Informatik und ist eine produktive Autorin, deren Veröffentlichungen die Bereiche Sicherheit, Cloud und Unternehmensarchitektur abdecken. Außerdem spielt sie leidenschaftlich gern Brett- und Videospiele und vertritt mit voller Überzeugung klare Ansichten zum Thema Käse.
Weitere Blogbeiträge von Lori Mac VittieÄhnliche Blogbeiträge
Ein umfassender Leitfaden zur Bereitstellung und Sicherheit von KI-Anwendungen
Entdecken Sie optimale Strategien für die Absicherung und Bereitstellung von KI-Anwendungen.
KI zulassen und einführen? Lehren aus der Public Cloud
Die Einführung von KI steht unmittelbar bevor und könnte entscheidend sein, um wettbewerbsfähig zu bleiben. Daher muss die IT-Sicherheit proaktiv handeln und der KI-Einführung schon jetzt einen Schritt voraus sein, um sie auf einen risikogerechten Weg zu lenken.
Stand der Anwendungsstrategie 2022: Zeit für die Modernisierung des Betriebs
Es ist deutlich geworden, dass Unternehmen ihren Fokus erneut auf die Geschäftsfunktionen richten müssen, um die Dynamik ihrer digitalen Transformation aufrechtzuerhalten. Kundenerlebnisse haben zwar weiterhin Priorität, doch auch Geschäftsfunktionen wie Recht, Personalwesen und Finanzen müssen digitalisiert werden. Das bedeutet, dass CIOs das Steuer übernehmen, während sich die digitale Transformation von der Modernisierung von Anwendungen hin zur Modernisierung von Betriebsabläufen verlagert.
F5s Weg zu einer vielseitigen Plattform für Anwendungsanalysen
F5 bietet heute die umfassendsten Anwendungsdienste entlang des gesamten Weges vom Code bis zum Kunden. Künftig werden wir verstärkt auf Anwendungstelemetrie und -analysen setzen, damit unsere Kunden wertvolle Erkenntnisse über ihre Anwendungen, Geschäftsabläufe und Benutzererlebnisse gewinnen können. Beim Ausbau unserer Cloud-Analysefunktionen werden wir ML und KI noch stärker nutzen, um unsere Kunden bei der Verbesserung ihrer Geschäftsdienste zu unterstützen.
Telemetrie: Eine andere Art von Daten
Verwenden wir den Begriff „Telemetrie“ nur, weil er attraktiver klingt als „Daten“? Letztlich sind sowohl Daten als auch Telemetrie strukturierte Informationseinheiten. Es ist kein Verbrechen, die Begriffe synonym zu verwenden. Doch wenn man es genau nimmt, gibt es einen Unterschied. Und dieser Unterschied wird immer wichtiger werden, je weiter Unternehmen in die Datenökonomie vordringen.
MTTR bedeutet nicht „Mean Time to Reboot“
„Schnell scheitern“ lautet heute das Mantra für mehr Geschwindigkeit. Ob in DevOps oder im Geschäftsleben: Wer in einer digitalen Wirtschaft agiert, muss eine möglichst perfekte Verfügbarkeit gewährleisten.