Generative KI beschleunigt die Auswirkungen von KI auf die Infrastruktur. Wir befanden uns bereits in einer Renaissance der Infrastruktur, in der Technologen ihr Interesse und ihre Wertschätzung für die unscheinbaren Netzwerk-, Rechen- und Speicherschichten des Rechenzentrums wiederentdeckten. Vor allem bedingt durch das „Ende“ des Mooreschen Gesetzes und das Aufkommen des Edge-Computing zeichnete sich bereits vor Jahren der Aufstieg spezialisierter Verarbeitungseinheiten – xPUs – ab.
Heute haben generative KI – und fairerweise auch Videospiele – dafür gesorgt, dass GPUs in aller Munde sind und die GPU-Optimierung zu einer neuen Notwendigkeit geworden ist.
Das liegt daran, dass GPUs stark nachgefragt werden, aber nur begrenzt verfügbar sind. Unternehmen geben bereits erhebliche Anteile ihres gesamten IT-Budgets für diese leistungsstarke Hardware aus oder planen entsprechende Ausgaben. Ein Teil dieser Investitionen fließt in die eigene Infrastruktur, ein anderer in die Unterstützung der Public-Cloud-Infrastruktur.
All diese Investitionen dienen jedoch dazu, die Verfügbarkeit von GPU-Ressourcen für den Betrieb von KI-Anwendungen zu gewährleisten.
Doch wenn wir uns umsehen, stellen wir fest, dass die Einführung einer neuen Art von Ressource in die Infrastruktur Herausforderungen mit sich bringt. Jahrelang haben Unternehmen Infrastruktur als standardisierte Massenware betrachtet. Mit anderen Worten: Sie ist überall gleich.
Und das war sie auch weitgehend. Unternehmen standardisierten ihre Infrastruktur auf White-Box- oder Markenserver, die alle über dieselben Arbeitsspeicher- und Rechenkapazitäten verfügten. Das vereinfachte den Infrastrukturbetrieb, da beim Traffic-Management nicht berücksichtigt werden musste, ob eine Workload auf server8756 oder server4389 ausgeführt wurde. Beide verfügten über dieselben Kapazitäten.
Aber jetzt? Nun, GPUs ändern all das. Jetzt muss der Infrastrukturbetrieb wissen, wo sich GPU-Ressourcen befinden und wie sie ausgelastet werden. Und es gibt Anzeichen dafür, dass das möglicherweise nicht so gut funktioniert.
Laut dem Bericht „State of AI Infrastructure at Scale 2024“ geben 15 % an, dass weniger als 50 % ihrer verfügbaren und erworbenen GPUs genutzt werden.
Nun ist es durchaus möglich, dass diese 15 % der Unternehmen schlicht nicht über die erforderliche Auslastung verfügen, um mehr als 50 % ihrer GPU-Ressourcen zu nutzen. Es ist aber auch möglich, dass sie diese Auslastung hätten, die Ressourcen jedoch nicht entsprechend nutzen.
Einige Unternehmen werden sich sicherlich in der letztgenannten Kategorie wiederfinden und sich den Kopf darüber zerbrechen, warum ihre KI-Anwendungen nicht so gut funktionieren, wie die Nutzer es erwarten, obwohl reichlich ungenutzte GPU-Kapazität zur Verfügung steht.
Zum Teil geht es um die Infrastruktur und darum, sicherzustellen, dass die Workloads den benötigten Ressourcen richtig zugeordnet werden. Schließlich benötigt nicht jeder Workload in einer KI-Anwendung GPU-Kapazität. Davon profitiert vor allem der Inferenzserver – und sonst kaum etwas. Daher sind einige strategische Architekturarbeiten auf der Infrastrukturebene erforderlich, um sicherzustellen, dass GPU-intensive Workloads auf GPU-fähigen Systemen ausgeführt werden, während andere Anwendungs-Workloads auf herkömmlichen Systemen laufen.
Das bedeutet, dass Bereitstellungsrichtlinien erkennen müssen, welche Knoten GPU-fähig sind und welche nicht. Das ist ein wesentlicher Bestandteil der GPU-Optimierung. Außerdem müssen die Anwendungsdienste, die Anfragen auf diese Ressourcen verteilen, intelligenter werden. Lastverteilung, Eingangssteuerung und Gateways, die Anfragen verteilen, sind ein wichtiger Faktor für die effiziente Nutzung der Infrastruktur. Wenn jede Anfrage an nur eines oder zwei GPU-fähige Systeme weitergeleitet wird, führt das nicht nur zu Leistungseinbußen, sondern lässt Unternehmen auch mit „ungenutzter“ GPU-Kapazität zurück, für die sie viel Geld bezahlt haben.
Es könnte auch bedeuten, diese GPU-Ressourcen in der Public Cloud zu nutzen. Und das wiederum bedeutet, Netzwerkdienste zu nutzen, um die Sicherheit der gemeinsam genutzten Daten zu gewährleisten.
Mit anderen Worten: KI-Anwendungen werden erhebliche Auswirkungen auf die Infrastruktur haben – sowohl im Hinblick auf deren verteilte Struktur als auch darauf, wie sie in Echtzeit bereitgestellt und verwaltet wird. Der Bedarf an Telemetrie wird steigen, damit der IT-Betrieb stets einen aktuellen Überblick darüber hat, welche Ressourcen wo verfügbar sind. Zudem ist eine leistungsfähige Automatisierung erforderlich, um sicherzustellen, dass die Bereitstellung den Anforderungen der jeweiligen Workloads entspricht.
Aus diesem Grund müssen Unternehmen ihre gesamte Unternehmensarchitektur modernisieren. Denn es geht nicht mehr nur um Schichten oder Ebenen, sondern darum, wie diese miteinander verknüpft sind und sich gegenseitig unterstützen, um den Anforderungen eines digital ausgereiften Unternehmens gerecht zu werden, das sich die Leistungsfähigkeit von KI zunutze machen kann.
Über den Autor
Lori MacVittie ist Distinguished Engineer und Chief Evangelist im Office of the CTO von F5 und verfügt über umfassende Expertise in den Bereichen Anwendungsbereitstellung, Automatisierungsstrategie und Infrastruktur. Sie ist dafür bekannt, Komplexität verständlich zu machen – ob sie Leitplanken für KI-Agenten definiert, fragile Multicloud-Architekturen analysiert oder die Grenzen skalierbarer Systeme auslotet. Sie verfügt über mehr als dreißig Jahre Branchenerfahrung in der Anwendungsentwicklung, IT-Architektur sowie im Netzwerk- und Systembetrieb. Bevor sie zu F5 kam, war sie als mehrfach ausgezeichnete Technologie-Redakteurin tätig. MacVittie hat einen Masterabschluss in Informatik und ist eine produktive Autorin, deren Veröffentlichungen die Bereiche Sicherheit, Cloud und Unternehmensarchitektur abdecken. Außerdem spielt sie leidenschaftlich gern Brett- und Videospiele und vertritt mit voller Überzeugung klare Ansichten zum Thema Käse.
Weitere Blogbeiträge von Lori Mac VittieÄhnliche Blogbeiträge
Ein umfassender Leitfaden zur Bereitstellung und Sicherheit von KI-Anwendungen
Entdecken Sie optimale Strategien für die Absicherung und Bereitstellung von KI-Anwendungen.
KI zulassen und einführen? Lehren aus der Public Cloud
Die Einführung von KI steht unmittelbar bevor und könnte entscheidend sein, um wettbewerbsfähig zu bleiben. Daher muss die IT-Sicherheit proaktiv handeln und der KI-Einführung schon jetzt einen Schritt voraus sein, um sie auf einen risikogerechten Weg zu lenken.
Stand der Anwendungsstrategie 2022: Zeit für die Modernisierung des Betriebs
Es ist deutlich geworden, dass Unternehmen ihren Fokus erneut auf die Geschäftsfunktionen richten müssen, um die Dynamik ihrer digitalen Transformation aufrechtzuerhalten. Kundenerlebnisse haben zwar weiterhin Priorität, doch auch Geschäftsfunktionen wie Recht, Personalwesen und Finanzen müssen digitalisiert werden. Das bedeutet, dass CIOs das Steuer übernehmen, während sich die digitale Transformation von der Modernisierung von Anwendungen hin zur Modernisierung von Betriebsabläufen verlagert.
F5s Weg zu einer vielseitigen Plattform für Anwendungsanalysen
F5 bietet heute die umfassendsten Anwendungsdienste entlang des gesamten Weges vom Code bis zum Kunden. Künftig werden wir verstärkt auf Anwendungstelemetrie und -analysen setzen, damit unsere Kunden wertvolle Erkenntnisse über ihre Anwendungen, Geschäftsabläufe und Benutzererlebnisse gewinnen können. Beim Ausbau unserer Cloud-Analysefunktionen werden wir ML und KI noch stärker nutzen, um unsere Kunden bei der Verbesserung ihrer Geschäftsdienste zu unterstützen.
Telemetrie: Eine andere Art von Daten
Verwenden wir den Begriff „Telemetrie“ nur, weil er attraktiver klingt als „Daten“? Letztlich sind sowohl Daten als auch Telemetrie strukturierte Informationseinheiten. Es ist kein Verbrechen, die Begriffe synonym zu verwenden. Doch wenn man es genau nimmt, gibt es einen Unterschied. Und dieser Unterschied wird immer wichtiger werden, je weiter Unternehmen in die Datenökonomie vordringen.
MTTR bedeutet nicht „Mean Time to Reboot“
„Schnell scheitern“ lautet heute das Mantra für mehr Geschwindigkeit. Ob in DevOps oder im Geschäftsleben: Wer in einer digitalen Wirtschaft agiert, muss eine möglichst perfekte Verfügbarkeit gewährleisten.