GPU as a Service: Der Katalysator für KI-Wachstum in ASEAN – Chancen und Herausforderungen

Chin LimSenior Director für ASEAN bei F5

Mit der fortschreitenden Entwicklung künstlicher Intelligenz (KI) steigt die Nachfrage nach Hochleistungshardware rasant. Für Unternehmen wird es zunehmend schwieriger, mit der Rechenleistung Schritt zu halten, die für komplexe KI-Modelle und Workloads erforderlich ist. Hier kommt GPU as a Service (GPUaaS) ins Spiel.

Durch den bedarfsgerechten Zugriff auf leistungsstarke Grafikprozessoren (GPUs) über die Cloud verändert GPUaaS grundlegend, wie Unternehmen ihre KI-Infrastruktur gestalten. Kostspielige Investitionen in Hardware werden überflüssig, Ressourcen lassen sich nahtlos skalieren und bestehende Cloud-Dienste problemlos integrieren – bei gleichzeitig vereinfachtem Betrieb. Doch wie genau funktioniert GPUaaS, und warum entwickelt es sich zur bevorzugten Lösung für KI-orientierte Unternehmen?

KI-Potenzial in der ASEAN-Region erschließen

In der Vereinigung Südostasiatischer Nationen (ASEAN) wächst der GPUaaS-Markt, da immer mehr Anbieter in diesen Bereich einsteigen, um spezifische regionale Herausforderungen zu bewältigen. Ein wesentlicher Wachstumstreiber ist die Sprache. Open-Source-Sprachmodelle (Large Language Models, LLMs) werden überwiegend mit englischsprachigen Daten trainiert und haben häufig Schwierigkeiten mit lokalen Sprachen, die reich an kulturellen Nuancen sind. Daher müssen Unternehmen diese Modelle mit lokalen Daten neu trainieren oder feinabstimmen, um präzisere und relevantere Antworten in den jeweiligen Landessprachen zu gewährleisten.

Gleichzeitig tragen die Vorteile von GPUaaS zu dessen zunehmender Verbreitung bei. Dank der Skalierbarkeit können Nutzer die GPU-Ressourcen mühelos an den jeweiligen Projektbedarf anpassen. Die Elastizität ermöglicht es Unternehmen wiederum, ihre Gesamtkosten durch ein nutzungsabhängiges Abrechnungsmodell zu senken, da sie nur für die tatsächlich genutzten Ressourcen bezahlen. GPUaaS bietet zudem sofortigen Zugang zu modernster Technologie und ermöglicht so eine schnelle Prototypenentwicklung und Bereitstellung, was die Flexibilität erhöht und die Markteinführungszeit verkürzt.

Ein weiterer wichtiger Aspekt sind Datengravitation, Datenresidenz und Datensouveränität. Datengravitation bezeichnet die Tendenz von Daten, Anwendungen und Dienste an ihren Speicherort zu binden, um Leistung und Effizienz zu verbessern. In vielen Fällen müssen Daten aufgrund von Vorschriften zur Datenresidenz und -souveränität an bestimmten Standorten gespeichert werden. Daher müssen sich GPUaaS-Anbieter in der Nähe ihrer Nutzer befinden. Auch souveräne KI, bei der die Fähigkeit eines Landes im Vordergrund steht, KI mithilfe seiner eigenen Infrastruktur, Daten und Ressourcen zu entwickeln, trägt maßgeblich zur Nachfrage nach lokalisiertem GPUaaS bei.

Schließlich sind die Kosten und die begrenzte Verfügbarkeit von GPUs bei Cloud-Service-Providern (CSPs) in der ASEAN-Region wichtige Faktoren bei der Einführung von GPUaaS. Laut einem aktuellen Bericht von Dell können lokale KI-Implementierungen gegenüber CSP-basierten Lösungen Einsparungen von bis zu 75 % ermöglichen. GPUaaS bietet eine kosteneffiziente Alternative, die Unternehmen den Zugriff auf leistungsstarke GPUs ermöglicht, ohne dass sie vorab erheblich in Hardware investieren müssen. Damit ist GPUaaS eine attraktive Option für Unternehmen, die ihre KI-Kapazitäten in der Region skalieren möchten.

Vorteile und Risiken von GPUaaS abwägen

Die Vorteile von GPUaaS tragen zwar zu seiner weiten Verbreitung bei, bringen jedoch auch einige Bedenken mit sich. Ein zentrales Problem ist die Datensicherheit, da bei der Übertragung von Daten zu und von GPUs die Gefahr besteht, dass diese abgefangen werden oder Unbefugte darauf zugreifen. Darüber hinaus müssen bei der Verarbeitung von Daten auf entfernten GPUs unter Umständen unterschiedliche Datenschutzbestimmungen und Compliance-Anforderungen berücksichtigt werden. Ein weiterer Aspekt ist die Leistung: Die Abhängigkeit von Internet- oder privaten Netzwerkverbindungen sowie Schwankungen der GPU-Leistung können die Geschwindigkeit und Reaktionsfähigkeit von Anwendungen beeinträchtigen. GPUaaS ist auf stabile Hochgeschwindigkeitsverbindungen angewiesen, wobei für eine optimale Leistung häufig private Netzwerke gegenüber dem öffentlichen Internet bevorzugt werden.

Wie hilft F5?

F5 bietet über eine zentrale Konsole innovative, SaaS-basierte Multicloud-Dienste für Netzwerke, Datenverkehrsoptimierung und Sicherheit in öffentlichen und privaten Clouds, einschließlich GPUaaS-Anbietern.

Durch die Einrichtung eines verschlüsselten Mesh-Fabric-Overlays über einem beliebigen Netzwerk können Unternehmen eine Verbindung zu einem GPUaaS-Anbieter (KI-Fabrik) herstellen, um KI-Inferenz, Einbettung oder Training durchzuführen. Dank der vollständigen Netzwerk- und Anwendungssegmentierung sind sämtliche Overlay-Verbindungen privat und sicher und bauen auf einer vorhandenen Netzwerk-Infrastruktur auf. Darüber hinaus begegnet die verschlüsselte Mesh Fabric von F5 den Herausforderungen der digitalen Resilienz, indem sie den Datenverkehr dynamisch überwacht, Störungen erkennt, den Datenverkehr optimiert und an funktionsfähige KI-Komponenten weiterleitet. So wird sichergestellt, dass Ihre KI-Anwendungen jederzeit betriebsbereit und verfügbar sind.

Im Folgenden sehen Sie ein Beispiel für die Bereitstellung eines großen Sprachmodells (LLM) mit Retrieval-Augmented Generation (RAG), bei der eine KI-Fabrik eines GPUaaS-Anbieters genutzt wird. Da die Daten verschlüsselt und sicher über das geschützte Mesh übertragen werden, bestehen keine Bedenken hinsichtlich der Sicherheit der Daten während der Übertragung. Zudem werden beim GPUaaS-Anbieter keine ruhenden Daten gespeichert. Die ruhenden Korpusdaten eines Unternehmens verbleiben unverändert an ihrem ursprünglichen Speicherort. Diese Architektur ermöglicht außerdem die KI-Inferenz für latenzkritische Anwendungen am Edge, beispielsweise in einer Public Cloud oder sogar in Zweigstellen.

Wenn die KI-Anwendung (z. B. ein agentischer Chatbot mit RAG-Unterstützung) über das Internet zugänglich gemacht wird, sollte zum Schutz der KI-Anwendung vor Cyberangriffen der Einsatz eines Cloud-Netzwerk-basierten Dienstes zum Schutz von Webanwendungen und APIs (WAAP) in Betracht gezogen werden.

Abbildung 1: Beispiel für die Bereitstellung eines LLM mit Retrieval-Augmented Generation (RAG) unter Nutzung einer KI-Factory eines GPUaaS-Anbieters

Durch den Einsatz einer Plattform mit einer zentralen Verwaltungskonsole lassen sich nun Compliance, Beobachtbarkeit und Kontrolle für den gesamten Datenverkehr gewährleisten – einschließlich APIs, die in Nord-Süd- und Ost-West-Richtung über das verschlüsselte Mesh-Netzwerk übertragen werden.

Abbildung 2: API-Erkennung, Posture-Management und API-Schutz bilden die Grundlage für die Sicherheit von KI-LLMs.

Darüber hinaus muss der Datenverkehr über das öffentliche Internet und das private verschlüsselte Mesh für NetOps- und SecOps-Teams transparent und steuerbar sein, damit sie die im Grunde komplexe und heterogene Multicloud-Infrastruktur verwalten können.

Abbildung 3: Multicloud-Netzwerke und Observability sind für eine verteilte KI-Bereitstellung unerlässlich, die sich über lokale Rechenzentren, Private Clouds, Public Clouds und Edge-Umgebungen erstrecken kann.

Möchten Sie mehr erfahren?

Da sich die Einführung von KI beschleunigt, ist es für den langfristigen Erfolg entscheidend, KI-Systeme resilient zu gestalten. GPUaaS bietet eine skalierbare und effiziente Lösung, doch Unternehmen müssen Herausforderungen wie Datensicherheit, Leistungsschwankungen und die Einhaltung gesetzlicher Vorschriften bewältigen. Indem sie diese Aspekte berücksichtigen und die Flexibilität von GPUaaS nutzen, können sich Unternehmen besser auf die wachsenden Anforderungen KI-gestützter Workloads einstellen.

Wenn Sie erfahren möchten, wie KI-Resilienz Ihr Unternehmen stärken kann, besuchen Sie uns auf der kommenden GovWare-Konferenz vom 15. bis 17. Oktober am Stand P06 im Sands Expo and Convention Centre. Dort werden wir diese Trends und Lösungen ausführlicher vorstellen.

Über den Autor

Chin LimSenior Director für ASEAN bei F5

Chin ist in Singapur ansässig und weithin unter diesem Namen bekannt. Als Senior Director of Strategic Sales bei F5 ASEAN verantwortet Chin die Strategie zur Kundenansprache in der ASEAN-Region. Chin verfügt über mehr als 25 Jahre Erfahrung in der Anwendungsentwicklung und im Infrastrukturbetrieb. Seine Schwerpunkte liegen auf Cloud-nativen Architekturen, der Bereitstellung moderner Microservice-Anwendungen und sicheren Edge-Infrastrukturen. Vor seiner Tätigkeit bei F5 war er bei Borland Software als Director of Product Sales Management für den asiatisch-pazifischen Raum tätig und verantwortete dort das Application Lifecycle Management sowie den Bereich Middleware. Vor seiner Zeit bei Borland Software leitete er bei BEA ein Team aus Solution Managern und Beratern und unterstützte Unternehmen bei der Konzeption verteilter Anwendungsumgebungen auf Basis der Plattformen WebLogic und Tuxedo. Chin hat einen Bachelor of Engineering in Computertechnik (mit Auszeichnung) von der University of Newcastle, Australien.

Weitere Blogbeiträge von Chin Lim