AWS Multi-Cloud-KI-Workloads: Schützen und skalieren Sie APIs für KI

Wussten Sie, dass 94 % der Organisationen Apps über verschiedene Umgebungen hinweg bereitstellen, darunter eine Mischung aus öffentlichen Cloud-Instanzen, privaten Rechenzentren und Edge-Systemen? Wir leben im Zeitalter der hybriden Multicloud – und das ist nachvollziehbar, wenn man die Vorteile betrachtet. In Multicloud-Umgebungen sind Sie nicht mehr auf einen bestimmten Anbieter festgelegt und können die Services und Instanztypen auswählen, die für jede Ihrer Workloads, einschließlich KI, am besten geeignet sind.

Multicloud-KI stellt uns vor besondere Herausforderungen. Damit KI präzise und leistungsfähig bleibt, müssen Sie sie kontinuierlich mit Daten versorgen – dazu verbinden wir Datenspeicher in verschiedenen Umgebungen nahtlos miteinander. KI-Arbeitslasten sind zudem sehr dynamisch und reichen von einfachen Frage-Antwort-Anfragen bis zu ausführlichen Analysen oder Inhaltsgenerierung, die GPU-Ressourcen ungleich beanspruchen.

Zudem ist die Cyberbedrohungslandschaft komplexer geworden, weil KI selbst zu einem Angriffspunkt geworden ist – etwa durch Techniken wie Prompt Injection und Model Jailbreaking. Da KI viele API-Verbindungen nutzt und so ständig große Datenmengen verarbeitet, vergrößert sie die Angriffsfläche und erhöht das Risiko, dass Angriffe von KI aus seitlich im Netzwerk stattfinden.

Und das Multicloud-Wachstum haben wir noch nicht einmal berücksichtigt. Wenn Sie mehr Umgebungen, Verbindungen und Komplexität hinzufügen, wird es exponentiell schwieriger, alles zu verwalten und den Überblick zu behalten.

Die gute Nachricht: Wir haben eine erprobte Strategie, um diese Herausforderungen zu meistern, indem wir zentrale Infrastrukturkomponenten vereinen, die sichere und leistungsstarke Wege für KI schaffen. So sieht die Grundkonfiguration in der Regel aus:

• Ein privater Konnektivitäts-Backbone ist die bessere Wahl gegenüber der Nutzung des öffentlichen Internets, um unterschiedliche Umgebungen zu verbinden. Private Backbones sichern Ihnen eine geschützte und verlässliche Verbindung, die Sie vor äußeren Einflüssen bewahrt.
• Intelligente Datenverkehrsverwaltung nutzt KI-gestützte Routing-Anweisungen, um Arbeitslasten effizienter über Container zu verteilen und die teuren GPU-Ressourcen optimal auszulasten.
• Einheitliche Sicherheitsframeworks setzen die gleichen Schutzmaßnahmen (Verschlüsselung, Authentifizierung etc.) konsequent über alle Cloud-Grenzen hinweg um. Das sorgt dafür, dass überall dieselben Sicherheits- und Datenschutzrichtlinien für öffentliche Cloud-Instanzen, private Server und Edge-Systeme gelten.
• Zentralisierte Orchestrierungssysteme verbinden alle Komponenten miteinander und verschaffen Ihnen einen durchgängigen Überblick von oben nach unten. Ein optimales Orchestrierungssystem zeigt auch KI-spezifische Kennzahlen wie Modellladezeiten und Inferenzlatenz an, damit Sie Ihre Optimierung gezielt vorantreiben können.

Wenn Sie diese Punkte erfüllen, erreichen Sie den idealen Bereich der Multi-Cloud-KI, in dem Sie Daten nahtlos und sicher überallhin verschieben können, um Modelltraining, Feinabstimmung, Inferenz, Optimierung und leistungsstarke Anwendungsfälle wie Retrieval-augmented Generation (RAG) zu unterstützen.

Der schnellste Weg, Ihre Multicloud-KI-Ziele zu erreichen, führt über bewährte Lösungen von verlässlichen Anbietern. F5 ergänzt die AWS-Dienste, die Sie vermutlich schon nutzen – wie Amazon Bedrock für verwaltete KI-Modelle oder Amazon SageMaker zur eigenen KI-Entwicklung – und verbindet Multicloud-Umgebungen zu einer einheitlichen Netzwerkinfrastruktur.

• F5 Global Network bietet Ihnen eine leistungsstarke, sichere und private Verbindung zwischen Umgebungen ganz ohne öffentliche Internetzugänge. Weltweit verteilte Präsenzpunkte sorgen dafür, dass Ihre Daten lokal bleiben und so besonders schnelle Reaktionszeiten ermöglichen.
• F5 AI Gateway steuert den Datenverkehr intelligent und sorgt mit erweitertem Lastenausgleich für containerisierte KI. Wir schützen KI-Modelle mit integrierten Sicherheitskontrollen und Eingabe-/Ausgabevalidierung effektiv vor Prompt Injection und anderen Angriffsmethoden, die Datenlecks verursachen.
• F5 Distributed Cloud Services geben Ihnen umfassende Transparenz und Kontrolle und ermöglichen die einfache Vernetzung von Cloud-, Edge- und On-Premises-Umgebungen per Ein-Klick-Bereitstellung. So setzen Sie IT- und Datenverwaltungsrichtlinien über alle Umgebungen hinweg konsistent um.

Für NetApp-Kunden kooperieren F5 und AWS auch mit NetApp-Speicherlösungen wie NetApp BlueXP und NetApp ONTAP. So erhalten Sie Zugang zu all diesen einheitlichen Datenverwaltungs- und Migrationsfunktionen, die Ihre Multicloud-KI-Projekte wirkungsvoll unterstützen und voranbringen.

RAG nutzt firmeneigene Daten, um die Modellgenauigkeit durch domänenspezifisches Wissen zu erhöhen, und ist für alle bis auf die generischsten Chatbots mittlerweile unverzichtbar. Da wir jedoch firmeneigene Daten verwenden, sind diese gleichzeitig wertvoller und besonders schutzbedürftig. F5 Distributed Cloud Network Connect schützt Ihre Daten während der Übertragung durch hybride Multicloud-Umgebungen mit sicherer Layer-3-Konnektivität und unterstützt Amazon S3-Protokolle.

Der Netzwerkrand bietet großes Potenzial, KI zu optimieren, indem er Daten direkt dort verarbeitet und analysiert, wo sie entstehen – für schnellere Ergebnisse und geringe Latenz. F5 Distributed Cloud Customer Edge verbindet Edge-Standorte sicher mit zentral gesteuerten Modellen in Distributed Cloud Services. Die Lösung arbeitet zudem nahtlos mit AI Gateway zusammen, damit Sie Kubernetes-basierte KI-Dienste und Sicherheitsfunktionen an den Rand bringen – kompatibel mit Edge-Diensten wie AWS Local Zones und AWS Outposts.