LLMs im Unternehmen bereitstellen: per API in einer Private Cloud

F5 Newsroom Staff

Für sich genommen und ohne spezielle Schutzmaßnahmen oder Sicherheitsprotokolle stellt die unternehmensweite Einführung von Modellen der generativen KI (GenAI), insbesondere großer Sprachmodelle (LLMs), für jede Organisation eine Chance mit hohem Risiko, aber auch hohem Ertragspotenzial dar. Wie genau Ihre Organisation diesen großen Schritt in die GenAI-Landschaft angehen sollte, erfordert eine sorgfältige Planung.

Möglicherweise ist es für Ihr Unternehmen sinnvoller, über einen Anbieter nach dem Software-as-a-Service-Modell (SaaS) auf KI-Modelle zuzugreifen, um Konfigurations- oder Installationsprobleme zu vermeiden. Alternativ könnte es besser sein, das Modell in der privaten Cloud Ihres Unternehmens oder vor Ort bereitzustellen, sodass Ihr Unternehmen die Konfiguration und Verwaltung der API selbst steuern kann.

Diese Blogreihe befasst sich mit der Frage Wie? – wie sollte Ihr Unternehmen LLMs unternehmensweit bereitstellen, um eine maximale Kapitalrendite zu erzielen? Jeder Blogbeitrag informiert über die Vor- und Nachteile eines gängigen Bereitstellungsmodells, sodass Sie es im Hinblick auf die Organisations- und Geschäftsstruktur Ihres Unternehmens sowie dessen spezifische geschäftliche Anforderungen bewerten können. 

Definition von Cloud und APIs

Der Begriff „Cloud“ ist zwar weit verbreitet, wird aber auch häufig missverstanden. Daher möchten wir klarstellen, was wir darunter verstehen. Die Cloud ist eine riesige Ansammlung physischer Server, die sich in unzähligen Rechenzentren auf der ganzen Welt befinden. Diese Remote-Server übernehmen zahlreiche geschäftskritische Funktionen, etwa das Ausführen von Anwendungen, das Speichern oder Verwalten von Daten, die Bereitstellung von Inhalten wie Social Media oder das Anbieten von Diensten wie Streamingdiensten oder spezialisierter Software. Obwohl jeder Server über eigene Funktionen verfügt, sind sie miteinander vernetzt und bilden gemeinsam ein einziges, voneinander abhängiges digitales Ökosystem, das es Nutzern – sowohl Einzelpersonen als auch Organisationen – ermöglicht, von jedem Gerät mit Internetverbindung auf Dateien und Daten zuzugreifen.

Eine Anwendungsprogrammierschnittstelle (API) ist im Wesentlichen eine Verbindung zwischen zwei Geräten, über die sie Informationen austauschen können. API-Software umfasst Definitionen, die festlegen, welche Informationen zwischen den Geräten übertragen werden (z. B. zwischen dem Clientgerät, das die Anfrage stellt, und dem Servergerät, das die Antwort sendet), sowie Protokolle, die bestimmen, wie diese Informationen zu übertragen sind (z. B. die URL/der Endpunkt des empfangenden Geräts und die Syntax/Formulierung/Sprache, die sowohl für die Anfrage als auch für die Antwort verwendet werden muss).

Dies ermöglicht es Endnutzern beispielsweise, sich bei Anwendungen anzumelden, um Artikel auf einer Website zu kaufen, eine Mitfahrgelegenheit zu buchen oder – im Zusammenhang mit einem LLM – eine Anfrage zu stellen und eine Antwort zu erhalten, ohne verstehen zu müssen, wie oder warum das System funktioniert. APIs können überwacht und abgesichert werden, sodass die Daten auf dem Gerät des Clients dem Servergerät niemals vollständig offengelegt werden.

Der Unterschied zwischen SaaS und cloudbasierten Diensten

Der erste Blogbeitrag dieser Reihe befasste sich mit den Vor- und Nachteilen der unternehmensweiten Bereitstellung von LLMs mithilfe eines Software-as-a-Service- oder SaaS-Modells. Ein SaaS-basiertes Bereitstellungsmodell ähnelt in vielerlei Hinsicht einem cloudbasierten Bereitstellungsmodell, da bei beiden die Cloud für den Zugriff auf die benötigte Software genutzt wird, anstatt Anwendungen auf den eigenen Systemen zu hosten. Der wesentliche Unterschied zwischen ihnen lässt sich jedoch auf ein sehr einfaches Konzept reduzieren. SaaS bedeutet grundsätzlich, dass Ihr Unternehmen für den Zugriff auf und die Nutzung einer Softwareanwendung eines Drittanbieters bezahlt, die „in der Cloud“ gehostet wird, während Cloud-Computing bedeutet, dass Sie einen Drittanbieter dafür bezahlen, die Daten Ihres Unternehmens zu hosten und den Zugriff darauf zu ermöglichen, wobei diese Daten „in der Cloud“ gespeichert werden.

Vorteile

Schnelle Bereitstellung: Cloud-Dienste, mit denen ein LLM für den Einsatz in Ihrem Unternehmen konfiguriert werden kann, lassen sich schnell einrichten, sodass Sie das Modell zeitnah nutzen können. 

Skalierbarkeit: Ein in der Cloud bereitgestelltes LLM kann so konfiguriert werden, dass es automatisch entsprechend dem Bedarf skaliert, ohne dass ein manueller Eingriff erforderlich ist.

Geringerer Betriebsaufwand: Einrichtung, Sicherheit, Wartung, Aktualisierungen und Systemoptimierung werden in der Regel vom Cloud-Anbieter übernommen, sodass sich Ihr IT-Team und andere Mitarbeitende auf andere Aufgaben konzentrieren können. Zugänglichkeit: Auf cloudbasierte LLMs kann von jedem Gerät und überall dort zugegriffen werden, wo ein Internetzugang verfügbar ist. Dies bietet Mitarbeitenden, die auf Reisen sind oder im Homeoffice arbeiten, mehr Flexibilität. 

Kosteneffizienz: Cloud-Service-Anbieter bieten in der Regel ein nutzungsbasiertes Preismodell an, bei dem nur die tatsächlich genutzten Ressourcen berechnet werden. Dies kann besonders wichtig sein, wenn der Bedarf Ihres Unternehmens schwankt. Ihr Unternehmen benötigt keine umfangreichen Rechenressourcen oder Datenspeicherkapazitäten.

Vortrainierte und feinabgestimmte Modelle: KI-Modelle werden kontinuierlich weiterentwickelt und mit größeren, hochwertigeren Datensätzen trainiert. Zudem können sie für die Verwendung mit benutzerdefinierten Datensätzen feinabgestimmt werden.

Inhärente Redundanz: Das Risiko eines Datenverlusts aufgrund von Ausfällen wird durch mehrere Redundanzebenen in Cloud-Umgebungen erheblich reduziert.

Nachteile

Latenz: Die Definition von „Echtzeit“ hängt vom Standort, der Geschwindigkeit und der Rechenleistung der Server ab, die von Ihrem Cloud-Service-Anbieter betrieben werden. Während leicht verzögerte Reaktionszeiten in manchen Umgebungen möglicherweise nicht auffallen, können sie in anderen geschäftskritische Aktivitäten beeinträchtigen. 

Laufende Kosten: Cloud Computing ist kein kostengünstiges Unterfangen. Da die Modelle immer größer und schneller werden, steigen auch die Kosten für Rechen- und Speicherressourcen entsprechend.

Anbieterbindung: Die Abhängigkeit von einem einzigen Anbieter birgt Risiken. Die Maßnahmen und Protokolle des Anbieters zur physischen Sicherheit und Cybersicherheit sind ebenso wichtige Aspekte wie Änderungen der Nutzungsbedingungen oder anderer Richtlinien, Preiserhöhungen und die Einstellung von Diensten.

Fazit

Ob die Vorteile der unternehmensweiten Bereitstellung eines LLM mithilfe eines cloudbasierten Dienstes die Nachteile überwiegen, lässt sich nur durch eine sorgfältige Abwägung der finanziellen und technischen Ressourcen, der geschäftlichen Anforderungen sowie der Sicherheitsanforderungen und sonstigen betrieblichen Einschränkungen Ihres Unternehmens bestimmen. Einige unserer früheren Blogbeiträge befassten sich mit der Einrichtung interner und externer systematischer Schutzmaßnahmen, KI-Governance-Programme, und weiteren Möglichkeiten, diese transformativen Tools sicher in Ihrem Unternehmen einzusetzen. Sie können Ihnen dabei helfen, diesen neuen Weg durch die Technosphäre zu beschreiten.

Über den Autor

F5 Newsroom Staff

Weitere Blogbeiträge von F5 Newsroom Staff