Den Schlagzeilen zufolge ist OpenAI der einzige relevante Anbieter generativer KI. Das Unternehmen wird in jedem Gespräch über KI erwähnt – selbst in diesem. Doch OpenAI ist weder der einzige Dienst auf dem Markt noch das einzige verfügbare Modell.
Tatsächlich ist die Einführung von generativer KI in Unternehmen nicht so einheitlich, wie die Schlagzeilen vermuten lassen.
Unsere jüngste Studie hat ergeben, dass Unternehmen im Durchschnitt fast drei verschiedene Modelle einsetzen. Ausschlaggebend für diese Entscheidung scheinen die jeweiligen Anwendungsfälle zu sein.
So überrascht es beispielsweise nicht, dass im Bereich Security Operations bevorzugt Open-Source-Modelle eingesetzt werden, die intern trainiert werden können, ohne eine Offenlegung von Prozessen und sensiblen Unternehmensdaten befürchten zu müssen. Gleiches gilt für die Erstellung von Inhalten, bei der häufig sensible Daten mit einem Modell geteilt werden müssen. Ebenso wenig überrascht es, dass bei Anwendungsfällen zur Workflow-Automatisierung auf die gehosteten Dienste von Microsoft zurückgegriffen wird, da viele Unternehmen sowohl lokal als auch in Azure eng an Microsoft-Lösungen gebunden sind.
Kein einzelnes Modell wird alle technischen und geschäftlichen Anforderungen der wachsenden Zahl von Anwendungsfällen für generative KI in Unternehmen erfüllen können.
Dies bringt einige Herausforderungen bei der Anwendungsbereitstellung, der Sicherheit und dem allgemeinen Betrieb mit sich, da unterschiedliche Modellentscheidungen unterschiedliche Bereitstellungsmuster erfordern.
Neue Bereitstellungsmuster für KI
Es zeichnen sich drei grundlegende Bereitstellungsmuster ab. Der wesentliche Unterschied liegt in der operativen Verantwortung für die Skalierung von Inferenzdiensten. Bei allen Mustern ist die Organisation verantwortlich für die Anwendungsbereitstellung und die Sicherheit.
- SaaS-verwaltet. Bei einem SaaS-verwalteten Bereitstellungsmodell verwenden KI-Anwendungen APIs, um auf einen verwalteten KI-Dienst wie OpenAI ChatGPT zuzugreifen. Die betriebliche Verantwortung für die Skalierung liegt beim Anbieter.
- Cloudverwaltet. Cloudverwaltete Bereitstellungsmuster nutzen KI-Dienste, die von Cloudanbietern gehostet werden. Der Zugriff auf diese Dienste erfolgt weiterhin über eine API, sie können jedoch entweder exklusiv für das Unternehmen oder gemeinsam genutzt werden. Die KI-Anwendungen selbst können sich ebenfalls in der Public Cloud oder in der lokalen Infrastruktur befinden. Wird der Dienst exklusiv genutzt, ist das Unternehmen für die Skalierung der Inferenzdienste verantwortlich. Dies kann eine Herausforderung darstellen, da die meisten Unternehmen nur wenig Erfahrung mit der Skalierung großer Sprachmodelle haben. Bei gemeinsamer Nutzung übertragen Unternehmen die Verantwortung auf den Cloudanbieter, müssen im Rahmen ihres Betriebs jedoch Faktoren wie Kontingente und tokenbasierte Kosten berücksichtigen.
- Selbstverwaltet. Open-Source-Modelle werden höchstwahrscheinlich nach einem selbstverwalteten Bereitstellungsmuster eingesetzt, sowohl in der Public Cloud als auch lokal. Auf die Modelle kann über eine API oder direkt über eine Anwendung zugegriffen werden. Bei diesem Muster übernehmen Unternehmen die volle Verantwortung für die Skalierung, Absicherung und Überwachung der Inferenzdienste.
Es gibt zahlreiche Anbieter, die Open-Source-Modelle hosten und damit ein SaaS-verwaltetes Modell unterstützen, sowie viele Cloud-Anbieter, die Open Source ebenfalls als Service anbieten.
OpenAI-Modelle sind nicht nur über OpenAI in einem SaaS-verwalteten Modell verfügbar, sondern über Microsoft auch in einem Cloud-verwalteten Modell. Mistral, ein beliebtes Open-Source-Modell, kann in allen drei Modellen bereitgestellt werden. Daher betrachten wir den Anwendungsfall als wichtigsten Faktor bei der Modellauswahl, da Unternehmen Modelle und Bereitstellungsmodelle gewissermaßen beliebig kombinieren können.
Unternehmen spüren bereits den Druck, der durch die erforderlichen Kompetenzen entsteht, die nicht nur für das Trainieren von Modellen, sondern auch für deren Betrieb und Absicherung benötigt werden. Daher ist es für viele Unternehmen, deren betriebliche Fachkompetenz nur begrenzt verfügbar ist, am sinnvollsten, die Modelle passend zum jeweiligen Anwendungsfall auszuwählen. Die Konzentration der Ressourcen auf jene Anwendungsfälle, die aus Sicherheits- oder Datenschutzgründen nicht in gemeinsam genutzten Bereitstellungsmodellen umgesetzt werden können, wird letztlich die besten Ergebnisse erzielen.
Vorsicht vor betrieblicher Kurzsichtigkeit
Hüten Sie sich jedoch vor der Gefahr operativer Kurzsichtigkeit, die zur Bildung von Silos innerhalb des Unternehmens führen kann. Beim Cloud-Computing haben wir dies bereits erlebt, und zweifellos wird es bei generativer KI für Unternehmen erneut dazu kommen. Wenn sich Unternehmen jedoch der Gefahr bewusst sind, Betrieb und Sicherheit nach Modellen getrennt zu organisieren, können sie hoffentlich die damit verbundene Komplexität und die entsprechenden Risiken vermeiden und strategisch Modelle und Bereitstellungsmuster wählen, mit denen sich betriebliche Ressourcen, Kompetenzen und Budgets optimal nutzen lassen.
Wir stehen noch ganz am Anfang, und wenn Sie dies lesen, wird es zweifellos bereits neue Anbieter und Modelle mit neuen Funktionen geben. Die Bereitstellungsmuster werden jedoch weitgehend gleich bleiben. Das ermöglicht eine strategischere Planung des Betriebs – von Budgets und Personal bis hin zu den Anwendungsdiensten, die Sie benötigen, um die von Ihnen gewählten Modelle abzusichern und zu skalieren.
Über den Autor
Lori MacVittie ist Distinguished Engineer und Chief Evangelist im Office of the CTO von F5 und verfügt über umfassende Expertise in den Bereichen Anwendungsbereitstellung, Automatisierungsstrategie und Infrastruktur. Sie ist dafür bekannt, Komplexität verständlich zu machen – ob sie Leitplanken für KI-Agenten definiert, fragile Multicloud-Architekturen analysiert oder die Grenzen skalierbarer Systeme auslotet. Sie verfügt über mehr als dreißig Jahre Branchenerfahrung in der Anwendungsentwicklung, IT-Architektur sowie im Netzwerk- und Systembetrieb. Bevor sie zu F5 kam, war sie als mehrfach ausgezeichnete Technologie-Redakteurin tätig. MacVittie hat einen Masterabschluss in Informatik und ist eine produktive Autorin, deren Veröffentlichungen die Bereiche Sicherheit, Cloud und Unternehmensarchitektur abdecken. Außerdem spielt sie leidenschaftlich gern Brett- und Videospiele und vertritt mit voller Überzeugung klare Ansichten zum Thema Käse.
Weitere Blogbeiträge von Lori Mac VittieÄhnliche Blogbeiträge
Ein umfassender Leitfaden zur Bereitstellung und Sicherheit von KI-Anwendungen
Entdecken Sie optimale Strategien für die Absicherung und Bereitstellung von KI-Anwendungen.
KI zulassen und einführen? Lehren aus der Public Cloud
Die Einführung von KI steht unmittelbar bevor und könnte entscheidend sein, um wettbewerbsfähig zu bleiben. Daher muss die IT-Sicherheit proaktiv handeln und der KI-Einführung schon jetzt einen Schritt voraus sein, um sie auf einen risikogerechten Weg zu lenken.
Stand der Anwendungsstrategie 2022: Zeit für die Modernisierung des Betriebs
Es ist deutlich geworden, dass Unternehmen ihren Fokus erneut auf die Geschäftsfunktionen richten müssen, um die Dynamik ihrer digitalen Transformation aufrechtzuerhalten. Kundenerlebnisse haben zwar weiterhin Priorität, doch auch Geschäftsfunktionen wie Recht, Personalwesen und Finanzen müssen digitalisiert werden. Das bedeutet, dass CIOs das Steuer übernehmen, während sich die digitale Transformation von der Modernisierung von Anwendungen hin zur Modernisierung von Betriebsabläufen verlagert.
F5s Weg zu einer vielseitigen Plattform für Anwendungsanalysen
F5 bietet heute die umfassendsten Anwendungsdienste entlang des gesamten Weges vom Code bis zum Kunden. Künftig werden wir verstärkt auf Anwendungstelemetrie und -analysen setzen, damit unsere Kunden wertvolle Erkenntnisse über ihre Anwendungen, Geschäftsabläufe und Benutzererlebnisse gewinnen können. Beim Ausbau unserer Cloud-Analysefunktionen werden wir ML und KI noch stärker nutzen, um unsere Kunden bei der Verbesserung ihrer Geschäftsdienste zu unterstützen.
Telemetrie: Eine andere Art von Daten
Verwenden wir den Begriff „Telemetrie“ nur, weil er attraktiver klingt als „Daten“? Letztlich sind sowohl Daten als auch Telemetrie strukturierte Informationseinheiten. Es ist kein Verbrechen, die Begriffe synonym zu verwenden. Doch wenn man es genau nimmt, gibt es einen Unterschied. Und dieser Unterschied wird immer wichtiger werden, je weiter Unternehmen in die Datenökonomie vordringen.
MTTR bedeutet nicht „Mean Time to Reboot“
„Schnell scheitern“ lautet heute das Mantra für mehr Geschwindigkeit. Ob in DevOps oder im Geschäftsleben: Wer in einer digitalen Wirtschaft agiert, muss eine möglichst perfekte Verfügbarkeit gewährleisten.