Den Schlagzeilen zufolge ist OpenAI das einzige generative KI-Spiel auf der Stadt. Es wird in jedem Gespräch über KI erwähnt, auch in diesem. Aber es ist nicht der einzige Dienst und auch nicht das einzige verfügbare Modell.
Tatsächlich ist die Einführung generativer KI in Unternehmen nicht so homogen, wie die Schlagzeilen vermuten lassen.
Unsere jüngsten Untersuchungen haben ergeben, dass Organisationen im Durchschnitt fast drei verschiedene Modelle verwenden. Der Grund für diese Wahl scheint in den Anwendungsfällen zu liegen.
So ist es beispielsweise keine Überraschung, dass sich Sicherheitsoperationen als Anwendungsfall immer mehr Open-Source-Modellen zuwenden, die privat trainiert werden können, ohne dass man befürchten muss, Prozesse und vertrauliche Unternehmensdaten preiszugeben. Dasselbe gilt für die Inhaltserstellung, bei der häufig vertrauliche Daten mit einem Modell geteilt werden müssen. Ebenso wenig überraschend finden sich in Anwendungsfällen zur Workflow-Automatisierung gehostete Dienste von Microsoft, da viele Unternehmen sowohl vor Ort als auch in Azure eng mit Microsoft-Lösungen verbunden sind.
Kein einzelnes Modell wird alle technischen und geschäftlichen Anforderungen für die wachsende Liste generativer KI für Unternehmensanwendungsfälle erfüllen.
Dies führt zu einigen Herausforderungen bei der App-Bereitstellung, -Sicherheit und dem allgemeinen Betrieb, da unterschiedliche Modellauswahlen unterschiedliche Bereitstellungsmuster bedeuten.
Es zeichnen sich drei grundlegende Bereitstellungsmuster ab. Der Hauptunterschied besteht in der betrieblichen Verantwortung für die Skalierung von Inferenzdiensten. In allen Mustern ist die Organisation für die Bereitstellung und Sicherheit der App verantwortlich.
(Um tiefer in diese Muster einzutauchen, können Sie sich diesen Blog von Chris Hain ansehen)
Es gibt zahlreiche Anbieter, die Open-Source-Modelle hosten, um ein verwaltetes SaaS-Muster zu unterstützen, und viele Cloud-Anbieter, die Open Source auch als Dienst anbieten.
OpenAI-Modelle sind nicht nur in einem SaaS-verwalteten Muster über OpenAI verfügbar, sondern auch als Cloud-verwaltetes Muster über Microsoft. Mistral, ein beliebtes Open-Source-Modell, kann in allen drei Mustern eingesetzt werden. Aus diesem Grund betrachten wir den Anwendungsfall als primären Faktor für die Modellauswahl, da Unternehmen Modelle und Bereitstellungsmuster beliebig kombinieren können.
Organisationen stehen bereits unter Druck, da sie nicht nur Modelle trainieren, sondern auch betreiben und sichern müssen. Deshalb macht es für viele Organisationen mit begrenztem operativen Know-how am meisten Sinn, Modelle nach Anwendungsfall einzusetzen. Wenn Sie Ihre Ressourcen auf Anwendungsfälle konzentrieren, die aus Sicherheits- oder Datenschutzgründen nicht in geteilten Mustern genutzt werden können, erzielen Sie die besten Ergebnisse.
Seien Sie vorsichtig bei operativer Kurzsichtigkeit, die innerhalb einer Organisation zu Silos führen kann. Wir haben das schon beim Cloud Computing erlebt und werden es mit generativer KI im Unternehmen sicher erneut sehen. Wenn Sie die Gefahr erkennen, Betrieb und Sicherheit isoliert zu betrachten, können Sie die entstehende Komplexität und das Risiko vermeiden und strategisch Modelle und Bereitstellungsmuster wählen, die Ihre Ressourcen, Fähigkeiten und Budgets bestmöglich nutzen.
Wir befinden uns noch in der Anfangsphase und bis Sie dies lesen, wird es zweifellos neue Anbieter und neue Modelle mit neuen Funktionen geben. Die Bereitstellungsmuster bleiben jedoch weitgehend gleich, was eine strategischere Planung im Hinblick auf den Betrieb ermöglicht – von den Budgets über die Personalausstattung bis hin zu den App-Diensten, die Sie benötigen, um die von Ihnen ausgewählten Modelle zu sichern und zu skalieren.