GenAI-Apps: Vom Experiment zum Produktivbetrieb

F5-Ökosystem | 18. Juli 2024

Versprechen über Versprechen. Anwendungen mit generativer KI versprechen, die menschliche Produktivität und damit die Unternehmensgewinne zu steigern. Der Weg vom Experiment zum Produktivbetrieb bleibt bei vielen Anwendungsfällen hektisch und gefährlich – genau wie in dem 1981 erschienenen Videospiel von Konami, „Frogger“. Der Frosch muss nach Hause gelangen, indem er zunächst eine stark befahrene Straße und anschließend einen reißenden Fluss überquert. Er kann nicht stillsitzen, aber aufgrund der allgegenwärtigen Gefahr auch nicht immer vorwärtshüpfen.

Die Unternehmen sind der Frosch. Die Straße und der Fluss stehen für die schwindelerregende Flut vorbeiziehender KI-Technologien. Die sicheren Bereiche (freie Fahrbahnabschnitte und treibende Baumstämme) sind Eigenentwicklungen und Angebote von Anbietern. Autos, Lastwagen, Schildkröten und offenes Wasser stehen für die ethischen und rechtlichen Risiken sowie die Datenschutz- und Genauigkeitsrisiken generativer KI. Das Zuhause ist die gegenüberliegende Seite, wo die Unternehmensgewinne nach der Produktivsetzung generativer KI-Anwendungen in die Höhe schnellen.

Frogger
Generative KI in Produktion zu bringen, ist wie eine Partie Frogger

Das rasante Tempo, mit dem sich generative KI durchgesetzt hat, erzeugt in Unternehmen eine hektische Dringlichkeit. Doch die Geschwindigkeit, mit der sich die Modelle weiterentwickeln, kann manche Organisationen lähmen: Der Boden verändert sich unter ihren Füßen so schnell, dass sie angesichts des ständigen, rasanten Wandels die Orientierung verlieren. Das Geheimnis bei der Einführung generativer KI ist dasselbe wie beim Start einer Partie Frogger: Einfach loslegen!

Ausgehend von den grundlegenden Anwendungsfällen für generative KI können Unternehmen mit ersten Experimenten beginnen, sobald sie entschieden haben, welche davon für sie interessant sind. Ob sie eine KI-gestützte Anwendung entwickeln, Angebote von Drittanbietern testen oder beides tun – die ersten Versuche werden zeigen, was das Unternehmen tatsächlich benötigt. Entscheidend für den Erfolg in dieser frühen Phase ist, sich auf eine Minimalversion der Anwendung festzulegen, die den Anforderungen an Sicherheit und Wirksamkeit im Produktivbetrieb entspricht. Sie bildet das Fundament des Unternehmens. Darauf aufbauend kann es weitere Fortschritte erzielen und entscheiden, welche Weiterentwicklungen der Modelle relevant sind und ob es sinnvoller ist, selbst zu entwickeln oder eine Lösung einzukaufen.

Es gibt zwei „Fallstricke“, die Unternehmen bei der Einführung generativer KI unweigerlich ausbremsen: das interne Trainieren von Modellen und private Datenbestände. Die Weiterentwicklung von Basismodellen vollzieht sich mittlerweile im Wochen- und Monatsrhythmus, während darauf aufbauende Versionen täglich aktualisiert werden. Wer einen Beleg dafür braucht, muss sich nur den HuggingFace-Modell-Tracker ansehen. Die Seite, die ich gerade beim Schreiben dieses Artikels aufgerufen habe, ist fast vollständig mit Modellen gefüllt, die vor weniger als einer Minute aktualisiert wurden. Erst wenn man nach unten scrollt, findet man ein Modell, das älter als zwei Minuten ist!

Wenn die Daten, die zur Beantwortung einer an eine KI gestellten Frage benötigt werden, öffentlich verfügbar sind, gibt es höchstwahrscheinlich bereits eine gute Auswahl an Basismodellen, die über eine API genutzt werden können. Sind die Daten hingegen nicht öffentlich, muss entschieden werden, ob sie während der Inferenz übermittelt werden sollen oder ob ein Modell selbst entwickelt beziehungsweise beschafft und privat bereitgestellt werden soll. Für den Zugriff auf ein Modell zu bezahlen, ist definitiv schneller und sehr wahrscheinlich günstiger, als ein eigenes Modell zu entwickeln oder zu lizenzieren, zu hosten und intern zu warten. Was ist die besondere Stärke Ihres Unternehmens? Wenn sie nicht gerade in der Entwicklung oder Wartung großer Sprachmodelle (LLMs) liegt, sollten Sie ein Modell höchstwahrscheinlich kaufen, statt es selbst zu entwickeln und zu hosten.

Und bei privaten Daten haben sich die Kontextfenster und individuellen Optionen für die Nutzung von LLMs so schnell weiterentwickelt, dass Sicherheit und Compliance auf Unternehmensniveau – ähnlich den Standards, die beim Cloud-Computing bereits akzeptiert sind – die Anforderungen der meisten Unternehmen erfüllen. Tatsächlich wurde die Forderung kein Training mit Ihren Daten von den Modellanbietern im Jahr 2023 unmissverständlich verstanden. Nehmen wir ChatGPT Enterprise als Beispiel: Es bietet SOC-2-Typ-2-Konformität, SAML-SSO, Verschlüsselung ruhender und übertragener Daten sowie dedizierte Arbeitsbereiche, die Datenaufbewahrung und Domainverifizierung unterstützen – nicht schlecht, oder? Nun, für 92 % der Fortune-500-Unternehmen scheint das mehr als ausreichend zu sein.

Unternehmen, die an das Potenzial generativer KI glauben, müssen sich weder von den damit verbundenen Gefahren noch von den täglichen Fortschritten bei LLMs lähmen lassen. Sie können erfolgreich sein, wenn sie sich mit offenen Augen darauf einlassen. Eine erste Experimentierphase schafft Vertrauen und ermöglicht es, die Aufgaben zu priorisieren, die bei einem sicheren und ethisch verantwortungsvollen Einsatz am meisten profitieren. Diese sollten anschließend unternehmensweit produktiv eingesetzt werden. So erhalten die Verantwortlichen für Evaluierung und Implementierung eine Verschnaufpause, während das Unternehmen Zeit gewinnt, Produktivitätssteigerungen zu messen, die nächsten Aufgaben zu priorisieren und zu entscheiden, ob es sinnvoller ist, eigene LLMs zu entwickeln oder den Zugang zu bestehenden Modellen einzukaufen.

Teilen
Schlagwörter: Office of the CTO, 2024

Über den Autor

James Hendergart
James HendergartSenior Director, Technische Forschung | F5

Weitere Blogbeiträge von James Hendergart

Ähnliche Blogbeiträge

Ein umfassender Leitfaden zur Bereitstellung und Sicherheit von KI-Anwendungen
F5-Ökosystem | 11.08.2024

Ein umfassender Leitfaden zur Bereitstellung und Sicherheit von KI-Anwendungen

Entdecken Sie optimale Strategien für die Absicherung und Bereitstellung von KI-Anwendungen.

KI zulassen und einführen? Lehren aus der Public Cloud
F5-Ökosystem | 06.04.2023

KI zulassen und einführen? Lehren aus der Public Cloud

Die Einführung von KI steht unmittelbar bevor und könnte entscheidend sein, um wettbewerbsfähig zu bleiben. Daher muss die IT-Sicherheit proaktiv handeln und der KI-Einführung schon jetzt einen Schritt voraus sein, um sie auf einen risikogerechten Weg zu lenken.

Stand der Anwendungsstrategie 2022: Zeit für die Modernisierung des Betriebs
F5-Ökosystem | 12.04.2022

Stand der Anwendungsstrategie 2022: Zeit für die Modernisierung des Betriebs

Es ist deutlich geworden, dass Unternehmen ihren Fokus erneut auf die Geschäftsfunktionen richten müssen, um die Dynamik ihrer digitalen Transformation aufrechtzuerhalten. Kundenerlebnisse haben zwar weiterhin Priorität, doch auch Geschäftsfunktionen wie Recht, Personalwesen und Finanzen müssen digitalisiert werden. Das bedeutet, dass CIOs das Steuer übernehmen, während sich die digitale Transformation von der Modernisierung von Anwendungen hin zur Modernisierung von Betriebsabläufen verlagert.

F5s Weg zu einer vielseitigen Plattform für Anwendungsanalysen
F5-Ökosystem | 26.05.2020

F5s Weg zu einer vielseitigen Plattform für Anwendungsanalysen

F5 bietet heute die umfassendsten Anwendungsdienste entlang des gesamten Weges vom Code bis zum Kunden. Künftig werden wir verstärkt auf Anwendungstelemetrie und -analysen setzen, damit unsere Kunden wertvolle Erkenntnisse über ihre Anwendungen, Geschäftsabläufe und Benutzererlebnisse gewinnen können. Beim Ausbau unserer Cloud-Analysefunktionen werden wir ML und KI noch stärker nutzen, um unsere Kunden bei der Verbesserung ihrer Geschäftsdienste zu unterstützen.

Telemetrie: Eine andere Art von Daten
F5-Ökosystem | 24.02.2020

Telemetrie: Eine andere Art von Daten

Verwenden wir den Begriff „Telemetrie“ nur, weil er attraktiver klingt als „Daten“? Letztlich sind sowohl Daten als auch Telemetrie strukturierte Informationseinheiten. Es ist kein Verbrechen, die Begriffe synonym zu verwenden. Doch wenn man es genau nimmt, gibt es einen Unterschied. Und dieser Unterschied wird immer wichtiger werden, je weiter Unternehmen in die Datenökonomie vordringen.

MTTR bedeutet nicht „Mean Time to Reboot“
F5-Ökosystem | 14.03.2019

MTTR bedeutet nicht „Mean Time to Reboot“

„Schnell scheitern“ lautet heute das Mantra für mehr Geschwindigkeit. Ob in DevOps oder im Geschäftsleben: Wer in einer digitalen Wirtschaft agiert, muss eine möglichst perfekte Verfügbarkeit gewährleisten.