Alle stürzen sich auf die Goldgrube der generativen KI. Zumindest wirkt es auf den ersten Blick so. Heutzutage landet kaum noch eine Pressemitteilung in meinem Posteingang, in der generative KI nicht in irgendeiner Form erwähnt wird.
Doch bei genauerem Hinsehen wird schnell klar, dass generative KI derzeit vor allem das Marketing maßgeblich beeinflusst.
Was wir derzeit beobachten, ist, dass sich die Leute auf die leicht erreichbaren Ziele stürzen. Jede Funktion, die sich ohne nennenswerten Entwicklungs- oder Forschungsaufwand einfach „anflanschen“ lässt, wird kurzerhand mit Sekundenkleber befestigt und auf den Markt gebracht.
Die meisten Unternehmen – ob in der Technologiebranche, im produzierenden Gewerbe oder im Gesundheitswesen – gehen bedachter vor. Sie verfolgen einen strategischeren Ansatz, wenn ich das so sagen darf. Und da dies mein Blog ist, darf ich das.
Die Gründe dafür, den Einsatz generativer KI kritischer zu hinterfragen, sind weithin bekannt, wenn man den Bekanntheitsgrad anhand einer aktuellen Umfrage von ExtraHop beurteilt. Die größten Bedenken lassen sich in zwei Kategorien einteilen: Zuverlässigkeit und Sicherheit.
Im Bereich der generativen KI geht es bei Zuverlässigkeit vor allem um Genauigkeit und Vertrauen. Ich muss darauf vertrauen können, dass die Antworten, die ich erhalte – ob Code, Konfiguration oder Inhalte – präzise und korrekt und nicht von Vorurteilen geprägt sind.
Im Sicherheitsbereich haben wir dieselben altbekannten Bedenken wie eh und je – und noch weitere. Inzwischen geht es nicht mehr nur um die Offenlegung personenbezogener Daten von Kunden und Mitarbeitern, sondern auch darum, dass Geschäftsgeheimnisse und geistiges Eigentum in die weite Welt hinausgelangen.
Risiken generativer KI bewältigen
Die Bewältigung von Herausforderungen im Hinblick auf die Zuverlässigkeit ist sehr aufwendig, da sie entweder (a) umfangreiches Training und Fine-Tuning oder (b) einen Architekturansatz erfordert, bei dem generative KI nur einen Teil der Lösung darstellt und fortschrittliche Prompt-Engineering-Techniken nutzt, um ihre eigenen Antworten zu validieren. Beides erfordert Zeit und Geld, und deshalb sehen wir noch keine Lösungen mit generativer KI die Märkte prägen. Noch nicht. Das wird kommen, aber es wird Zeit brauchen.
Die Sicherheitsherausforderung ist zugleich leichter und schwieriger zu bewältigen. Um zu verhindern, dass Geschäftsgeheimnisse oder geistiges Eigentum offengelegt werden, muss man entweder (a) eigene Instanzen eines LLM bereitstellen und betreiben – mit allem, was dazugehört – oder (b) das Problem durch eine entsprechende Architektur umgehen. Das bedeutet, GPT-Agenten zu entwickeln, die die generativen Fähigkeiten eines LLM als Werkzeug nutzen, jedoch nicht als primäre Quelle.
So vergisst man beispielsweise leicht, dass die erhobenen Daten von strategischer Bedeutung sein können. Das Modell, mit dem ich Marktaktivitäten verfolge, mag harmlos erscheinen, verrät aber viel darüber, wie F5 den Markt einschätzt und wie das Unternehmen dort im Wettbewerb bestehen will. Es ist von strategischer Bedeutung. Daher sollte man diese Daten nicht zur Analyse an ein öffentliches LLM weitergeben. Hinzu kommt, dass generative KI bei der Analyse tabellarischer Daten miserabel ist – und ich meine wirklich miserabel. Daher scheint dies kein geeigneter Anwendungsfall zu sein.
Doch wenn man OpenAI-Funktionen nutzt, um die Datenanalysefunktionen von Python auszuschöpfen, ist das keineswegs eine schlechte Idee. Das erfordert Zeit und Entwicklungsaufwand, da man einen GPT-Agenten erstellen muss, anstatt die Daten einfach zur Analyse an OpenAI zu übergeben. Dafür werden jedoch sowohl die Herausforderungen hinsichtlich Zuverlässigkeit als auch Sicherheit gelöst.
Für den Fall, dass personenbezogene Daten von Kunden oder Mitarbeitern versehentlich offengelegt werden, zeichnet sich bereits eine einfachere Lösung ab: die Datenmaskierung.
Datenmaskierung für generative KI
Nun war Datenmaskierung bereits zunehmend in der Entwicklung im Einsatz, da Entwickler damit Tests mit echten Daten durchführen können, ohne Gefahr zu laufen, sensible Daten offenzulegen. Sie eignet sich jedoch ebenso für den Einsatz mit generativer KI, um eine Offenlegung zu verhindern. Es gibt bereits eine Reihe von Open-Source-Bibliotheken und -Tools, die sich leicht integrieren lassen, denn die meisten generativen KI-Systeme werden über APIs angesteuert, und API-Anfragen lassen sich problemlos abfangen und auf sensible Daten prüfen.
Der Einsatz von Datenmaskierung zur Bewältigung von Sicherheitsbedenken bei generativer KI funktioniert sowohl in der Entwicklung als auch in der Produktion und stellt sicher, dass sensible Daten während des gesamten Anwendungslebenszyklus nicht offengelegt werden.
Es steht außer Frage, dass Datenmaskierung bereits auf dem Vormarsch war, bevor generative KI aufkam und allen anderen Technologien die Schau stahl. Doch generative KI dürfte sich als Katalysator für Datenmaskierungsfunktionen sowohl im Bereich der Anwendungsbereitstellung und -sicherheit als auch in der Anwendungsentwicklung erweisen.
Erfahren Sie, wie Lösungen von F5 KI-basierte Anwendungen unterstützen und schützen ›
Über den Autor
Lori MacVittie ist Distinguished Engineer und Chief Evangelist im Office of the CTO von F5 und verfügt über umfassende Expertise in den Bereichen Anwendungsbereitstellung, Automatisierungsstrategie und Infrastruktur. Sie ist dafür bekannt, Komplexität verständlich zu machen – ob sie Leitplanken für KI-Agenten definiert, fragile Multicloud-Architekturen analysiert oder die Grenzen skalierbarer Systeme auslotet. Sie verfügt über mehr als dreißig Jahre Branchenerfahrung in der Anwendungsentwicklung, IT-Architektur sowie im Netzwerk- und Systembetrieb. Bevor sie zu F5 kam, war sie als mehrfach ausgezeichnete Technologie-Redakteurin tätig. MacVittie hat einen Masterabschluss in Informatik und ist eine produktive Autorin, deren Veröffentlichungen die Bereiche Sicherheit, Cloud und Unternehmensarchitektur abdecken. Außerdem spielt sie leidenschaftlich gern Brett- und Videospiele und vertritt mit voller Überzeugung klare Ansichten zum Thema Käse.
Weitere Blogbeiträge von Lori Mac VittieÄhnliche Blogbeiträge
Ein umfassender Leitfaden zur Bereitstellung und Sicherheit von KI-Anwendungen
Entdecken Sie optimale Strategien für die Absicherung und Bereitstellung von KI-Anwendungen.
KI zulassen und einführen? Lehren aus der Public Cloud
Die Einführung von KI steht unmittelbar bevor und könnte entscheidend sein, um wettbewerbsfähig zu bleiben. Daher muss die IT-Sicherheit proaktiv handeln und der KI-Einführung schon jetzt einen Schritt voraus sein, um sie auf einen risikogerechten Weg zu lenken.
Stand der Anwendungsstrategie 2022: Zeit für die Modernisierung des Betriebs
Es ist deutlich geworden, dass Unternehmen ihren Fokus erneut auf die Geschäftsfunktionen richten müssen, um die Dynamik ihrer digitalen Transformation aufrechtzuerhalten. Kundenerlebnisse haben zwar weiterhin Priorität, doch auch Geschäftsfunktionen wie Recht, Personalwesen und Finanzen müssen digitalisiert werden. Das bedeutet, dass CIOs das Steuer übernehmen, während sich die digitale Transformation von der Modernisierung von Anwendungen hin zur Modernisierung von Betriebsabläufen verlagert.
F5s Weg zu einer vielseitigen Plattform für Anwendungsanalysen
F5 bietet heute die umfassendsten Anwendungsdienste entlang des gesamten Weges vom Code bis zum Kunden. Künftig werden wir verstärkt auf Anwendungstelemetrie und -analysen setzen, damit unsere Kunden wertvolle Erkenntnisse über ihre Anwendungen, Geschäftsabläufe und Benutzererlebnisse gewinnen können. Beim Ausbau unserer Cloud-Analysefunktionen werden wir ML und KI noch stärker nutzen, um unsere Kunden bei der Verbesserung ihrer Geschäftsdienste zu unterstützen.
Telemetrie: Eine andere Art von Daten
Verwenden wir den Begriff „Telemetrie“ nur, weil er attraktiver klingt als „Daten“? Letztlich sind sowohl Daten als auch Telemetrie strukturierte Informationseinheiten. Es ist kein Verbrechen, die Begriffe synonym zu verwenden. Doch wenn man es genau nimmt, gibt es einen Unterschied. Und dieser Unterschied wird immer wichtiger werden, je weiter Unternehmen in die Datenökonomie vordringen.
MTTR bedeutet nicht „Mean Time to Reboot“
„Schnell scheitern“ lautet heute das Mantra für mehr Geschwindigkeit. Ob in DevOps oder im Geschäftsleben: Wer in einer digitalen Wirtschaft agiert, muss eine möglichst perfekte Verfügbarkeit gewährleisten.