Der Einsatz generativer KI-Tools am Arbeitsplatz erfordert mehr Sicherheit

Rachael ShahSenior Product Marketing Manager | F5

Generative KI ist wie dieses eine besonders glänzende Objekt, von dem niemand den Blick abwenden kann.

Fast jedes Unternehmen weltweit ist begeistert von dem Potenzial generativer KI-Tools, das eigene Geschäft grundlegend zu verändern – und das aus gutem Grund.

Generative KI, eine Form des maschinellen Lernens, die auf natürlichsprachliche Anfragen hin Inhalte wie Texte und Bilder erstellt, ist eine bahnbrechende Technologie. Von der Steigerung der Produktivität bis hin zur Verbesserung der Personalisierung bieten generative KI-Tools eine ganze Reihe von Vorteilen.

So gaben beispielsweise in einer aktuellen Umfrage von Gartner mehr als 2.500 Führungskräfte an, dass Kundenerlebnis und Kundenbindung (38 %) das Hauptziel ihrer Investitionen in generative KI sind. Es folgen weitere Bereiche wie Umsatzwachstum (26 %), Kostenoptimierung (17 %) und Geschäftskontinuität (7 %).

Darüber hinaus sehen laut einer separaten Umfrage von IBM unter 3.000 CEOs 69 % der befragten CEOs die umfassenden Vorteile generativer KI für ihr gesamtes Unternehmen. Allerdings geben nur 30 % der leitenden Führungskräfte unterhalb der CEO-Ebene an, dass ihr Unternehmen bereit ist, generative KI verantwortungsvoll einzusetzen.

Seien wir ehrlich: Das ist alarmierend. Weniger als ein Drittel der Führungskräfte gibt an, dass ihr Unternehmen bereit ist, generative KI verantwortungsvolleinzusetzen?

Angesichts all der Vorteile, die der Einsatz generativer KI-Tools potenziell mit sich bringen kann, gerät man leicht ins Schwärmen. Doch vergessen wir nicht: Der Einsatz generativer KI-Tools kann erhebliche Risiken und Herausforderungen mit sich bringen.

Angesichts der rasanten Entwicklung generativer KI können Unternehmen schnell in Schwierigkeiten geraten, wenn sie nicht sorgfältig darauf achten, wie ihre Mitarbeitenden generative KI-Tools einsetzen und welche Daten in die Benutzeroberflächen generativer KI eingegeben werden.

Hier sind nur einige der vielen Möglichkeiten, wie generative KI eine positive, nützliche Erfahrung schlagartig in ein kostspieliges Sicherheitsproblem verwandeln kann:

1. Offenlegung sensibler Unternehmensdaten.
   Vielleicht haben Sie davon gehört oder gelesen, dass Mitarbeitende von Samsung versehentlich Code in den Chatbot von OpenAI ChatGPT hochgeladen haben. Dadurch wurden nicht nur geschützte Daten offengelegt, sondern es entstand für Samsung auch ein gewaltiger, weltweiter PR-Albtraum. Und wahrscheinlich ist Samsung nicht das einzige Unternehmen, dem dies bereits passiert ist oder noch passieren könnte. Als Nächstes könnte es Ihr Unternehmen treffen.
   
   
2. Verbreitung von Fehlinformationen und Vorurteilen.
   Generative KI-Tools wie ChatGPT basieren auf großen Sprachmodellen (Large Language Models, LLMs). Diese LLMs werden mit Datensätzen aus Artikeln, Websites und allen möglichen anderen Quellen trainiert – darunter auch fehlerhafte und falsche Informationen. Man kann leicht dazu verleitet werden zu glauben, dass generative KI-Tools keine falschen Informationen erzeugen oder Vorurteile verbreiten, und ihre Ergebnisse dann in Kampagnen verwenden oder Annahmen darauf stützen. Doch ehe man sich versieht, verschwimmt die Grenze zwischen Wahrheit und Unwahrheit – und damit leidet auch der eigene Ruf. Zudem sind die von generativen KI-Chatbots erzeugten Vorurteile und falschen Informationen noch längst nicht so problematisch wie KI-Halluzinationen!
   
   
3. Unsachgemäßer Umgang mit personenbezogenen Daten (PII).
   Bei der Interaktion mit generativen KI-Tools können personenbezogene Daten erfasst werden. Es liegt an den Unternehmen hinter diesen Tools, strenge Datenschutzmaßnahmen einzuhalten. Tun sie dies nicht, müssen Sie sich möglicherweise mit einer Kontoübernahme auseinandersetzen. Oder Ihnen drohen erhebliche rechtliche Konsequenzen und Konflikte mit Ihren Kunden, wenn böswillige Akteure an deren personenbezogene Daten gelangen.

Glücklicherweise ergreifen viele Organisationen Maßnahmen, um sichere Praktiken zu gewährleisten. Einige Unternehmen bieten Schulungen zu den positiven und negativen Aspekten generativer KI an oder ermutigen ihre Mitarbeitenden, diese verantwortungsvoll zu erkunden und damit zu experimentieren. Andere haben Richtlinien für generative KI entwickelt, deren Kenntnisnahme durch die Mitarbeitenden verpflichtend ist und die verbindliche Vorgaben enthalten.

Auch wenn diese Maßnahmen zweifellos sinnvoll sind, erfordern die große Beliebtheit, die Komplexität und die rasante Weiterentwicklung generativer KI-Tools zusätzliche Sicherheitsvorkehrungen. Hinzu kommt, dass menschliche Fehler nie ganz auszuschließen sind.

Sie haben es bestimmt schon einmal gehört. Oder vielleicht sogar schon oft: Was man nicht sieht, kann einem schaden. Und wenn es um den Einsatz generativer KI-Tools am Arbeitsplatz geht, könnte das nicht zutreffender sein. Mangelndes Problembewusstsein könnte dazu führen, dass Ihr Unternehmen den Kürzeren zieht.

Um sich vor den Risiken zu schützen, die mit der Nutzung generativer KI am Arbeitsplatz einhergehen, müssen Unternehmen einen Zero-Trust-Ansatz verfolgen. Denken Sie daran, dass der zentrale Grundsatz von Zero Trust lautet: „Vertraue niemals. Überprüfe immer.“ Eine wichtige Strategie der Zero-Trust-Sicherheit, der Sie heute Priorität einräumen sollten, ist die Erkennung von Zugriffen auf generative KI-Tools.

Durch mehr Transparenz und eine präzise Kontrolle darüber, wie Mitarbeitende generative KI-Tools bei der Arbeit einsetzen, können Sicherheitsteams potenzielle Risiken erkennen und steuern. Dies hilft Unternehmen dabei:

1. Daten, personenbezogene Daten, Code, geistiges Eigentum und mehr schützen.
2. Richtlinien aktivieren und anwenden, die die Unternehmensvorgaben unterstützen.
3. Schützen Sie Ihre Systeme vor vorsätzlichem oder versehentlichem Missbrauch generativer KI-Tools.

Da sich die Landschaft der generativen KI weiterhin rasant entwickelt, können Unternehmen dank eines Zero-Trust-Sicherheitsframeworks, das Tools für generative KI erkennt, beruhigter sein.

Weitere Informationen dazu, wie F5 Sie dabei unterstützen kann, potenzielle Risiken beim Einsatz generativer KI-Tools am Arbeitsplatz zu minimieren, finden Sie in diesem DevCentral-Artikel zu F5 BIG-IP SSL Orchestrator.

Über den Autor

Rachael ShahSenior Product Marketing Manager | F5

Weitere Blogbeiträge von Rachael Shah