KI-Nutzung verstehen: Warum Unternehmen Transparenz brauchen

Branchentrends | 06. Januar 2025

In den vergangenen zwei Jahren haben wir erlebt, wie Hunderte Millionen Menschen KI-Technologien nutzen. Von ChatGPT bis Gemini sind diese Tools zu einem festen Bestandteil der täglichen Arbeitsabläufe vieler Fachkräfte geworden – auch meiner eigenen. Als Entwickler habe ich selbst erfahren, wie deutlich sich die Produktivität steigern lässt, wenn Large Language Models (LLMs) für Aufgaben eingesetzt werden, etwa um neue Bibliotheken zu verstehen, komplexe Typescript-Deklarationen zu entschlüsseln und Best Practices für verschiedene Technologien zusammenzufassen.

So sehr ich StackOverflow auch vermisse, begeistert es mich doch, dass ich jetzt einen engagierten und freundlichen Assistenten habe, der mich stets in die richtige Richtung zu weisen scheint – ungeachtet etwaiger Unzulänglichkeiten oder Mehrdeutigkeiten in meinen Fragen oder Anfragen. LLMs scheinen sich wie von Zauberhand an die oberste Regel zu halten: zunächst zu versuchen, die gestellte Frage zu beantworten, und anschließend ergänzende Hinweise oder Empfehlungen hinzuzufügen.

Die Herausforderung bei der Einführung von KI

Hier bei F5 Workforce AI Security, ehemals SurepathAI, haben wir KI – wie andere technologieaffine Unternehmen auch – tief in verschiedene Arbeitsabläufe integriert. Wir möchten wirklich mehr darüber erfahren, was KI richtig, falsch oder mit voller Überzeugung völlig falsch macht. Viele Unternehmen beginnen jedoch gerade erst, sich Gedanken über die potenzielle Reichweite und die Auswirkungen von KI in ihren eigenen Netzwerken zu machen. IT-Fachkräfte und Führungskräfte wissen, dass Mitarbeitende diese Tools nutzen, aber nicht, welche davon tatsächlich im Einsatz sind. Kurz gesagt, ihnen fehlt ein aussagekräftiger Überblick über:

  • Wer KI wie häufig und für welche Aufgaben nutzt
  • Welche Informationen sie mit welchen LLMs teilen
  • Die potenziellen Risiken, die mit diesen Interaktionen verbunden sind

Gängige Ansätze, die scheitern

Als Reaktion auf Bedenken hinsichtlich dieser speziellen Form des Datenabflusses besteht ein üblicher erster Schritt für viele Unternehmen darin, ein Rundschreiben zu verfassen, in dem die Mitarbeitenden freundlich gebeten werden, darauf zu achten, welche Informationen sie an LLMs übermitteln. Darin wird in gut gemeinten Stichpunkten erläutert, welche Informationen als vertraulich oder als geistiges Eigentum gelten beziehungsweise aus anderen Gründen nicht weitergegeben werden sollten.

Am anderen Ende des Spektrums fürchten einige Unternehmen die undurchsichtige Funktionsweise von KI und entscheiden sich zunächst für eine Nulltoleranzpolitik, die jegliche Nutzung strikt untersagt.

Beide Ansätze scheitern daran, dass es an einem echten Einblick in die tatsächlichen Nutzungsmuster mangelt. Ohne konkrete Telemetriedaten lässt sich weder feststellen, ob die Beschäftigten die Richtlinien einhalten, noch, wie stark die Produktivität beeinträchtigt wird. Beschäftigte ignorieren oder missverstehen Richtlinien häufig und kommen mitunter zu dem Schluss, dass die Vorteile die wahrgenommenen Risiken überwiegen. Der vermeintlich private Charakter von KI-Interaktionen verschärft dieses Problem, da Nutzer möglicherweise unwissentlich sensible Informationen weitergeben. Es ist einfach viel zu leicht, persönliche oder vertrauliche Inhalte zu übermitteln, wenn man das Gefühl hat, dass damit kaum oder gar kein Risiko verbunden ist.

Warum Transparenz wichtig ist

Anstatt einen zu laxen oder zu strengen Ansatz zu verfolgen, können Unternehmen durch mehr Transparenz bei der KI-Nutzung fundierte und durchsetzbare Entscheidungen treffen. Transparenz ist entscheidend, denn sie ermöglicht Ihnen:

  • Bewerten Sie Risiken, indem Sie nachvollziehen, welche KI-Dienste sowohl von einzelnen Mitarbeitenden als auch von Abteilungen in Ihrem gesamten Unternehmen genutzt werden
  • Erstellen Sie Risikoprofile, die Mitarbeiter- und Gruppendefinitionen sowie Aufgabeninhalte, Aktionen und Absichten kombinieren
  • Potenzielle Lecks sensibler Daten und geistigen Eigentums identifizieren und deren Ursprung ermitteln
  • Gewinnen Sie Erkenntnisse zur Produktivität, indem Sie gewinnbringende Anwendungsfälle und Möglichkeiten für eine breitere Nutzung erfassen
  • Richtlinien auf Grundlage tatsächlicher Nutzungsmuster optimieren

Bei F5 Workforce AI Security, ehemals SurepathAI, erreichen wir dies durch:

  • Nahtlose Integration in Ihr Unternehmensnetzwerk
  • Bereitstellung detaillierter Einblicke in die KI-Nutzung in Ihrem gesamten Unternehmen
  • Identifizierung bestimmter Dienste, Benutzer und Abteilungen, die KI nutzen
  • Analyse von Zweck, Inhalt und Risiko einzelner Aufgaben
  • Erstellung fundierter Risikoprofile auf Grundlage Ihrer tatsächlichen Nutzung und unseres Katalogs mit Hunderten öffentlich verfügbaren LLMs und KI-Diensten

Auf dem Weg zu Transparenz und darüber hinaus

Ein kurzer Blick in unseren öffentlichen Servicekatalog zeigt, dass 6 von 10 Diensten Nutzerdaten für das Training verwenden, darunter ChatGPT und Gemini, und 4 von 10 eine unmoderierte Nutzung zulassen. Das bedeutet, dass sie über keinerlei integrierte Schutzmechanismen verfügen, die verhindern, dass das Modell auf eine als gefährlich oder bösartig eingestufte Eingabeaufforderung reagiert.

Die Entwicklung einer Richtlinie für die akzeptable Nutzung von KI ist zweifellos ein wichtiger erster Schritt. Indem Sie weiter investieren und Ihre Transparenz erhöhen, können Sie Ihre Sicherheitsstrategie durch fundierte Entscheidungen in folgenden Bereichen weiterentwickeln:

  • Welche KI-Dienste für welche Mitarbeitenden und Abteilungen zugelassen oder blockiert werden sollen
  • Welche Arten von sensiblen Daten, Aufgaben und Absichten mit Risikostufen gekennzeichnet werden sollen
  • Wie Sie reagieren sollten, wenn Sie potenziell riskante Interaktionen erkennen

Hier kommt F5 Workforce AI Security, ehemals SurepathAI, ins Spiel. In nur etwa 20 Minuten können wir Ihr Unternehmensnetzwerk mit unserer Plattform verbinden und Ihnen sofort Einblick in die KI-Nutzung Ihres Unternehmens geben. Sie sehen, welche Dienste von wem genutzt werden und sogar die Inhalte dieser Interaktionen. So können Sie wertvolle Informationen erfassen, ohne die Arbeitsabläufe oder Zugriffsrechte Ihrer Mitarbeitenden zu beeinträchtigen. Auf diese Weise erhalten Sie einen umfassenden Überblick über Ihre aktuelle KI-Landschaft und potenzielle Risiken, ohne in bestehende Prozesse einzugreifen.

Gesamtpotenzial im Vergleich zum Risiko

Unabhängig davon, welche Position Sie in der Debatte „Was man nicht messen kann, kann man auch nicht steuern“ vertreten, steht außer Frage, dass die Sperrung des Zugangs zu KI mit hohen entgangenen Chancen verbunden ist. Zudem ist es ineffektiv und zeitaufwendig, von Ihren Mitarbeitenden zu verlangen, ihre Interaktionen mit KI selbst zu verwalten.

Beginnen Sie mit Transparenz, dann ergibt sich die passende Richtlinie von selbst.

Teilen

Über den Autor

Oliver Gould
Oliver GouldSenior-Softwareentwicklungsingenieur | F5

Weitere Blogbeiträge von Oliver Gould

Ähnliche Blogbeiträge

Vier Gründe, warum Sie den F5 Post-Mythos Security Summit nicht verpassen sollten
Branchentrends | 31.08.2026

Vier Gründe, warum Sie den F5 Post-Mythos Security Summit nicht verpassen sollten

Holen Sie sich Expertenrat, um Ihre Apps, APIs und Modelle in der Post-Mythos-Welt zu schützen.

Von einer App zu einer Flotte von KI-Agenten: Ein 90-Tage-Framework für KI-Sicherheit
Branchentrends | 27.07.2026

Von einer App zu einer Flotte von KI-Agenten: Ein 90-Tage-Framework für KI-Sicherheit

Vermeiden Sie den kostspieligen Ansatz „Erst bereitstellen, später absichern“ – mit einem umfassenden Framework zum Schutz von KI-Modellen, Anwendungen und autonomen Agenten.

Fünf Stufen antifragiler Cyberresilienz verwandeln Praxis in Ergebnisse
Branchentrends | 27.03.2026

Fünf Stufen antifragiler Cyberresilienz verwandeln Praxis in Ergebnisse

Erfahren Sie, wie fünf Stufen antifragiler Resilienz Störungen in adaptive Verhaltensweisen überführen, die Ausfälle begrenzen und hybride Multicloud-Architekturen stärken.

Warum Ihre KI-Richtlinien, Governance und Leitplanken nicht warten können
Branchentrends | 15.01.2026

Warum Ihre KI-Richtlinien, Governance und Leitplanken nicht warten können

KI-Richtlinien und -Governance dürfen nicht länger als reine Formalitäten oder Zukunftsthemen betrachtet werden. Sie müssen durch praktische, durchsetzbare Leitplanken ergänzt werden.

Wenn „privat“ nicht privat ist: Wie ChatGPT-Unterhaltungen öffentlich wurden
Branchentrends | 20.08.2025

Wenn „privat“ nicht privat ist: Wie ChatGPT-Unterhaltungen öffentlich wurden

KI verändert die Arbeitsabläufe in Unternehmen, doch eine übersehene Einstellung hat bereits Tausende vertraulicher Unterhaltungen öffentlich zugänglich gemacht

KI-Nutzung verstehen: Warum Unternehmen Transparenz brauchen
Branchentrends | 06.01.2025

KI-Nutzung verstehen: Warum Unternehmen Transparenz brauchen

Anstatt einen zu laxen oder zu strengen Ansatz zu verfolgen, können Unternehmen durch mehr Transparenz bei der KI-Nutzung fundierte und durchsetzbare Entscheidungen treffen.