Auf dem Weg zu mehr Präzision: Warum eine übermäßige Filterung von KI ein kostspieliger Fehler ist

F5 Newsroom Staff

Wenn Unternehmen beginnen, generative KI (GenAI) in ihre Arbeitsabläufe zu integrieren, bestehen verständlicherweise Bedenken hinsichtlich der von den KI-Modellen erzeugten Inhalte sowie der tatsächlichen und potenziellen Risiken, die mit dem Einsatz dieser noch jungen Technologie verbunden sind. Einige Anbieter begegnen diesen Bedenken, indem sie Sicherheitslösungen bewerben, die rigoros alles blockieren, was in einer Eingabe an ein Modell oder in dessen Antwort auch nur im Entferntesten fragwürdig sein könnte. Doch die Realität sieht so aus: Das ist eine furchtbare Idee. 

Sämtliche Inhalte zu blockieren, die einem starren Einheitsstandard nicht entsprechen, mag in der Theorie sinnvoll klingen, ist in der Praxis jedoch äußerst unpraktisch – und oft sogar kontraproduktiv. Warum? Weil Organisationen unterschiedlich sind. Was ein Unternehmen als „riskant“ oder „inakzeptabel“ einstuft, kann für ein anderes zum normalen Geschäftsalltag gehören oder wertvolle Daten beziehungsweise wichtige Informationen darstellen. Wenn Sie Anbietern die Entscheidung darüber überlassen, auf welche Inhalte Ihre Mitarbeitenden zugreifen oder mit welchen sie interagieren dürfen, führt das zu unnötigen Hürden und Frustration.

Das Problem übermäßiger Filterung

Stellen Sie sich Folgendes vor: Manche Inhaltsfilter blockieren Themen, die sie als „seltsam“ oder „unangemessen“ eingestuft haben, weil sie sich ausschließlich auf Schlüsselwörter konzentrieren, anstatt auch den Kontext oder reguläre Ausdrücke (RegEx) in ihre Algorithmen einzubeziehen. Das bedeutet, dass eine KI-Eingabe unnötigerweise blockiert wird, wenn sie zwar gute, aber ungeschickt formulierte Informationen enthält – oder sogar völlig unbedenkliche Inhalte, die lediglich nicht in die engen Vorgaben des Drittanbieters passen. Das ist, als wollten Sie einen Film mit der Altersfreigabe PG-13 ansehen, nachdem die Kinder eingeschlafen sind, kämen aber nicht an der Kindersicherung vorbei, weil Ihnen das Passwort fehlt.

Frustrierend, oder? Wenn also die Eingabe eines Mitarbeiters blockiert wird, muss sich das IT-Team wieder an den Anbieter wenden und kleinlaut darum bitten, den Filter nachträglich anzupassen oder weniger restriktiv einzustellen. Viele dieser Tools sind jedoch gar nicht auf Anpassungen ausgelegt, sodass eine Ad-hoc-Lösung erforderlich ist. Und wenn dies mehrmals täglich oder wöchentlich geschieht, können all diese provisorischen Korrekturen leicht zu einem weitaus größeren Problem für das Kundenunternehmen führen, wie es bei spontan umgesetzten Abhilfemaßnahmen häufig der Fall ist. So werden Beschäftigte in einer Organisation des Gesundheitswesens wahrscheinlich regelmäßig Eingaben formulieren, in denen es um Körperteile geht – was nicht nur akzeptabel, sondern notwendig ist. Diese Begriffe zu blockieren, wäre ein großes Problem. (Wird hingegen die Eingabe eines Mitarbeiters einer Wirtschaftsprüfungsgesellschaft blockiert, weil sie dieselben Begriffe enthält, funktioniert der Filter wie vorgesehen.)

Überlegen Sie nun, wie sich dieses ständige Ärgernis durch blockierte Prompts und Anrufe beim Anbieter im Unternehmensalltag auswirkt: IT-Ressourcen werden von geplanten Aufgaben abgezogen, und Mitarbeitende sowie Projekte müssen unnötige Verzögerungen hinnehmen. Vielleicht gerät ein Projekt in einer kritischen Phase ins Stocken, die Produktivität kommt zum Erliegen und die Verzögerung führt zu Umsatzeinbußen, während Sie auf eine nicht im Leistungsumfang vorgesehene Änderung durch den Anbieter warten. Und was schlägt der Anbieter üblicherweise vor? In der Regel möchte er den Filter vollständig deaktivieren, während er nach einer schnellen Lösung sucht. Doch das ist riskant – denn wenn Sie den Filter aufheben, lassen Sie all die unerwünschten Inhalte durch, die das System eigentlich blockieren sollte. Und das alles nur, weil es zu viele falsch positive Ergebnisse liefert. Dies ist ein klassischer Fall von Perfektionismus auf Kosten des Fortschritts.

Plädoyer für Flexibilität und Präzision

Jedes Unternehmen hat seine eigene Risikobereitschaft, seine eigene Kultur und seinen eigenen Informationsbedarf. Warum sollte also ein Drittanbieter pauschale Regeln vorgeben, die Ihren Zugriff auf wichtige Daten einschränken? Und schlimmer noch: Warum sollte er darüber bestimmen, was Ihr Team einsehen darf und was nicht – insbesondere, wenn er weder die Besonderheiten Ihres Unternehmens kennt noch weiß, warum Sie bestimmte Informationen benötigen? Offen gesagt ist das nicht nur anmaßend, sondern auch ein Eingriff in Ihre betriebliche Autonomie. 

Bei F5 verfolgen wir eine andere, vielleicht sogar kontroverse Strategie: Wir helfen unseren Kunden, schrittweise Präzision zu erreichen. Statt durch übermäßig strenge Filterung nach Perfektion zu streben, setzen wir auf einen ausgewogeneren Ansatz. Unsere Lösung ist darauf ausgelegt, 80 % der Inhalte zu erfassen, die nach Ansicht der meisten Unternehmen weder in ihre Systeme hinein- noch aus ihnen herausgelangen sollten. Das ist die Grundlage: starker Schutz bei minimalen Beeinträchtigungen. Doch jetzt wird es interessant: Der Kunde entscheidet, was mit den übrigen 20 % geschieht. Ganz genau. Wir überlassen es Ihnen, auf Grundlage Ihrer individuellen Anforderungen, Anwendungsfälle und Risikotoleranzen festzulegen, was blockiert werden soll und was nicht. Keine starren Filter von Drittanbietern. Kein Bitten bei Anbietern um kurzfristige Anpassungen. Sie haben die Kontrolle.

Auf Ihr Unternehmen zugeschnitten

Jede Organisation ist anders. Wenn sich Ihr Unternehmen weiterentwickelt – sei es durch Fusionen, Übernahmen, Veräußerungen oder einfach durch den natürlichen Verlauf von Projekten –, müssen sich auch Ihre Inhaltsfilter verändern. F5 AI Guardrails bietet Ihnen diese Flexibilität. Sie können jederzeit benutzerdefinierte Scanner erstellen und anpassen. Ganz gleich, ob Sie einen Filter für eine neue Produktlinie aktualisieren, die zulässigen Inhalte mit dem Wachstum Ihres Kundenstamms erweitern oder Einschränkungen an eine sich wandelnde Unternehmenskultur anpassen möchten – unsere Plattform passt sich gemeinsam mit Ihnen an. Letztlich müssen Sie sich nicht mit statischen, unveränderlichen Filtern zufriedengeben, die Ihre aktuelle Realität nicht widerspiegeln. Sie brauchen keinen Anbieter, der entscheidet, was für Ihre Organisation am besten ist. Sie brauchen eine Lösung, die Ihrem Team den Zugriff auf die benötigten Informationen ermöglicht, ohne es Risiken auszusetzen oder wertvolle Daten zu zensieren.

Die Herausforderung

Deshalb fordern wir Sie heraus: Blicken Sie hinter den Hype und die Einschränkungen, die manche Anbieter als „Funktionen“ verkaufen. Deren starre, überempfindliche Filter bremsen Sie aus. Probieren Sie stattdessen F5 aus. Erstellen Sie Ihre eigenen, individuell auf Ihre Anforderungen zugeschnittenen Scanner. Unsere Sicherheitslösungen für KI-Laufzeitumgebungen zensieren nicht, blockieren nicht übermäßig und lassen Sie nicht auf die Genehmigung eines Anbieters warten. Sie geben Ihnen die Möglichkeit, genau das zu bekommen, was Sie brauchen – nicht mehr und nicht weniger. So ist Ihre Sicherheit den Bedrohungen, denen Sie ausgesetzt sind, immer einen Schritt voraus. Wenn Sie bereit sind, die Kontrolle über Ihre GenAI-Lösungen zu übernehmen, stehen wir Ihnen zur Seite.

Über den Autor

F5 Newsroom Staff

Weitere Blogbeiträge von F5 Newsroom Staff