Update: Eine andere Art von Multiversum: Integration mehrerer Modelle und Modalitäten

F5 Newsroom Staff

Die sichere Integration multimodaler KI-Modelle und/oder mehrerer Modelle in bestehende digitale Infrastrukturen entwickelt sich zu einem zentralen Thema bei der Frage, warum, wann und wie generative KI (GenAI), einschließlich großer Sprachmodelle (LLMs), unternehmensweit eingesetzt werden sollte. Während viele Unternehmen bereits mindestens ein GenAI-Modell implementiert haben – laut einer aktuellen Umfrage sind es fast 15 % –, haben deutlich mehr Unternehmen die Implementierung um drei bis zwölf Monate verschoben. Die übrigen diskutieren weiterhin darüber, ob sie LLMs überhaupt in ihre Systeme integrieren sollen.

Bereits der Einsatz eines einzigen unimodalen Sprachmodells – beispielsweise ChatGPT-3.5 oder eines anderen Modells – kann bei textbasierten Aufgaben wie der Erstellung, Zusammenfassung, Analyse und Übersetzung von Inhalten enorme Effizienz- und Produktivitätssteigerungen bewirken. Der Einsatz mehrerer Modelle oder von Modellen, die nicht textbasierte Inhalte verarbeiten oder erstellen, wirkt jedoch wie ein kreativer „Kraftmultiplikator“ und erfordert eine andere Strategie.

Multimodal? Multi-Modell?

Die Einsatzszenarien für Unternehmen, die mehrere KI-Modelle nutzen, sind äußerst vielfältig. Manche Unternehmen möchten vielleicht die Fähigkeiten mehrerer großer öffentlich zugänglicher LLMs ausschöpfen, indem sie beispielsweise sowohl BERT als auch Gemini statt nur eines der beiden Modelle einsetzen. Darüber hinaus stehen ihnen jedoch noch viele weitere Möglichkeiten offen.

In etwas mehr als einem Jahr seit der Einführung von ChatGPT sind viele neue Modelltypen entstanden, darunter:

• Spezialisierte Modelle, die auf bestimmte Märkte wie Finanzwesen, Recht, Pharma und Einzelhandel ausgerichtet sind
• In Software-as-a-Service-Anwendungen (SaaS) eingebettete Modelle
• Intern entwickelte Modelle, die mit proprietären Daten trainiert wurden
• Modelle mit abrufgestützter Generierung (Retrieval-Augmented Generation, RAG), bei denen große öffentliche Modelle um Erweiterungen ergänzt werden, die den Zugriff auf aktuellere Informationen ermöglichen
• Kleine Sprachmodelle (Small Language Models, SLMs), die deutlich weniger Rechenleistung benötigen und in einigen Fällen auf einem PC ausgeführt werden können

Es gilt mittlerweile als allgemeiner Konsens unter Insidern der KI-Branche, dass Großunternehmen in den nächsten Jahren unternehmensweit eine Vielzahl von Modellen einsetzen werden – einigen Schätzungen zufolge sogar Hunderte –, da sich Modelle immer einfacher und kostengünstiger erstellen, trainieren und pflegen lassen. 

Viele dieser neu eingesetzten Modelle werden voraussichtlich multimodal sein (wie etwa neuere Versionen von ChatGPT und andere Modelle). Das bedeutet, dass sie Anfragen in verschiedenen Formaten wie Sprache, Text, Audio, Bildern, Videos, Code usw. verarbeiten und Inhalte im selben oder in einem anderen Format erzeugen können. Beispielsweise kann ein Nutzer dem Modell mündliche Anweisungen geben, Inhalte in einem bestimmten Format zu erstellen, etwa als Diagramm, Bild oder Audioclip.

Vervielfachtes Risiko

Die Vorteile der Integration mehrerer Modelle und multimodaler Modelle in eine Organisationsstruktur sind enorm und erschließen fortlaufend neue Anwendungsfälle für Entwickler, Analysten, allgemeine Nutzer und Kunden. Die damit verbundenen Risiken sind jedoch nicht zu unterschätzen und müssen vor der Integration berücksichtigt werden.

Das Hinzufügen von KI-Tools zur digitalen Infrastruktur eines Unternehmens vergrößert unmittelbar die Angriffsfläche. Durch die Einbindung multimodaler Modelle kann sich diese Problematik weiter verschärfen. Die Architektur eines multimodalen Modells umfasst zahlreiche Zugangspunkte, die von Angreifern ausgenutzt werden können.

Ebenso kann die Konzentration auf die Absicherung bestimmter Modalitäten in einem Modell oder KI-System bei gleichzeitiger Vernachlässigung anderer Modalitäten zu blinden Flecken im Sicherheitskonzept eines multimodalen Systems führen. Es ist stets damit zu rechnen, dass Angreifer das schwächste Glied ausnutzen – sei es, indem sie über ein ungesichertes Portal in ein System eindringen oder Schadcode in die Antwort des Modells einschleusen.

Da weltweit zunehmend Vorschriften in Kraft treten, ist die Einhaltung regulatorischer Vorgaben – insbesondere die Gewährleistung des Datenschutzes – für KI-Sicherheitsteams zu einer erheblichen Herausforderung geworden. Die zu schützenden Daten umfassen längst nicht mehr nur Textdokumente, sondern auch digitale Bilder, Audiodateien und Videos, Scans wie Netzhautscans, Fingerabdrücke, Röntgenbilder und MRT-Aufnahmen, Stimmabdrücke zur mündlichen Bestätigung sowie hoch spezialisierte wissenschaftliche Inhalte.

All diese Daten könnten bei einer Datenschutzverletzung offengelegt, aber auch manipuliert und für böswillige Zwecke verkauft werden, unter anderem zur Erstellung von Deepfakes. Die Integration verschiedener Modalitäten in bestehende digitale Infrastrukturen bringt zudem Herausforderungen wie Interoperabilitätsprobleme mit sich, da unterschiedliche Technologien und Protokolle nahtlos zusammenarbeiten müssen und bereits eine einzige Fehlkonfiguration oder Schwachstelle die Sicherheit des gesamten Systems gefährden kann.

Die Behebung kann sehr ressourcenintensiv sein, potenziell zu Problemen mit der Modellleistung wie etwa Latenz führen und zusätzliche Hardware erfordern, die bei unsachgemäßer Verwaltung ihrerseits Sicherheitslücken verursachen kann.

KI-Sicherheitslösungen

Das Fehlen standardisierter Verfahren für den Einsatz von KI erschwert es zusätzlich, eine einheitliche Sicherheit in den Benutzerumgebungen zu gewährleisten. Im Bereich der KI-Sicherheit entstehen jedoch zunehmend Lösungen, die Implementierungen sicherer und damit für risikoscheue Organisationen attraktiver machen. 

Unsere modellunabhängige Plattform für GenAI-Sicherheit und -Nutzung ist die erste ihrer Art, die KI-Systeme rundum schützt. Als „schwerelose“ Vertrauens- und Kontrollschicht, die sich außerhalb, aber in unmittelbarer Nähe der Infrastruktur befindet, schützen unsere Laufzeitsicherheitslösungen das Unternehmen vor Bedrohungen, die in den Antworten von KI-Modellen verborgen sind, sowie vor anderen externen Bedrohungen. Sie stellen sicher, dass Prompts, die schädliche Anweisungen oder private Informationen enthalten, das System nicht verlassen – ohne dabei die Latenz des Prozesses zu erhöhen.

Administratoren können richtlinienbasierte Zugriffskontrollen verwenden, um einzelnen Benutzern und Teams den Zugriff auf KI-Modelle zu gewähren oder zu verweigern. Dadurch wird Folgendes ermöglicht: 

• Ermöglicht die Kostenüberwachung durch die Beschränkung des Zugriffs auf die Modelle
• Unterstützt die Implementierung von Ratenbegrenzungen, um sicherzustellen, dass Model-Denial-of-Service-Angriffe (DoS) das System nicht verlangsamen oder außer Betrieb setzen können
• Ermöglicht die Festlegung anpassbarer Scannerkriterien entsprechend den Anforderungen der einzelnen Teams und trägt so zu einer besseren Einhaltung der Richtlinien des Unternehmens zur akzeptablen Nutzung bei

Unsere Lösung bietet Sicherheitsteams außerdem vollständige Transparenz über alle KI-Tools im System hinweg. So können sie nachvollziehen, wie die Modelle eingesetzt werden, und sicherstellen, dass sie nicht missbräuchlich oder zweckwidrig verwendet werden. Ebenso erhalten Administratoren Einblick in die Nutzungsmuster und -praktiken von Benutzern und Gruppen. 

Jede Interaktion mit einem Modell wird erfasst und zur Überprüfung und Analyse gespeichert, wodurch Einblicke in das Nutzerverhalten gewonnen werden. Der Prompt-Verlauf kann entweder manuell oder automatisch gelöscht werden. Administratoren haben außerdem die Möglichkeit, keine Prompts zur Überprüfung zu speichern. Interaktive Dashboards stellen eine Vielzahl detaillierter Nutzungsdaten zu den Modellen, einzelnen Nutzern und Gruppen für von Administratoren festgelegte Zeiträume bereit.

Die Integration mehrerer und multimodaler KI-Modelle in eine bestehende digitale Infrastruktur birgt Chancen, Risiken und Herausforderungen. Die gleichzeitige Umsetzung von Cyber- und KI-Sicherheitsmaßnahmen bietet Unternehmen die beste Möglichkeit, ihren gewohnten Geschäftsbetrieb fortzuführen und dabei sicherzustellen, dass ihre Mitarbeitenden, Vermögenswerte und Prozesse vor KI-bedingten Risiken geschützt sind.

Klicken Sie hier, um eine Vorführung anzufordern.

Über den Autor

F5 Newsroom Staff

Weitere Blogbeiträge von F5 Newsroom Staff