Retrieval-Augmented Generation (RAG)

Retrieval-Augmented Generation (RAG) hat sich als effektive Technik im Bereich der generativen KI etabliert. Dabei werden extern verfügbare Daten – häufig proprietär oder domänenspezifisch – in Workflows integriert, die große Sprachmodelle (Large Language Models, LLMs) nutzen. RAG ruft relevante Kontextinformationen ab und fügt sie unmittelbar vor einer Anfrage als zusätzlichen Prompt-Kontext hinzu. Dadurch werden die Effizienz und Genauigkeit der KI-Antworten über das hinaus gesteigert, was mit einem eigenständigen Modell möglich wäre, das ausschließlich auf seinen Trainingsdatensatz zurückgreifen kann.

Was ist Retrieval-Augmented Generation (RAG)?

RAG steht für „Retrieval-Augmented Generation“. Dieses Akronym unterstreicht das zugrunde liegende Kernprinzip: Ein KI-Basissystem oder KI-Modell wird durch den Abruf von Echtzeitdaten oder häufig aktualisierten Daten erweitert, um Antworten zu liefern, die den jeweiligen Kontext besser berücksichtigen.

Wofür wird RAG verwendet?

RAG wird eingesetzt, um eine grundlegende Herausforderung im Bereich der KI zu bewältigen: statische Modelle mit den neuesten und relevantesten Daten auf dem aktuellen Stand zu halten, selbst wenn das zugrunde liegende LLM mit veralteten Informationen trainiert wurde. Zu den gängigen Anwendungsbereichen von RAG gehören:

• Kundensupport: KI-gestützte Chatbots rufen aktuelle Produkthandbücher, Systemstatusinformationen und Kundenhistorien ab, um schnellere, individuellere Lösungen anzubieten.
• Echtzeitanalysen: Unternehmen greifen auf Finanzmarktdaten, Trends in sozialen Medien oder Datenströme von Geräten des Internets der Dinge (IoT) zu und verbessern so die Genauigkeit ihrer Entscheidungsfindung.
• Wissensmanagement: Interne Wikis, Forschungsarchive und andere Content-Repositorys liefern wichtige Referenzinformationen, die KI-Modelle nicht allein in ihren Trainingsdaten speichern können.

So funktioniert RAG in Anwendungsfällen generativer KI

Die meisten generativen KI-Modelle eignen sich während eines festgelegten Trainingszyklus Wissen an. Nach Abschluss dieses Trainings verfügt das Modell nur über Wissen bis zu einem bestimmten Zeitpunkt oder innerhalb bestimmter Datengrenzen. RAG erweitert dieses Wissen, indem zum Zeitpunkt der Inferenz – also sobald eine Benutzeranfrage eingeht – aktuelle, relevante Daten aus externen Quellen abgerufen werden.

1. Abruf: Das System ermittelt die relevantesten Dokumente, Datenbankeinträge oder Vektoreinbettungen aus Datenbeständen mit aktuellen Informationen.
2. Anreicherung: Das Modell nutzt die abgerufenen Inhalte als zusätzlichen „Prompt“ oder Kontext und integriert sie nahtlos in seine zugrunde liegenden Trainingsdaten.
3. Generierung: Es wird eine endgültige Antwort erstellt, die durch aktuelle oder domänenspezifische Daten angereichert ist – auf eine Weise, die ein statisches Modell allein nicht nachbilden kann.

RAG-Korpusverwaltung

Damit RAG zuverlässig funktioniert, pflegen Unternehmen häufig einen aktuellen Korpus aus strukturierten und unstrukturierten Daten, der über Vektordatenbanken oder Wissensgraphen leicht zugänglich ist. Die ordnungsgemäße Verwaltung dieses Korpus umfasst die Datenaufnahme, -bereinigung, Einbettung und Indexierung. So wird sichergestellt, dass die Retrieval-Engine kontextuell relevante Informationen schnell identifizieren kann.

Warum RAG wichtig ist

• Kontextbezogene Genauigkeit: Durch die Abstimmung der Antworten auf Echtzeitdaten oder unternehmensspezifische Daten reduziert RAG „Halluzinationen“, bei denen KI-Modelle Antworten erzeugen, die keinen Bezug zu den tatsächlichen Gegebenheiten haben, erheblich.
• Aktuellere Informationen: Anstatt große Modelle bei jeder Datenänderung kostspielig neu zu trainieren oder feinabzustimmen, ermöglicht RAG dem Modell, bei Bedarf aktuelle Inhalte abzufragen. Dadurch werden Qualität und Aktualität der Antwortinhalte verbessert.
• Einhaltung gesetzlicher Vorschriften: RAG ermöglicht den gezielten Abruf von Daten entsprechend den Zugriffsrechten der Benutzer und trägt so zur Einhaltung von Datenschutzbestimmungen bei.
• Kosteneffizienz: Speicher- und Rechenressourcen lassen sich besser verwalten, da für jede Abfrage nur die relevantesten Daten abgerufen werden.
• Besserer Schutz von Daten: Da sensible Daten getrennt vom zugrunde liegenden LLM abgerufen werden können, werden sie nie fest in das Modell integriert. Dadurch sinkt das Risiko eines Datenlecks im Falle eines Jailbreaks oder Modelldiebstahls.

Die Zukunft von RAG

Fortschritte in der KI, etwa größere Kontextfenster, könnten den Eindruck erwecken, dass RAG für Verbraucher an Bedeutung verliert, da Modelle dadurch große Textmengen direkt verarbeiten können. Unternehmen mit riesigen, über Multicloud-Umgebungen verteilten Datenmengen sind jedoch weiterhin mit sich schnell verändernden und weit verstreuten Datenquellen konfrontiert. RAG begegnet dieser Herausforderung, indem gezielt auf die relevantesten autorisierten Informationen zurückgegriffen wird – ohne das Kontextfenster eines Modells zu überlasten oder eine unkontrollierte Datenverteilung zu riskieren. Da KI immer stärker in Unternehmensabläufe integriert wird, dürfte RAG eine zentrale Strategie bleiben, um zeitnahe, kontextreiche und hochpräzise Ergebnisse zu liefern.

Wie F5 KI-Bereitstellungen in Unternehmen handhabt

F5 spielt eine entscheidende Rolle bei der sicheren Konnektivität für Retrieval-Augmented Generation (RAG), indem verteilte, heterogene Datenquellen in Multicloud-Umgebungen nahtlos mit KI-Modellen verbunden werden. Bei der Einführung fortschrittlicher KI-Architekturen gewährleistet F5 mithilfe von F5 Distributed Cloud Services einen leistungsstarken und sicheren Zugriff auf Unternehmensdaten. Distributed Cloud Services bieten einen einheitlichen Ansatz für Netzwerk und Sicherheit und unterstützen richtlinienbasierte Kontrollen, eine integrierte Web Application Firewall (WAF) sowie die Verschlüsselung bei der Übertragung. Durch den sicheren, selektiven Datenabruf in Echtzeit aus unterschiedlichen Speicherorten hilft F5 Unternehmen, Herausforderungen in Bezug auf Skalierbarkeit, Latenz und Compliance zu bewältigen. So können KI-Modelle effizient arbeiten, während sensible Unternehmensdaten geschützt bleiben.

Erfahren Sie mehr darüber, wie F5 KI-Bereitstellungen in Unternehmen ermöglicht, hier.