Retrieval-Augmented Generation (RAG) für KI-Fabriken

Hunter SmitSenior Manager, Produktmarketing | F5

In der heutigen, sich rasant entwickelnden Technologielandschaft sind die Bereitstellung und Operationalisierung von KI zu entscheidenden Differenzierungsmerkmalen für Unternehmen geworden. Da Unternehmen die Leistungsfähigkeit von KI nutzen, um fundiertere Entscheidungen zu treffen und ihre Effizienz zu steigern oder differenzierte Produkte mit KI zu entwickeln, haben sich KI-Fabriken als grundlegendes Modell etabliert. Im Zentrum von KI-Fabriken steht die abrufgestützte Generierung (Retrieval-Augmented Generation, RAG), einer der sieben KI-Bausteine. Sie ermöglicht es, KI-Ausgaben kontextbezogen, präziser und zeitnah zu erstellen.

In einem früheren Beitrag unserer Reihe über KI-Fabriken haben wir eine KI-Fabrik definiert als eine umfangreiche Investition in Speicher-, Netzwerk- und Recheninfrastruktur, die für hochvolumige, leistungsintensive Trainings- und Inferenzanforderungen ausgelegt ist. In diesem Artikel befassen wir uns mit zwei der von uns definierten KI-Bausteine: RAG und RAG-Korpusmanagement.

Die KI-Fabrik verstehen

Ähnlich wie eine herkömmliche Produktionsanlage ist eine KI-Fabrik darauf ausgelegt, mithilfe einer sorgfältig orchestrierten Infrastruktur aus Servern, GPUs, DPUs und Speichersystemen KI-Ergebnisse und -Modelle zu erstellen. Da sie sowohl das Training als auch die Inferenz unterstützt, ist sie für die Entwicklung skalierbarer KI-Anwendungen von entscheidender Bedeutung. Ihr wahres Potenzial entfaltet eine KI-Fabrik jedoch erst durch die Integration von RAG, das die kontextuelle Relevanz ihrer Ergebnisse verbessert.

Was ist Retrieval-Augmented Generation, kurz RAG?

Bevor wir ins Detail gehen, wollen wir zunächst Retrieval-Augmented Generation definieren: RAG ist eine KI-Technik, die proprietäre Daten einbezieht, um KI-Modelle zu ergänzen und kontextbezogene KI-Ausgaben zu liefern. Da Anwendungen zunehmend verteilt und in hybriden sowie Multicloud-Umgebungen bereitgestellt werden, sind die Daten eines Unternehmens überall verteilt. Für Organisationen, die den strategischen Wert ihrer Daten für KI erschließen möchten, stellt sich daher die Frage: Wie lassen sich relevante Daten anbinden, um die Eingaben für KI-Modelle wie große Sprachmodelle (Large Language Models, LLMs) anzureichern? Organisationen setzen auf RAG, um dieses Problem zu lösen und sichere Verbindungen zwischen dem KI-Modell und den verteilten Datensilos zu schaffen. Dadurch erhalten die Modelle Zugriff auf die neuesten Informationen, sodass ihre Ausgaben aktuell, kontextbezogen und präziser sind. Ohne RAG haben selbst feinabgestimmte KI-Modelle keinen Zugriff auf die neuesten Informationen, die sich häufig bereits unmittelbar nach Abschluss des Trainings ändern.

Welche Beispiele gibt es dafür? Zwei davon sind bildgestützte selbstfahrende Fahrzeuge und LLMs, wenn sie halluzinieren oder aufgrund fehlender kontextueller Relevanz einer Anfrage Annahmen treffen.

Bei selbstfahrenden Fahrzeugen muss die Inferenz Echtzeitdaten zum Standort des Fahrzeugs und zu seiner sich ständig verändernden Umgebung einbeziehen, damit es sicher durch Straßen mit Fußgängern, Radfahrern und anderen Fahrzeugen navigieren kann. Bei LLMs – beispielsweise in einem Chatbot für den Kundensupport – werden generische Antworten durch den Zugriff auf Produktinformationen wie Änderungsprotokolle, Wissensdatenbanken, Systemstatus und Telemetriedaten in Kombination mit individuellen Kundeninformationen wie Support-Tickets, Kaufhistorie und Kundenprofilen zu wertvollen Ergebnissen.

Hybrid- und Multicloud-Umgebungen werden immer komplexer, und Speicherbereitstellungen sind zunehmend isoliert auf verschiedene Standorte verteilt. Bei F5 bezeichnen wir dieses Phänomen als „Feuerball“.

RAG für KI-Fabriken

RAG im Kontext von KI-Fabriken erweitert die grundlegenden Inferenzfähigkeiten von KI-Basismodellen, indem zusätzlicher Kontext aus Vektordatenbanken und Inhaltsrepositorys abgerufen wird, der anschließend zur Generierung kontextangereicherter Antworten dient. Innerhalb einer KI-Fabrik steuert die Orchestrierungsebene von RAG die komplexen Interaktionen zwischen dem KI-Modell und den Erweiterungsdiensten und gewährleistet so die nahtlose Integration zusätzlicher Daten in KI-Workflows.

Im oben erwähnten Kundenservice-Szenario kann RAG beispielsweise auf Daten aus verschiedenen relevanten Datenbanken und Quellen zugreifen und diese einbeziehen. Dadurch entstehen äußerst relevante KI-Ausgaben. Durch die Integration von RAG in das KI-Fabrik-Framework können Unternehmen die Qualität und Aktualität ihrer Inferenzergebnisse verbessern und so fundiertere Entscheidungen sowie eine höhere betriebliche Effizienz ermöglichen.

Die KI-Referenzarchitektur von F5 mit Schwerpunkt auf RAG, einem von sieben KI-Bausteinen, die für erfolgreiche KI-Infrastrukturen im großen Maßstab erforderlich sind.

RAG-Korpusverwaltung für KI-Fabriken

Das RAG-Korpusmanagement konzentriert sich auf die Datenerfassung und -vorverarbeitung, die für die Inferenz mit RAG unerlässlich sind. Dazu gehören mehrere Schritte wie Datennormalisierung, Tokenisierung, Einbettung und das Befüllen von Vektordatenbanken, um sicherzustellen, dass die Inhalte optimal für RAG-Aufrufe vorbereitet sind.

In einer KI-Fabrik beginnt dieser Prozess mit der Normalisierung verschiedener Datenformate, um einen einheitlichen und strukturierten Datensatz zu erstellen. Anschließend werden Einbettungen generiert, um diese Daten in ein Format umzuwandeln, das von KI-Modellen abgefragt werden kann. Die aufbereiteten Daten werden in Vektordatenbanken, Wissensgraphen und Content-Repositorys gespeichert, sodass sie während der Inferenz in Echtzeit abgerufen werden können. Indem das RAG-Korpusmanagement sicherstellt, dass die Daten bereinigt, strukturiert und abrufbar sind, verbessert es die Gesamteffektivität und Präzision der KI-Ausgaben. Dieser Prozess ist für Unternehmen von entscheidender Bedeutung, die hochwertige, kontextuell angereicherte KI-Antworten gewährleisten möchten.

RAG Corpus Management ist einer von sieben KI-Bausteinen, die F5 für eine erfolgreiche KI-Architektur definiert hat.

Ist RAG nur auf KI-Fabriken anwendbar?

RAG ist zwar ein zentraler Baustein für KI-Fabriken, wird jedoch bei der Bereitstellung von KI-Modellen jeder Größenordnung benötigt. Da grundlegende KI-Modelle (z. B. GPT, Llama) mit öffentlich zugänglichen Informationen trainiert werden, verschafft die Bereitstellung eines solchen Modells Unternehmen keinen ausreichenden Wettbewerbsvorteil gegenüber anderen Unternehmen, die dasselbe Modell einsetzen. Die Einbindung proprietärer und nicht öffentlicher Daten über RAG ist für jedes Unternehmen – unabhängig vom Umfang seiner KI-Bereitstellung – unerlässlich, um Anfragen durch eigene Daten zu ergänzen. Ein Beispiel hierfür ist ein Chatbot für den Kundensupport: Eine LLM-gestützte Supportanwendung benötigt Zugriff auf produkt- und kundenspezifische Informationen, um eine nützliche Lösung bereitzustellen. Selbst beim Trainieren oder Feinabstimmen von Modellen ist für präzisere Ausgaben der Zugriff auf sich ständig ändernde Daten erforderlich.

Sichere Datenautobahnen für die RAG-Nutzung schaffen

Da Unternehmen weiterhin in KI investieren, um Innovationen voranzutreiben und die betriebliche Effizienz zu steigern, kann die Bedeutung von RAG innerhalb von KI-Fabriken kaum überschätzt werden. Durch die Verbesserung des Kontextverständnisses, der Genauigkeit und der Aktualität stellt RAG sicher, dass KI-Modelle relevantere und zuverlässigere Ergebnisse liefern. Für Unternehmen, die sichere Integrationen zwischen ihren Datensilos und KI-Fabriken schaffen möchten, bietet F5 Distributed Cloud Network Connect moderne Datenautobahnen: Die Lösung verbindet unternehmenseigene Datenspeicherorte sicher miteinander, ermöglicht einen eingeschränkten Zugriff, vereinfacht die Vernetzung und gewährleistet die Speicherung und Mobilität von Daten über Zonen und Regionen hinweg.

Das Engagement von F5 im Bereich KI geht noch weiter – erfahren Sie, wie F5 KI-Anwendungen überall absichert und bereitstellt.

Möchten Sie mehr über KI-Fabriken erfahren? Entdecken Sie weitere Beiträge aus unserer Blogreihe zu KI-Fabriken:

• Was ist eine KI-Fabrik? ›
• Optimieren Sie das Traffic-Management für die Datenaufnahme in KI-Fabriken ›
• Edge-Datenquellen optimal mit KI-Fabriken verbinden ›
• Multicloud-Skalierbarkeit und -Flexibilität unterstützen KI-Fabriken ›
• Die Leistungsfähigkeit und Bedeutung der NVIDIA BlueField DPU für KI-Fabriken ›
• API-Schutz für KI-Fabriken: Der erste Schritt zur KI-Sicherheit ›
• Die Bedeutung der Netzwerksegmentierung für KI-Fabriken ›
• KI-Fabriken produzieren die modernsten aller modernen Anwendungen: KI-Anwendungen ›

Über den Autor

Hunter SmitSenior Manager, Produktmarketing | F5

Hunter Smit ist Senior Manager im Produktmarketing für Lösungen und Strategie bei F5. Er leitet das Lösungsmarketing für das gesamte F5-Portfolio, einschließlich KI-Infrastruktur und Anwendungssicherheit, und treibt den Einstieg von F5 in den aufstrebenden Markt für die Bereitstellung von KI-Daten voran. Hunter ist Mitglied des Beirats der School of Business der Whitworth University und war als Lehrbeauftragter für Produktmarketing tätig. Er erwarb an der Whitworth University einen MBA sowie einen Bachelor of Business Administration mit Schwerpunkt Management.

Weitere Blogbeiträge von Hunter Smit