Was ist eine KI-Fabrik?

Hunter SmitSenior Manager, Produktmarketing | F5

Dieser Blogbeitrag ist Teil einer Reihe über KI-Fabriken. Wenn Sie diesen Beitrag gelesen haben, entdecken Sie auch die anderen Beiträge der Reihe.

• Retrieval-Augmented Generation (RAG) für KI-Fabriken ›
• Optimieren Sie das Traffic-Management für die Datenaufnahme in KI-Fabriken ›
• Edge-Datenquellen optimal mit KI-Fabriken verbinden ›
• Multicloud-Skalierbarkeit und -Flexibilität unterstützen KI-Fabriken ›
• Die Leistungsfähigkeit und Bedeutung der NVIDIA BlueField DPU für KI-Fabriken ›
• API-Schutz für KI-Fabriken: Der erste Schritt zur KI-Sicherheit ›
• Die Bedeutung der Netzwerksegmentierung für KI-Fabriken ›
• KI-Fabriken produzieren die modernsten aller modernen Anwendungen: KI-Anwendungen ›

Als ChatGPT im November 2022 veröffentlicht wurde, waren unsere Fragen und Eingabeaufforderungen noch einfach: „Erzähle mir eine Geschichte über X“ und „Schreibe eine Erzählung über Person A und Person B zum Thema Z.“ Mit diesen Fragen und den ersten Interaktionen mit dem damaligen GPT-3.5 versuchten wir herauszufinden, wie sich diese neue, viel diskutierte Technologie auf unseren Alltag auswirken würde. Ende 2024 ist KI nun zu einem festen Bestandteil unseres Lebens geworden: Sie hilft uns unter anderem dabei, Fehler im Code zu beheben und Code zu schreiben, Daten zusammenzustellen und zusammenzufassen sowie autonome Fahrzeuge zu steuern. All dies sind Ergebnisse einer modernen KI-Fabrik – und wir stehen erst am Anfang.

Dieser Artikel, der erste einer Reihe über KI-Fabriken, beleuchtet die Komponenten einer KI-Fabrik und zeigt, wie die verschiedenen Elemente zusammenwirken, um KI-gestützte Lösungen in großem Maßstab zu entwickeln.

KI-Fabriken definieren

Im Zuge der Weiterentwicklung der KI hat sich das Konzept einer KI-Fabrik als Analogie dafür etabliert, wie KI-Modelle und -Dienste erstellt, optimiert und bereitgestellt werden. Ähnlich wie ein traditioneller Produktionsbetrieb, der Materialien zu fertigen Produkten verarbeitet, ist eine KI-Fabrik eine umfangreiche Investition in Speicher-, Netzwerk- und Recheninfrastruktur, die auf hohe Volumina und hohe Leistungsanforderungen beim Training und bei der Inferenz ausgelegt ist.

In diesen Fabriken arbeiten Netzwerke aus Servern, Grafikprozessoren (GPUs), Datenverarbeitungseinheiten (DPUs) und spezialisierter Hardware zusammen, um riesige Datenmengen zu verarbeiten. Dabei führen sie komplexe Algorithmen aus, mit denen KI-Modelle trainiert werden, um ein hohes Maß an Genauigkeit und Effizienz zu erreichen. Diese Infrastrukturen sind sorgfältig darauf ausgelegt, die enorme Rechenleistung bereitzustellen, die für das Training groß angelegter Modelle und deren Einsatz für Echtzeit-Inferenz erforderlich ist. Sie umfassen fortschrittliche Speicherlösungen zur Verwaltung und zum Abruf riesiger Datensätze und gewährleisten so einen nahtlosen Datenfluss.

Lastverteilung und Netzwerkoptimierung maximieren die Leistung und Ressourcenauslastung, verhindern Engpässe und gewährleisten Skalierbarkeit. Dieses Zusammenspiel von Hardware- und Softwarekomponenten ermöglicht es KI-Fabriken, hochmoderne KI-Modelle zu entwickeln und kontinuierlich zu optimieren, sodass sie an neue Daten und sich wandelnde Anforderungen angepasst werden können. Letztlich verkörpert eine KI-Fabrik die Industrialisierung der KI-Entwicklung und stellt die robuste Infrastruktur bereit, die zur Unterstützung der nächsten Generation intelligenter Anwendungen erforderlich ist.

Warum sind KI-Fabriken wichtig?

Wie NVIDIA-CEO Jensen Huang auf der Salesforce Dreamforce 2024 sagte: „Noch nie in der Geschichte hat sich die Computertechnologie schneller entwickelt als das mooresche Gesetz“, und weiter: „Wir entwickeln uns viel schneller als das mooresche Gesetz und erreichen wohl ohne Weiteres das Quadrat des mooreschen Gesetzes.“

Der Einsatz von KI in großem Maßstab wird immer wichtiger, da Investitionen in KI entscheidende Differenzierungsmerkmale im Markt darstellen und die betriebliche Effizienz steigern. Um dies zu erreichen, müssen Unternehmen kontinuierlich Modelle entwickeln und optimieren sowie Wissensdatenbanken und Echtzeitdaten integrieren. Das Konzept der KI-Fabrik verdeutlicht, dass KI eine kontinuierliche Investition und keine einmalige Maßnahme sein sollte. Es bietet Unternehmen einen Rahmen, um ihre KI-Initiativen in den operativen Betrieb zu überführen und sie so besser an veränderte Geschäfts- und Marktanforderungen anzupassen.

Komponenten einer KI-Fabrik

Auf der Grundlage unserer Erfahrung bei der Unterstützung von Kunden bei der großflächigen Bereitstellung leistungsstarker, sicherer und moderner Anwendungslandschaften hat F5 ein Referenzarchitektur-Framework für KI entwickelt. Da KI-Anwendungen zu den modernsten Anwendungen überhaupt gehören, über APIs eng miteinander vernetzt und stark verteilt sind, befasst sich dieses Framework mit den entscheidenden Herausforderungen in den Bereichen Leistung, Sicherheit und Betrieb, die für die Bereitstellung hochmoderner KI-Anwendungen bewältigt werden müssen.

F5s Diagramm der KI-Referenzarchitektur ›

Sieben KI-Bausteine

In unserer Referenzarchitektur haben wir sieben KI-Bausteine definiert, die für den Aufbau einer umfassenden KI-Fabrik erforderlich sind:

1. Inferenz

Beschreibt die Interaktion zwischen einer Frontend-Anwendung und der API eines Inferenzdienstes. Im Mittelpunkt stehen das Senden einer Anfrage an ein KI-Modell und der Empfang einer Antwort. Dies schafft die Grundlage für komplexere Interaktionen.

2. Abrufgestützte Generierung

Erweitert die grundlegende Inferenz um die Orchestrierung großer Sprachmodelle (LLMs) und Dienste zur abrufgestützten Anreicherung. Dabei wird beschrieben, wie zusätzlicher Kontext aus Vektordatenbanken und Inhaltsrepositorys abgerufen und anschließend zur Generierung einer kontextangereicherten Antwort verwendet wird.

3. Verwaltung des RAG-Korpus

Konzentriert sich auf die Datenerfassungsprozesse, die für die Inferenz mit Retrieval-Augmented Generation (RAG) erforderlich sind. Dazu gehören die Datennormalisierung, die Erstellung von Embeddings und das Befüllen von Vektordatenbanken, um Inhalte für RAG-Aufrufe vorzubereiten.

4. Feinabstimmung

Zielt darauf ab, die Leistung eines bestehenden Modells durch die Interaktion mit dem Modell zu verbessern. Dabei wird das Modell angepasst, ohne es von Grund auf neu zu erstellen. Der Schwerpunkt liegt auf der Erfassung von Daten aus Inferenz und Inferenz mit RAG für Fine-Tuning-Workflows.

5. Training

Umfasst die Entwicklung eines neuen Modells von Grund auf, wobei jedoch frühere Checkpoints verwendet werden können (erneutes Training). Dazu gehören die Datenerfassung, die Vorverarbeitung, die Auswahl des Modells und der Trainingsmethode, das Training sowie die Validierung und das Testen. Dieser iterative Prozess zielt darauf ab, robuste, auf bestimmte Aufgaben zugeschnittene Modelle zu erstellen.

6. Integration externer Dienste

Verbindet die LLM-Orchestrierungsschicht mit externen Quellen wie Datenbanken und Websites. Externe Daten werden in Inferenzanfragen eingebunden, Aufgaben zur Vorverarbeitung von Dokumenten wie Chunking und Embedding sind jedoch nicht enthalten.

7. Entwicklung

Umfasst Workflows für die Entwicklung, Wartung, Konfiguration, das Testen und die Bereitstellung von Komponenten für KI-Anwendungen. Dazu gehören Frontend-Anwendungen, die LLM-Orchestrierung, die Quellcodeverwaltung und CI/CD-Pipelines.

Zusammen bilden diese Bausteine das Rückgrat einer KI-Fabrik. Jeder einzelne spielt eine entscheidende Rolle bei der Erstellung, Bereitstellung und Optimierung von KI-Ergebnissen. Darüber hinaus bietet es sich bei KI-Fabrik-Initiativen meist an, die Implementierungsstrategien für die meisten Bausteine selbst zu verantworten, anstatt sie zu mieten oder auszulagern. Daher wird aus den unten aufgeführten Bereitstellungsmodellen in der Regel die Option „selbst gehostet“ gewählt.

Vier Bereitstellungsmodelle

Für jeden dieser Bausteine müssen Kunden ein geeignetes Bereitstellungsmodell und eine passende Implementierungsstrategie auswählen (selbst betreiben, mieten oder auslagern) und so die optimale Referenzarchitektur zur Erreichung der Geschäftsziele ihrer KI-Initiativen definieren. Dies sind die vier wichtigsten:

• AI-SaaS umfasst die Nutzung einer Software-as-a-Service(SaaS)-Implementierung eines Inferenzdienstes, bei der der Dienstanbieter die Infrastruktur, Modellaktualisierungen und Skalierung verwaltet. Die Nutzer greifen über APIs auf den Dienst zu, ohne sich um die zugrunde liegende Wartung kümmern zu müssen. Dieses Bereitstellungsmodell eignet sich ideal für Unternehmen, die eine einfache Nutzung und schnelle Integration ohne erheblichen Zusatzaufwand anstreben. Zudem ermöglicht es eine schnelle Skalierung und den Zugriff auf die neuesten Funktionen und Verbesserungen.
• Cloud-gehostetes Deployment umfasst die Verwaltung des Inferenzdienstes über einen Cloud-Service-Provider (CSP) in Form von Infrastructure as a Service (IaaS) oder Platform as a Service (PaaS). Bei diesem Modell ist der Nutzer für die Verwaltung des Dienstes einschließlich Konfiguration, Skalierung und Wartung verantwortlich, profitiert jedoch von der robusten Infrastruktur und den Tools des CSP. Dieses Modell bietet Flexibilität und Kontrolle und eignet sich daher für Organisationen mit spezifischen Anforderungen und technischem Fachwissen. Zudem ermöglicht es die nahtlose Integration mit anderen cloudnativen Diensten und Tools.
• Selbst gehostete Bereitstellungen erfordern die Verwaltung des Inferenzdienstes in einem selbst verwalteten privaten Rechenzentrum oder einer Colocation-Einrichtung. Dieses Modell bietet ein Höchstmaß an Kontrolle und Anpassungsmöglichkeiten, sodass Unternehmen die Infrastruktur und den Dienst auf ihre spezifischen Anforderungen zuschneiden können. Allerdings sind dafür auch erhebliche Ressourcen für Wartung, Aktualisierungen und Skalierung erforderlich. Dieses Modell wird häufig von Unternehmen gewählt, deren strenge Sicherheits-, Compliance- oder Leistungsanforderungen nicht durch cloudbasierte Lösungen erfüllt werden können.
• Edge-gehostetes Deployment-Modell umfasst die Ausführung von KI- oder Machine-Learning-Diensten (ML) am Netzwerkrand, beispielsweise in einem Verkaufskiosk, auf einem IoT-Gerät oder in anderen lokalen Umgebungen. Dieses Modell reduziert die Latenz, indem Daten nahe an ihrer Quelle verarbeitet werden. Dadurch eignet es sich ideal für Echtzeitanwendungen und Szenarien, in denen die Internetverbindung eingeschränkt oder nur zeitweise verfügbar ist. Es erfordert eine zuverlässige Verwaltung der lokalen Hard- und Software, bietet jedoch erhebliche Vorteile für Anwendungsfälle, die sofortige Entscheidungen vor Ort erfordern. Edge-gehostete Deployments sind besonders wertvoll in Branchen wie Einzelhandel, Fertigung und Gesundheitswesen.

F5 stellt KI-Anwendungen überall bereit und schützt sie

Die Funktionen von F5, auf die Sie sich täglich bei der Anwendungsbereitstellung und -sicherheit verlassen, sind dieselben Funktionen, die für eine gut konzipierte KI-Fabrik entscheidend sind. F5 BIG-IP Local Traffic Manager ermöglicht in Kombination mit der speziell entwickelten Hardware F5 rSeries und VELOS eine leistungsstarke Dateneinspeisung für das KI-Training. F5 Distributed Cloud Network Connect für sichere Multicloud-Netzwerke verbindet unterschiedliche Datenspeicherorte und schafft so eine sichere Verbindung zwischen proprietären Daten und KI-Modellen für RAG.

Das Engagement von F5 im Bereich KI geht noch weiter – erfahren Sie, wie F5 KI-Anwendungen überall absichert und bereitstellt.

Möchten Sie mehr über KI-Fabriken erfahren? Entdecken Sie weitere Beiträge aus unserer Blogreihe zu KI-Fabriken:

• Retrieval-Augmented Generation (RAG) für KI-Fabriken ›
• Optimieren Sie das Traffic-Management für die Dateneinspeisung in KI-Fabriken ›
• Edge-Datenquellen optimal mit KI-Fabriken verbinden ›
• Multicloud-Skalierbarkeit und -Flexibilität unterstützen KI-Fabriken ›
• Die Leistungsfähigkeit und Bedeutung der NVIDIA BlueField DPU für KI-Fabriken ›
• API-Schutz für KI-Fabriken: Der erste Schritt zur KI-Sicherheit ›
• Die Bedeutung der Netzwerksegmentierung für KI-Fabriken ›
• KI-Fabriken produzieren die modernsten aller modernen Anwendungen: KI-Anwendungen ›

Über den Autor

Hunter SmitSenior Manager, Produktmarketing | F5

Hunter Smit ist Senior Manager im Produktmarketing für Lösungen und Strategie bei F5. Er leitet das Lösungsmarketing für das gesamte F5-Portfolio, einschließlich KI-Infrastruktur und Anwendungssicherheit, und treibt den Einstieg von F5 in den aufstrebenden Markt für die Bereitstellung von KI-Daten voran. Hunter ist Mitglied des Beirats der School of Business der Whitworth University und war als Lehrbeauftragter für Produktmarketing tätig. Er erwarb an der Whitworth University einen MBA sowie einen Bachelor of Business Administration mit Schwerpunkt Management.

Weitere Blogbeiträge von Hunter Smit