KI-Infrastruktur bezeichnet die spezialisierte Kombination aus Hardware- und Softwaresystemen, die erforderlich ist, um Workloads für künstliche Intelligenz (KI) und maschinelles Lernen (ML) in großem Maßstab zu entwickeln, zu trainieren, bereitzustellen und zu verwalten. Eine robuste KI-Infrastruktur ermöglicht es Entwicklern, so unterschiedliche KI- und ML-Anwendungen wie Chatbots und virtuelle Assistenten, selbstfahrende Fahrzeuge, medizinische Bildanalysen, Präzisionslandwirtschaft und Anomalieerkennung zur Verhinderung von Betrug bei Banktransaktionen effizient zu entwickeln und bereitzustellen.
Lesen Sie diesen Blogbeitrag, um Beispiele für KI-Infrastrukturen kennenzulernen, mehr über die Komponenten einer KI-Infrastruktur und die Merkmale einer KI-Workload zu erfahren und zu entdecken, wie sich KI-Infrastrukturen von herkömmlichen IT-Infrastrukturen unterscheiden. Außerdem erläutern wir, wie sich KI-Infrastrukturen aufbauen, optimieren und absichern lassen.
“KI-Anwendungen unterscheiden sich grundlegend von herkömmlichen Anwendungen darin, wie sie Daten verarbeiten und Rechenressourcen nutzen. Traditionelle IT-Systeme sind nicht für die besonderen Anforderungen von KI- und ML-Workloads ausgelegt.”
KI-Infrastruktur vs. IT-Infrastruktur
Zunächst einmal: Warum wird für KI eine andere Computing-Infrastruktur benötigt? KI-Anwendungen unterscheiden sich grundlegend von herkömmlichen Anwendungen darin, wie sie Daten verarbeiten und Rechenressourcen nutzen. Traditionelle IT-Systeme sind nicht darauf ausgelegt, die besonderen Anforderungen von KI- und ML-Workloads zu bewältigen.
Die Erfüllung der Anforderungen von KI erfordert zwar eine spezialisierte, auf den KI-Lebenszyklus zugeschnittene Infrastruktur, doch diese Anforderungen bremsen das Wachstum der Investitionen in KI und ML nicht. Laut dem F5 2025 State of Application Strategy Report setzen derzeit 96 % der befragten Unternehmen KI-Modelle ein. Darüber hinaus geben 71 % der Befragten in der Studie The State of AI von McKinsey an, dass ihre Unternehmen generative KI regelmäßig in Geschäftsbereichen einsetzen.
KI erfordert enorme Rechenleistung: KI-Workloads verarbeiten und erzeugen riesige Datenmengen, häufig in Echtzeit. So kann beispielsweise das Training von Deep-Learning-Modellen (LLMs), auf denen generative KI-Anwendungen basieren, Millionen von Parametern und komplexe mathematische Operationen umfassen. Die Infrastrukturanforderungen generativer KI erfordern spezialisierte Hochleistungsprozessoren, skalierbare Speicher mit schnellem Zugriff, Speicherzugriffe mit geringer Latenz und Netzwerke mit hoher Bandbreite.
Diese Infrastruktur muss alle Kernkomponenten einer KI-Anwendung in jeder Phase der KI-Pipeline unterstützen und dabei in jedem Prozessschritt Leistung, Skalierbarkeit und Reaktionsfähigkeit gewährleisten. Dies beginnt mit der Datenaufnahme, also dem Erfassen von Daten, die in KI-Modelle eingespeist werden. Dieser Schritt erfordert ein robustes Datenverkehrsmanagement und eine ausreichende Bandbreite, um Datenströme mit hohem Durchsatz effizient zu verarbeiten.
Nach der Datenerfassung folgt das Modelltraining, ein iterativer Prozess, bei dem anhand von Trainingsdatensätzen ein neues KI-Modell erstellt wird. Die Infrastruktur muss leistungsstarke Rechenkapazitäten bereitstellen, um die Modelle so zu optimieren, dass sie bestimmte Aufgaben mit hoher Genauigkeit ausführen. Die Inferenz ist die Laufzeitphase, in der Frontend-Anwendungen mit trainierten KI-Modellen interagieren. Eine Anwendung sendet Eingabedaten an das Modell, das die Anfrage verarbeitet und eine Antwort zurückgibt.
Agentische Systeme erweitern die KI über die Datenverarbeitung und Anfrage-Antwort-Interaktionen hinaus, sodass sie proaktiv und ohne menschliches Eingreifen handeln kann. Die Unterstützung agentischer KI erfordert fortschrittliche Orchestrierung und die Fähigkeit, Entscheidungen in Echtzeit zu treffen.
Viele KI-Anwendungen werden am Netzwerkrand ausgeführt und ermöglichen Analysen und Automatisierung auf IoT-Geräten wie Sensoren, Kameras und Industriemaschinen. Diese Echtzeitanwendungsfälle erfordern eine Infrastruktur, die für eine latenzarme, verteilte Verarbeitung in der Nähe der Datenquelle optimiert ist.
Worin unterscheiden sich KI-Infrastruktur und IT-Infrastruktur? KI-Infrastruktur nutzt spezialisierte Hardware und Datenplattformen, um beschleunigtes Computing zu ermöglichen und die hohen Rechenanforderungen von KI-Workloads zu erfüllen. Sie setzt beispielsweise auf Grafikprozessoren (GPUs), die für die parallele Verarbeitung optimiert sind, statt auf herkömmliche Hauptprozessoren (CPUs), die in Standard-IT-Systemen üblicherweise für allgemeine Workloads eingesetzt werden.
KI-Infrastrukturlösungen umfassen auch spezielle Software, darunter Bibliotheken und Frameworks für maschinelles Lernen, die für die Entwicklung, das Training und die Bereitstellung von KI-Modellen unerlässlich sind. Solche Tools sind in herkömmlichen IT-Stacks, die stärker auf Unternehmensanwendungen und Datenmanagement ausgerichtet sind, in der Regel nicht zu finden.
Der KI-Infrastruktur-Stack wird häufig als KI-Fabrik bezeichnet, in Anlehnung an traditionelle Produktionsstätten, in denen eine Reihe sich wiederholender und häufig automatisierter Prozesse ein Produkt hervorbringt. Im Fall einer KI-Fabrik ist dieses Produkt jedoch Intelligenz. Um Jensen Huang zu zitieren, Gründer und CEO von NVIDIA: „KI ist heute Infrastruktur, und diese Infrastruktur braucht – genau wie das Internet und die Elektrizität – Fabriken. Diese Fabriken sind im Wesentlichen das, was wir heute bauen. Sie sind keine Rechenzentren der Vergangenheit … Man führt ihnen Energie zu, und sie erzeugen etwas unglaublich Wertvolles …“
Komponenten der KI-Infrastruktur
Um KI- und ML-Workloads effektiv zu unterstützen, setzen Unternehmen auf eine speziell entwickelte KI-Fabrik-Infrastrukturarchitektur, die spezialisierte Rechen-, Speicher- und Softwarefunktionen umfasst.
Zu diesen Rechenressourcen gehören:
- GPUs. Als Eckpfeiler der KI-Infrastruktur ermöglichen GPUs die Parallelverarbeitung und sind für das Trainieren und Ausführen komplexer KI-Modelle unverzichtbar. Mit Tausenden von Rechenkernen können GPUs mehrere Aufgaben gleichzeitig ausführen und so die Leistung erheblich steigern. NVIDIA zählt zu den am häufigsten genutzten Anbietern von GPUs für KI-Infrastrukturen.
- TPUs (Tensor Processing Units). TPUs wurden von Google entwickelt und sind spezialisierte KI-Beschleuniger, die für maschinelles Lernen und Deep-Learning-Prozesse optimiert sind. Sie bieten einen hohen Durchsatz und geringe Latenzzeiten und eignen sich daher ideal sowohl für das Training als auch für die Inferenz in groß angelegten KI-Anwendungen.
Zu den Ressourcen für die Datenspeicherung und -verarbeitung gehören:
- Skalierbare Speicherlösungen. Da KI-Modelle enorme Mengen an Trainingsdaten benötigen, ist die Datenspeicherung eine wesentliche Voraussetzung für die KI-Infrastruktur. Cloudbasierte oder lokale Datenbanken, Data Lakes und verteilte Dateisysteme müssen hochgradig skalierbar sein, um die Menge, Vielfalt und Geschwindigkeit der in KI-Workflows verwendeten Daten zu bewältigen.
- Frameworks zur Datenverarbeitung. Die Aufbereitung von Daten für KI erfordert die automatisierte Filterung und Bereinigung von Datensätzen. Tools wie Pandas, NumPy und SciPy optimieren diesen Prozess, indem sie gängige Aufgaben der Datenaufbereitung automatisieren.
Zu den Softwareressourcen für maschinelles Lernen gehören:
- Bibliotheken und Frameworks für maschinelles Lernen. Diese vorgefertigten Toolkits vereinfachen die Entwicklung, das Training und die Bereitstellung von KI-Modellen. Frameworks wie TensorFlow und PyTorch bieten wiederverwendbare Komponenten und optimierte Algorithmen, wodurch die Entwicklung beschleunigt und die Komplexität reduziert wird.
- Plattformen für Machine-Learning-Operations (MLOps). MLOps-Tools helfen dabei, Aufgaben des maschinellen Lernens zu automatisieren und den gesamten Lebenszyklus eines Modells zu unterstützen – von der Datenerfassung über das Modelltraining, die Validierung und die Bereitstellung bis hin zur Fehlerbehebung und Überwachung.
Die oben genannten Infrastrukturlösungen für KI-Fabriken sind integrierte Systeme und Tools, die die Entwicklung, Bereitstellung und Verwaltung von KI-Anwendungen unterstützen. Dadurch können Unternehmen KI-Modelle effizienter, sicherer und in großem Maßstab entwickeln und betreiben.
So bauen Sie Ihre KI-Infrastruktur auf
Viele Unternehmen stehen beim Aufbau der für KI-Workloads erforderlichen Infrastruktur vor erheblichen Hürden, insbesondere im Hinblick auf Kosten und Komplexität. Fast die Hälfte der Befragten im F5 Digital Enterprise Maturity Index Report äußerte Bedenken hinsichtlich der Kosten für den Aufbau und Betrieb von KI-Workloads, während 39 % angaben, dass ihre Unternehmen noch keine skalierbare KI-Datenpraxis etabliert haben.
Um Kostenbedenken auszuräumen, sollten Sie zunächst klare Ziele und ein festes Budget definieren. Legen Sie die konkreten Herausforderungen fest, die Sie mit KI lösen möchten, damit Sie Ihr Budget gezielt und strategisch einsetzen können und Ihre Investitionen einen messbaren Nutzen sowie die größtmögliche Wirkung erzielen. Die Ziele bestimmen in der Regel die eingesetzten Frameworks. Diese wiederum können die Art der verwendeten Rechenressourcen vorgeben. Die Anwendungsfälle können außerdem sowohl die lokale Netzwerkarchitektur innerhalb einer KI-Fabrik als auch die Edge-Konnektivität und -Verarbeitung bestimmen. Ziehen Sie darüber hinaus cloudbasierte Speicherlösungen in Betracht. Cloudanbieter wie AWS, Oracle, IBM und Microsoft Azure bieten cloudbasierte KI-Infrastrukturen an, darunter kostengünstigere nutzungsabhängige Datenmodelle, die eine skalierbare Speicherung ohne massive Investitionen in eine lokale Infrastruktur ermöglichen.
Netzwerklösungen spielen beim Aufbau skalierbarer KI eine wichtige Rolle. Netzwerke mit hoher Bandbreite und geringer Latenz ermöglichen die schnelle Übertragung großer Datenmengen zwischen Speichersystemen und Rechenressourcen. Darüber hinaus sind Datenverarbeitungseinheiten (DPUs) speziell darauf ausgelegt, enorme Datenbewegungen zu bewältigen und Mandantenfähigkeit zu unterstützen. Sie fördern die Skalierbarkeit der Datenverarbeitung, indem sie mehrere KI-Workloads auf einer einzigen Infrastruktur ermöglichen.
Weitere Aspekte, die bei der KI-Infrastruktur zu berücksichtigen sind, umfassen die Integration in bestehende Systeme. Planen Sie sorgfältig, wie Daten zwischen herkömmlichen IT-Umgebungen und der neuen KI-Infrastruktur fließen sollen, um Kompatibilität zu gewährleisten, Störungen zu minimieren und die Integrität der Daten beim Einspeisen in die KI-Fabrik zu überprüfen. Mit der Weiterentwicklung der KI-Infrastruktur verändern sich auch die Sicherheitsrisiken, etwa die Offenlegung sensibler Daten, der Diebstahl von Modellen oder Schwachstellen in APIs. Implementieren Sie strenge Zugriffskontrollen, Verschlüsselung und Überwachung und stellen Sie sicher, dass Ihre KI-Umgebung Datenschutzvorschriften wie die Datenschutz-Grundverordnung (DSGVO) der Europäischen Union und HIPAA einhält.
So optimieren und sichern Sie Ihre KI-Infrastruktur
Ohne eine klar definierte Strategie und sorgfältige Planung können KI-Workloads und -Anwendungen erhebliche Herausforderungen mit sich bringen, darunter Netzwerküberlastung, höhere Latenzzeiten, Leistungsengpässe und erhöhte Sicherheitsrisiken.
Um die Leistung Ihrer KI-Infrastruktur zu optimieren, verbessern Sie das Datenverkehrsmanagement zur Unterstützung von Datenpipelines mit hohem Durchsatz und geringer Latenz, um eine reibungslose Bereitstellung von Trainings- und Inferenzdaten zu gewährleisten. Nutzen Sie Retrieval-Augmented Generation (RAG)-Techniken, damit KI-Modelle dynamisch auf proprietäre Datensätze zugreifen und diese referenzieren können, wodurch sich die Qualität der Antworten und die Kontextrelevanz verbessern. Implementieren Sie eine KI-Cluster-fähige, orchestrierte Netzwerksegmentierung zur dynamischen Zuweisung von GPUs und Rechenressourcen, um Netzwerküberlastungen zu reduzieren und die Gesamteffizienz des Systems durch die Automatisierung der KI-Infrastruktur zu verbessern.
Um die KI-Infrastruktur zu schützen, sollten Sie der API-Sicherheit Priorität einräumen. Da KI-Anwendungen in hohem Maße auf APIs angewiesen sind, sollten Sie eine starke Authentifizierung, Ratenbegrenzung und Richtlinien für die Zugriffskontrolle einrichten, um Angriffe und Missbrauch abzuwehren. Überprüfen Sie den Echtzeit-Datenverkehr zu KI-Modellen, um sich vor Bedrohungen auf Prompt-Ebene wie Prompt-Injections, Datenlecks und bösartigem Ein-/Ausgabeverhalten zu schützen. Überwachen Sie kontinuierlich neu auftretende Risiken mithilfe eines Webanwendungsscanners, um neue Bedrohungen sowie nicht autorisierte KI-Tools und Schatten-KI in Ihrer Umgebung zu erkennen und abzuwehren.
Wie F5 helfen kann
F5 verbessert die Leistung, Zuverlässigkeit, Skalierbarkeit und Sicherheit von KI-Infrastrukturen und -Workloads entlang der gesamten KI-Pipeline. Die Lösungen von F5 für die Bereitstellung von KI-Anwendungen und -Daten bieten leistungsstarke KI-Netzwerk- und Traffic-Management-Funktionen mit sicherer, beschleunigter Vernetzung, damit KI-gestützte Anwendungen schnell, verfügbar und kontrollierbar bleiben. F5-Lösungen optimieren KI-Netzwerke, sodass Daten mit Leitungsgeschwindigkeit übertragen und Datenströme nahtlos skaliert werden können – für eine konsistente, kosteneffiziente End-to-End-Performance.
F5 bietet außerdem Sicherheit für KI-Anwendungen und -Workloads zum Schutz von KI-Apps, Modellen und Daten durch vollständige Transparenz, robuste Sicherheit und nahtlose Skalierbarkeit – ermöglicht durch eine zentrale Plattform, die F5 Application Delivery and Security Platform (ADSP). Mit adaptiven, mehrschichtigen Abwehrmechanismen bietet F5 ADSP konsistente, umfassende Sicherheit, hohe Verfügbarkeit und latenzarme Konnektivität für anspruchsvollste Workloads. So können Unternehmen ihre KI-Investitionen mit einer einheitlichen, leistungsstarken Sicherheitslösung eines vertrauenswürdigen Branchenführers schützen.
Entdecken Sie die F5 AI Reference Architecture und erfahren Sie mehr über Best Practices für eine sichere, zuverlässige und leistungsstarke KI-Infrastruktur in Ihren Hybrid- und Multi-Cloud-Umgebungen.
Ähnliche Blogbeiträge
F5 und Equinix bündeln ihre Kräfte, um die sichere Anwendungsbereitstellung in Multicloud-Umgebungen zu vereinfachen
F5 und Equinix ermöglichen es Unternehmen, sich weltweit sicher und zuverlässig mit ihren Partnern zu vernetzen.
API-Sicherheitsrisiken und -herausforderungen
Erfahren Sie, warum APIs für die moderne App-Entwicklung unverzichtbar sind und wie Sie sie vor den häufigsten Sicherheitslücken schützen. Profitieren Sie von Expertentipps und direkt umsetzbaren Strategien.
Ein Meilenstein für die Community Impact Grants von F5
F5 feiert das fünfjährige Bestehen seines innovativen Community Impact Grant-Programms, das gemeinnützige Organisationen, bei denen sich F5-Mitarbeitende ehrenamtlich engagieren, mit Fördermitteln in Höhe von 5.000 US-Dollar unterstützt.
Mit moderner, anpassungsfähiger und sicherer Gesundheits-IT Leben retten
Die IT-Investitionen im Gesundheitswesen tragen dazu bei, die schnellsten Wege zu einer besseren Versorgung zu finden, indem sie die medizinische Betreuung näher an die Patientinnen und Patienten bringen. Viele Gesundheitsunternehmen nutzen riesige Mengen an klinischen und anderen Gesundheitsdaten, um Entwicklungen zu verfolgen und übergreifende Trends in der gesamten Gesundheitslandschaft zu erkennen. Gleichzeitig nähern sie sich einer möglichst präzisen, individuell zugeschnittenen Versorgung an.
Verbesserung der Benutzer- und Administrationserfahrung durch sicheren hybriden Zugriff
Diese Kombination aus BIG-IP Access Policy Manager und Azure Active Directory ermöglicht Identitätsföderation, zentralisierten Benutzerzugriff (über Single Sign-on) und erhöhte Anwendungssicherheit (durch Multi-Faktor-Authentifizierung) für geschäftskritische Anwendungen sowie cloudbasierte und SaaS-Anwendungen. Dieser Ansatz vereinfacht die Einrichtung und Bereitstellung, reduziert den Verwaltungsaufwand und verbessert die gesamte Administration.
Das Internet der Sicherheitsdinge
Nein, das ist keine Tirade über die Sicherheit des IoT. Es ist eine Geschichte über Veränderung – genauer gesagt über Veränderung und ihre Auswirkungen auf die Sicherheit. Veränderung ist allgegenwärtig. Es gibt unzählige Axiome und Sprichwörter über Veränderung, also ist es ...