Unternehmens-KI in Inferenzgeschwindigkeit bereitstellen und absichern
Der Schwerpunkt von KI hat sich vom Training hin zur Inferenz verlagert. F5 trägt dazu bei, KI resilient und sicher zu halten, indem es Inferenzdatenverkehr steuert, Engpässe bei der Datenbereitstellung reduziert und Laufzeitsicherheit in hybriden Multicloud-Umgebungen durchsetzt.
Inferenz legt jede Schwachstelle in Daten, Datenverkehr und Kontrollmechanismen offen
Das Training erfolgt einmalig. Die Inferenz läuft dagegen kontinuierlich, unter Last und öffentlich zugänglich. Dadurch wird jede Schwachstelle bei der Datenübertragung, der Steuerung des Datenverkehrs und der Zugriffskontrolle zu einem Problem im Produktivbetrieb. Die F5 Application Delivery and Security Platform setzt genau an diesem Kontrollpunkt an und sorgt dafür, dass KI auch unter realen Lastbedingungen schnell, verfügbar und sicher bleibt.
KI treibt einen grundlegenden Wandel voran
der Unternehmen führen KI-Inferenz inzwischen selbst durch1
KI-Modelle werden im Produktivbetrieb durchschnittlich verwaltet 1
der Unternehmen waren bereits mit KI-bezogenen Sicherheitsherausforderungen konfrontiert 1
Machen Sie Ihre KI-Ambitionen zur operativen Realität: Jetzt KI-Reifegrad ermitteln
Entdecken Sie KI-Lösungen für Unternehmen
KI-Infrastruktur
KI-Infrastruktur
Optimieren Sie Datenflüsse und Netzwerkverkehr im großen Maßstab. Von der Datenaufnahme aus S3-kompatiblen Speichern bis hin zu verteilter Inferenz und Lastverteilung in KI-Fabriken – F5 hilft, Engpässe zu reduzieren und die GPU-Auslastung in hybriden Multicloud-Umgebungen zu verbessern.
Lösungen für KI-Infrastruktur entdeckenKI-Sicherheit
KI-Sicherheit
Sichern und kontrollieren Sie KI-Modelle, Anwendungen, Agenten und die APIs, die sie verbinden – mit einem kontinuierlichen Zyklus aus Risikobewertung und maßgeschneidertem Laufzeitschutz, der Sicherheitsteams jederzeit die Kontrolle gibt.
KI-Sicherheitslösungen entdeckenAbgestimmt auf Ihre bestehende Infrastruktur
Gemeinsame Lösungen zur Skalierung und zum Schutz von KI-Anwendungen in Unternehmen über den gesamten Lebenszyklus hinweg.
Die Referenzarchitektur für sichere, leistungsstarke KI
Entdecken Sie eine interaktive KI-Referenzarchitektur und erfahren Sie, wie Sie Daten schneller übertragen, KI-Datenverkehr schützen und die Resilienz Ihrer Umgebungen über hybride Multicloud-Bereitstellungen hinweg sicherstellen.
Aktuelle Themen
Branchenperspektiven
Bank- und Finanzdienstleistungen
KI im gesamten Finanzdienstleistungssektor bereitstellen und absichern
Die Finanzbranche vollzieht den Wandel von KI-Copiloten hin zu KI-Agenten, die eigenständig planen und handeln. Diese Autonomie birgt zusätzliche Risiken für die APIs, Modelle und Daten, auf die die Agenten zugreifen. Zugleich erwarten Aufsichtsbehörden inzwischen, dass jede Aktion eines Agenten nachvollziehbar ist und überwacht wird. F5 sorgt dafür, dass diese KI-Systeme leistungsfähig und verfügbar bleiben, prüft die darüber ausgetauschten Prompts und Antworten und bietet Ihnen die nötige Transparenz, um die Einhaltung von Governance-Vorgaben nachzuweisen. Erfahren Sie, wie Finanzdienstleister agentenbasierte KI skalieren und dabei das Vertrauen ihrer Kontoinhaber wahren.
Öffentlicher Sektor
Laufzeitsicherheit und Datenbereitstellung für KI-Systeme in Behörden
KI-Systeme im öffentlichen Sektor kommen in Bürgerdiensten, in der Verteidigung und in Nachrichtendiensten zum Einsatz – häufig über Umgebungen mit und ohne Geheimhaltungsstufe hinweg. F5 ADSP optimiert die Datenbereitstellung für KI, bietet Laufzeitsicherheit für KI-Modelle und -Agenten und schützt Inferenz-APIs in lokalen Infrastrukturen, souveränen Clouds und physisch isolierten Umgebungen.
Gesundheitswesen
KI im Gesundheitswesen skalieren, modernisieren und schützen
KI revolutioniert das Gesundheitswesen, doch Sicherheitsprobleme bremsen den Fortschritt. Obwohl die Zahl der durch Hackerangriffe verursachten Vorfälle seit 2018 um 239 % gestiegen ist, halten Krankenhäuser und Gesundheitssysteme bei der Cybersicherheit nicht Schritt. Compliance allein reicht nicht mehr aus – es ist an der Zeit, bewährte Verfahren für Cybersicherheit umzusetzen, um Anwendungen und APIs zu schützen und zugleich so zu skalieren, dass die Anforderungen von Patienten und Gesundheitsdienstleistern im KI-Zeitalter erfüllt werden.
Einzelhandel und E-Commerce
KI im gesamten Einzelhandel schützen und skalieren
KI verändert die Art, wie Menschen einkaufen – von personalisierten Empfehlungen bis hin zu KI-Agenten, die im Kundenauftrag nach Produkten suchen und diese kaufen. Jeder neue Anwendungsfall erhöht die Last und die Risiken für Ihre Anwendungen, APIs und Checkout-Prozesse. F5 hilft Ihnen, verifizierte Shopping-Agenten von bösartigen Bots zu unterscheiden, Scraping und Betrug zu blockieren und Ihren Onlineshop auch bei Lastspitzen schnell zu halten. Erfahren Sie, wie Einzelhändler KI-gestützte Einkaufserlebnisse absichern und skalieren, ohne das Einkaufserlebnis zu beeinträchtigen oder Angriffen Tür und Tor zu öffnen.
Ressourcen
Aktuelle Nachrichten
Blogs
E-Books & Berichte
Webinare
Häufig gestellte Fragen
Die meisten GPU-Cluster in Unternehmen sind bei Weitem nicht ausgelastet. Um die GPU-Auslastung zu verbessern, sollten Unternehmen Techniken zur Steigerung der Laufzeiteffizienz wie kontinuierliche Batch-Verarbeitung, spekulative Dekodierung und Quantisierung einsetzen, die einen deutlich höheren Durchsatz aus der Hardware herausholen. Darüber hinaus können sie durch intelligentes Inferenz-Routing einfache Anfragen an kleinere Modelle weiterleiten und zugleich wiederkehrende Antworten zwischenspeichern, damit diese nicht erneut berechnet werden müssen. Wenn Unternehmen ihre GPUs angemessen mit Daten und Aufgaben versorgen und den gesamten Stack mit Monitoring-Instrumenten ausstatten, können sie die Kosten pro Token senken.
GPUs verarbeiten Daten schneller, als die Pipeline sie bereitstellen kann. Dadurch bleiben diese kostspieligen Beschleuniger ungenutzt, während sie auf Daten warten. Herkömmliche Speichersysteme wurden nicht für den kontinuierlichen Datenzugriff mit hohem Durchsatz entwickelt, den moderne Trainings- und Inferenzprozesse erfordern. Das Problem der Datenübertragung verschärft sich, wenn Zugriffsmuster unvorhersehbar sind, eine überlastete CPU die Vorverarbeitung übernimmt und Daten über Silos verteilt sind, ohne dass ein schneller, einheitlicher Zugriff durch die Rechenressourcen möglich ist. Unternehmen können langsame Datenübertragungen beschleunigen, indem sie die Datenbereitstellung als gezielt konzipierte Infrastruktur behandeln. Dazu sollten sie Prefetching, Caching, paralleles Laden und Speichersysteme mit hohem Durchsatz einsetzen, die Daten näher an den GPUs bereitstellen. Mit diesen Techniken können sie kleinere Cluster kontinuierlich mit Daten versorgen, statt größere Cluster zu betreiben, denen ständig Daten fehlen.
Herkömmliche API- und Datensicherheit schützt APIs und sensible Informationen durch Maßnahmen wie Authentifizierung, Autorisierung, Schemavalidierung, Bedrohungserkennung und Datenschutz. Diese Maßnahmen sind jedoch nicht darauf ausgelegt, die semantische Bedeutung und Absicht natürlichsprachlicher Prompts zuverlässig zu interpretieren. Dadurch entstehen zusätzliche Risiken für KI-Systeme. KI-Laufzeitsicherheit schützt Systeme während der Interaktion mit Nutzern. Statt sich auf feste Regeln zu stützen, interpretiert sie natürlichsprachliche Eingaben, um Bedrohungen zu erkennen. Zudem prüft sie Ausgaben, bevor diese die Nutzer erreichen, um sicherzustellen, dass das Modell weder schädliche Inhalte liefert noch sensible Daten offenlegt.
Laut der gemeinnützigen Organisation OWASP (Open Worldwide Application Security Project) ist Prompt Injection die größte Bedrohung für KI-Systeme. Dabei erstellen Angreifer gezielt Eingaben, um das Verhalten eines Modells zu manipulieren. An zweiter Stelle steht die Offenlegung sensibler Informationen: Modelle geben über ihre Ausgaben personenbezogene Daten, System-Prompts oder geistiges Eigentum preis. KI-Leitplanken können dabei helfen, diese und andere Bedrohungen abzuwehren. Eingabeseitige Leitplanken prüfen Eingaben auf Prompt Injection und Muster, die auf ein Umgehen von Systemanweisungen abzielen, damit schädliche Anweisungen gar nicht erst zum Modell gelangen. Ausgabeseitige Leitplanken prüfen und validieren Modellausgaben, bevor diese Nutzer erreichen oder nachgelagerte Aktionen auslösen. So tragen sie dazu bei, die Offenlegung sensibler Daten durch Modellausgaben zu verhindern.
Es gibt drei wesentliche Gründe, warum Unternehmen Daten und KI-Workloads aus der Cloud in souveräne oder physisch isolierte Umgebungen zurückverlagern. Erstens müssen viele Unternehmen die Kontrolle über regulierte oder sensible Daten verbessern, um Vorschriften zur Datensouveränität einzuhalten und zugleich proprietäre Trainingsdaten von externen Cloud-Rechenzentren fernzuhalten. Zweitens möchten Unternehmen hohe Gebühren für ausgehende Datenübertragungen und unvorhersehbare Rechnungen von Cloud-Anbietern vermeiden. Drittens möchten sie die Leistung der KI-Inferenz verbessern, indem sie den zusätzlichen Verarbeitungsaufwand gemeinsam genutzter Cloud-Infrastrukturen vermeiden.
Um Datenlecks bei der Nutzung von KI-Agenten und generativer KI (GenAI) zu verhindern, müssen SecOps-Teams in Unternehmen eine mehrschichtige Verteidigungsstrategie umsetzen. Diese sollte Folgendes umfassen: die Implementierung von Inline-Schutzmechanismen für Ein- und Ausgaben in Echtzeit, die Beschränkung der Zugriffsrechte von KI-Agenten, die Absicherung des für Retrieval-Augmented Generation (RAG) genutzten KI-Objektspeichers, den Schutz von API-Zugriffen sowie kontinuierliches Red Teaming und die Behebung dabei aufgedeckter Schwachstellen. Gleichzeitig sollten die Teams Tools einsetzen, mit denen sich die KI-Nutzung durch Mitarbeitende erfassen, klassifizieren und steuern lässt.
F5 AI Guardrails unterstützt die Durchsetzung von Laufzeitrichtlinien und schützt vor Risiken wie Prompt Injection, der Offenlegung sensibler Daten, schädlichen Ausgaben und unsicheren Aktionen von KI-Agenten. F5 AI Red Team identifiziert durch adversarielle Tests Sicherheitslücken und Schwachstellen vor und während der Bereitstellung. F5 AI Gateway bietet einen zentralen Kontrollpunkt zur Steuerung des Zugriffs auf Modelle, Agenten und Tools, während F5 Workforce AI Security Transparenz über die genehmigte und nicht genehmigte KI-Nutzung im gesamten Unternehmen schafft. Gemeinsam sind diese Funktionen Teil der F5 AI Security Platform. Für einen umfassenderen Schutz und die Bereitstellung von Anwendungen und APIs in verteilten Umgebungen bietet die F5 Application Delivery and Security Platform (ADSP) Funktionen wie den Schutz von Webanwendungen und APIs, Bot-Management, DDoS-Abwehr und Anwendungsbereitstellung.















