Generative KI: Anwendungssicherheit und -optimierung

Generative KI kann eigenständig neue Inhalte wie Texte, Bilder oder Audiodateien erstellen, indem sie aus Mustern und Beispielen in vorhandenen Daten lernt. Sie nutzt Deep-Learning-Modelle, um vielfältige und kontextbezogene Ergebnisse zu erzeugen, und ahmt dabei die Kreativität und Problemlösungsfähigkeiten des Menschen nach.

Chancen und Bedenken im Zusammenhang mit generativer KI

Einzelpersonen und Organisationen nutzen generative KI für eine Vielzahl von Zwecken und Anwendungen, darunter die Erstellung von Inhalten, die Verarbeitung natürlicher Sprache und die Datensynthese. Bei der Inhaltserstellung hilft sie dabei, alles von Gedichten, wissenschaftlichen Aufsätzen und Marketingmaterialien bis hin zu Bildern, Videos, Musik und Computercode zu generieren. Im Bereich der Verarbeitung natürlicher Sprache verbessert generative KI Chatbots und maschinelle Übersetzungen und ermöglicht die Synthese großer Datenmengen, um die Kreativität bei Produktdesign, Entwicklung und Prototypenerstellung zu fördern. Der Einsatz generativer KI-Anwendungen in einem Unternehmen kann die Beschäftigten unterstützen, indem er zu besseren, fundierteren Entscheidungen und effizienteren Betriebsabläufen beiträgt, was wiederum die Rentabilität steigert und das Unternehmenswachstum fördert.

Generative KI bringt jedoch auch erhebliche Sicherheitsrisiken und ethische Bedenken mit sich, darunter mögliche Verzerrungen, ausgefeiltere Cyberangriffe und Datenschutzrisiken. Beispielsweise kann generative KI große Sprachmodelle (Large Language Models, LLMs) verwenden, die mit systematisch aus dem Internet extrahierten Inhalten trainiert werden, darunter Onlinebücher, Beiträge, Websites und Artikel. Generative Modelle lernen aus Trainingsdaten. Sind diese Daten verzerrt, kann das Modell bestehende Verzerrungen in seinen Ausgaben fortschreiben und sogar verstärken.

Darüber hinaus kann generative KI unbeabsichtigt irreführende oder falsche Informationen erzeugen (sogenannte Halluzinationen), was zur Verbreitung von Fehlinformationen führt. Böswillige Akteure können generative KI auch einsetzen, um Propaganda zu verbreiten und gezielt anzupassen, die soziale Unruhen auslösen kann. Generative KI wird inzwischen häufig von böswilligen Akteuren genutzt, um Deepfakes zu erstellen – realistisch wirkende, aber manipulierte Inhalte, die irreführend oder schädlich sein können. Deepfakes können für Identitätsdiebstahl, Social Engineering oder Phishing-Angriffe, zur Verbreitung falscher Informationen oder zur Erstellung täuschender Inhalte eingesetzt werden, die eine Bedrohung für Einzelpersonen und die Gesellschaft darstellen.

Auf Marktplätzen im Dark Web wird inzwischen das KI-Tool FraudGPT angeboten, mit dem sich Spear-Phishing-E-Mails verfassen, nicht erkennbare Schadsoftware erstellen, Phishing-Seiten generieren und anfällige Websites identifizieren lassen. Es bietet sogar Anleitungen zu Hacking-Techniken.

Die Inhalte, die zum Trainieren von LLMs verwendet werden und auf die möglicherweise ohne Zustimmung zugegriffen wurde, können auch personenbezogene und sensible Informationen sowie urheberrechtlich geschützte oder proprietäre Inhalte umfassen. Da diese privaten Informationen Teil der Inhalte sind, auf die die KI bei der Generierung von Inhalten zurückgreift, besteht die konkrete Gefahr, dass Ausgaben unbeabsichtigt sensible Daten oder private Informationen offenlegen.

Anbieter generativer KI bieten Einzelpersonen oder Organisationen möglicherweise keine Möglichkeit, zu überprüfen, ob ihre personenbezogenen oder geschützten Informationen gespeichert oder zu Trainingszwecken verwendet wurden, oder gemäß Vorgaben zum „Recht auf Vergessenwerden“ oder „Recht auf Löschung“ aus gesetzlichen Regelungen wie der Datenschutz-Grundverordnung (DSGVO) der EU die Löschung dieser Informationen zu verlangen. Beim Training von LLMs werden zudem häufig Daten aus verschiedenen Regionen oder Ländern zusammengeführt und genutzt. Dies kann zu Situationen führen, in denen Vorschriften zur Datensouveränität möglicherweise verletzt werden.

Arten von Anwendungen generativer KI

Generative KI bietet zahlreiche Anwendungsmöglichkeiten für Unternehmen und Branchen. Durch die gezielte Integration generativer KI in geeignete Arbeitsabläufe können sich Unternehmen einen Wettbewerbsvorteil verschaffen. Zu diesen Anwendungen gehören:

• Erstellung schriftlicher Inhalte. Generative KI kann selbstständig menschenähnliche Texte für Artikel, Blogs, personalisierte Nachrichten, Werbetexte für Kampagnen und viele weitere Zwecke erstellen. Obwohl KI-generierte Inhalte in der Regel von Menschen überprüft werden müssen, kann generative KI die Inhaltserstellung erleichtern, indem sie erste Entwürfe im gewünschten Stil und Umfang erstellt, vorhandene Texte zusammenfasst oder vereinfacht und Gliederungen bereitstellt, um den Schreibprozess für menschliche Autoren effizienter zu gestalten.
• Bild- und Videoerstellung. Generative Modelle können Bilder und Videos auf Grundlage von Text- oder Bildeingaben erzeugen oder verändern und so einzigartige, realistische visuelle Inhalte erstellen, die den Vorgaben zu Umgebung, Motiv, Stil oder Ort entsprechen. Diese visuellen Materialien bieten zahlreiche kommerzielle Anwendungsmöglichkeiten in den Bereichen Medien, Design, Werbung, Marketing, Bildung und Unterhaltung. Generative KI kann außerdem Figuren und realistische Szenen für Spiele und virtuelle Umgebungen erstellen.
• Verbesserte Automatisierung des Kundensupports. Generative KI kann die Entwicklung fortschrittlicher Chatbots und dialogorientierter Assistenten unterstützen, die natürlichere und kontextbezogenere Gespräche führen können – insbesondere in Situationen, in denen vordefinierte Antworten möglicherweise nicht ausreichen. Adaptive dialogorientierte Assistenten können dynamisch Inhalte generieren, beispielsweise spontane Produktempfehlungen oder auf bestimmte Nutzerpräferenzen zugeschnittene Antworten. Diese kontextsensitiven Chatbots und Assistenten können Unternehmen dabei helfen, Zeit und Ressourcen zu sparen, gleichzeitig das Kundenerlebnis zu verbessern und die Supportkosten zu senken.
• Codegenerierung. Der Einsatz generativer KI zur Codegenerierung kann den Softwareentwicklungsprozess effizienter und produktiver gestalten. Sie kann die Codeentwicklung auf vielfältige Weise unterstützen, unter anderem durch automatische Codevervollständigung (Vorschläge zur Vervollständigung des Codes während der Eingabe), die Überprüfung des Codes auf Qualität, Fehler und Bugs sowie die automatisierte Modernisierung von Legacy-Code. Die automatisierte Codegenerierung erleichtert die schnelle Erstellung von Prototypen und ermöglicht es Entwicklern, Ideen zügig auszuprobieren und verschiedene Programmieroptionen zu testen, um effizientere Abläufe in der Softwareentwicklung zu schaffen. Generative KI eröffnet auch technisch nicht versierten Personen die Möglichkeit zu programmieren: Benutzer können in natürlicher Sprache beschreiben, was der Code leisten soll, und das generative Code-Tool erstellt den Code automatisch.

Was ist Sicherheit bei generativer KI?

Die Sicherheit generativer KI umfasst eine Reihe von Verfahren und Maßnahmen, mit denen potenzielle Sicherheitsrisiken und Herausforderungen bei der Entwicklung, Bereitstellung und Nutzung von Anwendungen auf Basis generativer KI bewältigt werden. Da diese Technologien immer weiter verbreitet und ausgereifter werden, gewinnen Sicherheitsbedenken zunehmend an Bedeutung – insbesondere, weil KI-Workloads zu einer bevorzugten Angriffsfläche für Cyberkriminelle geworden sind.

Eine eingehende Untersuchung der Sicherheitsrisiken bei der Bereitstellung und Verwaltung generativer KI-Anwendungen finden Sie in den OWASP Top 10 für Anwendungen mit großen Sprachmodellen. Diese sollen das Bewusstsein für deren Schwachstellen schärfen, Abhilfestrategien vorschlagen und die Sicherheitslage von LLM-Anwendungen verbessern.

Sicherheitsrisiken für die Infrastruktur generativer KI

Auch wenn generative KI äußerst leistungsfähig und beinahe magisch erscheinen mag, nutzt sie teilweise dieselbe Infrastruktur, dieselben Schnittstellen und Softwarekomponenten wie herkömmliche Workloads und ist daher denselben Risiken ausgesetzt, etwa Injection-Angriffen und Angriffen, die schwache Authentifizierungs- und Autorisierungskontrollen umgehen. Für den effektiven Betrieb hochentwickelter generativer KI-Modelle ist eine zuverlässige, leistungsstarke und sichere Infrastruktur erforderlich.

Zu den Angriffen auf die Infrastruktur zählen auch Denial-of-Service-Angriffe (DoS), bei denen Angreifer Hardwareressourcen wie CPUs, Arbeitsspeicher oder Speicherplatz überlasten, um die Ausführung generativer KI-Workloads zu stören. Diese Angriffe, die auf eine Erschöpfung der Ressourcen abzielen, können zu Leistungseinbußen oder Systeminstabilität führen, die Verfügbarkeit und Zuverlässigkeit des KI-Systems beeinträchtigen und die Fähigkeit des Modells einschränken, zu lernen und auf Benutzereingaben zu reagieren.

Der unbefugte Zugriff auf die Infrastruktur von KI-Systemen stellt ebenfalls eine erhebliche Bedrohung für generative KI-Workflows dar und kann die Vertraulichkeit und Integrität des Systems beeinträchtigen. Das Eindringen in die Systeminfrastruktur kann zu böswilligen Aktivitäten wie Datendiebstahl, Dienstunterbrechungen oder dem Einschleusen von Schadcode führen. Dadurch wird nicht nur die Sicherheit der KI-Modelle und -Daten gefährdet, sondern es können auch fehlerhafte oder schädliche Ausgaben erzeugt und verbreitet werden.

Sicherheitsrisiken für Trainingsdaten generativer KI

Der Ausgangspunkt jeder Anwendung generativer KI sind die Trainingsdaten, anhand derer Modelle für maschinelles Lernen gewünschte Muster erkennen, Vorhersagen treffen und Aufgaben ausführen. Damit ein LLM besonders leistungsfähig ist, müssen die Daten, mit denen es trainiert wird, ein breites und vielfältiges Spektrum an Fachgebieten, Genres und Quellen abdecken. Der Modelltrainingsprozess ist jedoch anfällig für Manipulationen und Angriffe – unabhängig davon, ob dabei vorgefertigte, vortrainierte Modelle oder speziell entwickelte, mit benutzerdefinierten Datensätzen trainierte Modelle zum Einsatz kommen.

Bei adversarialen Angriffen manipulieren böswillige Akteure absichtlich Eingabedaten, um generative KI-Modelle in die Irre zu führen oder ihre Leistungsfähigkeit zu beeinträchtigen. OWASP bezeichnet diesen Vorgang als Vergiftung von Trainingsdaten. Dazu gehört auch die Manipulation von Daten, um Schwachstellen, Hintertüren oder Verzerrungen einzuschleusen, die die Sicherheit, Effektivität oder das ethische Verhalten des Modells beeinträchtigen könnten. Diese Schwachstellen eröffnen zudem Angriffswege, die böswillige Akteure ausnutzen können, um sich unbefugten Zugriff auf vertrauliche Informationen zu verschaffen. Kompromittierte Lieferketten für Modelle können zu verzerrten oder unzuverlässigen Ausgaben, Datenschutzverletzungen und der Ausführung nicht autorisierten Codes führen. Dies ist bei GenAI-Anwendungen besonders bedenklich, da sie umfangreiche Plug-in-Ökosysteme nutzen.

Sicherheitsbedrohungen für generative KI-Modelle

Anwendungen für generative KI nutzen LLMs, die auf der Grundlage von Trainingsdatensätzen, neuronalen Netzen und Deep-Learning-Architekturen Ausgaben erzeugen, um auf Eingaben von Nutzern zu reagieren. KI-Modelle bilden die Grundlage dafür, Muster, Strukturen und Zusammenhänge in vorhandenen Daten zu erkennen und auf Basis dieses Verständnisses neue Ausgaben zu generieren.

KI-Modelle sind anfällig für eine Vielzahl von Angriffen, darunter Prompt-Injections und andere eingabebasierte Bedrohungen, bei denen LLMs durch sorgfältig formulierte Prompts manipuliert werden, sodass das Modell vorherige Anweisungen ignoriert oder unbeabsichtigte Aktionen ausführt. Prompt-Injections gehören zu den häufigsten Ursachen für Fehlinformationen und gefälschte Inhalte, die von KI-Modellen generiert werden.

Anwendungen mit generativer KI sind ebenfalls anfällig für Schwachstellen wie Server-Side Request Forgery (SSRF), wodurch Angreifer unbeabsichtigte Anfragen ausführen oder auf geschützte Ressourcen zugreifen können, sowie für Remote Code Execution (RCE), wodurch die Anwendung dazu gebracht werden kann, Schadcode oder andere Aktionen auf dem zugrunde liegenden System auszuführen.

Die Angriffsfläche multimodaler KI und APIs

Der Wandel hin zu multimodaler KI – also Systemen, die Text, Audio und Video gleichzeitig verarbeiten können – sowie das Entstehen eines umfangreichen Ökosystems aus Plug-ins und Integrationen haben die Angriffsfläche erheblich vergrößert und neue KI-Bedrohungen hervorgebracht. Angreifer können diese neuen Funktionen und die stärkere Vernetzung von Tools ausnutzen, um Geschäftslogik zu missbrauchen, Daten auszuschleusen, Schwachstellen in der Lieferkette auszunutzen oder sich Zugang zu Unternehmenssystemen zu verschaffen. Besonders kritisch werden diese Risiken, wenn KI-Systeme Zugriff auf geschützte Informationen, sensible interne Datenbanken, Geschäftstools und -anwendungen, Cloud-Umgebungen oder betriebliche Infrastruktur haben.

Die kontinuierliche Weiterentwicklung multimodaler KI und der API-Konnektivität setzt die für die Absicherung von KI-Systemen Verantwortlichen zunehmend unter Druck.

Best Practices für die Sicherheit generativer KI

Der Schutz generativer KI-Systeme erfordert einen mehrschichtigen Sicherheitsansatz. Dieser sollte robuste Authentifizierungs- und Autorisierungsprotokolle umfassen, einschließlich strenger Zugriffskontrollen, die sicherstellen, dass nur autorisiertes Personal auf kritische Komponenten des Systems zugreifen kann. Unternehmen können ein proaktives Schwachstellenmanagement implementieren, das regelmäßige Softwareupdates und eine kontinuierliche Überwachung zur frühzeitigen Erkennung und Abwehr von Eindringversuchen umfasst. Um DoS-Angriffen entgegenzuwirken, sollte Redundanz in das System integriert werden, unter anderem durch den Einsatz von Backup-Servern und ausfallsicheren Protokollen, um eine dauerhafte Verfügbarkeit der Verarbeitung zu gewährleisten. Auch LLMs können von Denial-of-Service-Angriffen betroffen sein, da Benutzer-Prompts Token erzeugen und LLMs über feste Kontextfenster verfügen, die gezielt ausgenutzt werden können, um die Systemressourcen zu erschöpfen.

Unternehmen sollten strenge Prüfverfahren einführen, um die Lieferkette der Trainingsdaten zu verifizieren und ausschließlich vortrainierte Modelle aus vertrauenswürdigen Quellen auszuwählen. Da minderwertige Daten und Verzerrungen in den Trainingsdaten die Fähigkeit des Modells beeinträchtigen können, präzise Repräsentationen zu erlernen und zuverlässige Ergebnisse zu liefern, ist die Vorverarbeitung der Daten vor ihrer Einspeisung in ein generatives Modell für eine effektive generative KI von entscheidender Bedeutung. Auch die Feinabstimmung von Modellen ist in vielen regulierten Branchen unerlässlich. Verfahren wie Datenbereinigung, Normalisierung und Anreicherung sowie die Erkennung und Minderung von Verzerrungen können dazu beitragen, Fehler und Datenvergiftung zu verhindern.

Implementieren Sie robuste Zugriffskontrollen, Verschlüsselungsmethoden und sichere Bereitstellungsverfahren – einschließlich Netzwerkisolierung und ordnungsgemäßer Firewall-Konfigurationen –, um generative KI-Modelle vor potenziellen Sicherheitsbedrohungen zu schützen. Um Prompt-Injections zu verhindern, setzen Sie Techniken ein wie Prompt-Bereinigung, Eingabevalidierung und Prompt-Filterung, damit das Modell nicht durch böswillig gestaltete Eingaben manipuliert wird. Das Risiko einer unbefugten Codeausführung lässt sich durch sichere Programmierpraktiken, gründliche Codeüberprüfungen und Laufzeitschutzmaßnahmen wie Code-Sandboxing verringern. Prompt-Injection zählt zu den schwerwiegendsten und komplexesten Risiken generativer KI-Anwendungen.

Optimierung generativer KI-Modelle

Da die Verarbeitung generativer KI sehr ressourcenintensiv sein kann, ist die Optimierung generativer KI-Modelle im Hinblick auf eine höhere Leistung und Effizienz ein wichtiger Schritt, um Modelle schneller, besser skalierbar und energieeffizienter zu machen.

Multi-Cloud-Umgebungen bilden mittlerweile die Grundlage für KI-gestützte Anwendungen, da sie KI-Workloads und Ökosystem-Plug-ins über verteilte Umgebungen hinweg miteinander verbinden können. Multi-Cloud-Networking (MCN) bietet die Flexibilität, Ressourcen je nach Rechenanforderungen generativer KI-Workloads dynamisch nach oben oder unten zu skalieren. Dazu gehören auch Hardwarebeschleuniger wie Grafikprozessoren (GPUs). Dabei werden Ressourcen verschiedener Cloud-Anbieter in die Datenverarbeitung integriert, um die Leistung zu optimieren und Verzögerungen zu minimieren. Die Bereitstellung generativer KI-Modelle in mehreren Cloud-Regionen ermöglicht eine geografische Verteilung der Verarbeitung, geringere Latenzen und kürzere Reaktionszeiten. Dies ist insbesondere für verteilte Echtzeit- oder interaktive KI-Anwendungen wichtig. Edge-KI entwickelt sich zu einer äußerst wertvollen Methode zur Verbesserung der Benutzererfahrung. Durch die regionale Verteilung generativer KI-Modelle können Unternehmen Daten zudem im Einklang mit den Anforderungen an die Datensouveränität speichern und verarbeiten.

Die Container-Orchestrierungsplattform Kubernetes ist der De-facto-Standard für die Ausführung generativer KI-Workloads. Sie stellt die Infrastruktur bereit, um KI-Modelle in Containern auszuführen und zu skalieren und so eine hohe Verfügbarkeit und effiziente Ressourcennutzung zu gewährleisten. Kubernetes fungiert als Orchestrator, der die Bereitstellung und Überwachung verschiedener Komponenten innerhalb der KI-Anwendung verwaltet und sicherstellt, dass KI-Modelle, Datenverarbeitungspipelines und andere Dienste effizient verwaltet und skaliert werden können. Aufgrund der verschiedenen Kubernetes-Implementierungen und der Notwendigkeit, Workloads einheitlich bereitzustellen, den Datenverkehr sicher zu steuern und Inferenzen zu verteilen, sind MCN und Ingress-Controller von entscheidender Bedeutung.

APIs bilden das Bindeglied, über das die verschiedenen Teile der KI-Anwendung Daten und Anweisungen austauschen können, sodass unterschiedliche Komponenten und Dienste miteinander kommunizieren können. GenAI-Plug-in-Ökosysteme werden beispielsweise über API-Aufrufe angebunden. Kubernetes-Ingress-Lösungen bieten integrierte Funktionen für Lastverteilung, Ratenbegrenzung und Zugriffskontrolle und verteilen den Datenverkehr sicher auf mehrere Pods, um die Verarbeitungsleistung von KI-Workloads insgesamt zu verbessern.

Wie bereits erläutert, bilden APIs das Bindeglied zwischen den verschiedenen Teilen der KI-Anwendung. Sie ermöglichen den Austausch von Daten und Anweisungen, sodass die unterschiedlichen Komponenten und Dienste miteinander kommunizieren können. Kubernetes-Ingress-Lösungen bieten integrierte Funktionen für Lastverteilung, Ratenbegrenzung und Zugriffskontrolle. Sie verteilen den Datenverkehr sicher auf mehrere Pods und verbessern so die Gesamtverarbeitungsleistung von KI-Workloads.

Herausforderungen bei der Optimierung generativer KI

Bei der Optimierung generativer KI müssen häufig Kompromisse zwischen Ausgabegeschwindigkeit und Qualität eingegangen werden. Für qualitativ hochwertige Ergebnisse sind in der Regel komplexere und ressourcenintensivere Modelle und Berechnungen erforderlich, während eine Leistungsoptimierung möglicherweise Vereinfachungen der Modelle voraussetzt, die sich auf die Qualität der generierten Inhalte auswirken können. Komplexere Modelle können zudem längere Trainingszeiten erfordern und zu einer langsameren Inferenz führen, was sowohl die Geschwindigkeit des Trainingsprozesses als auch die Leistung von Echtzeitanwendungen beeinträchtigt.

Dies ist insbesondere bei generativen KI-Modellen problematisch, die sich an dynamische Umgebungen anpassen müssen. Dies kann eine kontinuierliche Optimierung erfordern und es erschweren, ein ausgewogenes Verhältnis zwischen Qualität und Leistung aufrechtzuerhalten. Neben GPUs können auch allgemeine Hauptprozessoren (CPUs) und Datenverarbeitungseinheiten (DPUs) für Verarbeitungsaufgaben eingesetzt werden – was die Bedeutung eines intelligenten Datenverkehrsmanagements und der gemeinsamen Nutzung von Ressourcen unterstreicht.

Zentrale Optimierungstechniken: Pruning, Quantisierung und Transferlernen

Die Optimierung generativer KI-Modelle erfordert eine ausgewogene Berücksichtigung – und Kombination – mehrerer Faktoren.

Modellbereinigung umfasst das Identifizieren und Entfernen redundanter oder weniger wichtiger Parameter aus dem Modell, um dessen Größe und Rechenaufwand zu reduzieren. Ziel ist es, ein kompakteres Modell zu schaffen und gleichzeitig dessen Leistungsfähigkeit zu erhalten. Quantisierung reduziert den Speicherbedarf und die Rechenkomplexität generativer KI-Modelle, indem numerische Werte mit geringerer Bitgenauigkeit dargestellt werden, beispielsweise durch die Umwandlung von Gleitkommazahlen in Festkomma- oder Ganzzahldarstellungen mit geringerer Genauigkeit. Dies kann den Speicherbedarf senken und die Effizienz bei der Bereitstellung und Speicherung von Modellen steigern.

Transfer Learning ist eine Technik des maschinellen Lernens, bei der ein für eine bestimmte Aufgabe trainiertes Modell für eine andere, verwandte Aufgabe angepasst wird. Dadurch lassen sich der Zeitaufwand und die Rechenressourcen für das Training erheblich reduzieren, insbesondere bei tiefen und komplexen Modellen. Transfer Learning ermöglicht die effiziente Wiederverwendung von Wissen und damit die Optimierung generativer KI-Modelle für bestimmte Anwendungen, ohne dass umfangreiche Rechenressourcen erforderlich sind.

Die Verteilung von Modelltraining und Inferenz auf mehrere Prozessoren, Geräte oder Clouds optimiert das Modelltraining und die Benutzererfahrung durch die Nutzung paralleler Verarbeitungskapazitäten. Darüber hinaus können die Modellarchitektur und der Trainingsprozess an die individuellen Fähigkeiten der Hardware angepasst werden (beispielsweise an die spezifische CPU oder GPU, auf der das Modell ausgeführt wird), um den Trainings- und Inferenzprozess zu optimieren und die Leistung zu verbessern – insbesondere, wenn die Inferenz in der Nähe des Benutzers durchgeführt werden kann.

Ressourcenvorteile von Optimierungstechniken

• Modellbereinigung: Nach der Bereinigung sind Modelle kleiner und benötigen daher weniger Arbeitsspeicher und Rechenleistung. Dies senkt die Inferenzkosten und steigert gleichzeitig die Leistung. Eine zu starke Bereinigung kann die Genauigkeit beeinträchtigen.
• Quantisierung: Durch Quantisierung lassen sich der Speicherbedarf erheblich reduzieren und die Inferenzgeschwindigkeit steigern. Die Optimierung mittels Quantisierung ermöglicht es, Modelle auf schlankerer, kostengünstigerer Hardware auszuführen.
• Transferlernen: Beim Einsatz von Transferlernen benötigen Unternehmen weniger Trainingsdaten, Zeit und Rechenleistung als beim Training von Grund auf.
• Verteiltes Lernen: Verteiltes Lernen ermöglicht es Teams, das Training größerer Modelle zu beschleunigen, indem die Arbeitslast auf mehrere Systeme verteilt wird.

F5 für generative KI nutzen

Generative KI bietet das Potenzial für erhebliche Wettbewerbsvorteile. Damit Unternehmen ihre Vorteile jedoch ohne Risiken voll ausschöpfen können, müssen sie die notwendigen Maßnahmen ergreifen, um KI-Workloads in vielfältigen, verteilten Umgebungen zu optimieren und abzusichern. Dazu müssen nicht nur die Effizienz von KI-Workloads gesteigert, sondern auch komplexe Kubernetes-Ökosysteme verwaltet, APIs nahtlos und sicher integriert sowie Multi-Cloud-Netzwerke effektiv gemanagt werden.

F5 ermöglicht Unternehmen in jeder Phase ihrer KI-Bereitschaft, KI-Interaktionen in all ihren Umgebungen zu überwachen, abzusichern und zu steuern und den Schutz an die Weiterentwicklung der KI-Landschaft anzupassen. Die F5 AI Security Platform ermöglicht die kontinuierliche Kontrolle von KI-Risiken und bietet anpassbaren Schutz für KI-Anwendungen, -Modelle und -Agenten sowie für die APIs, die sie miteinander verbinden. Teams können fortlaufend ermitteln, wie ihre Mitarbeitenden KI nutzen, ihre Modelle und Anwendungen auf implementierungsspezifische Schwachstellen testen und die gewonnenen Erkenntnisse und Testergebnisse in einen Laufzeitschutz umsetzen, der auf die jeweiligen Bedrohungen abgestimmt ist.

F5 AI Guardrails ermöglicht Unternehmen, Datensicherheit, Bedrohungsmanagement und Governance für Anwendungen, Modelle und Agenten zu definieren und umzusetzen. Teams können Guardrails einsetzen, um Systeme vor neuen Bedrohungen wie Prompt-Injection- und Jailbreak-Angriffen zu schützen. Guardrails kann außerdem dazu verwendet werden, Datenlecks zu verhindern, Compliance-Richtlinien durchzusetzen, unbefugte Ein- und Ausgaben zu blockieren und die Transparenz sämtlicher KI-Interaktionen sicherzustellen.

Unterdessen F5 AI Red Team ermöglicht es Unternehmen, KI-Systeme kontinuierlich auf Schwachstellen und Sicherheitslücken zu testen. Die Erkenntnisse von F5 AI Red Team können in neue Guardrails-Richtlinien überführt werden und ermöglichen so einen kontinuierlichen Sicherheitskreislauf.

F5 optimiert außerdem die Leistung und Sicherheit moderner KI-Workloads und gewährleistet die konsistente Verteilung und den Schutz generativer KI-Modelle und -Daten in der gesamten verteilten Anwendungsumgebung – einschließlich Rechenzentren, Public Clouds, Private Clouds, Multi-Cloud-Umgebungen, nativem Kubernetes und Edge-Umgebungen. F5 stellt eine zugrunde liegende, einheitliche Datenstruktur bereit, die das Trainieren, Optimieren, Bereitstellen und Verwalten generativer KI-Modelle in großem Maßstab unterstützt. Dies gewährleistet eine nahtlose Benutzererfahrung und ermöglicht Echtzeitentscheidungen in KI-gestützten Anwendungen.

F5 bietet eine Reihe integrierter Lösungen für Sicherheit, Bereitstellung und Leistungsoptimierung, die die Komplexität generativer KI reduzieren und gleichzeitig eine planbare Skalierbarkeit und Leistung ermöglichen – mit zentraler Transparenz und Verwaltung über eine zentrale Benutzeroberfläche.

• F5 Secure Multi-Cloud Networking (MCN) reduziert die Komplexität bei der Verwaltung und Bereitstellung von KI-Workloads in verteilten Umgebungen – Cloud, Multi-Cloud und Edge – ohne die Komplexität und den Verwaltungsaufwand von Punkt-zu-Punkt-Konnektivitätslösungen.
• F5 Distributed Cloud Network Connect bietet Layer-3-Konnektivität für jede Umgebung und jeden Cloud-Anbieter, einschließlich lokaler Rechenzentren und Edge-Standorte, in einem SaaS-basierten Tool, das durchgängige Transparenz bietet, die Bereitstellung von Verbindungen und Netzwerkdiensten automatisiert und die Erstellung einheitlicher, absichtsbasierter Sicherheitsrichtlinien für alle Standorte und Anbieter ermöglicht.
• F5 Distributed Cloud App Connect ist ein Service, der App-zu-App-Konnektivität und Orchestrierung für KI-Workloads bereitstellt, die über mehrere Cloud-Regionen, Anbieter und Edge-Standorte verteilt sind.
• F5 Distributed Cloud App Stack ermöglicht die einfache Bereitstellung, Verwaltung und Absicherung von KI-Workloads mit einer einheitlichen, produktionsreifen Kubernetes-Umgebung über verschiedene Umgebungen hinweg. Dies vereinfacht das Lebenszyklusmanagement von KI-Workloads und bietet eine Möglichkeit, die Inferenz über Ressourcenpools hinweg auf den richtigen Prozessor (CPU/GPU/DPU) zu verteilen – selbst am Edge, um die Leistung zu maximieren.
• F5 NGINX Connectivity Stack für Kubernetes ist eine zentrale Lösung, die die Funktionen eines Ingress-Controllers, Load Balancers und API-Gateways vereint, um eine schnelle, zuverlässige und sichere Kommunikation für KI-/ML-Workloads in Kubernetes zu ermöglichen. Dadurch werden Verfügbarkeit, Schutz und Transparenz auch bei großem Umfang verbessert und gleichzeitig Komplexität und Betriebskosten reduziert.
• F5 Distributed Cloud Web App and API Protection (WAAP) schützt die APIs, die KI-spezifische Interaktionen ermöglichen, und mindert die mit unbefugtem Zugriff, Datenschutzverletzungen, dem Missbrauch von Geschäftslogik und kritischen Schwachstellen wie SSRF und RCE verbundenen Risiken. Gleichzeitig bietet die Lösung durch eine Kombination aus Verwaltungs- und Durchsetzungsfunktionen einen umfassenden Ansatz für die Laufzeitanalyse und den Schutz von APIs.
• F5 Distributed Cloud Bot Defense bietet hochwirksamen Bot-Schutz auf Basis der Echtzeitanalyse von Geräte- und Verhaltenssignalen, um automatisierte bösartige Bot-Angriffe aufzudecken und abzuwehren. Dabei passt sich die Lösung schnell an die Umrüstungsversuche der Angreifer an und schützt Tausende der weltweit meistgenutzten Anwendungen und KI-Workloads. So werden böswillige Akteure neutralisiert, die mithilfe von Bots und schädlicher Automatisierung versuchen, LLM-Modelle zu manipulieren, Denial-of-Service-Angriffe durchzuführen und Propaganda zu verbreiten.

Durch die Optimierung der Effizienz, die Verringerung der Latenz und die Verbesserung der Reaktionszeiten helfen F5-Technologien Unternehmen dabei, die Vorteile generativer KI sicher zu nutzen. Gleichzeitig gewährleisten sie eine nahtlose Benutzererfahrung und bieten die Flexibilität, KI-Workloads überall bereitzustellen.

Generative KI: Häufig gestellte Fragen

Was ist der Unterschied zwischen generativer KI und prädiktiver KI?

Generative KI wird verwendet, um Inhalte wie Texte, Bilder oder Code zu erstellen beziehungsweise zu generieren. Prädiktive KI dient dazu, zukünftige Ereignisse und Ergebnisse vorherzusagen.

Was sind die wichtigsten Anwendungsbereiche generativer KI in Unternehmen?

Generative KI kann für zahlreiche geschäftliche Anwendungsbereiche eingesetzt werden, darunter Programmierung, Content-Erstellung, Forschung, Kundensupport und die Personalisierung von Marketingmaßnahmen. Unternehmen nutzen Tools für generative KI, um Zeit zu sparen, repetitive manuelle Aufgaben zu vermeiden und große Datenmengen besser zu verstehen.

Was ist der Unterschied zwischen Diffusionsmodellen und generativen adversarialen Netzwerken (GANs)?

GANs und Diffusionsmodelle stellen zwei führende, aber grundlegend unterschiedliche Ansätze für das Training generativer KI-Modelle mit synthetischen Daten dar. Bei GANs stehen Generatornetzwerke, die synthetische Daten erzeugen, und Diskriminatoren, die zu bestimmen versuchen, ob Daten echt oder synthetisch sind, in einem Wettbewerb miteinander. Beide Komponenten verbessern sich im Laufe der Zeit und ermöglichen so realistischere Ergebnisse. Diffusionsmodelle hingegen arbeiten mit einem zweistufigen Prozess, bei dem den Trainingsdaten schrittweise Rauschen hinzugefügt wird (Vorwärtsdiffusion), das anschließend iterativ wieder entfernt wird, um die ursprünglichen Daten wiederherzustellen (Rückwärtsdiffusion).