API-Schutz für KI-Fabriken: Der erste Schritt zur KI-Sicherheit

Byron McNaughtSenior Solutions Marketing Manager | F5

Es gibt ein altes Sprichwort, das für KI besonders relevant ist: „Auch eine Reise von tausend Meilen beginnt mit einem einzigen Schritt.“

KI-Anwendungen und -Ökosysteme erobern die Welt im Sturm und zwingen jede Organisation dazu, ihre Bereitschaft zu bewerten. Bei F5 beobachten wir zwei Arten von Organisationen, die sich auf dem Weg zur KI befinden: zum einen solche, die durch strategische Investitionen, etwa in selbstfahrende Fahrzeuge oder große Sprachmodelle (Large Language Models, LLMs), differenzierte Lösungen entwickeln, und zum anderen Unternehmen, die KI einsetzen und optimieren, um ihre Effizienz zu steigern und Innovationen innerhalb der Organisation voranzutreiben. Führungskräfte möchten Funktionen und Anwendungen für generative KI einsetzen, um die Produktivität zu erhöhen. Gleichzeitig arbeiten Verantwortliche für Sicherheit und Risikomanagement mit Hochdruck daran, Governance-Strukturen für die sichere Einführung neuer KI-Anwendungen sowie eines rasant wachsenden Ökosystems aus Infrastruktur, Tools, Modellen, Frameworks und den zugehörigen Diensten zu schaffen, die für deren Bereitstellung, Optimierung und Absicherung erforderlich sind. KI-Fabriken etablieren sich dabei als Blaupause für die Umsetzung KI-gestützter, differenzierter Produkte und Dienstleistungen.

Ist KI also nur ein Hype? Ein Rausch? Eine Revolution? Oder eine Apokalypse? Was die Zukunft bringt, bleibt abzuwarten.

Wenn man einen Schritt zurücktritt und das große Ganze betrachtet, wird eines klar: APIs sind das verbindende Element von KI-Anwendungen. Ein häufiges Thema, das wir mit unseren Kunden weltweit besprechen, lautet: „Eine Welt der KI ist eine Welt der APIs.“ APIs sind die Schnittstellen, über die wir KI-Modelle trainieren und nutzen. Gleichzeitig sind es dieselben Schnittstellen, über die böswillige Akteure Daten aus Modellen stehlen, versuchen, die Schutzmechanismen von KI-Modellen zu umgehen und diese zu missbrauchen, oder sogar die Modelle selbst rekonstruieren und entwenden. So wie Sicherheitsexperten die Bedeutung der Transparenz und Sicherheit von APIs in der Cloud sowie beim Übergang zu modernen, auf Microservices basierenden Anwendungen unterschätzt haben, besteht der große Aha-Moment nun in der Erkenntnis, dass wir KI-Modelle nicht schützen können, ohne auch die Schnittstellen abzusichern, über die sie bereitgestellt werden.

Angesichts der zentralen Rolle von APIs bei der Entwicklung und Bereitstellung KI-gestützter Anwendungen ist es entscheidend, API-Transparenz, -Sicherheit und -Governance frühzeitig in den Entwicklungs- und Trainingsprozess der KI zu integrieren. Ebenso wichtig ist es, übliche Nutzungsmuster und Kontrollmechanismen wie Ratenbegrenzungen und Datenbereinigung bereits in der Entwurfsphase zu berücksichtigen. Mit diesem Ansatz verliert die sichere Einführung von KI an Komplexität. API-Sicherheit ist für den Schutz von KI-Anwendungen unerlässlich, da insbesondere generative KI-Anwendungen stark von APIs abhängig sind. Damit beginnt der erste Schritt auf dem Weg zur KI. Im Folgenden finden Sie vier zentrale Thesen dazu, warum API-Sicherheit für die KI-Sicherheit und die sichere Einführung von KI-Fabriken erforderlich ist.

These Nr. 1: KI-Apps sind die modernsten aller modernen Apps

In einem früheren Beitrag unserer Reihe über KI-Fabriken haben wir eine KI-Fabrik definiert als eine umfangreiche Investition in Speicher-, Netzwerk- und Rechenkapazitäten, die auf die hohen Volumen- und Leistungsanforderungen beim Training und bei der Inferenz ausgelegt ist. Wie traditionelle Produktionsanlagen nutzen KI-Fabriken vortrainierte KI-Modelle, um Rohdaten in Erkenntnisse umzuwandeln. KI-Apps sind schlicht die modernsten aller modernen Apps, eng über APIs vernetzt und hochgradig verteilt.

Wir gehen von der Annahme aus, dass eine KI-App eine moderne Anwendung ist, die bei Bereitstellung, Sicherheit und Betrieb mit denselben bekannten Herausforderungen konfrontiert ist, und dass KI-Modelle die Zahl der APIs, die bereitgestellt und abgesichert werden müssen, drastisch erhöhen werden.

Also, Mission erfüllt! Wir haben das im Griff, oder? Wir wissen, wie moderne Apps sicher bereitgestellt werden. Wir verfügen über bewährte Best Practices für die Anwendungssicherheit und kennen die Feinheiten beim Schutz von APIs. Wir haben Lösungen für umfassenden Schutz und einheitliche Sicherheit in verteilten Umgebungen.

Nicht so schnell! Halten Sie Ihre GPTs fest, während wir kurz ins Detail gehen.

KI-Anwendungen bergen zwar dieselben Risiken und Herausforderungen wie moderne Anwendungen (beide sind im Wesentlichen API-basierte Systeme), bringen jedoch spezifische Aspekte mit sich: Training, Feinabstimmung, Inferenz, Retrieval-Augmented Generation (RAG) und Integrationspunkte in KI-Fabriken.

Ja, KI-Anwendungen sind also ebenso wie moderne Anwendungen stark verteilt, führen zu einer unübersichtlichen Vielzahl von Tools und erschweren es, in Hybrid- und Multicloud-Architekturen eine durchgängige Transparenz, eine einheitliche Durchsetzung von Sicherheitsrichtlinien und eine umfassende Behebung von Bedrohungen zu gewährleisten. Zusätzlich zu diesem „Feuerball“ aus Risiken und Komplexität müssen sich Sicherheitsteams mit der Unvorhersehbarkeit menschlicher Anfragen und der stark schwankenden Beschaffenheit von KI-beschafften Inhalten auseinandersetzen, die zu unvorhersehbaren KI-Antworten führen können. Hinzu kommen Aspekte wie Datennormalisierung, Tokenisierung, Einbettung und das Befüllen von Vektordatenbanken.

Die Zusammenführung von Daten und KI-Fabriken schafft ein ganzheitliches, vernetztes Unternehmensökosystem. Die Integration und die Schnittstellen zwischen all diesen beweglichen Komponenten erfordern eine robuste API-Sicherheitsstrategie.

_{Unternehmen müssen heute eine explosionsartig wachsende Zahl von Anwendungen und APIs in einer immer komplexeren hybriden Multicloud-Umgebung verwalten. Bei F5 bezeichnen wir die zunehmenden Risiken und die wachsende Komplexität als „Feuerball“.}

These Nr. 2: KI-Anwendungen sind über APIs miteinander verbunden

Der Aufstieg API-basierter Systeme infolge rascher Modernisierungsmaßnahmen führte zu einer zunehmenden Vielfalt an Architekturen in Rechenzentren, Public Clouds und am Edge. Diese Entwicklung wurde in den jährlichen Studien von F5 dokumentiert, darunter in unserem Bericht „2024 State of Application Strategy Report: API Security | The Secret Life of APIs“.

Die Komplexität von Hybrid- und Multi-Cloud-Architekturen wird durch KI-Anwendungen zusätzlich erhöht. Unternehmen evaluieren derzeit zügig zahlreiche KI-Anwendungen und die zugrunde liegenden KI-Modelle und setzen sorgfältig entsprechende Governance-Strategien um. Letztlich entscheiden sie sich dabei für einen KI-SaaS-, Cloud-, selbst gehosteten oder am Edge gehosteten Ansatz, mitunter abhängig vom jeweiligen Anwendungsfall und der einzelnen Anwendung. Bei manchen Anwendungsfällen findet beispielsweise das Training vor dem Produktivbetrieb im Rechenzentrum statt, während die Inferenz am Edge erfolgt.

Die Anbindung an diese Modelle und die zugehörigen Dienste erfolgt größtenteils über APIs. Dazu zählen beispielsweise Verbindungen zu gängigen Diensten für die Inferenz. KI-Anwendungen führen zu einem exponentiellen Anstieg der API-Nutzung, da eine einzelne API letztlich Tausende von Endpunkten umfassen kann und API-Aufrufe tief in der Geschäftslogik verborgen sein können – außerhalb des Zuständigkeitsbereichs der Sicherheitsteams. Dies führt zu einer nicht mehr beherrschbaren Komplexität und hat schwerwiegende Folgen für das Risikomanagement.

Wie sich herausstellt, hat nicht die Cloud die Welt erobert, sondern APIs. Und KI wird alles erobern. Wie in unserem Blogbeitrag Sechs Gründe, warum Hybrid- und Multicloud-Umgebungen für Unternehmen zur neuen Normalität werden beschrieben, bietet eine stark verteilte Umgebung die nötige Flexibilität für die Bereitstellung von KI-Anwendungen und zugehörigen Diensten, die Leistung, Sicherheit, Effizienz und Genauigkeit gewährleisten. Dies ist besonders wichtig im Hinblick auf Datengravitation. Es überrascht nicht, dass 80 % der Unternehmen KI-Anwendungen in der Public Cloud und 54 % in ihren eigenen Rechenzentren betreiben. Unabhängig vom Ansatz muss jeder Aspekt der Architektur abgesichert werden – und der Schutz von APIs ist der erste Schritt.

These Nr. 3: KI-Anwendungen sind sowohl bekannten als auch neuartigen Risiken ausgesetzt

Der Schutz der APIs, die als Gateways zu den Funktionen von KI-Anwendungen und zum Datenaustausch dienen, vor Sicherheitsrisiken ist von entscheidender Bedeutung. Zwar bestehen auch hier Risiken durch die Ausnutzung von Schwachstellen, Angriffe auf die Geschäftslogik, Bot-Missbrauch und Denial-of-Service-Angriffe (DoS), doch müssen zusätzlich neue und veränderte Angriffspunkte innerhalb von KI-Fabriken sowie Risiken für LLMs berücksichtigt werden, die über Schnittstellen zur Verarbeitung natürlicher Sprache (NLP), Plugins, Datenkonnektoren und nachgelagerte Dienste entstehen – während des Trainings, der Feinabstimmung, der Inferenz und der RAG. Darüber hinaus erfordern bekannte Angriffe wie DoS zusätzliche Überlegungen: Schutzmaßnahmen gegen volumetrische DDoS-Angriffe und DoS-Angriffe auf Anwendungsebene (L7) gleichen die Risiken eines Modell-DoS nicht vollständig aus. KI-Anwendungen weisen zudem ein Erklärbarkeitsparadoxon auf, das die Bedeutung der Nachverfolgbarkeit unterstreicht, um Halluzinationen, Verzerrungen und Desinformation entgegenzuwirken.

Und auch Angreifer bleiben nicht untätig. Generative KI macht Angriffe einem breiteren Personenkreis zugänglich und erhöht den Professionalisierungsgrad von Kampagnen durch Cyberkriminelle und staatliche Akteure. LLM-Agenten können Webanwendungen und APIs inzwischen autonom hacken und beispielsweise so komplexe Aufgaben wie die blinde Extraktion von Datenbankschemata und SQL-Injections durchführen, ohne die Schwachstelle vorher kennen zu müssen.

Während neuartige KI-Risiken für viel Aufsehen sorgen, kann die Bedeutung der API-Sicherheit für KI-Fabriken gar nicht hoch genug eingeschätzt werden. Es besteht dringender Handlungsbedarf. Die wachsende API-Angriffsfläche von KI-Anwendungen ist enorm. Jeder CISO muss API-Sicherheit in Programme zur KI-Governance integrieren, denn ein zentraler Leitsatz in jedem Überlebensleitfaden für CISOs sollte lauten: „Was man nicht sieht, kann man nicht schützen.“ Wenn Sie kein Verzeichnis der Schnittstellen hinter Ihren KI-Anwendungen haben, ist Ihr Bedrohungsmodell unvollständig und es bestehen Lücken in Ihrer Sicherheitslage.

These Nr. 4: Verteidiger müssen sich anpassen

KI-Anwendungen sind dynamisch, variabel und unvorhersehbar. Die sichere Einführung von KI-Anwendungen erfordert einen stärkeren Fokus auf Wirksamkeit, die Erstellung robuster Richtlinien und automatisierte Abläufe. Prüftechnologien werden für die Sicherheit eine entscheidende Rolle spielen, die sich kontinuierlich weiterentwickelt.

Insbesondere im Hinblick auf die API-Sicherheit innerhalb von KI-Anwendungen und -Ökosystemen müssen Unternehmen der erhöhten Wahrscheinlichkeit einer unsicheren Nutzung von Drittanbieter-APIs entgegenwirken, indem sie zusätzlich zu den bereits weitgehend vorhandenen Sicherheitskontrollen für eingehenden Datenverkehr auch Sicherheitsmaßnahmen für ausgehende API-Aufrufe und damit verbundene Anwendungsfälle konzipieren. Angesichts der Zunahme des Datenverkehrs zwischen Diensten und des Ost-West-Datenverkehrs, beispielsweise durch RAG-Workflows, können sich Lösungen für das Bot-Management nicht allein auf die Unterscheidung zwischen „Mensch“ und „Maschine“ verlassen. Da zudem die Lieferkette von LLM-Anwendungen anfällig sein und die Integrität von Trainingsdaten, Modellen und Bereitstellungsplattformen beeinträchtigen kann (die häufig von Drittanbietern stammen und durch Manipulations- oder Poisoning-Angriffe verändert werden können), müssen Sicherheitskontrollen überall implementiert werden – im Rechenzentrum, über verschiedene Clouds hinweg, am Edge sowie vom Code über die Testphase bis hin zur Produktion.

AI-Gateway-Technologie wird eine Schlüsselrolle dabei spielen, Sicherheits- und Risikoteams bei der Eindämmung von Risiken für LLMs wie Prompt-Injection und der Offenlegung vertraulicher Informationen zu unterstützen. Der erste Schritt auf dem Weg zur KI-Sicherheit besteht jedoch darin, die APIs abzusichern, die KI-Anwendungen und KI-Ökosysteme miteinander verbinden, indem Sicherheit über den gesamten Lebenszyklus von KI-Anwendungen hinweg zu einem integralen Bestandteil gemacht wird.

API-Sicherheit innerhalb einer KI-Referenzarchitektur

Vom Schutz der Interaktionen zwischen einer Frontend-Anwendung und der API eines Inferenzdienstes über die Überprüfung von Benutzerinteraktionen mit KI-SaaS-Apps bis hin zur Absicherung der Verbindungen zwischen Plug-ins, Datenkonnektoren und nachgelagerten Diensten – die sichere Einführung von KI-Apps und KI-Fabriken setzt API-Sicherheit voraus.

Die F5-Plattform bietet kontinuierlichen API-Schutz und eine einheitliche Sicherheitsstrategie. Sie ermöglicht es Führungskräften, vertrauensvoll Innovationen voranzutreiben, indem sie Sicherheits- und Risikoteams die erforderlichen Funktionen für den sicheren Aufbau von KI-Fabriken bereitstellt.

_{Die F5-KI-Referenzarchitektur}

Das Engagement von F5 im Bereich KI geht noch weiter – erfahren Sie, wie F5 KI-Anwendungen überall absichert und bereitstellt.

Möchten Sie mehr über KI-Fabriken erfahren? Entdecken Sie weitere Beiträge aus unserer Blogreihe zu KI-Fabriken:

• Was ist eine KI-Fabrik? ›
• Retrieval-Augmented Generation (RAG) für KI-Fabriken ›
• Optimieren Sie das Traffic-Management für die Dateneinspeisung in KI-Fabriken ›
• Edge-Datenquellen optimal mit KI-Fabriken verbinden ›
• Multicloud-Skalierbarkeit und -Flexibilität unterstützen KI-Fabriken ›
• Die Leistungsfähigkeit und Bedeutung der NVIDIA BlueField DPU für KI-Fabriken ›
• Die Bedeutung der Netzwerksegmentierung für KI-Fabriken ›
• KI-Fabriken produzieren die modernsten aller modernen Anwendungen: KI-Anwendungen ›

Über den Autor

Byron McNaughtSenior Solutions Marketing Manager | F5

Weitere Blogbeiträge von Byron McNaught