API-Schutz für KI-Fabriken: Der erste Schritt zur KI-Sicherheit

Zu Beginn unserer KI-Fabrik-Reihe haben wir eine KI-Fabrik als eine riesige Investition in Speicher-, Netzwerk- und Computertechnik definiert, die Trainings- und Inferenzanforderungen mit hohem Volumen und hoher Leistung erfüllt. Wie herkömmliche Fertigungsanlagen nutzen KI-Fabriken vortrainierte KI-Modelle, um Rohdaten in Informationen umzuwandeln. KI-Apps sind schlicht die modernsten modernen Apps, stark über APIs vernetzt und hochgradig verteilt.

Wir gehen davon aus, dass es sich bei einer KI-App um eine moderne App mit denselben bekannten Herausforderungen hinsichtlich Bereitstellung, Sicherheit und Betrieb handelt und dass KI-Modelle die Anzahl der APIs, die Bereitstellung und Sicherheit benötigen, radikal erhöhen werden. 

Also, Mission erfüllt! Das haben wir doch, oder? Wir wissen, wie man moderne Apps sicher bereitstellt. Wir verfügen über bewährte Vorgehensweisen zur Application und verstehen die Feinheiten des API-Schutzes. Wir bieten Lösungen , die umfassenden Schutz und einheitliche Sicherheit in verteilten Umgebungen bieten.

Nicht so schnell! Behalten Sie Ihre GPTs, während wir kurz in die Details eintauchen.

Zwar sind für KI-Apps dieselben Risiken und Herausforderungen wie für moderne Apps (bei beiden handelt es sich im Wesentlichen um API-basierte Systeme) mitverantwortlich, doch sind mit KI-Apps auch spezifische Aspekte verbunden – etwa Training, Feinabstimmung, Inferenz, Retrieval Augmented Generation (RAG) und Einfügepunkte in KI-Fabriken.

Also ja, KI-Apps sind, wie moderne Apps, von Natur aus stark verteilt, führen zu einer Ausbreitung der Tools und erschweren die Bemühungen, eine durchgängige Sichtbarkeit, die einheitliche Durchsetzung von Sicherheitsrichtlinien und eine universelle Beseitigung von Bedrohungen in Hybrid- und Multicloud-Architekturen aufrechtzuerhalten. Zusätzlich zur Auseinandersetzung mit diesem „ Feuerball “ aus Risiken und Komplexität müssen sich die Verteidiger mit der Zufälligkeit menschlicher Anfragen und der höchst variablen Natur von durch KI beschafften Inhalten auseinandersetzen, die zu unvorhersehbaren KI-Reaktionen führen können. Darüber hinaus müssen sie Überlegungen zur Datennormalisierung, Tokenisierung, Einbettung und Befüllung von Vektordatenbanken anstellen.

Durch die Zusammenführung von Daten in KI-Fabriken entsteht ein ganzheitliches und vernetztes Unternehmensökosystem, und die Integration und Schnittstellen aller dieser beweglichen Teile erfordern eine robuste API-Sicherheitslage.

Es ist von entscheidender Bedeutung, die APIs, die als Gateways zu KI- Application und zum Datenaustausch dienen, vor Sicherheitsrisiken zu schützen. Zwar gelten dieselben Risiken hinsichtlich Ausnutzung von Sicherheitslücken, Angriffen auf die Geschäftslogik, Missbrauch durch Bots und Denial-of-Service-Angriffen (DoS), doch es gibt zusätzliche Überlegungen hinsichtlich neuer und geänderter Einfügungspunkte in KI-Fabriken und Risiken für LLMs durch Schnittstellen zur Verarbeitung natürlicher Sprache (NLP), Plug-Ins, Datenkonnektoren und nachgelagerte Dienste – während des Trainings, der Feinabstimmung, der Inferenz und der RAG. Darüber hinaus müssen bei bekannten Angriffen wie DoS zusätzliche Überlegungen angestellt werden; Maßnahmen zur Abwehr von volumetrischen DDoS- und L7- Application -DoS-Angriffen können die Risiken von Modell -DoS-Angriffen nicht vollständig kompensieren. KI-Apps sind zudem mit einem Erklärbarkeitsparadoxon behaftet, was die Bedeutung der Rückverfolgbarkeit unterstreicht, um Halluzinationen, Voreingenommenheit und Desinformation entgegenzuwirken.

Und die Angreifer sitzen nicht untätig herum. Generative KI demokratisiert Angriffe und erhöht die Komplexität der Kampagnen von Cyberkriminellen und Nationalstaaten. LLM-Agenten können jetzt Webanwendungen und APIs autonom hacken und beispielsweise so komplexe Aufgaben wie die blinde Extraktion von Datenbankschemata und SQL-Injections ausführen, ohne die Schwachstelle vorher kennen zu müssen.

Während die neuartigen KI-Risiken für jede Menge Aufregung sorgen, kann die Bedeutung der API-Sicherheit für KI-Fabriken nicht genug betont werden. Es ist dringend. Die vergrößerte API-Oberfläche für KI-Apps ist atemberaubend. Jeder CISO muss API-Sicherheit als Teil von KI-Governance-Programmen integrieren, denn das zentrale Mantra jedes CISO-Überlebenshandbuchs sollte lauten: „Sie können nicht schützen, was Sie nicht sehen können.“ Wenn Sie kein Inventar der Schnittstellen hinter Ihren KI-Apps haben, verfügen Sie über ein unvollständiges Bedrohungsmodell und es treten Lücken in Ihrer Sicherheitslage auf.

KI Applications sind dynamisch, variabel und unvorhersehbar. Für die sichere Einführung von KI-Apps ist ein stärkerer Schwerpunkt auf die Wirksamkeit, die Erstellung robuster Richtlinien und automatisierte Vorgänge erforderlich. Inspektionstechnologien werden für die Sicherheit eine entscheidende und sich weiterentwickelnde Rolle spielen.

Insbesondere was die API-Sicherheit innerhalb von KI-Apps und -Ökosystemen betrifft, müssen Unternehmen der erhöhten Wahrscheinlichkeit einer unsicheren Verwendung von APIs von Drittanbietern entgegenwirken, indem sie zusätzlich zu den weitgehend vorhandenen eingehenden Sicherheitskontrollen auch die Sicherheit für ausgehende API-Aufrufe und verwandte Anwendungsfälle gewährleisten. Angesichts des zunehmenden Inter-Service- und Ost-West- Datenverkehrs, beispielsweise aus RAG-Workflows, können sich Bot-Management-Lösungen nicht allein auf die Identifizierung von „Menschen“ oder „Maschinen“ verlassen. Und da die Lieferkette von LLM- Applications anfällig sein und die Integrität von Trainingsdaten, Modellen und Bereitstellungsplattformen beeinträchtigen kann (die häufig von Drittanbietern stammen und durch Manipulations- oder Poisoning-Angriffe manipuliert werden können), müssen überall Sicherheitskontrollen implementiert werden – im Rechenzentrum, in allen Clouds, am Rand und vom Code über Tests bis hin zur Produktion.  

Die AI-Gateway-Technologie wird eine Schlüsselrolle dabei spielen, Sicherheits- und Risikoteams dabei zu helfen, Risiken für LLMs, wie z. B. eine sofortige Injektion und die Offenlegung vertraulicher Informationen, zu minimieren. Der erste Schritt auf dem Weg zur KI-Sicherheit beginnt jedoch mit der Sicherung von APIs, die KI-Apps und KI-Ökosysteme verbinden, indem Sicherheit über den gesamten Lebenszyklus der KI-App hinweg sichergestellt wird.