Da immer mehr Unternehmen KI einsetzen, sind sie zunehmend auf APIs angewiesen, um KI-Modelle für Training und Inferenz mit Anwendungen und Daten zu verbinden. Je mehr API-Verbindungen es jedoch gibt, desto höher ist das Risiko. Bedrohungsakteure können APIs missbrauchen, um Daten auszuschleusen, die Schutzmechanismen von KI-Modellen zu umgehen und sogar die Modelle selbst zu stehlen.
Eine einzige KI-Anwendung kann über Hunderte von API-Endpunkten verfügen, die für Sicherheitsteams nur schwer nachzuverfolgen sind, und die Konfigurationen werden immer komplexer. Laut Gartner werden mehr als 30 % des Anstiegs der Nachfrage nach APIs auf KI zurückzuführen sein sowie auf Tools, die große Sprachmodelle (LLMs) nutzen – und das bis 2026.1
Vernachlässigen Sie nicht die Sicherheitsinfrastruktur von APIs, die für KI eingesetzt werden. Diese APIs erfordern besondere Sorgfalt, um Sie und Ihre KI-Investitionen vor fortschrittlichen Angriffen zu schützen. Zudem müssen spezielle Aspekte der Überwachung und Authentifizierung berücksichtigt werden.
Warum Sie robuste API-Sicherheit benötigen
Ohne API-Sicherheit sind Ihre KI-Modelle zahlreichen Bedrohungen ausgesetzt, etwa Prompt-Injections, Modellextraktion oder dem schieren Chaos durch Schatten-APIs – also APIs, die sich Ihrer Sichtbarkeit und Kontrolle entziehen. Schatten-APIs entstehen häufig, wenn wohlmeinende Teammitglieder neue API-Endpunkte ohne angemessene Sicherheitskontrolle erstellen. Dadurch entstehen blinde Flecken, die es erschweren, nachzuvollziehen, wer oder was auf welche KI-Modelle zugreift.
“Ohne API-Sicherheit sind Ihre KI-Modelle zahlreichen Bedrohungen ausgesetzt, etwa Prompt-Injections, Modellextraktion oder dem schieren Chaos von Schatten-APIs.”
Sie sollten außerdem bedenken, dass API-Endpunkte ohne geeignete Schutzmechanismen bei Interaktionen personenbezogene Daten (PII) oder geistiges Eigentum preisgeben können. Dadurch können scheinbar harmlose Prompts mehr Informationen offenlegen als beabsichtigt. Fehlt bei APIs eine Ratenbegrenzung, können sie zudem mit Anfragen überlastet und anfällig für Denial-of-Service-Angriffe (DoS) werden, was zu einer Beeinträchtigung des Dienstes und hohen Rechenkosten führt.
Fünf zentrale Aspekte, auf die Sie bei der API-Sicherheit achten sollten
Der Schutz Ihrer KI-Modelle und -Anwendungen erfordert einen umfassenden Ansatz für die API-Sicherheit, der die Erkennung, Authentifizierung und das erhöhte Risiko KI-spezifischer Bedrohungen berücksichtigt. Dabei sollten Sie die folgenden Funktionen priorisieren:
- Kontinuierliche Erkennung überwacht alle neuen API-Endpunkte, die eine Verbindung zu KI-Diensten herstellen, und ermöglicht so Transparenz in Echtzeit.
- Zugriffskontrollen stellen sicher, dass neue API-Endpunkte ordnungsgemäße Authentifizierungsverfahren durchlaufen und das Prinzip der geringsten Rechte durchsetzen – also keine höheren Zugriffsrechte erhalten als erforderlich.
- Eingabe-/Ausgabevalidierung überprüft alle Daten, die an KI-Modelle gesendet oder von ihnen ausgegeben werden, um zu verhindern, dass schädliche Prompts eingehen oder sensible Daten nach außen gelangen.
- Ratenbegrenzung erzwingt Schwellenwerte für API-Aufrufe und verhindert so eine Überlastung der Systeme, wie sie etwa bei einem DoS-Angriff auftreten kann.
- Anomalieerkennung, wie sie in jeder Überwachungssoftware zum Einsatz kommt, prüft reguläre Datenverkehrsmuster auf verdächtiges Verhalten.
So aktivieren Sie umfassenden KI-Schutz auf AWS
Erfolgreiche KI basiert zu gleichen Teilen auf Entwicklung und Sicherheit. Mit Services wie Amazon Bedrock, Amazon SageMaker und Amazon CodeWhisperer können Sie gängige Basismodelle nutzen oder mithilfe KI-gestützter Entwicklung eigene Modelle erstellen und skalieren. F5 ergänzt diese AWS-Services durch eine Reihe von Lösungen, die eine zuverlässige API-Sicherheit ermöglichen und die fünf im vorherigen Abschnitt erläuterten Funktionen integrieren.
Die erste Lösung, die Sie in Betracht ziehen sollten, ist F5 Distributed Cloud API Security. Sie identifiziert und erfasst neue API-Endpunkte automatisch, selbst wenn diese durch Schatten-IT erstellt wurden. Dies ermöglicht eine umfassendere Transparenz, sodass Sie Sicherheitsrichtlinien leichter durchsetzen und APIs vor Missbrauch, Datenlecks und unbefugtem Zugriff schützen können.
Als Nächstes sind die F5 Managed Rules for AWS WAF zu nennen. Dabei handelt es sich um eine Sammlung vorkonfigurierter Regelsätze, die im AWS Marketplace verfügbar und für die Integration mit AWS WAF konzipiert sind. Diese API-spezifischen Regelsätze bieten eine zusätzliche Schutzebene und werden von den Sicherheitsexperten von F5 kontinuierlich aktualisiert, um mit den neuesten Bedrohungen Schritt zu halten.
Beide Lösungen tragen dazu bei, unbefugten Zugriff auf Modelle zu verhindern, Ihre sensiblen Daten und Ihr geistiges Eigentum zu schützen und sicherzustellen, dass KI weiterhin für legitime Zwecke verfügbar bleibt – unabhängig davon, ob sie von Menschen oder Maschinen genutzt wird.
Schneller innovieren – mit mehr Sicherheit und Kontrolle
Für Ihre KI-Initiativen stellt AWS die Grundlage bereit, während F5 für die Sicherheit sorgt. Die Lösungen von F5 lassen sich in die CI/CD-Pipeline integrieren, sodass Ihre Teams schnell vorankommen und gleichzeitig den erforderlichen Schutz erhalten. So müssen Sie sich weniger Gedanken über Bedrohungen wie Prompt-Injection und Modellmanipulation oder das Risiko machen, dass KI sensible Daten offenlegt.
Diese Lösungen lassen sich einfach in der AWS Cloud bereitstellen und verbessern die Transparenz Ihrer Infrastruktur, sodass Sie Schatten-IT frühzeitig entgegenwirken können, bevor sie außer Kontrolle gerät. Gemeinsam helfen Ihnen AWS und F5 dabei, die zunehmende Komplexität von KI zu bewältigen. So können Sie alle Datenquellen und APIs einbinden, die Sie für Ihren Erfolg benötigen.
Weitere Informationen finden Sie unter „F5 auf Amazon Web Services (AWS)“.
Lesen Sie auch meinen vorherigen Blogbeitrag „Schnelle, sichere Datenpipelines für das KI-Training auf AWS erstellen“.
GARTNER ist eine eingetragene Marke und Dienstleistungsmarke von Gartner, Inc. und/oder seinen verbundenen Unternehmen in den USA und international und wird hier mit Genehmigung verwendet. Alle Rechte vorbehalten.
1Gartner, „Gartner prognostiziert, dass bis 2026 mehr als 30 % des Anstiegs der Nachfrage nach APIs auf KI und Tools zurückzuführen sein werden, die große Sprachmodelle verwenden“, 20. März 2024
Über den Autor
Ähnliche Blogbeiträge
F5 und Equinix bündeln ihre Kräfte, um die sichere Anwendungsbereitstellung in Multicloud-Umgebungen zu vereinfachen
F5 und Equinix ermöglichen es Unternehmen, sich weltweit sicher und zuverlässig mit ihren Partnern zu vernetzen.
API-Sicherheitsrisiken und -herausforderungen
Erfahren Sie, warum APIs für die moderne App-Entwicklung unverzichtbar sind und wie Sie sie vor den häufigsten Sicherheitslücken schützen. Profitieren Sie von Expertentipps und direkt umsetzbaren Strategien.
Ein Meilenstein für die Community Impact Grants von F5
F5 feiert das fünfjährige Bestehen seines innovativen Community Impact Grant-Programms, das gemeinnützige Organisationen, bei denen sich F5-Mitarbeitende ehrenamtlich engagieren, mit Fördermitteln in Höhe von 5.000 US-Dollar unterstützt.
Mit moderner, anpassungsfähiger und sicherer Gesundheits-IT Leben retten
Die IT-Investitionen im Gesundheitswesen tragen dazu bei, die schnellsten Wege zu einer besseren Versorgung zu finden, indem sie die medizinische Betreuung näher an die Patientinnen und Patienten bringen. Viele Gesundheitsunternehmen nutzen riesige Mengen an klinischen und anderen Gesundheitsdaten, um Entwicklungen zu verfolgen und übergreifende Trends in der gesamten Gesundheitslandschaft zu erkennen. Gleichzeitig nähern sie sich einer möglichst präzisen, individuell zugeschnittenen Versorgung an.
Verbesserung der Benutzer- und Administrationserfahrung durch sicheren hybriden Zugriff
Diese Kombination aus BIG-IP Access Policy Manager und Azure Active Directory ermöglicht Identitätsföderation, zentralisierten Benutzerzugriff (über Single Sign-on) und erhöhte Anwendungssicherheit (durch Multi-Faktor-Authentifizierung) für geschäftskritische Anwendungen sowie cloudbasierte und SaaS-Anwendungen. Dieser Ansatz vereinfacht die Einrichtung und Bereitstellung, reduziert den Verwaltungsaufwand und verbessert die gesamte Administration.
Das Internet der Sicherheitsdinge
Nein, das ist keine Tirade über die Sicherheit des IoT. Es ist eine Geschichte über Veränderung – genauer gesagt über Veränderung und ihre Auswirkungen auf die Sicherheit. Veränderung ist allgegenwärtig. Es gibt unzählige Axiome und Sprichwörter über Veränderung, also ist es ...