KI entwickelt sich rasant. In vielen Fällen schneller als die Sicherheitskontrollen, die für ihre Regulierung vorgesehen sind.
Unternehmen führen generative KI, agentenbasierte Systeme und KI-gestützte Workflows in einem Tempo ein, mit dem formelle Sicherheitsprüfungen regelmäßig nicht Schritt halten können. Die Geschäftsbereiche treiben die Einführung voran, während die Sicherheitsverantwortlichen versuchen müssen, Lücken zu schließen, die sich in Echtzeit immer weiter vergrößern.
Inmitten all dieser Dringlichkeit gibt es ein Problem, dem nicht genügend Aufmerksamkeit geschenkt wird: Bislang fehlen allgemein anerkannte, strenge Standards, anhand derer sich beurteilen lässt, ob KI-Sicherheitskontrollen tatsächlich funktionieren. Anbieter stellen Behauptungen auf. Demonstrationen sind eng begrenzt. Zusicherungen stützen sich auf Architekturdiagramme statt auf Erkenntnisse aus der Praxis. Käufer, CISOs, GRC-Verantwortliche und Unternehmensarchitekten müssen weitreichende Entscheidungen treffen, ohne zuverlässig zwischen wirksamen Kontrollen und gutem Marketing unterscheiden zu können.
Genau diese Lücke wollten wir schließen.
Heute veröffentlicht das unabhängige Cybersicherheitstestunternehmen NSS Labs eine zweiteilige Forschungsreihe zur Bewertung der Sicherheit von KI in Unternehmen, die in Zusammenarbeit mit F5, AWS und Microsoft entwickelt wurde.
- Teil 1, KI-Sicherheit über das Modell hinaus: Was Unternehmen beachten müssen und warum, erläutert, warum die Sicherheit von Unternehmens-KI eine Herausforderung für das Gesamtsystem und die Governance darstellt und nicht nur das Modell betrifft. Der Beitrag beleuchtet die gesamte Risikolandschaft: Eingabeintegrität und Anweisungssteuerung, Ausgaberisiken und Datenexfiltration, Systemresilienz unter Belastung, agentische KI und delegierte Befugnisse, Beobachtbarkeit und Forensik sowie die Governance-Anforderungen, die all diese Aspekte miteinander verbinden.
- Teil 2, Bewertung der KI-Sicherheit in Unternehmen: Fragen, die jeder Käufer beantworten können sollte, setzt diesen Rahmen in konkrete Maßnahmen um. Er liefert CISOs, Unternehmenskäufern und GRC-Teams konkrete Fragen, die sie Anbietern stellen sollten, zeigt Warnsignale auf, auf die sie achten müssen, und nennt quantitative Bewertungskriterien, die erforderlich sind, um bei der Auswahl von KI-Sicherheitskontrollen fundierte, belastbare Entscheidungen zu treffen.
KI-Leitplanken bilden das Herzstück der KI-Sicherheit
Wenn Sie verstehen möchten, was KI-Leitplanken sind und warum sie wichtig sind, empfehle ich Ihnen, unseren früheren Beitrag zu diesem Thema zu lesen. Kurz gesagt: KI-Leitplanken sind Sicherheitskontrollen, die zur Laufzeit außerhalb des Modells greifen. Sie setzen Richtlinien durch, schützen Daten, begrenzen das Verhalten autonom agierender KI-Systeme und erstellen die für die Governance erforderlichen Audit-Protokolle.
Sie sind nicht das Modell selbst. Sie bilden die Sicherheitsebene für Unternehmen, die
Die Branche brauchte einen Orientierungspunkt
Eine der größten Herausforderungen in jedem schnelllebigen Technologiebereich besteht darin, lange genug innezuhalten, um zu definieren, was eine gute Lösung ausmacht. Der Druck, Produkte auf den Markt zu bringen, wettbewerbsfähig zu bleiben und auf Kundenanforderungen zu reagieren, steht dem bewussten, herstellerneutralen Denken entgegen, das tragfähige Rahmenwerke hervorbringt.
Die an diesem Whitepaper beteiligten Unternehmen – F5, AWS und Microsoft – arbeiten mit zahlreichen der weltweit größten und fortschrittlichsten Unternehmen zusammen, die KI in großem Maßstab einsetzen. Wir kennen die Bedrohungsmuster, fehlgeschlagene Implementierungen, Lücken in der Governance und Sonderfälle, mit denen die meisten Anbieter nie konfrontiert werden.
Die Kombination dieser umfassenden Praxiserfahrung mit der methodischen Strenge von NSS Labs bei unabhängigen Tests bildete die Grundlage für die Entwicklung von etwas, das hoffentlich wirklich nützlich ist: kein Verkaufsgespräch eines Anbieters, sondern ein praxisorientiertes Framework, das von Menschen entwickelt wurde, die sich täglich mit diesen Herausforderungen befassen.
Ich bin allen dankbar, die mit ihrer Zeit und ihrem Fachwissen dazu beigetragen haben, dies zu ermöglichen.
Die vor uns liegende Arbeit
Standards sind nur dann nützlich, wenn sie auch angenommen werden. Wir hoffen, dass dieses Framework zu einem Bezugspunkt wird, anhand dessen Unternehmen die von ihnen in Betracht gezogenen KI-Sicherheitslösungen bewerten können.
Käufer, die wissen, wie gründliche Tests aussehen, treffen fundiertere Kaufentscheidungen. Wir hoffen, dass diese Erwartung dazu beiträgt, die gesamte Sicherheitsbranche voranzubringen.
Die KI-Entwicklung verlangsamt sich nicht. Die Angriffsfläche wird nicht kleiner. Und die Lücke zwischen dem Einsatz von KI und der Rechenschaftspflicht für KI wird sich nicht von selbst schließen.
Das zweiteilige Whitepaper von NSS Labs können Sie hier lesen. Lesen Sie außerdem unsere Pressemitteilung zu dieser Zusammenarbeit.
Über den Autor
Ähnliche Blogbeiträge
F5 und Equinix bündeln ihre Kräfte, um die sichere Anwendungsbereitstellung in Multicloud-Umgebungen zu vereinfachen
F5 und Equinix ermöglichen es Unternehmen, sich weltweit sicher und zuverlässig mit ihren Partnern zu vernetzen.
API-Sicherheitsrisiken und -herausforderungen
Erfahren Sie, warum APIs für die moderne App-Entwicklung unverzichtbar sind und wie Sie sie vor den häufigsten Sicherheitslücken schützen. Profitieren Sie von Expertentipps und direkt umsetzbaren Strategien.
Ein Meilenstein für die Community Impact Grants von F5
F5 feiert das fünfjährige Bestehen seines innovativen Community Impact Grant-Programms, das gemeinnützige Organisationen, bei denen sich F5-Mitarbeitende ehrenamtlich engagieren, mit Fördermitteln in Höhe von 5.000 US-Dollar unterstützt.
Mit moderner, anpassungsfähiger und sicherer Gesundheits-IT Leben retten
Die IT-Investitionen im Gesundheitswesen tragen dazu bei, die schnellsten Wege zu einer besseren Versorgung zu finden, indem sie die medizinische Betreuung näher an die Patientinnen und Patienten bringen. Viele Gesundheitsunternehmen nutzen riesige Mengen an klinischen und anderen Gesundheitsdaten, um Entwicklungen zu verfolgen und übergreifende Trends in der gesamten Gesundheitslandschaft zu erkennen. Gleichzeitig nähern sie sich einer möglichst präzisen, individuell zugeschnittenen Versorgung an.
Verbesserung der Benutzer- und Administrationserfahrung durch sicheren hybriden Zugriff
Diese Kombination aus BIG-IP Access Policy Manager und Azure Active Directory ermöglicht Identitätsföderation, zentralisierten Benutzerzugriff (über Single Sign-on) und erhöhte Anwendungssicherheit (durch Multi-Faktor-Authentifizierung) für geschäftskritische Anwendungen sowie cloudbasierte und SaaS-Anwendungen. Dieser Ansatz vereinfacht die Einrichtung und Bereitstellung, reduziert den Verwaltungsaufwand und verbessert die gesamte Administration.
Das Internet der Sicherheitsdinge
Nein, das ist keine Tirade über die Sicherheit des IoT. Es ist eine Geschichte über Veränderung – genauer gesagt über Veränderung und ihre Auswirkungen auf die Sicherheit. Veränderung ist allgegenwärtig. Es gibt unzählige Axiome und Sprichwörter über Veränderung, also ist es ...