KI absichern: Die Zukunft liegt in der Laufzeit

James WhiteCTO, KI-Sicherheit | F5

Die Möglichkeiten, die KI Unternehmen verspricht, sind grenzenlos, und Branchen aller Art wollen daran teilhaben – vom Gesundheitswesen über Finanzinstitute bis hin zu Behörden und vielen weiteren Bereichen. Eines ist klar: Dieses Interesse wird so schnell nicht nachlassen. Die Absicherung von KI ist für ihre Einführung von entscheidender Bedeutung und nimmt derzeit die Form einer Pyramide an.

Die Spitze der KI-Pyramide

An der absoluten Spitze des KI-Ökosystems steht die exklusive Welt des Trainings von Basismodellen. Dieser Bereich ist einigen wenigen Organisationen vorbehalten, die über immense Rechenressourcen verfügen und die komplexen Herausforderungen riesiger Datensätze bewältigen. Die dafür erforderlichen finanziellen Investitionen sind enorm, was berechtigte Fragen hinsichtlich der langfristigen Tragfähigkeit aufwirft – selbst für führende Akteure. In dieser Phase hat Sicherheit oberste Priorität und umfasst sämtliche Schritte von der Datenerfassung und -vorverarbeitung über das Modelltraining und die Tests bis hin zur Bereitstellung. Der Schutz dieser Kronjuwelen der KI-Welt ist nicht nur eine technische Notwendigkeit, sondern auch eine geschäftliche Pflicht. Diese Unternehmen sind dafür besonders gut aufgestellt, da sie während des gesamten Trainingsprozesses all diese Aspekte selbst steuern.

Die Mitte: Die Laufzeitumgebung absichern, die breite Masse schützen

Unterhalb der Spitze entsteht eine weitläufige Landschaft aus Unternehmen und organisatorischen Anwendungsfällen, die bereit sind, die Leistungsfähigkeit vortrainierter Basismodelle für die Laufzeit zu nutzen. Hier findet die wahre Demokratisierung der KI statt. Für diese Organisationen liegt der Schwerpunkt der Sicherheit auf dem Schutz ihrer eigenen Infrastruktur und Daten sowie letztlich ihrer eigenen Kunden und Nutzer. Basismodelle als undurchsichtige Blackboxes zu behandeln, deren interne Funktionsweise verborgen bleibt, ist dabei die umsichtigste Sicherheitsstrategie. Dieser Ansatz minimiert die Angriffsfläche und ermöglicht die Implementierung robuster Sicherheitsmaßnahmen rund um das Modell und die Anwendung – unabhängig von der internen Komplexität des Modells.

Die Basis: eine Meile breit, aber nur einen Zoll tief

Der GenAI-Boom hat zahlreiche Unternehmen dazu veranlasst, ihren Schwerpunkt von der Absicherung des Trainings herkömmlicher Machine-Learning-Modelle auf den gesamten Lebenszyklus generativer KI einschließlich der Laufzeit zu verlagern. Dieser breit angelegte Ansatz ist zwar gut gemeint, führt jedoch häufig zu Sicherheitslösungen, die zwar ein breites Spektrum abdecken, aber nicht in die Tiefe gehen. Der Versuch, eine derart weitläufige und komplexe Landschaft abzusichern, verwässert den Fokus und wird letztlich den spezifischen Besonderheiten der einzelnen Phasen nicht gerecht – insbesondere der kritischen Laufzeitebene.

Ganzheitliche Sicherheit für die KI-Laufzeit

Die rasante Entwicklung von KI-Innovationen schafft eine Realität, in der Sicherheitslösungen ebenso anpassungsfähig und fortschrittlich sein müssen wie die Bedrohungen, denen sie begegnen. KI lässt sich auf diese Weise nur auf der Laufzeitebene absichern. Dies erfordert einen ganzheitlichen Ansatz, der drei Kernbereiche umfasst:

• Abwehr: Robuste Abwehrmechanismen sind unerlässlich. Dazu gehören die Validierung und Bereinigung von Eingaben zur Verhinderung von Prompt-Injection-Angriffen, die Filterung von Ausgaben zur Eindämmung der Erzeugung schädlicher Inhalte sowie die Laufzeitüberwachung zur Erkennung ungewöhnlichen Verhaltens. Das Verständnis des konkreten Anwendungsfalls ist von entscheidender Bedeutung, da verschiedene Anwendungen jeweils eigene Sicherheitsanforderungen haben. Darüber hinaus müssen anwendungsübergreifende Angriffe berücksichtigt werden, die auf die gesamte KI-Pipeline abzielen.
• Angriff: Effektives Red Teaming ist entscheidend, um Schwachstellen in undurchsichtigen Basismodellen und den darauf aufbauenden Anwendungen zu identifizieren. Dazu gehören adversariale Tests, die Untersuchung potenzieller Angriffsvektoren und die Entwicklung von Abwehrstrategien. Dieser proaktive Ansatz hilft Unternehmen, neuen Bedrohungen einen Schritt voraus zu sein und die Robustheit ihrer KI-Systeme sicherzustellen.
• Governance, Regulierung und Compliance (GRC): Die Orientierung in der sich wandelnden Regulierungslandschaft ist ein entscheidender Aspekt der KI-Sicherheit. Jede Rechtsordnung und jede Branche hat ihre eigenen Vorschriften und Regelungen. Die Einhaltung der formalen Vorgaben ist zwar notwendig, ebenso wichtig ist jedoch die Umsetzung praktischer Sicherheitskontrollen, die diese Anforderungen in konkreten Schutz überführen.
  

Absicherung der KI-Laufzeitumgebung in Ihrem Unternehmen

Um die Zukunft der KI-Laufzeitumgebung wirksam abzusichern, müssen Unternehmen die folgenden konkreten Maßnahmen ergreifen:

1. Richten Sie eine KI-Prüfgruppe ein: Diese funktionsübergreifende Gruppe sollte Vertreter der Technologie-, Rechts- und Sicherheitsteams umfassen, um einen umfassenden Ansatz für die KI-Governance und das Risikomanagement sicherzustellen.
2. Führen Sie einen Antragsprozess für KI-Anwendungen ein: Dieser Prozess sollte Teams dazu verpflichten, den vorgesehenen Anwendungsfall, die Datenquellen und die Zielregionen für jede KI-Anwendung klar zu definieren. Dies ermöglicht eine gründliche Risikobewertung und die Umsetzung geeigneter Sicherheitsmaßnahmen. 
3. Definieren Sie Mindestsicherheitsanforderungen: Legen Sie klare Sicherheitsstandards fest, die Entwicklungsteams für KI-Anwendungen einhalten und Anwendungssicherheitsteams überprüfen müssen. Dadurch wird ein grundlegendes Sicherheitsniveau für alle KI-Bereitstellungen gewährleistet.

Hier finden Sie eine wichtige Ressource, die Ihnen den Einstieg erleichtert.

Die Zukunft der KI hängt davon ab, ob es uns gelingt, sie abzusichern. Mit einem ganzheitlichen Ansatz für die Sicherheit der Laufzeitebene können Unternehmen das transformative Potenzial von KI ausschöpfen und zugleich die Risiken minimieren.

Möchten Sie mehr darüber erfahren, wie Sie ganzheitliche KI-Sicherheitskontrollen in Ihrem Unternehmen implementieren können? Vereinbaren Sie hier jetzt eine Demo.

Über den Autor

James WhiteCTO, KI-Sicherheit | F5

James White ist ein erfolgreicher Ingenieur und Unternehmensleiter mit fast zwei Jahrzehnten Erfahrung in der Unternehmenssoftwarebranche.

Weitere Blogbeiträge von James White