Willkommen zur Podcast-Reihe „The Global CISO“

Chuck Herrin

Ich freue mich sehr, meine neue Podcast-Reihe vorzustellen: „The Global CISO: Von Verteidigern für Verteidiger“. Ich bin seit über 20 Jahren als CISO tätig und arbeite heute als Field CISO bei F5. Erfahrung ist der beste Lehrmeister, doch das Lehrgeld kann hoch sein. Deshalb starte ich diese Podcast-Reihe, um darüber zu sprechen, wie CISOs und CIOs den rasanten technologischen Wandel in unserer Welt besser bewältigen und sich auf die Herausforderungen der Informationssicherheit von morgen vorbereiten können.

F5 unterstützt mehr als 23.000 Unternehmenskunden in über 170 Ländern, darunter die weltweit größten Banken, Automobilhersteller und Telekommunikationsanbieter. Im vergangenen Jahr legte ich rund 300.000 Meilen zurück und arbeitete dabei mit einigen der komplexesten Organisationen der Welt zusammen. Aus dieser Perspektive beleuchtet diese Podcast-Reihe die derzeit wichtigsten Trends in den Bereichen Informationssicherheit, Compliance und Risikomanagement. Ich werde darüber sprechen, was funktioniert und was nicht – und wie CISOs und CIOs die Chancen der KI-Revolution nutzen können, um in einer sich rasant verändernden Welt erfolgreich zu sein.

Jetzt anhören

• Folge 1: „APIs bändigen, KI-Sicherheit und PQC“
• Folge 2: „Automatisierung zuerst: Der CTO-Leitfaden für APIs, Observability und die Verantwortlichkeit von Anbietern“

Hier sind einige der wichtigsten Erkenntnisse aus meiner ersten Folge:

Achten Sie bei nationalen KI-Modellen auf ideologische Einflüsse

Im Ringen um die weltweite Führungsrolle bei KI konkurrieren die USA und China um globale Vorherrschaft und Einfluss im Globalen Süden. Beide Staaten bauen jedoch ideologische Vorgaben in ihre KI-Stacks ein. Der geopolitisch ausgerichtete KI-Aktionsplan der USA sieht vor, dass das US-amerikanische National Institute of Standards and Technology (NIST) Themen wie Klimawandel, Diversität, Gleichstellung und Inklusion (DEI) oder Desinformation aus seinem Rahmenwerk für Risikomanagement streicht. Der offizielle chinesische KI-Stack, der als Open Source vermarktet wird (tatsächlich sind lediglich die Modellgewichte offen) und im Globalen Süden leicht verfügbar ist, ist darauf ausgelegt, sozialistischen Grundsätzen treu zu bleiben.

Ich glaube, dass die ideologischen Elemente in diesen KI-Modellen und den von ihnen vorangetriebenen Technologie-Stacks die Akzeptanz beider Ansätze beeinträchtigen könnten. Werden sich beispielsweise Versicherungsmathematiker bei der Bewertung und Prognose von Sachschäden auf US-amerikanische KI-Modelle verlassen wollen, wenn diese keine Daten zum Klimawandel berücksichtigen? Welchen Mehrwert bietet die Einhaltung sozialistischer Grundsätze, wenn chinesische KI-Modelle für Finanzmarktanalysen eingesetzt werden? Ich denke, dass viele weltweit tätige Organisationen KI-Modelle meiden werden, die von ideologischer Voreingenommenheit geprägt sind.

Die EU könnte als Außenseiterin vom ideologischen KI-Wettstreit zwischen den USA und China profitieren. Sie ist zwar nicht unbedingt der weltweit größte KI-Innovator, doch europäische Technologieunternehmen leisten hervorragende Arbeit, und Frankreich verfügt über einige der besten Mathematiker der Welt. Der KI-Ansatz der EU versucht, ideologische Voreingenommenheit zu vermeiden, und konzentriert sich stattdessen auf Risikomanagement, Risikoakzeptanz und hohe Strafen für Unternehmen, die KI auf eine als unverantwortlich erachtete Weise einsetzen. Schreiben Sie die EU also noch nicht ab.

Wichtigste Erkenntnis: Technologieverantwortliche müssen sehr sorgfältig und wohlüberlegt entscheiden, welche KI-Modelle und Technologie-Stacks sie einsetzen, da diese frühen Entscheidungen weitreichende Folgen haben und zu hohen Ausstiegskosten führen können. Unabhängig davon ist weiterhin mit einem breiten Vorstoß zur Einführung offener Modelle zu rechnen.

Rechnen Sie mit einem starken Anstieg der Betrugsfälle

Sam Altman, CEO von OpenAI, sprach kürzlich auf einer Bühne über einen dramatischen Anstieg von Betrugsfällen, die mithilfe von KI-Systemen begangen werden. Das deckt sich auch mit unseren Erfahrungen bei F5. Wir weisen schon seit Langem darauf hin, dass die meisten automatisierten Turing-Tests und CAPTCHA-Abfragen keine wirkliche Hürde mehr darstellen und insbesondere gegen fortschrittliche Bots wirkungslos sind. Doch ich denke, die Verteidiger wurden davon überrascht, wie mühelos ein ChatGPT-Agent CAPTCHA-Beschränkungen umgehen kann.

Wir beobachten außerdem eine starke Zunahme von Sprachbetrug: KI-Agenten sprechen inzwischen mit sehr überzeugenden lokalen Akzenten und klingen, als würden sie direkt nebenan wohnen. Wir haben einen Anstieg von KI-gestütztem Betrug um etwa 2.400 % festgestellt. Dabei kommen Voicemail- und SMS-Phishing, Social Engineering, Deepfakes sowie immer überzeugendere Spam-E-Mails zum Einsatz, die gezielt die Leichtgläubigkeit von Menschen ausnutzen.

Machen Sie sich auf einiges gefasst, denn wir werden noch viel mehr KI-gestützten Betrug erleben. Dort ist das Geld zu holen, und genau dorthin zieht es die Kriminellen.

Wichtigste Erkenntnis: KI verleiht Betrugsmaschen neuen Auftrieb, und herkömmliche Schutzmaßnahmen wie CAPTCHAs sind überholt. CISOs müssen der Schulung von Mitarbeitenden sowie anpassungsfähigen, KI-gestützten Sicherheitsstrategien Priorität einräumen, um immer überzeugenderen, durch KI optimierten Betrugsversuchen über Sprach-, Text- und Social-Media-Kanäle entgegenzuwirken.

Nehmen Sie „Absicherung der Inferenz“ in Ihre Stellenbeschreibung auf

CISOs tragen bereits eine große Verantwortung. Wir sind dafür zuständig, Daten, E-Mails, Anwendungen, Perimeter, Edge-Infrastrukturen, Netzwerke und Geräte zu schützen und abzusichern. Nun müssen wir uns zusätzlich um die Sicherheit von KI-Inferenzprozessen kümmern.

Das liegt daran, dass Inferenz die neue Angriffsfläche darstellt. Inferenz ist heute unmittelbar mit Entscheidungen verknüpft, die sich auf Geschäft, Finanzen, Compliance und Reputation auswirken. Angreifer können Inferenz-Engines durch verschiedene Angriffe ausnutzen, darunter Prompt-Injection und Modellmanipulation. CISOs müssen daher nicht nur die Infrastruktur rund um KI absichern, sondern auch die Entscheidungsfindung der KI selbst, denn Inferenz ist sowohl ein neuer Angriffsvektor als auch eine geschäftskritische Funktion.

Eine neue Methode zur Manipulation von Inferenzen ist ein „Echokammer“-Angriff. Dabei handelt es sich um eine Form der Prompt-Injection, bei der eine Reihe von Prompts so gestaltet wird, dass sie schrittweise eine unzulässige Antwort nahelegen, ohne direkt eine unzulässige Generierung anzufordern. Es ist gewissermaßen so, als würde man das Large Language Model (LLM) durch kleine Andeutungen über eine mehrstufige Abfolge von Prompts hinweg manipulieren, sodass die Modelle ihre eigenen Schutzmechanismen aushebeln oder ihre Kontrollen umgehen.

Diese Echokammer-Angriffe sind zu etwa 80 bis 90 % erfolgreich. Ist es nun also die Aufgabe des CISO, die Inferenz abzusichern? Wenn nicht, wer sonst im Unternehmen soll diese Verantwortung übernehmen?

Wichtigste Erkenntnis: Inferenz entwickelt sich zu einer kritischen neuen Angriffsfläche, und CISOs müssen ihren Verantwortungsbereich auf die Absicherung KI-gestützter Entscheidungsprozesse ausweiten. Meiner Ansicht nach wird das zu Ihrem Problem werden, wenn Ihre Stellenbezeichnung „Chief“ und „Security“ enthält – unabhängig davon, ob dies heute bereits erkannt wird oder nicht. Sie können es also genauso gut gleich angehen.

Hat China bei KI die Nase vorn?

Ich denke, dass China bei KI tatsächlich die Nase vorn haben könnte, wobei es ganz darauf ankommt, was man als Maßstab heranzieht. Ich verbringe viel Zeit in Asien und habe mit vielen Menschen gesprochen, die dort leben und arbeiten. Meiner Ansicht nach hat China einen frühen Vorsprung, wenn es darum geht, KI tatsächlich sinnvoll einzusetzen. Vielleicht verfügt China nicht über die größten Modelle, die je entwickelt wurden, doch die vorhandenen Modelle werden tatsächlich genutzt – etwa um Probleme in Lieferketten zu lösen, Sendungen umzuleiten und andere nützliche Aufgaben in der realen Welt zu erfüllen.

Ich finde, es ist völlig in Ordnung, das beste Modell mit 200 Billiarden Parametern zu haben, wenn man genau das entwickeln möchte. Doch derzeit klafft in den USA und in Europa eine ziemlich große Lücke zwischen dem Aufbau dieser ganzen Leistung und ihrer tatsächlichen Umsetzung – um einen Vergleich aus dem Drag Racing zu bemühen.

Der KI-Aktionsplan der USA räumt dem Ausbau der Energieversorgung sowie dem Bau von KI-Fabriken und KI-Rechenzentren hohe Priorität ein. Investoren stecken enorme Summen in diesen Bereich, doch offenbar schaffen wir damit noch keinen konkreten Mehrwert. Verweisen Sie auf aktuelle, viel beachtete Studien, denen zufolge in dieser Phase der KI-Einführung nur wenige KI-Programme einen geschäftlichen Nutzen erzielen. Dies bietet einen natürlichen Übergang zur Phase des „Tals der Enttäuschungen“ bei der Einführung neuer Technologien.

Ein Teil des Problems besteht darin, dass die USA zwar über die größten und leistungsfähigsten KI-Modelle verfügen, dies aber nicht automatisch bedeutet, dass wir sie nutzen, um einen echten geschäftlichen Mehrwert zu erzielen. Zudem gibt es im KI-Bereich nur sehr wenige nachhaltige Wettbewerbsvorteile. Das größte Modell zu haben, verschafft lediglich einen zeitlich begrenzten Vorsprung, der nicht von Dauer sein wird.

Wichtigste Erkenntnis: China könnte bei KI insgesamt einen Vorsprung haben – nicht, weil das Land die größten Modelle entwickelt, sondern weil es sie rasch zur Lösung realer Probleme einsetzt. Die USA und Europa hingegen laufen Gefahr, ins Hintertreffen zu geraten, da sie sich stärker auf Größe als auf praktische Wirkung konzentrieren. China verfügt zudem über deutlich mehr verfügbare Stromerzeugungskapazitäten als die USA, und dieses Problem lässt sich für Amerika nicht kurzfristig lösen. Es bleibt keine andere Wahl als „bohren, bohren, bohren“ – was, wie wir alle wissen, nicht nachhaltig ist. Doch so sieht nun einmal die „Logik“ des globalen Wettlaufs aus.

Ihre erste Anlaufstelle, um Bedrohungen immer einen Schritt voraus zu sein

Wir möchten, dass The Global CISO Ihre erste Anlaufstelle ist, um den Bedrohungen und Trends, die unsere Branche und unsere Zukunft prägen, immer einen Schritt voraus zu sein. Wenn es also Themen gibt, über die ich Ihrer Meinung nach berichten sollte, schreiben Sie mir bitte oder vernetzen Sie sich mit mir auf LinkedIn.

Jetzt abonnieren und keine Folge von „The Global CISO: For defenders by defenders“ auf Ihrer bevorzugten Podcast-Plattform verpassen – und teilen Sie sie mit Ihrem Team, Ihren Kolleginnen und Kollegen sowie Ihrem Netzwerk.

Hören Sie sich meine erste Folge an: „APIs bändigen, KI-Sicherheit und PQC“.

Hören Sie sich außerdem unbedingt meine zweite Folge an: „Automatisierung zuerst: Der CTO-Leitfaden für APIs, Observability und die Verantwortlichkeit von Anbietern“.

Über den Autor

Chuck Herrin

Weitere Blogbeiträge von Chuck Herrin