Willkommen bei der Podcast-Reihe The Global CISO

Wenn es um die globale Führung im Bereich der KI geht, konkurrieren die USA und China um die Vorherrschaft auf der ganzen Welt und um Einfluss in den Entwicklungsländern. Allerdings bauen beide Nationen ideologische Beschränkungen in ihre KI-Stacks ein. Die USA Der KI-Aktionsplan hat ein geopolitisches Thema, das sein Modell bestimmt und die USA vorantreibt. Das National Institute of Standards and Technology (NIST) soll Themen wie Klimawandel, DEI oder Fehlinformationen aus dem Risikomanagementrahmen des NIST entfernen. Der offizielle chinesische KI-Stack, der als Open Source (wirklich offenes Gewicht) vermarktet wird und für den globalen Süden leicht verfügbar ist, ist darauf ausgelegt, den sozialistischen Prinzipien treu zu bleiben.

Ich glaube, dass die ideologischen Elemente in diesen KI-Modellen und Stacks, die sie vorantreiben, die Akzeptanz beider einschränken könnten. Zum Beispiel: Möchten Aktuare in der Versicherungsbranche auf US-amerikanische KI-Modelle zur Bewertung und Prognose von Sachschäden bauen, wenn diese keine Daten zum Klimawandel einbeziehen? Welchen Nutzen bringt die Einhaltung sozialistischer Prinzipien, wenn Sie chinesische KI-Modelle für Finanzmarktanalysen einsetzen? Ich denke, viele globale Organisationen werden KI-Modelle mit ideologischer Voreingenommenheit meiden wollen. 

Betrachten Sie die EU als möglichen Überraschungskandidaten, der von der ideologischen KI-Rivalität zwischen den USA und China profitiert. Die EU ist zwar nicht der weltweit führende KI-Innovator, doch europäische Technologieunternehmen erbringen hervorragende Leistungen, und Frankreich zählt einige der besten Mathematiker weltweit. Der EU-Ansatz bei KI vermeidet ideologische Voreingenommenheit, setzt stattdessen auf Risikomanagement, Akzeptanz von Risiken und verhängt strenge Strafen gegen Unternehmen, die KI unverantwortlich einsetzen. Zählen Sie die EU also keinesfalls vorschnell aus.

Wichtigste Erkenntnis: Sie müssen bei der Auswahl von KI-Modellen und Technologie-Stacks sehr sorgfältig und bedacht vorgehen, denn diese frühen Entscheidungen bestimmen den weiteren Verlauf und können hohe Folgekosten verursachen. Verwarten Sie weiterhin eine starke Bewegung hin zur breit angelegten Nutzung offener Modelle.  

Sam Altman, CEO von OpenAI, sprach kürzlich auf einer Bühne über einen dramatischen Anstieg von Betrugsfällen, die mithilfe von KI-Systemen verübt werden. Diese Beobachtung entspricht auch unseren Erfahrungen bei F5. Wir sagen schon lange, dass die meisten automatisierten Turing-Tests und CAPTCHA-Abfragen überholt sind und gegen ausgeklügelte Bots kaum noch etwas ausrichten. Doch wir wurden unvorbereitet getroffen, als wir sahen, wie mühelos ein ChatGPT-Agent CAPTCHA-Einschränkungen umgehen kann. 

Wir sehen auch zunehmend Stimmenbetrug, bei dem KI-Agenten überzeugende lokale Akzente annehmen und so klingen, als würden sie direkt bei Ihnen in der Nachbarschaft wohnen. Die Betrugsfälle durch KI sind mit rund 2.400 % stark gestiegen – dabei nutzen sie Voicemail- und SMS-Phishing, Social Engineering, Deep Fakes und immer fesselndere Spam-Mails, die genau auf die menschliche Gutgläubigkeit abzielen. 

Bereiten Sie sich darauf vor, denn Betrug mit KI-Unterstützung nimmt massiv zu. Dort liegt das Geld, und genau dorthin steuern die Kriminellen. 

Wichtigste Erkenntnis: KI treibt Betrug auf ein neues Level, während traditionelle Schutzmaßnahmen wie CAPTCHAs nicht mehr ausreichen. CISOs sollten Mitarbeiterschulungen und adaptive, KI-basierte Sicherheitsstrategien priorisieren, um den immer überzeugenderen KI-unterstützten Betrugsversuchen über Sprach-, Text- und Social-Media-Kanäle effektiv entgegenzuwirken.

CISOs tragen bereits viele Verantwortungen. Wir sind für den Schutz von Daten, E-Mails, Anwendungen, Perimetern, Edge, Netzwerken und Geräten verantwortlich, und jetzt kommt auch die Absicherung der Inferenz hinzu. 

Inferenz ist die neue Angriffsfläche. Inferenz beeinflusst heute direkt Entscheidungen in Bereichen wie Geschäft, Finanzen, Compliance und Reputation. Gegner können Inferenzsysteme über verschiedene Angriffe ausnutzen, etwa durch Prompt Injection oder Modellmanipulation. CISOs müssen nicht nur die KI-unterstützte Infrastruktur schützen, sondern auch die KI-Entscheidungsprozesse selbst absichern, denn Inferenz stellt sowohl einen neuen Angriffsvektor als auch eine entscheidende geschäftliche Funktion dar.

Eine neue Methode der Inferenzmanipulation ist ein „Echokammer“-Angriff. Dabei handelt es sich um eine Form der Prompt-Injektion, bei der eine Reihe von Aufforderungen erstellt wird, die schrittweise eine unberechtigte Antwort nahelegen, ohne direkt eine unberechtigte Generierung zu verlangen. Man kann es mit einer gezielten Beeinflussung des großen Sprachmodells (LLM) über kleine Andeutungen in mehreren Aufforderungsrunden vergleichen, die das Modell dazu bringen, sich selbst zu übergehen oder seine Schutzmechanismen zu umgehen. 

Diese Echokammer-Angriffe erreichen eine Erfolgsrate von etwa 80 bis 90 %. Liegt es jetzt also in Ihrer Verantwortung als CISO, die Absicherung von Inferenz zu gewährleisten? Wenn nicht, wer im Unternehmen wird diese Verantwortung übernehmen?

Kernpunkt: Inferenz wird zu einer entscheidenden neuen Angriffsmöglichkeit, und Sie als CISO müssen Ihre Verantwortung erweitern, um die KI-Entscheidungsfindung direkt zu schützen. Wenn Ihr Titel „Chief“ und „Security“ enthält, gehört das zu Ihren Themen – ob heute erkannt oder nicht. Packen Sie es also am besten gleich an.  

Ich denke, sie haben im Bereich der KI tatsächlich einen Vorteil, wobei es ganz darauf ankommt, was du misst. Ich verbringe viel Zeit in Asien und habe mit vielen Menschen gesprochen, die dort leben und arbeiten. Für mich hat China einen Vorsprung darin, KI tatsächlich sinnvoll einzusetzen. China mag vielleicht nicht die größten Modelle entwickelt haben, doch die vorhandenen setzen sie aktiv ein, um Lieferkettenprobleme zu lösen, Lieferungen umzuleiten und andere praxisnahe Aufgaben zu erfüllen.

Wenn Sie das größte Modell mit 200 Billiarden Parametern entwickeln möchten, ist das völlig in Ordnung. Aber aktuell erkenne ich in den USA und Europa eine deutliche Kluft – um ein Bild aus dem Drag Racing zu nutzen – zwischen der Entwicklung dieser enormen Leistung und ihrer praktischen Anwendung.

Die USA setzen im KI-Aktionsplan stark auf Energieentwicklung, den Aufbau von KI-Fabriken und KI-Rechenzentren. Investoren fluten diesen Bereich mit Geld, doch wir schaffen es nicht, echten Mehrwert zu liefern.  Aktuelle Schlagzeilenberichte zeigen, dass nur wenige KI-Programme in dieser Phase des KI-Einsatzes einen geschäftlichen Nutzen bringen – ein typischer Übergang in die Enttäuschungsphase bei der Einführung neuer Technologien.  

Ein Teil des Problems ist, dass die USA zwar die größten und leistungsstärksten KI-Modelle besitzen, diese jedoch selten nutzen, um wirklich relevante Geschäftsergebnisse zu erzielen. Im Bereich KI existieren nur wenige nachhaltige Wettbewerbsvorteile. Das größte Modell zu haben verschafft nur einen zeitlich begrenzten Vorsprung, der nicht dauerhaft ist.

Wichtigste Erkenntnis: China könnte im KI-Bereich insgesamt im Vorteil sein – nicht durch die größten Modelle, sondern weil es sie schnell auf praktische Probleme anwendet. Die USA und Europa riskieren dagegen ins Hintertreffen zu geraten, weil sie mehr auf Größe statt greifbare Ergebnisse setzen.  Außerdem verfügt China über deutlich mehr verfügbare Stromkapazitäten als die USA, eine Herausforderung, die Amerika nicht kurzfristig lösen kann. Kommt nicht darum herum: immer weiter bohren – was wir alle als nicht nachhaltig kennen. Doch so funktionieren nun mal die globalen Wettlaufbedingungen. 

Wir möchten, dass The Global CISO Ihre verlässliche Quelle bleibt, um Bedrohungen und Trends vorauszusehen, die unsere Branche und unsere Zukunft prägen. Wenn Sie deshalb Themen haben, die ich behandeln sollte, schicken Sie mir gern eine Nachricht oder verbinden Sie sich mit mir auf LinkedIn. 

Abonnieren Sie jetzt, um alle Folgen von The Global CISO zu erhalten: Für Verteidiger von Verteidigern auf Ihrer bevorzugten Podcast-Plattform – und teilen Sie sie mit Ihrem Team, Ihren Kollegen und Ihrem Netzwerk

Hören Sie in meine erste Folge „APIs, KI-Sicherheit und PQC im Griff“ rein. 

Hören Sie auch meine zweite Episode „Zuerst automatisieren: Das CTO-Playbook für APIs, Observability und Lieferantenverantwortung.“