Bot-Farmen waren früher ein Witz. Ein paar Tausend Spam-Konten, gebrochenes Englisch, plumpe Methoden zur Steigerung der Interaktionen. Leicht zu erkennen. Leicht abzutun.
Jetzt nicht mehr.
Heute arbeiten Bot-Farmen im industriellen Maßstab und setzen Tausende echte Smartphones ein, auf denen automatisierte Konten betrieben werden, die sich wie echte Nutzer verhalten. Sie liken, teilen und kommentieren gerade genug, um die Interaktionsalgorithmen der Plattformen auszulösen.
Das ist kein Hacking. Das System wird genau so genutzt, wie es konzipiert wurde – nur schneller, in großem Maßstab und ohne die Authentizität, von der solche Systeme eigentlich ausgehen sollten.
Sobald ein Beitrag an Reichweite gewinnt, verstärken Plattformen wie X und Meta seine Verbreitung zusätzlich. Sie fördern Interaktionen, nicht die Richtigkeit der Inhalte. Der Transparenzbericht 2023 von X macht deutlich: Was Aufmerksamkeit erregt, wird weiterverbreitet. Selbst mit ML-basierten Erkennungssystemen fügen sich KI-gesteuerte Bots nahtlos in den organischen Datenverkehr ein.
Von da an übernehmen echte Nutzer. Sichtbarkeit erzeugt den Eindruck von Legitimität. Wenn etwas beliebt wirkt, erscheint es vertrauenswürdig.
Gefälschtes Engagement erzeugt die Illusion. Echte Menschen entfachen das Feuer. Und KI macht es schwieriger denn je, dieses Feuer zurückzuverfolgen.
Die Auswirkungen von KI
Während Bot-Farmen früher Heerscharen von Arbeitskräften benötigten, die immer wieder ähnliche Beiträge veröffentlichten, können KI-Tools heute schlüssige, abwechslungsreiche und äußerst glaubwürdige Inhalte erstellen. Laut dem NewsGuard-Bericht von 2023 lässt sich KI-generierte Propaganda zunehmend kaum noch von authentischen Kommentaren unterscheiden – bis hin zu regionaltypischer Sprache und Emotionalität.
Das sind keine minderwertigen Inhalte mehr. Sie wirken plausibel, sind kontextbezogen und reagieren auf aktuelle Entwicklungen. Es sieht nach Unterstützung aus der Bevölkerung aus, doch dahinter steckt gezielte Einflussnahme im industriellen Maßstab.
Und die Plattformen belohnen das nach wie vor. Sie wurden dafür entwickelt, erfolgreiche Inhalte zu verstärken, nicht um zu beurteilen, was echt ist.
Moderationstools und menschliche Prüfer können nicht Schritt halten. Metas Bericht von 2024 über Maßnahmen gegen koordiniertes, unauthentisches Verhalten verdeutlicht, wie schwierig es inzwischen geworden ist, solche koordinierten Kampagnen in Echtzeit zu erkennen.
Das ist kein Randthema. Es betrifft Politik, Marketing, Finanzspekulationen und sogar das Vertrauen in Marken. Im Jahr 2021 warnte die US-Börsenaufsichtsbehörde Securities and Exchange Commission vor durch soziale Medien ausgelösten Kurstreibereien, die von Bots befeuert wurden.
Unterdessen lassen sich Systeme, die auf Sichtbarkeit und Interaktion setzen (Trendlisten, „Für dich empfohlen“-Bereiche), inzwischen leicht manipulieren. Die Tools, die eigentlich relevante Inhalte hervorheben sollen, heben nun alles hervor, wofür jemand bezahlt.
Heutige Bots brechen keine Regeln. Sie halten sich daran. Sie ahmen menschliches Verhalten nach und führen Gespräche. Mit der Zeit bauen sie Glaubwürdigkeit auf und agieren über mehrere Netzwerke hinweg. Da sie nicht gegen technische Richtlinien verstoßen, bleiben sie oft unentdeckt.
Dies offenbart einen tiefer liegenden Fehler: Die Systeme wurden darauf ausgelegt, Verhalten zu bewerten, nicht die dahinterstehende Motivation. Wir vertrauten auf Muster. Wenn etwas normal erschien, wurde davon ausgegangen, dass es sicher war.
Aber KI verhält sich nicht auffällig. Sie verhält sich überzeugend.
KI verlagert Signale auf höhere Ebenen
Das Signal ist im Stack nach oben gewandert: weg von Headern und Übertragungsraten, hin zu Nutzdaten, Inhaltssemantik und systemweiter Koordination. KI-generierte Einflussnahme erscheint herkömmlichen Abwehrsystemen unauffällig. Die Anomalie steckt nicht mehr im Umschlag, sondern in der Nachricht.
Es gibt bereits Bemühungen, das Problem anzugehen. Das Semantic-Forensics-Programm der DARPA arbeitet daran, KI-generierte Inhalte anhand von Absichten und sprachlichen Merkmalen zu erkennen. In den Updates von X aus dem Jahr 2024 werden verstärkte Maßnahmen zur Entfernung von Bots erwähnt. Diese Systeme befinden sich jedoch noch in einem frühen Entwicklungsstadium. Die Tools sind noch nicht skalierbar oder reaktionsschnell genug, um KI-gestützten Einflusskampagnen einen Schritt voraus zu sein.
Und nun entwickelt sich die Bedrohung erneut weiter.
Über einfache Bots hinaus kommen zunehmend KI-gesteuerte Agenten zum Einsatz. Diese Agenten automatisieren nicht nur. Sie koordinieren sich. Sie ändern ihre Strategie. Sie analysieren Reaktionsdaten und passen ihre Taktik in Echtzeit an. Eine Studie des DFRLab aus dem Jahr 2022 dokumentierte, wie staatlich unterstützte Kampagnen KI-Agenten einsetzten, um Desinformation plattformübergreifend zu orchestrieren und sich dynamisch an Erkennungsmaßnahmen anzupassen.
Unterdessen setzen seriöse Unternehmen zunehmend Agenten für den Kundensupport, das Marketing und die Automatisierung von Arbeitsabläufen ein. Lyzr.ai zufolge konzentrieren sich 70 % der Bemühungen zur Einführung von KI auf handlungsorientierte KI-Agenten und nicht nur auf dialogbasierte Bots.
Dadurch verschwimmen die Grenzen. Wenn Agenten sowohl im Namen von Unternehmen als auch von Angreifern kommunizieren, schwindet das Vertrauen. Ein gefälschter Support-Bot, der sich als Markenvertreter ausgibt, könnte Nutzer mit Phishing-Angriffen täuschen oder Falschinformationen verbreiten und wäre ohne Kenntnis der entsprechenden Warnsignale nicht vom echten Bot zu unterscheiden.
Das ist längst kein Bot-Problem mehr. Es ist eine Authentizitätskrise.
Die Weiterentwicklung der KI stellt Annahmen infrage
Der neue Bot-Krieg, angetrieben von fortschrittlichen KI-Tools und koordinierten Agenten, hat die Lage grundlegend verändert. Wir wehren uns nicht gegen bloßes Rauschen. Wir verteidigen uns gegen künstlich erzeugte Glaubwürdigkeit, die gezielt menschlich wirken soll, in großem Maßstab zur Manipulation von Systemen eingesetzt wird und darauf optimiert ist, unentdeckt zu bleiben.
Die grundlegenden Annahmen, auf denen unser Verständnis von Sicherheit und Skalierbarkeit beruht, geraten angesichts dieser Abkehr von der Infrastruktur und der Hinwendung zur Ausnutzung von Algorithmen, Semantik und wahrgenommener Legitimität ins Wanken.
Um dieses Problem zu lösen, müssen die Grundlagen neu gedacht werden. Tools, die zur Durchsetzung von Regeln entwickelt wurden, müssen sich weiterentwickeln, um Verhalten, Sprache und koordinierte Muster als Teil eines umfassenderen Systems von Absichten zu interpretieren.
Bis dahin ist Skepsis unsere Grundhaltung, und um Vertrauen wiederherzustellen, braucht es mehr als bloße Erkennung.
Um die Integrität der Systeme wiederherzustellen, auf die wir uns täglich verlassen, müssen Plattformen, Unternehmen und Forschende aktiv zusammenarbeiten. Nur so lässt sich verhindern, dass diese Taktiken in Unternehmen eindringen, wo synthetische Einflussnahme unbemerkt Entscheidungen verfälschen, automatisierte Prozesse kapern und das Vertrauen der Nutzer von innen heraus untergraben könnte.
Über den Autor
Lori MacVittie ist Distinguished Engineer und Chief Evangelist im Office of the CTO von F5 und verfügt über umfassende Expertise in den Bereichen Anwendungsbereitstellung, Automatisierungsstrategie und Infrastruktur. Sie ist dafür bekannt, Komplexität verständlich zu machen – ob sie Leitplanken für KI-Agenten definiert, fragile Multicloud-Architekturen analysiert oder die Grenzen skalierbarer Systeme auslotet. Sie verfügt über mehr als dreißig Jahre Branchenerfahrung in der Anwendungsentwicklung, IT-Architektur sowie im Netzwerk- und Systembetrieb. Bevor sie zu F5 kam, war sie als mehrfach ausgezeichnete Technologie-Redakteurin tätig. MacVittie hat einen Masterabschluss in Informatik und ist eine produktive Autorin, deren Veröffentlichungen die Bereiche Sicherheit, Cloud und Unternehmensarchitektur abdecken. Außerdem spielt sie leidenschaftlich gern Brett- und Videospiele und vertritt mit voller Überzeugung klare Ansichten zum Thema Käse.
Weitere Blogbeiträge von Lori Mac VittieÄhnliche Blogbeiträge
Ein umfassender Leitfaden zur Bereitstellung und Sicherheit von KI-Anwendungen
Entdecken Sie optimale Strategien für die Absicherung und Bereitstellung von KI-Anwendungen.
KI zulassen und einführen? Lehren aus der Public Cloud
Die Einführung von KI steht unmittelbar bevor und könnte entscheidend sein, um wettbewerbsfähig zu bleiben. Daher muss die IT-Sicherheit proaktiv handeln und der KI-Einführung schon jetzt einen Schritt voraus sein, um sie auf einen risikogerechten Weg zu lenken.
Stand der Anwendungsstrategie 2022: Zeit für die Modernisierung des Betriebs
Es ist deutlich geworden, dass Unternehmen ihren Fokus erneut auf die Geschäftsfunktionen richten müssen, um die Dynamik ihrer digitalen Transformation aufrechtzuerhalten. Kundenerlebnisse haben zwar weiterhin Priorität, doch auch Geschäftsfunktionen wie Recht, Personalwesen und Finanzen müssen digitalisiert werden. Das bedeutet, dass CIOs das Steuer übernehmen, während sich die digitale Transformation von der Modernisierung von Anwendungen hin zur Modernisierung von Betriebsabläufen verlagert.
F5s Weg zu einer vielseitigen Plattform für Anwendungsanalysen
F5 bietet heute die umfassendsten Anwendungsdienste entlang des gesamten Weges vom Code bis zum Kunden. Künftig werden wir verstärkt auf Anwendungstelemetrie und -analysen setzen, damit unsere Kunden wertvolle Erkenntnisse über ihre Anwendungen, Geschäftsabläufe und Benutzererlebnisse gewinnen können. Beim Ausbau unserer Cloud-Analysefunktionen werden wir ML und KI noch stärker nutzen, um unsere Kunden bei der Verbesserung ihrer Geschäftsdienste zu unterstützen.
Telemetrie: Eine andere Art von Daten
Verwenden wir den Begriff „Telemetrie“ nur, weil er attraktiver klingt als „Daten“? Letztlich sind sowohl Daten als auch Telemetrie strukturierte Informationseinheiten. Es ist kein Verbrechen, die Begriffe synonym zu verwenden. Doch wenn man es genau nimmt, gibt es einen Unterschied. Und dieser Unterschied wird immer wichtiger werden, je weiter Unternehmen in die Datenökonomie vordringen.
MTTR bedeutet nicht „Mean Time to Reboot“
„Schnell scheitern“ lautet heute das Mantra für mehr Geschwindigkeit. Ob in DevOps oder im Geschäftsleben: Wer in einer digitalen Wirtschaft agiert, muss eine möglichst perfekte Verfügbarkeit gewährleisten.