Les fermes à bots prêtaient autrefois à rire. Quelques milliers de comptes de spam, un anglais approximatif, des techniques d’engagement grossières. Faciles à repérer. Faciles à ignorer.
Plus maintenant.
Aujourd’hui, les fermes de bots opèrent à l’échelle industrielle et déploient des milliers de véritables smartphones pour faire fonctionner des comptes automatisés qui se comportent comme de vrais utilisateurs. Ils aiment, partagent et commentent juste assez pour déclencher les algorithmes d’engagement des plateformes.
Ce n’est pas du piratage. Il s’agit d’utiliser le système exactement comme il a été conçu, mais plus rapidement, à grande échelle et sans l’authenticité sur laquelle ces systèmes étaient censés pouvoir compter.
Dès qu’une publication gagne en popularité, des plateformes comme X et Meta accroissent encore sa visibilité. Elles favorisent l’engagement, pas l’exactitude. Le rapport de transparence 2023 de X le montre clairement : ce qui suscite des réactions est mis en avant. Même avec des systèmes de détection fondés sur l’apprentissage automatique, les bots pilotés par l’IA se fondent parfaitement dans le trafic organique.
À partir de là, les vrais utilisateurs prennent le relais. La visibilité confère une légitimité apparente. Si quelque chose semble populaire, cela paraît digne de confiance.
Les faux engagements créent l’illusion. Les vraies personnes attisent le feu. Et l’IA rend plus difficile que jamais d’en retrouver l’origine.
L’impact de l’IA
Alors que les fermes de bots avaient autrefois besoin d’armées de travailleurs pour publier des contenus répétitifs, les outils d’IA peuvent désormais générer des contenus cohérents, variés et très crédibles. Selon le rapport 2023 de NewsGuard, la propagande générée par l’IA se distingue de moins en moins des commentaires authentiques, jusque dans l’emploi d’un langage et l’expression d’émotions propres à chaque région.
Ce n’est plus du contenu sans valeur. Il est crédible, contextualisé et réactif. Il donne l’impression d’un soutien populaire spontané, mais il s’agit en réalité d’une influence fabriquée à l’échelle industrielle.
Et les plateformes continuent de récompenser ce type de contenu. Elles ont été conçues pour amplifier ce qui fonctionne, pas pour déterminer ce qui est réel.
Les outils de modération et les modérateurs humains ne parviennent pas à suivre le rythme. Le rapport 2024 de Meta sur les mesures prises contre les comportements coordonnés et non authentiques souligne à quel point il est devenu difficile de détecter ces campagnes coordonnées en temps réel.
Ce problème est loin d’être marginal. Il touche à la politique, au marketing, à la spéculation financière et même à la confiance envers les marques. En 2021, la Securities and Exchange Commission des États-Unis a mis en garde contre les opérations de gonflement artificiel des cours alimentées par les réseaux sociaux et orchestrées par des bots.
Pendant ce temps, les systèmes qui reposent sur la visibilité et l’engagement (listes de tendances, rubriques « suggéré pour vous ») sont désormais faciles à détourner. Les outils conçus pour mettre en avant ce qui compte mettent aujourd’hui en avant tout ce que quelqu’un paie pour rendre important.
Les bots d’aujourd’hui n’enfreignent pas les règles. Ils les respectent. Ils imitent le comportement humain et alimentent les conversations. Ils gagnent en crédibilité au fil du temps et opèrent sur plusieurs réseaux. Comme ils ne contreviennent pas aux règles techniques, ils passent souvent inaperçus.
Cela met en évidence une faille plus profonde : les systèmes ont été conçus pour évaluer les comportements, et non les motivations. Nous nous sommes fiés aux schémas observés. Si quelque chose semblait normal, nous le considérions comme sûr.
Mais l’IA ne se comporte pas de manière anormale. Elle se comporte de manière convaincante.
L’IA fait remonter les signaux dans la pile
Le signal a migré vers les couches supérieures de la pile. Il ne se trouve plus dans les en-têtes ni dans les débits, mais dans les charges utiles, la sémantique des contenus et la coordination à l’échelle du système. Les opérations d’influence générées par l’IA paraissent légitimes aux yeux des systèmes de défense traditionnels. L’anomalie n’est plus dans l’enveloppe, mais dans le message.
Des efforts sont en cours pour résoudre le problème. Le programme Semantic Forensics de la DARPA vise à détecter les contenus générés par l’IA à l’aide d’indicateurs d’intention et de marqueurs linguistiques. Les mises à jour de X en 2024 font état d’efforts accrus pour supprimer les bots. Mais ces systèmes n’en sont encore qu’à leurs débuts. Les outils ne sont pas encore suffisamment évolutifs ni réactifs pour devancer les campagnes d’influence pilotées par l’IA.
Et maintenant, la menace évolue à nouveau.
Au-delà des simples bots, des agents pilotés par l’IA sont désormais déployés. Ces agents ne se contentent pas d’automatiser. Ils coordonnent leurs actions. Ils changent d’approche. Ils analysent les données de réponse et ajustent leurs tactiques en temps réel. Une étude menée en 2022 par le DFRLab a montré comment des campagnes soutenues par des États utilisaient des agents d’IA pour orchestrer la désinformation sur différentes plateformes, en s’adaptant de manière dynamique aux dispositifs de détection.
Parallèlement, les entreprises légitimes adoptent des agents pour le service client, le marketing et l’automatisation des flux de travail. Selon Lyzr.ai, 70 % des initiatives d’adoption de l’IA se concentrent sur des agents d’IA capables d’agir, et pas seulement sur des robots conversationnels.
Cela brouille les frontières. Lorsque des agents s’expriment aussi bien au nom d’entreprises que de cybercriminels, la confiance s’érode. Un faux bot d’assistance se faisant passer pour un représentant d’une marque pourrait hameçonner les utilisateurs ou diffuser de fausses informations, sans qu’il soit possible de le distinguer du véritable bot à moins de savoir quels signes repérer.
Ce n’est plus un problème de bots. C’est une crise de l’authenticité.
L’évolution de l’IA remet en question les idées reçues
La nouvelle guerre des bots, alimentée par des outils d’IA avancés et des agents coordonnés, a rebattu les cartes. Nous ne nous défendons pas contre du simple bruit. Nous nous défendons contre une crédibilité artificielle conçue pour paraître humaine, déployée à grande échelle pour manipuler les systèmes et optimisée pour passer inaperçue.
Les hypothèses fondamentales sur lesquelles reposent nos approches en matière de sécurité et de passage à l’échelle s’effondrent face à cette évolution, qui délaisse les infrastructures au profit de l’exploitation des algorithmes, de la sémantique et de la légitimité perçue.
Pour résoudre ce problème, il faut repenser les fondements. Les outils conçus pour faire respecter les règles doivent évoluer afin d’interpréter les comportements, le langage et les schémas coordonnés comme les composantes d’un système d’intentions plus vaste.
D’ici là, le scepticisme reste notre principe de base, et rétablir la confiance exigera davantage que de simples outils de détection.
Il faudra une collaboration active entre les plateformes, les entreprises et les chercheurs pour rétablir l’intégrité des systèmes dont nous dépendons au quotidien et empêcher que ces tactiques ne s’infiltrent dans les entreprises, où l’influence synthétique pourrait insidieusement fausser la prise de décision, détourner les processus automatisés et miner la confiance des utilisateurs de l’intérieur.
À propos de l’auteur
Lori MacVittie est ingénieure émérite et évangéliste en chef au sein du bureau du directeur technique de F5. Elle possède une expertise approfondie dans la fourniture d’applications, les stratégies d’automatisation et les infrastructures. Elle est réputée pour sa capacité à rendre la complexité intelligible, qu’elle définisse des garde-fous pour les agents d’IA, analyse des architectures multicloud fragiles ou explore les limites des systèmes évolutifs. Elle cumule plus de trente ans d’expérience dans le secteur, couvrant le développement d’applications, l’architecture informatique ainsi que l’exploitation des réseaux et des systèmes. Avant de rejoindre F5, elle a été rédactrice spécialisée dans les technologies et a reçu plusieurs distinctions. MacVittie est titulaire d’un master en informatique et est une autrice prolifique dont les publications couvrent la sécurité, le cloud et l’architecture d’entreprise. Elle est également une passionnée de jeux de société et de jeux vidéo, et assume pleinement ses avis bien tranchés sur le fromage.
Autres articles de Lori Mac VittieArticles de blog associés
Pourquoi devriez-vous vous intéresser à WebAssembly ?
WebAssembly (Wasm) est un jeu d’instructions binaires portable, rapide et sécurisé, qui permet d’exécuter des applications hautes performances sur n’importe quelle plateforme.
Trois choses à savoir sur les applications d’IA
Les applications d’IA sont des applications modernes, mais elles présentent certaines particularités. Découvrez les points essentiels à connaître sur les applications basées sur l’IA.
État des lieux de la stratégie applicative 2022 : il est temps de moderniser les opérations
Il est devenu évident que, pour maintenir la dynamique de leur transformation numérique, les organisations doivent recentrer leurs efforts sur les fonctions métier. Si les expériences destinées aux clients restent prioritaires, il est également indispensable de permettre la numérisation de fonctions telles que les services juridiques, les ressources humaines et la finance. Les DSI prennent donc les commandes, tandis que la transformation numérique passe de la modernisation des applications à celle des opérations.
Clouds multiples ou multicloud : faciliter la transition
La gestion et la sécurisation des charges de travail deviennent complexes à mesure que les entreprises adoptent une stratégie de cloud connecté. Découvrez comment F5 répond au besoin d’une nouvelle approche de la mise en réseau multicloud.
L’expérience client dépend de la visibilité
Une enquête menée par Dimensional Research auprès de plus de 3 000 utilisateurs d’applications mobiles a confirmé ce que beaucoup d’entre nous pensent des attentes actuelles des clients.
Transformation numérique et explosion du portefeuille d’applications
La transformation numérique stimule la croissance des portefeuilles d’applications et modifie la manière dont celles-ci sont développées, déployées, intégrées et, en définitive, utilisées.