As fazendas de bots costumavam ser motivo de piada. Alguns milhares de contas de spam, inglês mal escrito, táticas rudimentares de engajamento. Fáceis de identificar. Fáceis de ignorar.
Não mais.
Hoje, as fazendas de bots operam em escala industrial, usando milhares de smartphones reais para executar contas automatizadas que se comportam como usuários de verdade. Elas curtem, compartilham e comentam na medida certa para acionar os algoritmos de engajamento das plataformas.
Não é invasão. É usar o sistema exatamente como ele foi projetado, só que mais rápido, em grande escala e sem a autenticidade que esses sistemas pressupunham.
Quando uma publicação ganha tração, plataformas como X e Meta ampliam ainda mais seu alcance. Elas priorizam o engajamento, não a precisão. O relatório de transparência de 2023 do X deixa isso claro: o que gera repercussão é promovido. Mesmo com sistemas de detecção baseados em aprendizado de máquina, bots controlados por IA se misturam perfeitamente ao tráfego orgânico.
A partir daí, usuários reais assumem o controle. A visibilidade gera uma percepção de legitimidade. Se algo parece popular, transmite confiança.
O engajamento falso cria a ilusão. Pessoas reais alimentam o fogo. E a IA torna mais difícil do que nunca rastrear a origem desse fogo.
O impacto da IA
Antes, as fazendas de bots precisavam de exércitos de trabalhadores para publicar conteúdos repetitivos; agora, as ferramentas de IA conseguem gerar conteúdos coerentes, variados e altamente convincentes. De acordo com o relatório de 2023 da NewsGuard, a propaganda gerada por IA está cada vez mais indistinguível de comentários autênticos, reproduzindo até mesmo a linguagem e as emoções específicas de cada região.
Isso não é mais conteúdo de baixa qualidade. É plausível, contextual e reativo. Parece apoio popular espontâneo, mas é influência fabricada em escala industrial.
E as plataformas continuam recompensando isso. Elas foram criadas para amplificar o que gera engajamento, não para avaliar o que é real.
As ferramentas de moderação e os revisores humanos não estão conseguindo acompanhar. O relatório de 2024 da Meta sobre medidas contra comportamentos coordenados e inautênticos ressalta como se tornou difícil detectar essas campanhas coordenadas em tempo real.
Essa não é uma questão marginal. Ela afeta a política, o marketing, a especulação financeira e até mesmo a confiança nas marcas. Em 2021, a Comissão de Valores Mobiliários dos Estados Unidos alertou sobre altas artificiais no mercado impulsionadas pelas redes sociais e alimentadas por bots.
Enquanto isso, sistemas que dependem de visibilidade e engajamento (listas de assuntos em alta, painéis de “sugestões para você”) agora podem ser facilmente manipulados. As ferramentas criadas para destacar o que é relevante agora destacam aquilo que alguém paga para tornar relevante.
Os bots de hoje não infringem as regras. Eles as seguem. Imitam o comportamento humano e geram conversas. Constroem credibilidade ao longo do tempo e atuam em diversas redes. Como não violam as políticas técnicas, muitas vezes passam despercebidos.
Isso expõe uma falha mais profunda: os sistemas foram projetados para avaliar o comportamento, não a motivação. Confiávamos em padrões. Se algo parecia normal, presumia-se que era seguro.
Mas a IA não se comporta de maneira anormal. Ela se comporta de forma convincente.
A IA desloca os sinais para camadas superiores
O sinal subiu na pilha. Saiu dos cabeçalhos e das taxas e passou para os payloads, a semântica do conteúdo e a coordenação em nível de sistema. A influência gerada por IA parece legítima para as defesas tradicionais. A anomalia não está mais no envelope, mas na mensagem.
Esforços para enfrentar o problema estão em andamento. O programa Semantic Forensics da DARPA trabalha para detectar conteúdo gerado por IA usando marcadores de intenção e linguísticos. As atualizações de 2024 do X mencionam esforços aprimorados para remover bots. No entanto, esses sistemas ainda estão em estágio inicial. As ferramentas ainda não são escaláveis nem ágeis o suficiente para superar as campanhas de influência impulsionadas por IA.
E agora a ameaça está evoluindo novamente.
Além de simples bots, agentes orientados por IA estão sendo empregados. Esses agentes fazem mais do que automatizar. Eles coordenam. Mudam de estratégia. Analisam os dados de resposta e ajustam suas táticas em tempo real. Um estudo do DFRLab de 2022 documentou como campanhas apoiadas por governos usaram agentes de IA para orquestrar a desinformação em diversas plataformas, adaptando-se dinamicamente à detecção.
Enquanto isso, empresas legítimas estão adotando agentes para atendimento ao cliente, marketing e automação de fluxos de trabalho. A Lyzr.ai afirma que 70% das iniciativas de adoção de IA se concentram em agentes de IA orientados à ação, e não apenas em bots de conversação.
Isso torna os limites menos claros. Quando agentes falam tanto em nome de empresas quanto de invasores, a confiança se deteriora. Um bot falso de suporte se passando por representante de uma marca pode aplicar golpes de phishing nos usuários ou disseminar desinformação, sem que seja possível distingui-lo do verdadeiro, a menos que você saiba o que procurar.
Isso não é mais um problema de bots. É uma crise de autenticidade.
A evolução da IA desafia pressupostos
A nova guerra dos bots, impulsionada por ferramentas avançadas de IA e agentes coordenados, redesenhou o cenário. Não estamos nos defendendo contra ruídos. Estamos nos defendendo contra uma credibilidade sintética, criada para parecer humana, dimensionada para manipular sistemas e otimizada para passar despercebida.
As premissas fundamentais que estabelecemos em torno de segurança e escala estão ruindo diante dessa mudança de foco, que deixa de lado a infraestrutura e passa a explorar algoritmos, semântica e legitimidade percebida.
Resolver isso exige repensar os fundamentos. As ferramentas criadas para aplicar regras precisam evoluir para interpretar comportamentos, linguagem e padrões coordenados como parte de um sistema mais amplo de intenções.
Até lá, o ceticismo será nosso ponto de partida, e restaurar a confiança exigirá mais do que apenas detectar ameaças.
Será necessária uma colaboração ativa entre plataformas, empresas e pesquisadores para restabelecer a integridade dos sistemas dos quais dependemos todos os dias e impedir que essas táticas se infiltrem no ambiente corporativo, onde a influência sintética poderia corromper silenciosamente a tomada de decisões, sequestrar processos automatizados e minar a confiança dos usuários de dentro para fora.
Sobre o autor
Lori MacVittie é engenheira distinta e evangelista-chefe no Escritório do CTO da F5, com ampla experiência em entrega de aplicações, estratégia de automação e infraestrutura. Ela é conhecida por transformar complexidade em clareza, seja definindo diretrizes para agentes de IA, analisando arquiteturas multinuvem frágeis ou investigando os limites de sistemas escaláveis. Ela acumula mais de trinta anos de experiência no setor, abrangendo desenvolvimento de aplicações, arquitetura de TI e operações de redes e sistemas. Antes de ingressar na F5, atuou como editora de tecnologia e recebeu diversos prêmios. MacVittie tem mestrado em Ciência da Computação e é uma autora prolífica, com publicações que abrangem segurança, nuvem e arquitetura empresarial. Ela também é uma entusiasta de jogos de tabuleiro e videogames, além de ter opiniões assumidamente fortes sobre queijos.
Mais publicações de Lori Mac VittiePublicações relacionadas no blog
O estado da maturidade digital empresarial: a transformação digital ainda não terminou
Explore como a IA impacta as empresas, as aplicações da IA generativa, as estratégias para modernizar as operações de TI e os benefícios da maturidade digital com a F5.
Como a IA generativa acelera a transformação digital
Veja como a IA generativa impulsiona a transformação digital nas empresas, acelerando tendências como a integração de APIs, os desafios dos modelos operacionais de TI híbrida e a adoção de AIOps.
Seis capacidades técnicas para acelerar a transformação digital
As arquiteturas empresariais atuais carecem dos fatores necessários de agilidade, escalabilidade, segurança e observabilidade, essenciais para impulsionar a mudança tecnológica. No entanto, estas seis capacidades fundamentais ajudarão as empresas a gerenciar riscos e desafios ao longo de sua transformação digital.
Inverter a API é a transformação digital de que as empresas precisam para participar e competir em uma economia de APIs
As organizações detêm um valor latente — na forma de APIs internas — que precisam explorar para competir em uma economia de APIs. Embora os desafios técnicos e de segurança possam desestimular algumas delas, as empresas precisam reconhecer que inverter suas APIs permitirá liberar o valor da organização como plataforma.
A modernização da TI começa pela infraestrutura
O hardware e o software evoluíram rapidamente desde os primórdios da internet, mas, para aproveitar ao máximo os benefícios resultantes dessa evolução, as organizações precisam avaliar e modernizar sua infraestrutura e a entrega de aplicativos. Acelere os esforços de modernização com a nova F5 rSeries.