Antes, las granjas de bots eran un chiste. Unos cuantos miles de cuentas de spam, un inglés deficiente y tácticas de interacción burdas. Fáciles de detectar. Fáciles de ignorar.
Ya no.
Hoy en día, las granjas de bots operan a escala industrial y utilizan miles de smartphones reales para ejecutar cuentas automatizadas que se comportan como usuarios reales. Dan a «Me gusta», comparten y comentan lo justo para activar los algoritmos de interacción de las plataformas.
No se trata de piratear el sistema, sino de utilizarlo exactamente como fue diseñado, solo que más rápido, a gran escala y sin la autenticidad que esos sistemas daban por sentada.
Una vez que una publicación gana repercusión, plataformas como X y Meta le dan aún más impulso. Potencian la interacción, no la veracidad. El informe de transparencia de X de 2023 lo deja claro: lo que genera actividad se promociona. Incluso con sistemas de detección basados en aprendizaje automático, los bots impulsados por IA se integran perfectamente en el tráfico orgánico.
A partir de ahí, los usuarios reales toman el relevo. La visibilidad genera una percepción de legitimidad. Si algo parece popular, inspira confianza.
Las interacciones falsas crean la ilusión. Las personas reales avivan el fuego. Y la IA hace que sea más difícil que nunca rastrear el origen de ese fuego.
El impacto de la IA
Antes, las granjas de bots necesitaban ejércitos de trabajadores que publicaran mensajes repetitivos; ahora, las herramientas de IA pueden generar contenido coherente, variado y muy creíble. Según el informe de NewsGuard de 2023, la propaganda generada por IA es cada vez más difícil de distinguir de los comentarios auténticos, incluso por el uso de lenguaje y emociones específicos de cada región.
Esto ya no es contenido basura. Es verosímil, contextual y reactivo. Parece apoyo popular espontáneo, pero es influencia fabricada a escala industrial.
Y las plataformas siguen premiándolo. Se diseñaron para amplificar lo que funciona, no para evaluar qué es real.
Las herramientas de moderación y los revisores humanos no dan abasto. El informe de Meta de 2024 sobre las medidas adoptadas contra el comportamiento coordinado no auténtico pone de relieve lo difícil que se ha vuelto detectar estas campañas coordinadas en tiempo real.
No se trata de un problema marginal. Afecta a la política, el marketing, la especulación financiera e incluso la confianza en las marcas. En 2021, la Comisión de Bolsa y Valores de Estados Unidos advirtió sobre las subidas artificiales del mercado impulsadas a través de las redes sociales y alimentadas por bots.
Mientras tanto, los sistemas que dependen de la visibilidad y la interacción (listas de tendencias, paneles de «sugerencias para ti») ahora se pueden manipular fácilmente. Las herramientas diseñadas para destacar lo que importa ahora destacan aquello por lo que alguien paga para que parezca importante.
Los bots actuales no infringen las normas, sino que las siguen. Imitan el comportamiento humano y generan conversaciones. Se ganan credibilidad con el tiempo y operan en distintas redes. Como no vulneran las políticas técnicas, a menudo pasan desapercibidos.
Esto pone de manifiesto un fallo más profundo: los sistemas se diseñaron para evaluar el comportamiento, no la motivación. Confiábamos en los patrones. Si algo parecía normal, se daba por hecho que era seguro.
Pero la IA no se comporta de forma anómala. Se comporta de manera convincente.
La IA desplaza las señales hacia capas superiores
La señal se ha desplazado hacia las capas superiores de la pila. Ya no está en las cabeceras ni en las tasas, sino en las cargas útiles, la semántica del contenido y la coordinación a nivel de sistema. La influencia generada por IA parece legítima ante las defensas tradicionales. La anomalía ya no está en el envoltorio, sino en el mensaje.
Ya se están llevando a cabo iniciativas para abordar el problema. El programa Semantic Forensics de DARPA trabaja para detectar contenido generado por IA mediante indicadores de intención y lingüísticos. Las actualizaciones de X de 2024 mencionan mejoras en las medidas para eliminar bots. Sin embargo, estos sistemas aún se encuentran en una fase inicial. Las herramientas todavía no son lo bastante escalables ni tienen la capacidad de respuesta necesaria para adelantarse a las campañas de influencia impulsadas por IA.
Y ahora la amenaza vuelve a evolucionar.
Más allá de los simples bots, se están desplegando agentes basados en IA. Estos agentes hacen algo más que automatizar. Se coordinan. Cambian de estrategia. Analizan los datos de respuesta y ajustan sus tácticas en tiempo real. Un estudio de DFRLab de 2022 documentó cómo las campañas respaldadas por Estados utilizaron agentes de IA para orquestar la desinformación en distintas plataformas, adaptándose dinámicamente a los mecanismos de detección.
Mientras tanto, las empresas legítimas están adoptando agentes para la atención al cliente, el marketing y la automatización de flujos de trabajo. Lyzr.ai afirma que el 70 % de las iniciativas de adopción de IA se centran en agentes de IA orientados a la acción, no solo en bots conversacionales.
Esto difumina los límites. Cuando los agentes hablan tanto en nombre de empresas como de atacantes, la confianza se erosiona. Un bot falso de atención al cliente que se haga pasar por un representante de una marca podría engañar a los usuarios mediante phishing o difundir información falsa, sin que pueda distinguirse del auténtico a menos que se sepa en qué fijarse.
Esto ya no es un problema de bots. Es una crisis de autenticidad.
La evolución de la IA cuestiona las suposiciones
La nueva guerra de bots, impulsada por herramientas avanzadas de IA y agentes coordinados, ha cambiado por completo el panorama. No nos defendemos del ruido, sino de una credibilidad sintética diseñada para parecer humana, desplegada a gran escala para manipular sistemas y optimizada para pasar desapercibida.
Los supuestos fundamentales sobre los que hemos construido la seguridad y la escalabilidad se están desmoronando ante este cambio de enfoque, que deja atrás la infraestructura para centrarse en la explotación de algoritmos, la semántica y la legitimidad percibida.
Resolverlo implica replantear los fundamentos. Las herramientas diseñadas para hacer cumplir las normas deben evolucionar para interpretar el comportamiento, el lenguaje y los patrones coordinados como parte de un sistema de intenciones más amplio.
Hasta entonces, el escepticismo será nuestro punto de partida, y para recuperar la confianza hará falta algo más que detectar amenazas.
Será necesaria una colaboración activa entre plataformas, empresas e investigadores para devolver la integridad a los sistemas de los que dependemos a diario y evitar que estas tácticas se infiltren en el entorno empresarial, donde la influencia sintética podría corromper silenciosamente la toma de decisiones, secuestrar la automatización y erosionar la confianza de los usuarios desde dentro.
Sobre el autor
Lori MacVittie es ingeniera distinguida y evangelista jefe en la Oficina del CTO de F5, y cuenta con una amplia experiencia en entrega de aplicaciones, estrategia de automatización e infraestructura. Es conocida por convertir la complejidad en claridad, ya sea definiendo mecanismos de protección para agentes de IA, analizando arquitecturas multinube frágiles o explorando los límites de los sistemas escalables. Aporta más de treinta años de experiencia en el sector en desarrollo de aplicaciones, arquitectura de TI y operaciones de redes y sistemas. Antes de incorporarse a F5, fue una galardonada editora de tecnología. MacVittie posee un máster en Informática y es una autora prolífica cuyas publicaciones abarcan la seguridad, la nube y la arquitectura empresarial. También es una apasionada de los juegos de mesa y los videojuegos, y expresa sin complejos sus firmes opiniones sobre el queso.
Más artículos de Lori Mac VittieArtículos relacionados del blog
Proteger los endpoints de las API dificulta la seguridad de las API
Descubre las complejidades de la seguridad de las API, los retos a los que se enfrentan las organizaciones, la evolución de los ataques contra endpoints de API y la necesidad de políticas de seguridad adaptadas.
¿Qué es el sesgo de la IA y por qué es importante para TI?
Descubre los fundamentos del aprendizaje de la IA. Aprende cómo pueden surgir sesgos en la IA y qué riesgos plantean para las TI y la transformación digital.
Redefiniendo la ciberseguridad en el extremo de la nube distribuida con IA y telemetría en tiempo real
La transformación digital y la adopción de tecnologías en la nube están provocando cambios en las arquitecturas de las aplicaciones. Estos cambios introducen nuevas superficies de ataque, que son el objetivo de métodos de ataque avanzados, altamente organizados y con motivaciones económicas. Mediante el uso del framework Morpheus de NVIDIA, F5 está investigando técnicas para detectar estas amenazas avanzadas con telemetría en tiempo real y análisis basados en IA.
El papel de la nube en las aplicaciones nativas del edge
No debería sorprender que, al igual que la aparición de la nube dio lugar a las aplicaciones nativas de la nube, el edge esté impulsando un conjunto de aplicaciones nativas del edge. Sin embargo, estas aplicaciones no residirán únicamente en el edge. Al mismo tiempo, están surgiendo nuevos patrones arquitectónicos que aprovechan las aplicaciones alojadas en la nube y en el centro de datos.
La creciente diversidad de ubicaciones y usuarios está impulsando a las empresas hacia el edge
En el contexto del ámbito de las aplicaciones, el término «usuario» siempre se ha referido a la entidad que interactúa con una aplicación. Del mismo modo que los cambios en las arquitecturas de las aplicaciones impulsan cambios en las tecnologías que permiten ofrecerlas y protegerlas, los cambios en la definición de usuario han provocado cambios en los lugares donde se despliegan las aplicaciones.
El edge está impulsando un renacimiento de las infraestructuras
A medida que las organizaciones aumentan la generación de datos y tratan de extraer valor empresarial de ellos, sin duda recurrirán a la analítica y la automatización basadas en la IA y el aprendizaje automático. Precisamente este tipo de cargas de trabajo son las que más se beneficiarían de una infraestructura optimizada y, sin embargo, hoy en día son las que menos probabilidades tienen de poder aprovecharla.