Los minoristas están desarrollando herramientas de IA agéntica adaptadas a tareas específicas para generar un impacto empresarial real tanto en la experiencia del cliente como en las operaciones de sus plataformas online.
A medida que surgen los agentes de compra personales, las organizaciones están adaptando su infraestructura para facilitar las compras gestionadas por máquinas, lo que conlleva importantes implicaciones para la seguridad.
“Los minoristas deben adaptar sus estrategias de gestión de riesgos y sus medidas de seguridad para controlar adecuadamente a los agentes autónomos.”
Los equipos de defensa están desbordados por los datos, las alertas y los registros. Necesitan contexto práctico para reducir la complejidad y responder de forma eficiente, priorizando las amenazas más críticas antes de que se detecte un indicador de compromiso en el entorno.
En este blog, analizamos en profundidad cómo los agentes autónomos pueden actuar de forma descontrolada y por qué los equipos de seguridad y riesgos deben tener cuidado con las acciones que se les permite realizar.
La realidad del comercio minorista
Para los minoristas, el potencial de la IA agéntica es extraordinario. Un proveedor líder de comercio electrónico ya está implementando sofisticados asistentes de compra personales que comprenden en tiempo real las señales de compra de los clientes y los entornos dinámicos de las tiendas.
Aunque el valor empresarial y la ventaja competitiva que ofrece una interacción optimizada con los clientes son factores muy atractivos, las implicaciones para la seguridad son importantes. A diferencia de los agentes de IA, la IA agéntica está diseñada para percibir, razonar y actuar de forma independiente . Esta autonomía plantea cuestiones relacionadas con la trazabilidad, la rendición de cuentas y la gobernanza.
“Los principales proveedores de comercio electrónico ya están implementando sofisticados asistentes personales de compra.”
El sector del comercio electrónico ya presenta una de las mayores proporciones de ataques avanzados tanto en API web como móviles, y los bots de reventa representan una de cada cinco operaciones de añadir productos al carrito. Los adversarios seguirán utilizando bots para ampliar la escala de los ciberataques contra los grandes modelos de lenguaje (LLM) del backend, y las organizaciones de hackers, que ya han interrumpido importantes servicios en línea como la recogida de compras realizadas con un clic en grandes comercios, adaptarán sin duda sus tácticas, técnicas y procedimientos (TTP) para atacar los flujos de trabajo agénticos.
Los comercios necesitan un nuevo enfoque para garantizar el despliegue seguro de la IA agéntica. No adaptar las estrategias de riesgo y las defensas de seguridad para tener en cuenta la arquitectura y el comportamiento específicos de los agentes autónomos supone una responsabilidad empresarial.
Deja las herramientas tradicionales en el cobertizo
¡Ah, aquellos buenos tiempos! Proteger el perímetro. Implementar controles de seguridad, como cortafuegos de red y de aplicaciones web. Realizar pruebas estáticas y dinámicas. Aunque estas medidas eran viables en arquitecturas cliente-servidor, donde predominaban los flujos de tráfico norte-sur y la seguridad tradicional de las aplicaciones web podía contener los riesgos, la rápida modernización de las aplicaciones, el auge de los sistemas basados en API y los ecosistemas de IA altamente interconectados han dado lugar a una superficie de riesgo cada vez mayor y a un volumen exponencial de tráfico entre máquinas (este-oeste).
Después, muchas empresas introdujeron interfaces de procesamiento del lenguaje natural (PLN). Mientras los equipos de seguridad se apresuraban a ponerse al día, las empresas ya están implantando IA agéntica.
“La IA agéntica está poniendo a prueba las mejores prácticas de seguridad, los marcos normativos y la supervisión regulatoria.”
Los paradigmas existentes, como la defensa en profundidad, siguen siendo aplicables, ya que los nuevos ataques de IA en el front-end a menudo derivan en vulnerabilidades clásicas en el back-end, como la ejecución remota de código (RCE).
Sin embargo, las buenas prácticas de seguridad consolidadas, como la divulgación responsable, los marcos existentes, como el sistema de vulnerabilidades y exposiciones comunes (CVE), y la supervisión regulatoria tienen dificultades para seguir el ritmo de la carrera armamentística de la IA agéntica.
¿Quién se apunta a MCP?
¡Model Context Protocol al rescate! Tanto el estándar propuesto por Anthropic como el protocolo Agent2Agent (A2A) propuesto por Google ayudan a abordar, respectivamente, la comunicación entre modelos y recursos y entre agentes, pero ninguno de ellos satisface todos los requisitos de interoperabilidad de la IA agéntica.
MCP y A2A suponen grandes avances en materia de estandarización e interoperabilidad, pero ¿qué ocurre con la seguridad? ¿Son compatibles sus controles de seguridad actuales con MCP?
La proliferación de herramientas y aplicaciones está dando lugar a una IA en la sombra, y los agentes de IA no pueden detectar los nuevos prompts de ataque, lo que los hace vulnerables por diseño y susceptibles a filtraciones de datos confidenciales.
“Los defensores deben actuar para garantizar la gobernanza, adaptando los controles existentes e implementando otros nuevos.”
Los equipos de seguridad y riesgos deben actuar para garantizar la gobernanza, adaptando los controles existentes e implantando otros nuevos que permitan gestionar el riesgo asociado a los agentes de IA. En particular, los cortafuegos de aplicaciones web y las soluciones de seguridad de API deben ser compatibles con MCP. Además, las herramientas de gestión de bots deben ser capaces de mantener su resiliencia a medida que los conjuntos de herramientas de automatización incorporan mejoras basadas en IA y los atacantes pueden convertir rápidamente sus ataques en armas. Por ejemplo, para impedir la extracción de datos de entrenamiento de LLM y de contenido de canalizaciones de generación aumentada por recuperación (RAG), las herramientas de gestión de bots deben detectar nuevas técnicas de ataque mediante modelos de ML que identifiquen patrones maliciosos, así como utilizar cifrado y ofuscación para evitar que se eludan las medidas de protección.
Los equipos de defensa también deben realizar pruebas de vulnerabilidad en modelos y aplicaciones de IA, junto con inspecciones en tiempo de ejecución. Estas mejoras son imprescindibles para garantizar la trazabilidad y proporcionar la información necesaria para una supervisión humana (HITL).
La estrella polar: Ver. Establecer. Sintetizar. Guardar.
La fórmula de la seguridad agéntica consiste en reducir el tiempo de detección, agilizar la corrección y aliviar la carga de los equipos de seguridad.
La elección de los modelos de IA puede poner en riesgo todo su sistema de IA, por lo que deben reforzarse antes de la implementación y durante la ejecución. F5 AI Red Team junto con F5 AI Guardrails proporcionan pruebas constantes y líneas de referencia continuas del comportamiento que permiten detectar posibles actividades maliciosas.
“La gestión de riesgos de la IA agéntica exige anticipar qué podría salir mal, establecer las medidas de protección adecuadas y sintetizar patrones para automatizar la respuesta ante incidentes.”
En lugar de mitigar ataques específicos y conocidos que se han divulgado públicamente, dejando abierta la posibilidad de que se explote la misma vulnerabilidad subyacente, un enfoque proactivo centrado en descubrir vulnerabilidades fundamentales mediante pruebas continuas ofrecerá una protección superior.
Red teaming puede simular ataques adversarios para someter los sistemas de IA a pruebas de resistencia, garantizando que los riesgos se aborden antes de su implementación. Cuando se combinan con la supervisión en tiempo real y los sistemas de protección en tiempo de ejecución, los controles de seguridad pueden detectar continuamente comportamientos anómalos y ataques como la exfiltración de datos, y responder automáticamente ante ellos.
A medida que normativas como la Ley de IA de la UE y marcos como los del NIST pasen a ser obligatorios, será necesario poder demostrar la solidez de las medidas de seguridad de la IA.
Al anticipar lo que podría salir mal, establecer las medidas de protección adecuadas y combinar patrones para automatizar la respuesta ante incidentes, los minoristas ahorrarán tiempo y, en última instancia, dinero.
El futuro es ahora
Los riesgos de la IA agéntica no pueden abordarse por completo con herramientas tradicionales, ya que dejan lagunas en la protección y la gobernanza.
Para abordar esta cuestión, los proveedores de comercio electrónico deben proteger los flujos de trabajo de IA en todas las etapas de madurez de la IA. Esto incluye pruebas proactivas de ataques, inspección y aplicación de políticas en tiempo de ejecución, así como observabilidad centralizada y cumplimiento normativo para satisfacer los nuevos requisitos regulatorios.
Al incorporar capacidades de red teaming y medidas de protección en tiempo de ejecución a la F5 Application Delivery and Security Platform (ADSP) , los minoristas pueden proteger de forma continua las implementaciones de IA agéntica, desde la fase piloto hasta la producción.
Para obtener más información, visite Soluciones de F5 para el comercio electrónico.
Sobre el autor
Artículos relacionados del blog
IA agéntica en ciberseguridad: promesas y riesgos
Descubre por qué el uso de la IA agéntica en ciberseguridad es esencial para combatir las amenazas impulsadas por IA y por qué los agentes también generan nuevos riesgos empresariales.
Cómo los clientes de F5 del sector financiero abordan la soberanía digital sin frenar la innovación
¿Cómo se materializa la soberanía digital en el mundo real? Dos proyectos recientes de F5 con clientes muestran cómo distintas empresas están afrontando estos retos.
Soberanía operativa: cómo desarrollar resiliencia en un mundo impredecible
Para muchas organizaciones, la cuestión ya no consiste únicamente en controlar los datos, sino en mantener la capacidad de operar, adaptarse y recuperarse a medida que evolucionan las leyes y las circunstancias.
No se puede proteger una conversación con un cortafuegos: cómo el red teaming de IA se volvió esencial
Dado que las implementaciones de IA avanzan a la velocidad de las máquinas, los métodos tradicionales de prueba de software ya no resultan adecuados.
Protege tu canalización de datos de IA sin ralentizarla
Proteger el flujo de datos de la IA no es opcional. Eso está claro. Lo que resulta mucho menos evidente —y mucho más difícil— es cómo protegerlo adecuadamente.
Las extranets no están muertas; solo necesitan una actualización
Modernice su extranet: descubra cómo F5 y Equinix ofrecen una conectividad para partners repetible, segura y escalable, sin la complejidad de las redes tradicionales.