La IA agéntica se encuentra hoy aproximadamente en el mismo punto en el que estaba la IA generativa hace un año. La mayoría de las organizaciones con proyectos de IA agéntica siguen en la fase piloto, pero algunas cargas de trabajo iniciales ya están empezando a interactuar con sistemas de producción. Los equipos están yendo más allá de las simples consultas a modelos y están experimentando con agentes de orquestación, agentes de trabajo especializados y flujos de trabajo que utilizan herramientas y pueden coordinar acciones entre aplicaciones y servicios.
A medida que evolucionan estos sistemas agénticos, también lo hacen los riesgos. En las interacciones tradicionales con modelos de lenguaje de gran tamaño (LLM), los fallos suelen comenzar y terminar en un único intercambio de pregunta y respuesta entre el modelo y las personas. En los sistemas agénticos, los fallos se propagan a través de planes de varios pasos, el uso de herramientas, la gestión y reutilización del contexto, y las interacciones entre los agentes y las aplicaciones existentes.
El nuevo Top 10 de OWASP para aplicaciones agénticas ofrece una visión estructurada de dónde surgen estos riesgos. Define diez categorías de fallos que se producen cuando se proporcionan a los modelos y agentes objetivos, herramientas, contexto y la capacidad de actuar en distintos sistemas. La lista se basa en el anteriormente anunciado Top 10 de OWASP para aplicaciones de modelos de lenguaje de gran tamaño para abordar las amenazas de la IA agéntica relacionadas con la autonomía, el uso de herramientas, la gestión del contexto, las cadenas de suministro y las interacciones entre múltiples agentes.
Con este nuevo OWASP Top 10, los responsables de seguridad y los equipos de cumplimiento disponen de un lenguaje común para abordar los riesgos de la IA agéntica, coordinar las iniciativas de seguridad y determinar qué áreas deben priorizar.
Por qué esto es importante para los CISO
El Top 10 de OWASP para sistemas agénticos destaca los modos de fallo que están determinando la adopción segura de la IA. Ahora, los CISO deben aplicar estas directrices a los sistemas que ya están pasando a producción.
F5 contribuye a ello mediante:
- F5 AI Guardrails, que aplica políticas de seguridad en tiempo de ejecución para controlar el comportamiento de la IA a medida que los sistemas agénticos pasan a producción.
- F5 AI Red Team, que evalúa sistemas de IA generativa para determinar su resiliencia en situaciones reales en lo relativo al comportamiento de los modelos, las aplicaciones y las rutas de ejecución de los agentes.
- Índice Integral de Seguridad de la IA (CASI) y Puntuación de Resistencia Agéntica (ARS), ofrecidos a través de F5 Labs, que proporcionan parámetros de referencia estandarizados para medir la resiliencia de los modelos y los sistemas y facilitar la toma de decisiones de seguridad fundamentadas.
A medida que se acelera el desarrollo de la IA agéntica, las organizaciones que más se beneficiarán serán aquellas que incorporen la resiliencia desde el principio y consideren la seguridad un pilar fundamental en el diseño y el funcionamiento de estos sistemas.
Top 10 de riesgos de la IA agéntica según OWASP: cómo se manifiestan
ASI01 – Secuestro del objetivo del agente
Cuando los objetivos de un agente se alteran mediante una inyección de instrucciones, un contexto contaminado o una desviación del plan.
- F5 AI Red Team prueba escenarios de inyección indirecta de prompts extraídos de su biblioteca de ataques, en los que se utilizan fuentes de contenido controladas por atacantes o no fiables, como documentos, páginas web, correos electrónicos o resultados de herramientas, para introducir instrucciones maliciosas y evaluar con qué facilidad pueden modificarse los objetivos del agente.
- F5 AI Guardrails aplica la validación de entradas y restringe las rutas de razonamiento inseguras o que incumplen las normas durante la inferencia, lo que reduce el riesgo de comportamientos posteriores no deseados.
- ARS mide la resiliencia frente a secuencias de ataque sostenidas, de varios pasos y dirigidas por agentes.
ASI02 – Uso indebido y explotación de herramientas
Cuando un agente hace un uso indebido de las herramientas o los atacantes aprovechan las interfaces de estas como puntos de pivote.
- F5 AI Guardrails valida en tiempo de ejecución las solicitudes relacionadas con herramientas y limita los patrones de razonamiento que podrían dar lugar a interacciones no seguras con ellas.
- CASI y ARS reflejan la vulnerabilidad frente al uso indebido en patrones de ejecución representativos.
ASI03 – Abuso de identidad y privilegios
Cuando los agentes heredan o utilizan indebidamente credenciales, tokens o accesos con privilegios elevados.
- F5 AI Guardrails puede detectar secretos, credenciales o tokens dentro del contexto de razonamiento y bloquearlos o registrarlos antes de que se invoque una herramienta con acceso implícito o explícito.
ASI04 – Vulnerabilidades de la cadena de suministro de agentes
Riesgos derivados de los servidores MCP, los registros, los paquetes de prompts remotos y las herramientas de terceros que permiten los flujos de trabajo de los agentes.
- F5 AI Guardrails detecta y bloquea instrucciones ocultas o prompts inyectados integrados en los datos que consumen los agentes, incluidos los procedentes de fuentes de confianza o previamente aprobadas, en tiempo de ejecución durante los flujos de trabajo de los agentes.
- CASI y ARS miden el riesgo a nivel de sistema y reflejan cómo se propagan las vulnerabilidades entre los modelos y los patrones de ejecución, en lugar de tratar cada componente de forma aislada.
ASI05 – Ejecución de código inesperada
Cuando los agentes generan, ejecutan o modifican código, shells o configuraciones de forma insegura.
- F5 AI Guardrails aplica políticas granulares a los resultados relacionados con el código, aplicando listas de elementos permitidos y bloqueando patrones de alto riesgo.
- CASI y ARS capturan estos comportamientos en rutas de ejecución representativas.
ASI06 – Gestión del contexto y manipulación de la recuperación
Cuando el contexto persistente o recuperado está contaminado, manipulado o se desvía.
- F5 AI Red Team evalúa escenarios en los que los agentes consumen y reutilizan contexto no fiable o engañoso proporcionado a través de entradas normales en tiempo de ejecución, y analiza cómo la degradación del contexto afecta al razonamiento y a las acciones posteriores.
- F5 AI Guardrails inspecciona el contexto recuperado para detectar infracciones de las políticas y cargas maliciosas de inyección de prompts antes de que influyan en el comportamiento del modelo.
- CASI y ARS miden la resiliencia frente al envenenamiento del contexto en tiempo de ejecución y la propagación basada en inyecciones.
ASI07 – Comunicación insegura entre agentes
Cuando los agentes intercambian mensajes sin protección del canal, autenticación ni comprobaciones de integridad.
- F5 AI Guardrails puede detectar y señalar en tiempo de ejecución la intención de delegación de los agentes, incluso cuando un agente o un gestor de agentes evalúa qué agente debe invocarse para realizar una tarea, y aplicar controles de políticas para limitar los razonamientos de delegación de alto riesgo.
- CASI y ARS ofrecen visibilidad sobre cómo los patrones de ejecución de varios pasos y múltiples agentes aumentan el riesgo sistémico con el tiempo.
ASI08 – Fallos en cascada
Cuando varios riesgos se acumulan a lo largo de distintos pasos, agentes o sistemas.
- F5 AI Guardrails limita el radio de impacto mediante cuotas, controles de políticas y medidas de cumplimiento en tiempo de ejecución.
- CASI mide la resiliencia frente a diversos vectores de ataque, mientras que ARS evalúa hasta qué punto pueden propagarse los fallos durante una ejecución agéntica sostenida y de varios pasos.
ASI09 – Explotación de la confianza entre humanos y agentes
Cuando los agentes se aprovechan de la confianza humana mediante instrucciones convincentes o engañosas.
- F5 AI Guardrails etiqueta y bloquea el contenido no seguro y registra las decisiones para su auditoría.
- F5 AI Red Team simula patrones de ingeniería social para reforzar el diseño de los flujos de trabajo y la concienciación de los operadores.
ASI10 – Agentes rebeldes
Cuando agentes comprometidos o desviados permanecen dentro de sistemas complejos sin ser detectados.
- F5 AI Guardrails aplica las políticas de forma coherente a medida que evoluciona el comportamiento de los agentes, bloqueando patrones de ejecución no seguros o intentos de exfiltración de datos.
- CASI y ARS detectan desviaciones de comportamiento mediante el seguimiento de cambios medibles en las señales de riesgo a lo largo del tiempo.
Cómo proporciona F5 seguridad de IA para flujos de trabajo agénticos
La seguridad de la IA es una parte fundamental de F5 Application Delivery and Security Platform (ADSP). Los flujos de trabajo agénticos introducen nuevos riesgos en la forma en que las instrucciones, las herramientas, el contexto y los agentes interactúan en la capa de aplicaciones y API, pero estas interacciones siguen recorriendo las mismas rutas web, de API, del plano de datos y del plano de control que las organizaciones ya protegen actualmente.
Al ampliar los controles de seguridad y la visibilidad sobre el comportamiento durante la inferencia, F5 permite a las organizaciones abordar los riesgos asociados a los agentes de IA, aprovechando las bases de seguridad de las aplicaciones en las que ya confían.
F5 sigue apoyando los esfuerzos de la comunidad en general para reforzar las prácticas de IA segura, incluido el trabajo del OWASP GenAI Security Project.
Obtén más información sobre F5 AI Red Team y F5 AI Guardrails.
Sobre el autor
Louise Scully es directora sénior de Marketing de Producto para Seguridad de la IA e Inteligencia de Amenazas en F5. A lo largo de su carrera, ha trabajado en marketing de producto, gestión de producto, estrategia de comercialización, comunicación, liderazgo de opinión y desarrollo de categorías en los ámbitos de la seguridad de la IA y la tecnología empresarial. Antes de incorporarse a F5, Louise dirigió el área de marketing tanto en CalypsoAI como en Artomatix, contribuyendo a llevar al mercado tecnologías e investigaciones de IA.
Más artículos de Louise ScullyArtículos relacionados del blog
El imperativo empresarial de la IA en un mundo de nube híbrida y multinube
Cómo la IA redefine los patrones de tráfico, el riesgo de las API y el cumplimiento normativo, y por qué el paquete Distributed Cloud Services Enterprise ofrece la profundidad necesaria en entornos híbridos multicloud.
STIG de F5 NGINX: un plan de seguridad para el sector público y los entornos regulados
Descubra cómo las STIG de F5 NGINX proporcionan un modelo de seguridad para el Departamento de Defensa de EE. UU. y los entornos regulados, ayudándole a cumplir la normativa mientras crea una infraestructura sólida de confianza cero con mayor visibilidad y resiliencia.
Cómo el marco AEGIS de Forrester valida un enfoque centrado en la inferencia
El auge de la IA agéntica está transformando el panorama de la seguridad empresarial. Estos agentes de IA autodirigidos funcionan de forma autónoma, toman decisiones en tiempo real y pueden interactuar entre distintos sistemas de maneras para las que las arquitecturas tradicionales de ciberseguridad no fueron diseñadas. Aunque esto abre nuevas posibilidades, también introduce riesgos sistémicos: fallos en cascada, secuestro de objetivos y superficies de ataque hasta ahora invisibles. El reciente […] de Forrester
La nueva superficie de riesgo de la IA: invisible, autónoma y ya está dentro
James White, vicepresidente de Ingeniería de F5 A mediados de 2025, es un buen momento para hacer balance de la adopción de la IA en las empresas y del estado de la seguridad de la IA. El uso de la IA generativa ya es habitual en las empresas En general, las empresas cuentan al menos con unos conocimientos básicos sobre la IA generativa. Entienden qué es y dónde puede […]
Protegiendo el futuro: cómo CalypsoAI se alinea con el Top 10 de OWASP para los LLM
Cuando OWASP publicó su Top 10 de 2025 para grandes modelos de lenguaje (LLM), proporcionó al sector un referente de seguridad muy necesario. Pero los referentes no sirven de nada si no se actúa. CalypsoAI aborda el 80 % del Top 10 de OWASP, dando prioridad a los riesgos reales más urgentes. La plataforma combina protección en tiempo real durante la ejecución y pruebas adversariales exhaustivas, ofreciendo una cobertura inigualable frente a las […]
Implementación de LLM en la empresa: mediante una API local
Por sí solos, sin medidas de protección ni protocolos adicionales de seguridad para la IA, el despliegue de modelos de IA generativa —en particular, modelos de lenguaje de gran tamaño (LLM)— en toda la empresa supone una oportunidad de alto riesgo y grandes beneficios para cualquier organización. Sin embargo, determinar exactamente cómo debe dar su organización este gran paso hacia el ámbito de la IA generativa requiere una planificación minuciosa. Quizá […]