Las empresas están descubriendo que proteger la IA requiere soluciones diseñadas específicamente para ello. Los controles tradicionales resultan insuficientes cuando los modelos se comportan de forma dinámica, los agentes actúan de manera autónoma y los riesgos evolucionan rápidamente tras la implementación. Ahora que la IA generativa ya se utiliza activamente en entornos de producción, se pide a los responsables de seguridad, riesgos y gobernanza que gestionen amenazas que surgen en tiempo real y que, a menudo, quedan fuera del alcance de los enfoques tradicionales de seguridad de las aplicaciones.
Los estudios de los analistas reflejan este cambio y ofrecen distintas perspectivas sobre cómo deben adaptar las organizaciones sus estrategias de seguridad a los sistemas basados en IA. En lugar de presentar estas perspectivas como un único punto de consenso, este artículo analiza cómo abordan el riesgo de la IA los distintos marcos de Gartner, Forrester y KuppingerCole, y cómo pueden las organizaciones trasladar esas perspectivas a medidas de protección en tiempo de ejecución y a ejercicios de red teaming específicos para la IA.
Riesgo de la IA en tiempo de ejecución
Los estudios de los analistas apuntan cada vez con mayor claridad a una realidad: el riesgo asociado a la IA es dinámico. A diferencia de las aplicaciones tradicionales, los sistemas de IA pueden cambiar su comportamiento en función de las instrucciones, el contexto y las integraciones posteriores, lo que abre nuevas vías de ataque mucho después de su implementación.
Aunque los distintos analistas plantean el reto de manera diferente, sus investigaciones ponen de relieve una serie de aspectos recurrentes que deben tener en cuenta las empresas que implementan IA a gran escala:
- Muchas amenazas de la IA se materializan durante su uso en entornos reales
- Las medidas de protección de los proveedores de modelos no bastan por sí solas para la gobernanza empresarial
- La supervisión requiere visibilidad, trazabilidad y aplicación continuas
- Las pruebas deben evolucionar para reflejar ataques agénticos, adaptativos y de múltiples pasos
Estas condiciones han llevado a las investigaciones más avanzadas a abordar los controles de seguridad que funcionan en tiempo de ejecución, cuando los sistemas de IA interactúan con usuarios, datos y flujos de trabajo empresariales. Por este motivo, también presentamos oficialmente F5 AI Guardrails y F5 AI Red Team como dos nuevas soluciones de F5 Application Delivery and Security Platform (ADSP) diseñadas para proteger los sistemas de IA empresariales en tiempo de ejecución.
Guía de mercado de Gartner® para la gestión de la confianza, el riesgo y la seguridad de la IA
En su «Guía de mercado para la gestión de la confianza, el riesgo y la seguridad de la IA», Gartner señala: «Los responsables de IA deben colaborar con las partes interesadas de toda la organización para gestionar la confianza, el riesgo y la seguridad de la IA. Deben establecer una estructura organizativa para crear y actualizar las políticas de gobernanza de la IA generativa, así como para evaluar e implementar tecnologías de AI TRiSM que permitan aplicar y hacer cumplir dichas políticas. Esto ayudará a la organización a garantizar de forma sistemática un uso de la IA más seguro, fiable y digno de confianza».
Nuestra opinión al respecto, y la razón por la que consideramos TRiSM un referente destacado para los programas de seguridad de la IA, se debe a que trata los sistemas de IA como activos operativos permanentes que requieren una supervisión continua, y no una validación puntual. Además, un componente fundamental del marco TRiSM es la inspección y la aplicación de controles en tiempo de ejecución, que Gartner define de la siguiente manera:
«Se aplica a modelos, aplicaciones e interacciones de agentes para garantizar que las transacciones se ajusten a las políticas de gobernanza de la organización. Se inspeccionan las conexiones, los procesos, las comunicaciones, las entradas y las salidas pertinentes para detectar infracciones de las políticas y desviaciones del comportamiento esperado. Las anomalías se señalan y se bloquean, se corrigen automáticamente o se remiten a personas o sistemas de respuesta a incidentes para su investigación, clasificación, respuesta y, cuando proceda, corrección».
Consideramos que esta descripción se ajusta en gran medida al enfoque de F5 respecto a la seguridad de la IA en tiempo de ejecución. Mediante F5 AI Guardrails, F5 se centra en inspeccionar y aplicar políticas durante las interacciones de IA en tiempo real —en modelos, aplicaciones y flujos de trabajo de agentes—, lo que ayuda a las organizaciones a aplicar controles de gobernanza allí donde operan realmente los sistemas de IA.*
Forrester: Definición de los ejercicios de red teaming y las medidas de protección para la IA en un modelo de garantía continua
Diversos estudios de Forrester analizan la seguridad de la IA desde una perspectiva operativa, centrándose en sistemas que se comportan de forma autónoma y evolucionan con el tiempo. En lugar de hacer hincapié en evaluaciones puntuales, consideramos que el trabajo de Forrester estudia cómo las organizaciones mantienen la supervisión y las garantías mientras los sistemas de IA operan en entornos dinámicos.
En su estudio «Utilice equipos rojos de IA para evaluar la postura de seguridad de las aplicaciones basadas en IA»,[i] Forrester define las evaluaciones de equipos rojos de IA de la siguiente manera:
«Una evaluación de equipo rojo de IA combina los conceptos tradicionales de los equipos rojos de ciberseguridad con aspectos de seguridad, toxicidad y daños específicos de la inteligencia artificial. Los ejercicios de equipo rojo de IA deben combinar la participación de personas que realicen pruebas de ciberseguridad en la pila tecnológica que sustenta la IA —incluidas la infraestructura, las aplicaciones, las API, las modificaciones de la IA, como la generación aumentada por recuperación (RAG), y el modelo de lenguaje de gran tamaño subyacente— con pruebas automatizadas que utilicen IA para evaluar la seguridad de los prompts y la seguridad general».
Esta definición refleja el tipo de pruebas adversariales específicas para la IA que lleva a cabo F5 AI Red Team. Al plantear de este modo las intervenciones de los equipos rojos, consideramos que esta investigación pone de relieve la necesidad de que las pruebas eficaces tengan en cuenta cómo se integra y utiliza la IA en sistemas reales, en lugar de evaluarla de forma aislada.
En paralelo, Presentación del marco AEGIS de Forrester: Guardrails empresariales de IA agéntica para la seguridad de la información,[ii] afirma que «establecer Guardrails empresariales es fundamental para una implementación segura». F5 respalda esta afirmación y permite a las organizaciones aprovechar los Guardrails de IA como mecanismos aplicados durante el funcionamiento del sistema para facilitar la supervisión y la aplicación de políticas, especialmente cuando los sistemas de IA interactúan directamente con usuarios, datos confidenciales y aplicaciones conectadas.
En estos ámbitos de investigación, nuestra conclusión es clara: Forrester presenta las barreras de protección y los ejercicios de red teaming como prácticas diferenciadas, aunque relacionadas, que pueden utilizarse en el marco de un enfoque de garantía continua de la seguridad de la IA, haciendo hincapié en la supervisión permanente en lugar de una validación puntual.**
KuppingerCole: El reconocimiento de la defensa de la IA generativa como una categoría de mercado diferenciada
En su informe «Generative AI Defense Leadership Compass», KuppingerCole analiza la defensa frente a la IA generativa como una disciplina emergente cuyos requisitos van más allá de los controles tradicionales de seguridad de las aplicaciones y los datos. Para ello, evalúa cómo abordan las organizaciones los riesgos que plantean los grandes modelos de lenguaje y las aplicaciones basadas en IA en entornos de producción.
Una recomendación fundamental del informe es la necesidad de contar con controles de seguridad que actúen allí donde se utilizan realmente los sistemas de IA, a fin de permitir la protección en tiempo real, la aplicación de políticas y la auditabilidad en distintos modelos de despliegue. En lugar de centrarse únicamente en el desarrollo de modelos o en las medidas de protección a nivel del proveedor, este análisis refleja la creciente atención que se presta a proteger las interacciones con la IA una vez que los sistemas se han desplegado y conectado a usuarios, aplicaciones y datos sensibles.
Dado que este Leadership Compass sirve como guía de mercado para ayudar a las organizaciones a encontrar las mejores soluciones, tras evaluar nuestros productos AI Guardrails y AI Red Team, KuppingerCole posicionó a F5 como líder en las categorías de Producto, Innovación y Mercado. Tal como se define en el informe, este posicionamiento pone de relieve los «productos de vanguardia de F5, desarrollados no solo en respuesta a las peticiones de los clientes, sino también porque impulsan cambios técnicos en el mercado al anticiparse a lo que se necesitará en los próximos meses y años».***
Llevar a la práctica las perspectivas de los analistas
Aunque Gartner, Forrester y KuppingerCole abordan la seguridad de la IA desde perspectivas analíticas diferentes, sus investigaciones ponen de relieve retos prácticos que las empresas están tratando activamente de resolver, entre ellos:
- Aplicar las políticas de forma coherente durante las interacciones con la IA
- Comprender la exposición real a la IA antes de que se produzcan incidentes
- Mantener la supervisión a medida que los sistemas de IA evolucionan y se amplían
Aquí es donde F5 AI Guardrails y F5 AI Red Team encajan en el panorama general. F5 AI Guardrails aplica controles en tiempo de ejecución para ayudar a gestionar el comportamiento de la IA en producción, mientras que F5 AI Red Team permite realizar pruebas adversariales diseñadas para reproducir patrones de uso y ataque del mundo real.
(Nota: Esta correspondencia no debe interpretarse como un respaldo por parte de los analistas. Más bien, refleja cómo las capacidades de seguridad de la IA en tiempo de ejecución de F5 se corresponden con los tipos de controles y los modelos operativos descritos en los estudios de los analistas.)
Proteger y optimizar las inversiones en IA
A medida que los sistemas de IA adquieren mayor autonomía y se vuelven esenciales para las empresas, los riesgos asociados a una seguridad inadecuada van más allá de las brechas de seguridad e incluyen la exposición a incumplimientos normativos, el daño reputacional y el estancamiento de la innovación. Los marcos de los analistas —desde Gartner TRiSM hasta el trabajo de Forrester sobre AEGIS y la investigación de KuppingerCole sobre la defensa de la IA generativa— muestran por qué las medidas de protección en tiempo de ejecución y los ejercicios de red teaming para IA ocupan un lugar cada vez más destacado en las estrategias empresariales de seguridad de la IA.
En pocas palabras, las soluciones de seguridad en tiempo de ejecución para IA de F5 ayudan a las organizaciones a aplicar estos conocimientos en la práctica, facilitando una adopción segura de la IA sin renunciar a la flexibilidad necesaria para innovar.
Para obtener más información, consulta nuestras páginas web de F5 AI Guardrails y F5 AI Red Team .
Descargos de responsabilidad de los analistas
*Fuente: informe de Gartner, Market Guide for AI Trust, Risk and Security Management, de Avivah Litan, Max Goss, etc., febrero de 2025. GARTNER es una marca comercial y de servicio registrada de Gartner, Inc. y/o sus filiales en EE. UU. y a nivel internacional, y se utiliza en el presente documento con autorización. Todos los derechos reservados.
**Forrester Research no respalda a ninguna empresa, producto o servicio. Este análisis refleja una interpretación de investigaciones de Forrester disponibles públicamente y se proporciona únicamente con fines informativos.
***KuppingerCole no avala a ningún proveedor, producto o servicio. Este análisis refleja investigaciones de KuppingerCole utilizadas bajo licencia y se proporciona únicamente con fines informativos.
[i] Utilice el red teaming de IA para evaluar la postura de seguridad de las aplicaciones basadas en IA, Forrester Research Inc., 29 de septiembre de 2025
[ii] Presentación del marco AEGIS de Forrester: Guardrails empresariales de IA agéntica para la seguridad de la información, Forrester Research, Inc., 3 de agosto de 2025
Sobre el autor
Artículos relacionados del blog
El imperativo empresarial de la IA en un mundo de nube híbrida y multinube
Cómo la IA redefine los patrones de tráfico, el riesgo de las API y el cumplimiento normativo, y por qué el paquete Distributed Cloud Services Enterprise ofrece la profundidad necesaria en entornos híbridos multicloud.
STIG de F5 NGINX: un plan de seguridad para el sector público y los entornos regulados
Descubra cómo las STIG de F5 NGINX proporcionan un modelo de seguridad para el Departamento de Defensa de EE. UU. y los entornos regulados, ayudándole a cumplir la normativa mientras crea una infraestructura sólida de confianza cero con mayor visibilidad y resiliencia.
Cómo el marco AEGIS de Forrester valida un enfoque centrado en la inferencia
El auge de la IA agéntica está transformando el panorama de la seguridad empresarial. Estos agentes de IA autodirigidos funcionan de forma autónoma, toman decisiones en tiempo real y pueden interactuar entre distintos sistemas de maneras para las que las arquitecturas tradicionales de ciberseguridad no fueron diseñadas. Aunque esto abre nuevas posibilidades, también introduce riesgos sistémicos: fallos en cascada, secuestro de objetivos y superficies de ataque hasta ahora invisibles. El reciente […] de Forrester
La nueva superficie de riesgo de la IA: invisible, autónoma y ya está dentro
James White, vicepresidente de Ingeniería de F5 A mediados de 2025, es un buen momento para hacer balance de la adopción de la IA en las empresas y del estado de la seguridad de la IA. El uso de la IA generativa ya es habitual en las empresas En general, las empresas cuentan al menos con unos conocimientos básicos sobre la IA generativa. Entienden qué es y dónde puede […]
Protegiendo el futuro: cómo CalypsoAI se alinea con el Top 10 de OWASP para los LLM
Cuando OWASP publicó su Top 10 de 2025 para grandes modelos de lenguaje (LLM), proporcionó al sector un referente de seguridad muy necesario. Pero los referentes no sirven de nada si no se actúa. CalypsoAI aborda el 80 % del Top 10 de OWASP, dando prioridad a los riesgos reales más urgentes. La plataforma combina protección en tiempo real durante la ejecución y pruebas adversariales exhaustivas, ofreciendo una cobertura inigualable frente a las […]
Implementación de LLM en la empresa: mediante una API local
Por sí solos, sin medidas de protección ni protocolos adicionales de seguridad para la IA, el despliegue de modelos de IA generativa —en particular, modelos de lenguaje de gran tamaño (LLM)— en toda la empresa supone una oportunidad de alto riesgo y grandes beneficios para cualquier organización. Sin embargo, determinar exactamente cómo debe dar su organización este gran paso hacia el ámbito de la IA generativa requiere una planificación minuciosa. Quizá […]