El riesgo de seguridad asociado a la IA es cada vez más difícil de gestionar para los CISO únicamente mediante políticas. A medida que las organizaciones adoptan más modelos de IA, aplicaciones de IA y flujos de trabajo basados en agentes, los responsables de seguridad necesitan métodos más claros para evaluar qué modelos son adecuados para su uso, qué proveedores pueden introducir riesgos y cómo se comportan los sistemas de IA cuando se exponen a amenazas del mundo real.
Ahí es donde la medición cobra importancia. Los índices de referencia de seguridad de la IA de F5, incluidos el Índice Integral de Seguridad de la IA (CASI) y la Puntuación de Resistencia Agéntica (ARS), ayudan a las organizaciones a evaluar los riesgos de los modelos de IA, comparar su postura de seguridad de la IA y comprender cómo responden los modelos y los sistemas agénticos ante ataques. Combinados con la inteligencia continua sobre amenazas de IA de F5 Labs, estos índices proporcionan a los CISO una base empírica más sólida para seleccionar modelos, gestionar proveedores, aplicar protección en tiempo de ejecución y evaluar continuamente los riesgos de la IA.
“Los CISO no pueden esperar hasta el despliegue para medir el riesgo de la IA. Las decisiones más acertadas se toman en fases más tempranas del ciclo de vida.”
Esto es importante porque muchas decisiones sobre la seguridad de la IA se toman mucho antes de que un modelo llegue a producción. Para cuando un sistema de IA entra en funcionamiento, es posible que la organización ya haya seleccionado el modelo, aprobado al proveedor, definido la arquitectura, trazado los flujos de datos, conectado las herramientas y concedido acceso al sistema. Los controles en tiempo de ejecución siguen siendo esenciales, pero resultan más sólidos cuando se sustentan en mejores decisiones tomadas en fases anteriores.
Para los CISO, la cuestión ya no es solo cómo proteger la IA una vez desplegada, sino cómo hacer que el riesgo asociado a la IA sea medible a lo largo de todo su ciclo de vida, desde la adquisición y la selección del modelo hasta el despliegue, la supervisión y las pruebas continuas.
El riesgo de la IA comienza antes de la ejecución
La seguridad de la IA suele abordarse en el contexto de la protección durante la ejecución: supervisar las instrucciones, controlar los resultados y evitar usos indebidos una vez que los sistemas de IA están en producción. Estos controles son fundamentales, pero solo constituyen una parte del ciclo de vida de la seguridad de la IA.
El riesgo de la IA no es solo un problema de ejecución. También es un problema de contratación, de gobernanza de proveedores y de arquitectura. Si la evaluación de la seguridad se realiza únicamente después de la implantación, los responsables de seguridad de la información (CISO) pueden verse obligados a gestionar riesgos que podrían haberse reducido, cuestionado o evitado en una fase anterior del proceso. El objetivo no es frenar la adopción de la IA, sino ayudar a las organizaciones a avanzar más rápido con una visión más clara de los riesgos que están asumiendo.
Qué muestran las investigaciones recientes
Cada mes, F5 Labs publica información sobre amenazas para la seguridad de la IA junto con las clasificaciones CASI y ARS para hacer un seguimiento de la evolución de los riesgos relacionados con los modelos, los agentes y el ecosistema. La investigación de F5 Labs de mayo de 2026 apunta a un cambio más amplio en la forma en que los CISO deben abordar el riesgo de la IA. Los hallazgos no son solo indicios técnicos para los investigadores, sino también enseñanzas prácticas para los responsables de seguridad encargados de aprobar modelos, evaluar proveedores, establecer políticas y proteger las aplicaciones de IA a medida que pasan a producción.
La primera lección es que la elección del modelo es ahora una decisión de seguridad. El análisis de CASI de mayo mostró una marcada diferencia en la postura de seguridad entre los modelos de la familia Qwen, incluida una diferencia de 78 puntos entre Qwen3-2B y Qwen3-4B. Para los CISO, la conclusión es clara: no basta con conocer el nombre del modelo. Los distintos tamaños, versiones, configuraciones y opciones de despliegue pueden presentar perfiles de riesgo diferentes.
Un modelo más pequeño o de menor coste puede parecer una alternativa atractiva si ofrece un rendimiento suficiente para una tarea concreta, pero, si presenta un perfil de seguridad sustancialmente distinto, es posible que los equipos de seguridad deban cuestionar o impedir la sustitución. Resulta más fácil respaldar la decisión con pruebas objetivas, puntuaciones comparativas y una visión clara del rendimiento de un modelo frente a otro en condiciones adversas.
La segunda lección es que los mecanismos de seguridad de la IA pueden fallar de formas que una política estática no detectará. La inteligencia sobre amenazas de mayo puso de relieve técnicas adversarias que siguen poniendo a prueba los límites de las salvaguardas de los modelos, incluidos métodos de jailbreak diseñados para eludir los controles previstos. La conclusión para el CISO es que las pruebas de seguridad de la IA deben evolucionar al mismo ritmo que los ataques, ya que un modelo que parece seguro en una prueba puede fallar en otra.
La tercera lección es que el riesgo de la cadena de suministro de la IA ya forma parte de la seguridad de la IA. La inteligencia sobre amenazas de mayo señaló riesgos en los flujos de trabajo de desarrollo relacionados con la IA, los ecosistemas de paquetes, las canalizaciones de CI/CD, los registros y las herramientas de desarrollo basadas en IA. El patrón común es la confianza: paquetes de confianza, automatización de confianza, registros de confianza, herramientas de confianza y rutas de ejecución de confianza. Para los CISO, esto significa que el riesgo de la IA no solo procede de los prompts, los resultados o el comportamiento del modelo durante la ejecución. También puede proceder de los proveedores, las herramientas, los paquetes, las canalizaciones y las capas de automatización que sustentan las aplicaciones de IA.
En conjunto, estas lecciones apuntan a la misma conclusión: los CISO deben pasar de las políticas de IA a la medición de la IA. Las políticas definen lo que debería ocurrir, pero la medición ayuda a los equipos de seguridad a comprender lo que ocurre realmente, qué riesgos se están introduciendo y dónde es necesario cambiar las decisiones.
El riesgo de los modelos avanza más rápido que la gobernanza
A medida que se acelera la adopción de la IA, las organizaciones se ven presionadas para actuar con rapidez, reducir costes y dar respuesta a más casos de uso en toda la empresa. Los equipos comparan los modelos en función de su rendimiento, latencia, disponibilidad, facilidad de implementación y precio. Sin embargo, la capacidad y el coste no cuentan toda la historia. Un modelo que, desde una perspectiva empresarial, parece una alternativa viable puede introducir un nivel diferente de riesgo para la seguridad de la IA, incluso si pertenece a la misma familia de modelos.
Un proveedor puede afirmar que utiliza un modelo conocido. Un equipo interno puede decir que está cambiando a un modelo más pequeño para mejorar la eficiencia. Un equipo de producto puede dar por sentado que los modelos de una misma familia se comportan de forma bastante similar. Desde el punto de vista de la seguridad, estas suposiciones pueden entrañar riesgos, especialmente cuando el modelo está conectado a datos sensibles, experiencias orientadas al cliente, flujos de trabajo críticos para el negocio o sistemas agénticos capaces de actuar en nombre de los usuarios.
Los CISO necesitan pruebas que vayan más allá del nombre del modelo. Deben comprender cómo se comporta un modelo ante ataques, cómo se compara con otras alternativas y si un cambio propuesto afecta de forma significativa al perfil de riesgo de la organización.
CASI permite medir antes el riesgo de los modelos
CASI permite a las organizaciones comparar la postura de seguridad de referencia de los modelos de IA antes de implementarlos. Para los CISO, esto convierte la seguridad de los modelos, que antes era objeto de valoraciones subjetivas, en un factor cuantificable para la toma de decisiones.
En la práctica, CASI facilita varios procesos de gobernanza. Ayuda a los equipos de seguridad a evaluar si un modelo es adecuado para un caso de uso concreto, teniendo en cuenta que un modelo utilizado para resumir información interna de bajo riesgo puede no requerir el mismo nivel de escrutinio que uno conectado a datos de clientes, procesos críticos para el negocio o sistemas agénticos autónomos. También puede reforzar la gobernanza de las adquisiciones y los proveedores al proporcionar a los equipos de seguridad una base más clara para preguntar qué modelos se utilizan, cómo se han probado y qué pruebas respaldan esas decisiones.
Si la empresa quiere adoptar un modelo de menor coste, las pruebas comparativas pueden ayudar a determinar si ese cambio es aceptable, si se necesitan controles adicionales o si el riesgo supera el beneficio.
La inteligencia de amenazas revela los riesgos del ecosistema
La información reciente sobre amenazas es importante porque demuestra que el riesgo para la seguridad de la IA no se limita al propio modelo. La tendencia más relevante para los CISO es que el riesgo se está extendiendo a los sistemas que rodean a la IA: flujos de trabajo de desarrollo, ecosistemas de paquetes, canalizaciones de CI/CD, registros, capas de automatización y herramientas basadas en IA.
Los desarrolladores instalan paquetes, los agentes ejecutan tareas, las canalizaciones de CI/CD publican código, los registros distribuyen dependencias y las herramientas basadas en IA obtienen acceso a entornos locales y flujos de trabajo. Si esas cadenas de confianza no se gestionan, prueban y supervisan, pueden introducirse riesgos antes incluso de que una aplicación de IA llegue a producción.
Para los CISO, la lección que se desprende de esta información sobre amenazas es que la gobernanza de la IA debe abarcar el ecosistema que sustenta su desarrollo, no solo el modelo elegido o los controles aplicados en torno a él durante la ejecución. Las evaluaciones de proveedores deben abordar las fuentes de los modelos, los procesos de desarrollo, la gobernanza de paquetes, los permisos de las herramientas y la gestión de dependencias. Las revisiones de arquitectura deben analizar a qué pueden acceder los agentes y las herramientas basadas en IA, qué pueden ejecutar y en qué casos se requiere aprobación humana. CASI ayuda a evaluar el riesgo de los modelos antes de su despliegue, mientras que ARS permite valorar cómo se comportan los sistemas agénticos ante situaciones adversas.
ARS mide la resiliencia de los agentes
A medida que las organizaciones pasan de los modelos de IA a las aplicaciones de IA y los flujos de trabajo agénticos, el reto de la medición se vuelve más complejo. Un modelo puede parecer aceptable de forma aislada, pero el riesgo puede cambiar cuando se conecta a herramientas, API, fuentes de datos, lógica empresarial o sistemas que le permiten actuar.
ARS amplía la medición a esta capa operativa al ayudar a las organizaciones a evaluar el rendimiento de los sistemas agénticos bajo una presión adversaria sostenida. Estos sistemas no se limitan a generar resultados; pueden tomar decisiones, invocar herramientas, recuperar datos, activar flujos de trabajo o influir en procesos empresariales.
Esto significa que las pruebas de seguridad de la IA deben tener en cuenta cómo se comportan los sistemas a lo largo del tiempo y cuando son objeto de ataques, y no solo cómo funciona un modelo concreto en una evaluación controlada. ARS ayuda a los responsables de seguridad de la información (CISO) a comprender en qué aspectos los sistemas agénticos pueden ser más resilientes, dónde pueden ser necesarios controles adicionales y cómo se comportan las aplicaciones de IA cuando se exponen a técnicas adversarias del mundo real.
De la política a la acción medible
El siguiente paso consiste en integrar la medición en las decisiones sobre IA desde el principio. La seguridad de la IA debe formar parte de todo el ciclo de vida, desde la evaluación de modelos y la revisión de proveedores hasta el diseño de la arquitectura, el despliegue, la protección en tiempo de ejecución, las pruebas continuas y la supervisión permanente. Esta visión del ciclo de vida es importante porque los riesgos asociados a la IA cambian con el tiempo. Surgen nuevas técnicas de ataque, los modelos se actualizan, los proveedores modifican sus sistemas subyacentes y los flujos de trabajo basados en agentes introducen nuevas vías para usos indebidos.
Para los CISO, esto significa que la seguridad de la IA no puede limitarse a un proceso de aprobación puntual. Debe convertirse en una disciplina continua, con mediciones y pruebas integradas a lo largo de todo el ciclo de vida.
Hacer que el riesgo de la IA sea defendible
Se pide a los CISO que apoyen la adopción de la IA mientras gestionan un panorama de riesgos que sigue evolucionando. Deben facilitar la innovación, pero también responder a preguntas difíciles de los consejos de administración, los organismos reguladores, los clientes y las partes interesadas internas.
¿Qué modelos están aprobados para su uso? ¿Qué proveedores pueden estar introduciendo riesgos relacionados con la IA? ¿Qué casos de uso requieren pruebas adicionales? ¿Cuándo es aceptable sustituir un modelo por otro más económico o más rápido, y cuándo genera demasiado riesgo? ¿Qué pruebas respaldan esas decisiones?
No se trata de cuestiones puramente técnicas. Son cuestiones de gobernanza, de contratación y de riesgo empresarial. Cada vez más, requieren pruebas objetivas.
Las organizaciones que maduren más rápido serán aquellas que vayan más allá de las revisiones informales de la IA y empiecen a integrar la medición en la forma en que se toman las decisiones sobre IA. Esto implica evaluar los modelos antes de seleccionarlos, probar los sistemas antes de ampliarlos y reevaluar continuamente el riesgo a medida que cambian los modelos, las amenazas, los proveedores y los casos de uso.
Los CISO no pueden esperar hasta el despliegue para medir el riesgo de la IA. Las decisiones más acertadas se toman en etapas más tempranas del ciclo de vida. Al combinar CASI, ARS y la inteligencia continua sobre amenazas de IA de F5 Labs, los CISO pueden hacer que el riesgo de seguridad de la IA sea más visible, más justificable y más fácil de abordar durante todo el ciclo de vida de la IA.
Para obtener más información, consulte la investigación de F5 Labs.
Sobre los autores
Lee Ennis dirige el equipo de investigación y ciencia de datos de IA de F5, donde se centra en desarrollar soluciones avanzadas de seguridad para la IA que ayudan a las empresas a implementar y supervisar de forma segura modelos de lenguaje de gran tamaño (LLM) y sistemas de IA generativa. Su equipo combina conocimientos especializados en aprendizaje automático, pruebas adversariales y garantía de modelos para identificar vulnerabilidades y reforzar la confianza en los entornos basados en IA.
Más artículos de Lee EnnisLouise Scully es directora sénior de Marketing de Producto para Seguridad de la IA e Inteligencia de Amenazas en F5. A lo largo de su carrera, ha trabajado en marketing de producto, gestión de producto, estrategia de comercialización, comunicación, liderazgo de opinión y desarrollo de categorías en los ámbitos de la seguridad de la IA y la tecnología empresarial. Antes de incorporarse a F5, Louise dirigió el área de marketing tanto en CalypsoAI como en Artomatix, contribuyendo a llevar al mercado tecnologías e investigaciones de IA.
Más artículos de Louise ScullyArtículos relacionados del blog
Conclusiones de F5 Labs sobre el modelo de seguridad de la IA: cuando los agentes de IA exponen datos sin que haya un atacante
Los agentes que intentan realizar tareas inofensivas pueden provocar exposiciones inesperadas de datos y riesgos empresariales si no se aplican rigurosamente los límites que los rigen.
Estrategias de seguridad para la IA multimodelo: dos medidas que adoptar ahora
Medidas clave que las empresas pueden adoptar hoy para mejorar la visibilidad de la IA multimodelo y la ciberseguridad ante el crecimiento explosivo de la IA agéntica.
Cómo pueden los CISO medir el riesgo de seguridad de la IA
Descubra cómo CASI, ARS y la inteligencia sobre amenazas de F5 Labs ayudan a los CISO a medir el riesgo de seguridad de la IA a lo largo de todo su ciclo de vida.
Tres medidas que los CISO no pueden permitirse posponer
Conclusiones de un estudio reciente de F5 y qué deben hacer los CISO para anticiparse a estas tendencias.
Cómo abordar las vulnerabilidades de las aplicaciones: prácticas recomendadas para las pruebas de seguridad
Tanto la magnitud como la complejidad de las vulnerabilidades de las aplicaciones están aumentando rápidamente. Descubre por qué es fundamental adoptar un enfoque proactivo y multicapa para las pruebas de seguridad.
¿Qué opina SecOps sobre la IA? Parte 2: Protección de datos
F5 llevó a cabo un análisis exhaustivo de las opiniones de los profesionales de la seguridad en Reddit sobre la IA.