La mayoría de las organizaciones no planificaron la implantación de la IA generativa. Un equipo puso en marcha un chatbot, otro conectó un modelo a datos internos y ahora hay un agente que utiliza herramientas discretamente en producción. En algún momento de esa carrera desde el proyecto piloto hasta el despliegue, la seguridad se quedó rezagada.
Esa es la brecha que el informe técnico de F5, «Seguridad de la IA generativa: un marco de 30, 60 y 90 días», pretende cerrar. En lugar de tratar la seguridad de la IA como una casilla que marcar en el proceso de adquisición o como una auditoría puntual, nuestro marco establece una hoja de ruta secuenciada de 90 días que permite a los equipos pasar de proteger una única aplicación a gestionar un programa para toda la flota y defender agentes autónomos.
Entonces, ¿en qué consiste este marco?
Los primeros 30 días se centran en la disciplina, no en la velocidad de despliegue
La tentación con cualquier nueva aplicación de IA generativa es lanzarla cuanto antes. Sin embargo, nuestro marco de seguridad de la IA exige un primer paso diferente: considerar la selección del modelo, las pruebas de red teaming y el diseño de medidas de protección como el verdadero trabajo de los primeros 30 días, y no como obstáculos que haya que superar.
Eso implica someter el modelo base a pruebas de equipo rojo para establecer un nivel de referencia de seguridad, desarrollar la aplicación sobre él y, después, someter el sistema combinado a nuevas pruebas de equipo rojo para comprobar si la aplicación lo ha hecho más o menos seguro. También implica establecer medidas de protección en cuatro categorías diferenciadas —normativas vigentes, normativas específicas sobre IA, amenazas asociadas al caso de uso y hallazgos del equipo rojo— para que nada se pase por alto por no encajar claramente en una sola categoría.
El resultado de esta primera fase es un ciclo repetible: cuando surge una nueva amenaza de día cero, se vuelve a someter el sistema a pruebas de equipo rojo, se corrigen las medidas de protección, se valida y se vuelve a desplegar.
Entre los días 30 y 60, una aplicación protegida se convierte en un programa
Proteger correctamente una aplicación es un buen resultado. Proteger 20 aplicaciones de la misma manera, con la misma periodicidad y el mismo nivel de auditabilidad, es un problema completamente distinto. Es aquí donde la mayoría de las organizaciones se estancan.
Nuestro marco incluye cuatro pilares que transforman las tareas de seguridad puntuales en un programa escalable:
- Cadencias definidas para los ejercicios de equipo rojo, vinculadas al nivel de riesgo
- Establezca un proceso de aplicación de parches para las medidas de protección que permita desplegar (y revertir) actualizaciones en muchas aplicaciones a la vez
- Cree un proceso de respuesta ante vulnerabilidades de día cero para toda la flota, con acuerdos de nivel de servicio reales
- Proporcione al SOC los recursos necesarios para que los operadores de seguridad puedan investigar incidentes de IA con la misma soltura que cualquier otra amenaza
Esta segunda fase se completa cuando una organización puede determinar, para cada aplicación de IA, quién es su responsable y cuándo se probó por última vez.
Los días 60 a 90 abordan un riesgo fundamentalmente distinto
Los agentes autónomos no se limitan a responder preguntas. Funcionan de forma continua, razonan a través de planes de varios pasos y llevan a cabo acciones reales mediante herramientas. Esto significa que el modelo de seguridad diseñado para aplicaciones de solicitud y respuesta no se puede trasladar directamente.
La respuesta de nuestro marco se centra en dos ideas. En primer lugar, la observabilidad debe ir más allá de registrar los resultados y abarcar también el razonamiento: cada pensamiento, llamada a una herramienta y decisión que tome un agente deben estar vinculados, de modo que una revisión posterior a un incidente pueda reconstruir no solo qué ocurrió, sino también cómo. En segundo lugar, cuando el razonamiento de un agente se desvía hacia un terreno arriesgado, limitarse a bloquear ese pensamiento suele interrumpir al agente en plena tarea. En su lugar, el marco propone la inyección de pensamientos —sustituir un pensamiento arriesgado por otro más seguro que permita al agente seguir siendo productivo—, combinada con controles en el ámbito de las acciones, como permisos para usar herramientas y mecanismos de aprobación para acciones de gran impacto. La seguridad de la IA generativa no es un único hito que se alcanza y se deja atrás. Es una dinámica operativa que este marco está diseñado para ayudar a los equipos de seguridad a establecer antes de que las carencias en sus implementaciones de IA se conviertan en incidentes.
Lea nuestro informe técnico para conocer el marco completo de 30, 60 y 90 días, incluidas las listas de comprobación de las fases 1 a 3 que su equipo puede empezar a aplicar de inmediato. Además, no olvide inscribirse en nuestro próximo seminario web.
Sobre los autores
James White es un ingeniero y líder empresarial de reconocido prestigio, con casi dos décadas de experiencia en el sector del software empresarial.
Más artículos de James WhiteArtículos relacionados del blog
IA agéntica en ciberseguridad: promesas y riesgos
Descubre por qué el uso de la IA agéntica en ciberseguridad es esencial para combatir las amenazas impulsadas por IA y por qué los agentes también generan nuevos riesgos empresariales.
Cómo los clientes de F5 del sector financiero abordan la soberanía digital sin frenar la innovación
¿Cómo se materializa la soberanía digital en el mundo real? Dos proyectos recientes de F5 con clientes muestran cómo distintas empresas están afrontando estos retos.
Soberanía operativa: cómo desarrollar resiliencia en un mundo impredecible
Para muchas organizaciones, la cuestión ya no consiste únicamente en controlar los datos, sino en mantener la capacidad de operar, adaptarse y recuperarse a medida que evolucionan las leyes y las circunstancias.
No se puede proteger una conversación con un cortafuegos: cómo el red teaming de IA se volvió esencial
Dado que las implementaciones de IA avanzan a la velocidad de las máquinas, los métodos tradicionales de prueba de software ya no resultan adecuados.
Protege tu canalización de datos de IA sin ralentizarla
Proteger el flujo de datos de la IA no es opcional. Eso está claro. Lo que resulta mucho menos evidente —y mucho más difícil— es cómo protegerlo adecuadamente.
Las extranets no están muertas; solo necesitan una actualización
Modernice su extranet: descubra cómo F5 y Equinix ofrecen una conectividad para partners repetible, segura y escalable, sin la complejidad de las redes tradicionales.