Me entusiasma de verdad lo que vamos a presentar este año en la Gartner Security & Risk Management Summit (SRM).
La IA avanza tan rápido que resulta difícil para cualquiera seguirle el ritmo. Pero, cuando se trata de seguridad, ninguno de nosotros puede permitirse quedarse atrás. Los atacantes utilizan la IA para actuar con mayor rapidez, realizar análisis más sofisticados y explotar vulnerabilidades a una velocidad y una escala sin precedentes. Las últimas palabras de moda y las promesas sin pruebas de los proveedores no van a cerrar esta brecha.
Ese es el problema para el que llevamos tiempo preparándonos.
“A medida que los agentes de IA proliferan en los entornos empresariales, las organizaciones que se mantendrán a la vanguardia serán aquellas capaces de localizar todos los modelos y agentes que operan en su entorno, comprender qué hacen y gestionarlos conforme a sus propios criterios de riesgo.”
Por qué este momento es diferente
Los CISO ya no se preguntan si necesitan proteger su IA. Se preguntan cómo pueden saber si sus controles funcionan realmente. Esa es la pregunta más difícil, y queremos animar al sector de la seguridad de la IA a que empiece a responderla para sus clientes.
¿Hasta qué punto es eficaz la seguridad de su IA para prevenir nuevas amenazas como la inyección de prompts?
Trabajamos con SecureIQLab, una organización independiente de pruebas, para someter F5 AI Guardrails a una prueba frente a ataques reales. Para ello, lanzamos 20.000 ataques contra un modelo de OpenAI con el fin de comprobar hasta qué punto estaba protegido.
Los resultados: F5 AI Guardrails tiene una eficacia del 99,3 % contra la inyección directa de instrucciones. Su eficacia contra la autonomía excesiva es del 98,7 %. Y alcanza una eficacia del 99,0 % contra la filtración de datos confidenciales.
Para que se haga una idea de su eficacia, el modelo solo fue capaz de identificar por sí mismo como adversarios el 13 % de los ataques. Esto demuestra la importancia de contar con medidas de protección adicionales para proteger los casos de uso empresariales.
Somos el primer proveedor de seguridad de IA que publica resultados como estos, validados de forma independiente por terceros, y esperamos que otros sigan nuestro ejemplo.
Lo que presentamos en Gartner
En el Gartner Security & Risk Management Summit, explicaré cómo F5 ayuda a las organizaciones a proteger la IA en tres pasos prácticos. En lugar de centrarnos en la teoría o en un ejercicio de pizarra, hablaremos de medidas de protección reales que funcionan en entornos de producción:
- Implemente medidas de protección fundamentales que mitiguen los riesgos sin frenar la innovación
- Adapte las protecciones personalizadas a sus casos de uso y definiciones de riesgo específicos
- Realiza pruebas continuamente para que tus defensas evolucionen tan rápido como las amenazas
Compartiremos el caso de un cliente, una institución financiera global que necesitaba implantar la IA empresarial sin perder el control del cumplimiento normativo ni de la privacidad de los datos. Este cliente lo consiguió y le mostraremos cómo.
Qué viene después
Además de lo que presentamos hoy, ofreceremos a los asistentes un primer avance de hacia dónde se dirige la seguridad de la IA de F5: el descubrimiento y la gobernanza de la IA cuya existencia se desconoce. A medida que los agentes de IA proliferan en los entornos empresariales, las organizaciones que se mantendrán a la vanguardia serán aquellas capaces de localizar todos los modelos y agentes que se ejecutan en su entorno, comprender qué hacen y gestionarlos conforme a sus propios criterios de riesgo. Esta funcionalidad llegará próximamente y hablaremos de ella en Gartner SRM el 1 de junio.
Ven a conocernos
Si va a asistir a Gartner SRM, me encantaría verle en nuestra sesión «F5: Cómo proteger la IA en 3 pasos», que tendrá lugar el 1 de junio a las 12:00 (hora del Este). Inscríbase aquí.
Si tiene dificultades para proteger sus sistemas de IA a medida que pasan a producción y le gustaría reunirse con nosotros en persona, concierte una cita aquí.
Además, no deje de visitarnos en el stand 729 para comprobarlo por sí mismo.
Sobre el autor
.jpeg)
Nirav Shah es vicepresidente sénior y responsable de Marketing de Productos y Soluciones en F5, donde dirige la estrategia de seguridad de aplicaciones y seguridad de la IA. Antes de incorporarse a F5, trabajó durante once años en Fortinet, donde ocupó varios puestos directivos, entre los que destaca la dirección de las soluciones SASE basadas en IA, SOC y redes seguras. Su amplia trayectoria también incluye puestos de gran relevancia en Cisco Systems, donde lideró importantes iniciativas de SD-WAN. Con más de dos décadas de experiencia en el sector de la ciberseguridad, cuenta con una sólida trayectoria en el lanzamiento de productos que han marcado el rumbo del mercado y en la creación de equipos de alto rendimiento que alinean el desarrollo de productos con las áreas de ventas y marketing para maximizar su impacto. Como referente del sector y antiguo alumno de la USC, participa con frecuencia como ponente en conferencias del sector y colabora habitualmente con publicaciones de prestigio sobre la convergencia entre la IA y la ciberseguridad, al tiempo que mantiene su compromiso con la mentoría de nuevos profesionales de la ciberseguridad.
Más artículos de Nirav ShahArtículos relacionados del blog
IA agéntica en ciberseguridad: promesas y riesgos
Descubre por qué el uso de la IA agéntica en ciberseguridad es esencial para combatir las amenazas impulsadas por IA y por qué los agentes también generan nuevos riesgos empresariales.
Cómo los clientes de F5 del sector financiero abordan la soberanía digital sin frenar la innovación
¿Cómo se materializa la soberanía digital en el mundo real? Dos proyectos recientes de F5 con clientes muestran cómo distintas empresas están afrontando estos retos.
Soberanía operativa: cómo desarrollar resiliencia en un mundo impredecible
Para muchas organizaciones, la cuestión ya no consiste únicamente en controlar los datos, sino en mantener la capacidad de operar, adaptarse y recuperarse a medida que evolucionan las leyes y las circunstancias.
No se puede proteger una conversación con un cortafuegos: cómo el red teaming de IA se volvió esencial
Dado que las implementaciones de IA avanzan a la velocidad de las máquinas, los métodos tradicionales de prueba de software ya no resultan adecuados.
Protege tu canalización de datos de IA sin ralentizarla
Proteger el flujo de datos de la IA no es opcional. Eso está claro. Lo que resulta mucho menos evidente —y mucho más difícil— es cómo protegerlo adecuadamente.
Las extranets no están muertas; solo necesitan una actualización
Modernice su extranet: descubra cómo F5 y Equinix ofrecen una conectividad para partners repetible, segura y escalable, sin la complejidad de las redes tradicionales.