Gobierna tu IA actual y anticípate al futuro de tu IA

Chuck HerrinCISO de campo | F5

A menudo oímos describir la IA como el becario más entusiasta que jamás hayas tenido. Es incansable y creativa, pero a veces se inventa cosas o se convence de que sabe más que tú. Muchas empresas confían datos sensibles y flujos de trabajo críticos a modelos de IA y a las aplicaciones que los utilizan antes de haber establecido las medidas de protección adecuadas. Es la receta perfecta para dañar la reputación de la marca, exponerse a incumplimientos normativos y obligar a los frustrados equipos de seguridad a pasar muchas noches en vela, ya que a menudo ni siquiera saben que se ha puesto en marcha un nuevo modelo o que se ha habilitado su uso hasta que ya es demasiado tarde.

Este enfoque debe cambiar, y vamos a cambiarlo. Durante los últimos meses, en F5 hemos compartido dos hitos clave en nuestro recorrido hacia la seguridad de la IA. En primer lugar, tras la adquisición de CalypsoAI, lanzamos dos nuevos productos, F5 AI Guardrails y F5 AI Red Team, para ofrecer seguridad avanzada de la IA a las grandes empresas. En segundo lugar, explicamos cómo proteger los modelos y agentes de IA sin concesiones. Hoy quiero conectar ambos hitos para mostrar cómo estas iniciativas ayudan a los clientes de F5 a adoptar la IA con confianza, rapidez y, sobre todo, sin renunciar a nada. Es hora de innovar con confianza y, para los equipos de seguridad, de adquirir una gran rapidez a la hora de detectar vulnerabilidades.

Nuestro análisis reciente sobre la percepción de los equipos de seguridad respecto a la IA reveló numerosas preocupaciones. Hay otras tres conclusiones que destacan:

1. El 71 % de los profesionales de la seguridad considera que el mayor riesgo de exposición proviene del uso indebido interno o del comportamiento de los modelos.
2. La preocupación por el uso indebido de los modelos de IA supera en un 134 % a la inquietud por su uso malintencionado.
3. El 52 % de las preocupaciones de los equipos de seguridad en materia de protección de datos gira en torno al uso de IA en la sombra y a la divulgación de datos confidenciales a los LLM.

En otras palabras, por supuesto que los atacantes externos importan, pero los riesgos cotidianos que más preocupan a los equipos de SecOps suelen proceder de usuarios con buenas intenciones, modelos excesivamente confiados y controles fragmentados o inexistentes. Estos datos del mundo real explican por qué nos centramos tanto en la seguridad en tiempo de ejecución y en la aplicación de políticas: es durante la ejecución cuando el riesgo se materializa realmente en las instrucciones, las respuestas, las herramientas y las acciones de los agentes.

Qué significa para los clientes el enfoque de F5 en la seguridad de la IA

Dado el vertiginoso ritmo de adopción de la IA, estamos acelerando la visión de F5 de ofrecer una seguridad integral e independiente del modelo para aplicaciones, modelos, agentes y datos de IA, desde la fase piloto hasta la producción. Para ello, estamos incorporando dos productos importantes y complementarios a la F5 Application Delivery and Security Platform (ADSP):

• F5 AI Guardrails: Un plano de seguridad y gobernanza en tiempo de ejecución que inspecciona, controla y protege las instrucciones, las respuestas y las acciones de agentes y herramientas en cualquier modelo o proveedor. Permite a los equipos detectar y evitar fugas de datos, moderar resultados dañinos o sesgados y aplicar el principio de mínimo privilegio a modelos y agentes, todo ello sin perjudicar la experiencia del usuario.
• F5 AI Red Team: Capacidades de red team específicas para IA con pruebas adversariales a gran escala que ponen a prueba continuamente sus sistemas de IA mediante miles de patrones de ataque y más de 10.000 nuevos prompts de ataque añadidos cada mes. Este conjunto de pruebas en constante mejora abarca la inyección de prompts, los jailbreaks, la destilación de modelos, la exfiltración de datos y mucho más, y proporciona registros y huellas digitales detallados y listos para auditorías.

El bucle de retroalimentación es donde ocurre la magia

Los conocimientos y hallazgos obtenidos de las pruebas se traducen directamente en protecciones dinámicas: medidas de seguridad activas. Esto significa que sus defensas evolucionan al ritmo de las amenazas emergentes y los cambios en el sistema, sin tener que esperar a una revisión trimestral ni al ciclo de parches de un proveedor. Cuanto mejores sean las pruebas, mejor será su protección, mes tras mes.

Este enfoque es de vital importancia para seguir el ritmo de la evolución continua de los actores de amenazas, que recientemente han automatizado por completo el desarrollo de código de explotación a partir de vulnerabilidades CVE mediante IA. Debemos utilizar la IA para defendernos de los ataques impulsados por IA; de lo contrario, la asimetría es sencillamente demasiado grande. Esta mejora continua se convertirá en el sello distintivo de la defensa impulsada por IA, y F5 está adoptando esta metodología e integrándola directamente en F5 ADSP.

IA eficaz sin comprometer la seguridad

En nuestro reciente artículo del blog, «Cómo proteger los modelos y agentes de IA sin concesiones», defendimos que no debería tener que elegir entre la experiencia de usuario, la velocidad y la seguridad. Es fácil decirlo, pero hacemos realidad esa promesa ofreciendo lo siguiente:

1. Coherencia en cualquier modelo o nube. Los modelos cambiarán, los proveedores cambiarán, pero sus medidas de protección no deberían hacerlo. F5 ofrece políticas uniformes en un entorno híbrido y multimodelo, incluidas las implementaciones locales y las opciones de modelos de código abierto.
2. Protección de baja latencia desde el diseño. Evitar la conmutación por error permite mantener experiencias rápidas y resilientes, incluso cuando las políticas de seguridad se aplican en línea.
3. Cumplimiento normativo integrado desde el principio, no añadido a posteriori. Las plantillas de auditoría predefinidas y personalizadas para requisitos normativos como el Reglamento General de Protección de Datos (RGPD), la HIPAA y la Ley de IA de la UE, junto con la observabilidad integral y las integraciones con soluciones SIEM/SOAR de terceros, facilitan una recopilación de pruebas sencilla, repetible y fiable.

Qué esperar de la nueva etapa de F5 en la seguridad de la IA

Ya conoce F5 por nuestra capacidad para mantener las aplicaciones rápidas, disponibles y seguras. La seguridad de la IA se integra en ese tejido existente. El próximo capítulo de la seguridad de la IA mitiga y pone de manifiesto los riesgos procedentes de todas las direcciones. Combata nuevas amenazas adversarias, como la inyección de prompts, los jailbreaks, la destilación de modelos y los intentos de exfiltración de datos, mediante inteligencia de amenazas agéntica que aprende de más de 10.000 nuevos prompts de ataque cada mes. Detecte y evite en tiempo real la divulgación de datos confidenciales a LLM públicos y privados, y aplique políticas de DLP y acceso acordes con sus clasificaciones de datos.

Por último, gestione el uso responsable de la IA moderando los resultados dañinos o sesgados, aplicando privilegios basados en roles y adaptados al contexto para modelos y agentes, e implementando marcos de evaluación de riesgos tanto en modelos públicos como internos. En todas estas medidas de protección, puede simplificar la observabilidad mediante una visibilidad y trazabilidad centralizadas de todas las interacciones con la IA, con registros detallados, huellas de agentes e integraciones con sus soluciones SIEM/SOAR existentes para reducir el ruido y mejorar la señal.

Afrontar de lleno los retos actuales

Depender únicamente de las protecciones de los modelos de vanguardia es arriesgado. Los adversarios las atacan primero, y el riesgo va mucho más allá de un único proveedor. Las herramientas puntuales inconexas aumentan el ruido y generan puntos ciegos. Y la magia de la «IA» como caja negra no es gobernanza. Necesita controles transparentes con supervisión humana, pruebas listas para auditorías y políticas que pueda explicar a los organismos reguladores y a su consejo de administración.

Si acaba de empezar a utilizar la IA, comience por las áreas de mayor riesgo —la detección de IA en la sombra, la protección de datos sensibles o las pruebas frente a ataques— y amplíe el alcance a partir de ahí. Si ya la utiliza en producción, identifique las cadenas de herramientas de sus agentes y los flujos de datos y, a continuación, aplique el principio de mínimo privilegio y medidas de protección en tiempo de ejecución en los límites.

Integrándolo todo

F5 AI Guardrails y F5 AI Red Team aceleran la misión de F5 de ofrecer la plataforma más completa para proteger la IA. Estas soluciones están en consonancia con nuestro compromiso de proteger modelos y agentes sin concesiones y tienen como objetivo abordar los retos a los que realmente se enfrentan los equipos de SecOps. La superficie de ataque de la IA evoluciona cada día. Con estas nuevas capacidades, dispondrá de protección adaptativa en tiempo de ejecución e inteligencia de amenazas basada en agentes que evolucionan al mismo ritmo, protegiendo sus modelos, agentes y datos desde la fase piloto hasta la producción.

Trae tus modelos —te mostraremos protecciones independientes del modelo en toda tu infraestructura. Para obtener más información, mira nuestro vídeo más reciente.

Sobre el autor

Chuck HerrinCISO de campo | F5

Chuck Herrin es director de seguridad de campo en F5.

Más artículos de Chuck Herrin