Resistencia agéntica: acelerar la IA para los fines previstos

En Parque Jurásico hay una famosa escena en la que el guarda de la reserva, Muldoon, explica cómo los velocirraptores tantean sistemáticamente las vallas de alta tensión en busca de puntos débiles. Nunca comprueban el mismo sitio dos veces. «Recuerdan», dice Muldoon al darse cuenta.

Es una buena analogía de la situación en la que nos encontramos mientras las empresas se apresuran a adoptar la IA. Los actores maliciosos están preparados para buscar puntos débiles en estos nuevos sistemas y cuentan con la ventaja de herramientas potenciadas por IA capaces de recordar qué funciona. Ahora mismo, las barreras de protección no son adecuadas.

Esto resulta preocupante porque la sofisticación de la IA avanza a un ritmo cada vez mayor. Para 2028, el 33 % de las aplicaciones de software empresarial incluirán IA agéntica, frente a menos del 1 % en 2024, según las previsiones de Gartner. Para 2029, la IA agéntica resolverá de forma autónoma el 80 % de las incidencias habituales de atención al cliente sin intervención humana, según las previsiones de Gartner. 

Estos agentes digitales autónomos constan, en la práctica, de tres capas:

• Un propósito: la tarea específica que se le ha asignado al agente

• Un cerebro: el modelo de IA subyacente, probablemente de una de las empresas de IA más punteras

• Herramientas: acceso a las herramientas que el agente necesita para cumplir su propósito, desde sistemas de software internos hasta navegadores y correo electrónico

Por su propia naturaleza, cada agente es diferente. En un sistema puede haber varios agentes, lo que abre la puerta a un futuro en el que podría haber miles de millones de agentes realizando tareas dentro de organizaciones de todo el mundo. Estas abarcarán desde las operaciones administrativas más rutinarias hasta tareas mucho más delicadas y críticas para el negocio.

Un agente de reserva de reuniones puede tener acceso, mediante API, a los calendarios corporativos y a un sistema de gestión de vacaciones, así como estar autorizado para reservar salas. Mediante interacciones rápidas y autónomas entre el cerebro y las herramientas, el agente encuentra lo que necesita y programa la reunión.

Un usuario final no tiene por qué comprender todas las interacciones que se producen dentro de un sistema de IA. Sin embargo, sí debería esperar que el proveedor de la solución haya tenido en cuenta los casos extremos —las situaciones que pueden hacer que el sistema falle— y ofrezca protección frente a ellos.

El problema de las permutaciones

Las organizaciones se enfrentan a grandes interrogantes: ¿Cómo demuestran que su sistema de IA es seguro? ¿Qué medidas han tomado para poner a prueba su perímetro? Las respuestas pasan por supervisar y proteger cada capa, allí donde el agente interactúa con el modelo y las herramientas, y viceversa.

Sin pruebas ni medidas de protección, la IA agéntica es vulnerable a fallos y ataques externos, con consecuencias que pueden ir desde lo poco deseable (una reunión desorganizada) hasta lo desastroso (un agente autorizado para realizar transacciones financieras o enviar por correo electrónico información de clientes a terceros).

Para evitar que esos casos extremos se produzcan en el mundo real, es necesario poder detectarlos. Esto supone un problema porque, con cada elemento adicional que se incorpora a un sistema agéntico —como nuevas herramientas o un modelo actualizado—, su complejidad se multiplica. Las posibles combinaciones en la forma en que el agente realiza su trabajo aumentan exponencialmente, al igual que la superficie de ataque disponible para los actores maliciosos.

Frente a ello, las pruebas de seguridad de los modelos de IA siguen estando muy centradas en las personas. Incluso las mayores organizaciones de IA recurren a ejercicios manuales de red teaming para poner a prueba sus modelos. Para los seres humanos, tratar de encontrar todas las permutaciones posibles en un sistema agéntico es una tarea de una dificultad inconcebible que requiere muchísimo tiempo.

Y eso no es todo: además del problema de las permutaciones, la composición de los agentes de IA cambia constantemente. Si sustituyes el modelo en el que se basan tus agentes por una nueva versión, tienes que volver a empezar las pruebas de seguridad desde cero. Si se actualiza la API que conecta con una herramienta, también tienes que empezar de nuevo.

Además, existe la posibilidad de que, con el tiempo, los agentes capaces de programar puedan actualizar por sí mismos el modelo o las herramientas, o ambos. Ni siquiera un especialista altamente cualificado con acceso a las herramientas de software existentes podría aspirar a seguirles el ritmo.

Presentamos la resistencia agéntica

El reto de poner a prueba una nueva tecnología exige una solución tecnológica nueva y superior: utilizar agentes de IA con capacidades avanzadas para automatizar las pruebas de equipo rojo de los sistemas de IA y detectar sus vulnerabilidades y fallos. A esto lo llamamos Resistencia Agéntica, y marca la nueva frontera de la seguridad de la IA.

Agentic Resistance aborda de frente el complejo problema de las permutaciones aprovechando los atributos de los agentes:

• En la capa de propósito, podemos cambiar continuamente el propósito de un agente o añadir agentes adicionales con solo escribir una nueva descripción.

• En la capa de inteligencia, nos actualizamos constantemente para incorporar las ventajas de los últimos modelos de IA, como los recientes modelos de razonamiento.

• En la capa de herramientas, podemos crear interfaces que permitan a nuestros agentes acceder a conjuntos de herramientas de código abierto para realizar pruebas de penetración.

Ahora contamos con un potente sistema agéntico cuyo objetivo específico es detectar fallos y casos límite en los sistemas de IA. Utiliza su capacidad de razonamiento para determinar qué tareas debe realizar, en qué orden y con qué herramientas para cumplir su objetivo. Gracias a su memoria integrada, el agente aprende en cada paso.

Agentic Resistance permite abordar el reto, hasta ahora inabarcable, de proteger la IA agéntica mediante ataques de permutación por fuerza bruta dotados de una capa de inteligencia integrada. De este modo, se elimina el desajuste que existe actualmente entre la IA agéntica y el red teaming manual.

Este nuevo enfoque también desmiente la idea errónea de que la seguridad de la IA supone un cuello de botella. Al permitir detectar rápidamente fallos en su sistema de IA antes del lanzamiento y de forma continua, el sistema es intrínsecamente más seguro y se acelera el ritmo de iteración.

Eso es lo que consigue Agentic Resistance: una detección de amenazas práctica y rápida que ofrece las mayores posibilidades de acelerar la IA para los fines previstos.

Alerta de spoiler: en Jurassic Park, cuando se fue la luz y falló la valla, los velociraptores estaban listos para escapar. El mensaje para las empresas es que deben pensar como los velociraptores y utilizar las tecnologías más recientes para poner a prueba sus perímetros de forma sistemática y asegurarse de que no puedan vulnerarse fácilmente.

El Índice integral de seguridad de la IA de F5 clasifica los principales modelos de IA mediante pruebas de seguridad en condiciones reales y revela riesgos críticos que las evaluaciones comparativas de rendimiento pasan por alto. Desarrollado por F5 AI Red Team, es la única herramienta que le ayuda a encontrar el modelo más seguro antes de implementarlo.