Un triunvirato consciente de las aplicaciones para la gobernanza de la IA agéntica

James HendergartDirector sénior de Investigación Técnica | F5

La innovación es una cosa. La gobernanza es otra. Una preocupante combinación de estadísticas procedentes de estudios confirma que la adopción de la IA generativa por parte de las empresas avanza a toda máquina, pese a las carencias en materia de gobernanza que deberían llevarlas a detenerse y reflexionar.

Según la Encuesta de PWC sobre agentes de IA de mayo de 2025, el 79 % de las empresas ha adoptado la IA y solo el 2 % no se plantea en absoluto utilizar IA agéntica. Independientemente de si esos agentes presentan características verdaderamente agénticas —como la capacidad de generar planes de trabajo y ejecutar acciones de varios pasos, evaluar los resultados y reajustarse por sí mismos— o si son chatbots que canalizan solicitudes puntuales hacia un modelo de lenguaje de gran tamaño (LLM) seleccionado, el nivel de adopción es muy elevado y casi todas esas empresas tienen previsto aumentar el gasto en IA durante el próximo año.

Compárese con nuestra propia investigación —que utiliza un Índice de Preparación para la IA para cuantificar la capacidad operativa de escalar, proteger y mantener con éxito los sistemas de IA—: solo el 2 % de las organizaciones está plenamente preparado para afrontar los retos inherentes al diseño, la implantación y el funcionamiento de sistemas basados en IA.

Aun así, los equipos de TI y seguridad no tienen otra opción, según un estudio de EY, que revela que la mayoría de los líderes empresariales creen que deben adoptar la IA agéntica este año para aventajar a sus competidores de aquí al año que viene. Las organizaciones que se tomen el tiempo necesario para subsanar de forma meditada las deficiencias en materia de seguridad y gobernanza llegarán más lejos en 2026 y tendrán un negocio menos vulnerable que aquellas que las ignoren. Las tres prácticas siguientes conforman un triunvirato que ayudará a reducir los riesgos de adentrarse en la IA generativa y agéntica:

1. Protege tus modelos

Las novedades deben protegerse, y todas las formas de IA generativa se basan en uno o varios LLM. No basta con confiar en que los creadores de los modelos mejoren continuamente la precisión, reduzcan las alucinaciones y eviten el «jailbreaking». Las empresas deben invertir en servicios de prompts y modelos capaces de detectar y detener de forma independiente los comportamientos no deseados. Además, dado que toda empresa que utiliza un LLM emplea en realidad más de uno, es imprescindible abstraer las aplicaciones de la llamada a la API de inferencia para satisfacer sus requisitos de disponibilidad, enrutamiento, escalabilidad y control de costes.

2. Protege tus datos

Los datos empresariales expuestos a los modelos pueden ser o no datos nuevos para la empresa. En cualquier caso, deben protegerse, y no basta con protegerlos donde se almacenan o cifrarlos cuando se transmiten por la red. Los datos presentes en el entorno privado de la empresa, sea cual sea su forma, incluso si van a utilizarse con un servicio de terceros autorizado o por una entidad externa, también deben detectarse y protegerse. No se equivoque: el foco no está en la procedencia, sino en la salida.

3. Protege tus agentes

Los agentes cambian las reglas del juego porque utilizan LLM para decidir qué acciones llevar a cabo con el fin de alcanzar un objetivo final que ellos mismos determinan. Para funcionar, necesitan permiso para realizar acciones, acceder a recursos y crear, modificar y eliminar información. Deben ser supervisados y controlados por un sistema externo al agente, pero lo bastante cercano como para observarlo y evaluarlo eficazmente. Han surgido dos enfoques principales cuya evolución en los próximos meses merece un seguimiento atento: los marcos de barreras de seguridad (como MCP-Universe) y los marcos de LLM como juez (como Microsoft LLM-as-a-Judge Framework).

El primero define la verdad de referencia mediante operaciones muy específicas basadas en tareas para comparar los resultados de las acciones iniciadas por el agente con los de otras acciones independientes, cuyos datos obtiene previamente un software que sigue instrucciones explícitas. Su punto fuerte es el repertorio cada vez mayor de código de ejemplo para comprobar diversos datos, como información meteorológica o hechos históricos, utilizando fuentes preseleccionadas y de fiabilidad contrastada. Recopila la información y, a continuación, utiliza esos resultados como verdad de referencia para compararlos con los obtenidos por un agente desplegado.

Este último utiliza un LLM diferente, o incluso varios LLM, para analizar el comportamiento de un agente desplegado y evaluar la calidad y la idoneidad de sus resultados según los criterios definidos por la empresa. Ambos enfoques son prometedores, están evolucionando rápidamente y permanecen bajo el control de la empresa. Y, lo que es aún mejor, ambos pueden reforzarse con mecanismos de supervisión humana cuando sea necesario.

Este triunvirato de controles sobre modelos, datos y agentes subsana las carencias en materia de ciberseguridad y gobernanza que, de otro modo, expondrían a la empresa a los nuevos tipos de riesgos asociados a la IA generativa y los sistemas agénticos.

Para obtener más información sobre el uso de estos tipos de controles como servicios de infraestructura independientes, lea el reciente anuncio de F5 sobre CalypsoAI, empresa pionera en soluciones de defensa, red teaming y gobernanza para aplicaciones y agentes de IA.

Sobre el autor

James HendergartDirector sénior de Investigación Técnica | F5

Más artículos de James Hendergart