Por qué el enrutamiento de modelos podría convertirse en infraestructura de seguridad

Lori Mac VittieIngeniero distinguido y evangelista jefe | F5

Durante las dos últimas décadas, la seguridad empresarial se ha centrado en la identidad. Autenticar al usuario. Autorizar la acción. Auditar la solicitud. La IA agéntica está poniendo de manifiesto los límites de ese modelo.

A medida que las organizaciones dependen cada vez más de los sistemas de IA para obtener información, tomar decisiones y ejecutar tareas, la cuestión ya no es simplemente quién realiza la solicitud. La cuestión es en qué modelo se debe confiar para llevar a cabo el trabajo en primer lugar.

Al mismo tiempo, está surgiendo una segunda tendencia. Las capacidades de IA se están trasladando a los dispositivos finales. Los ordenadores ya incorporan unidades de procesamiento neuronal (NPU) y modelos integrados capaces de ejecutar inferencias de forma local. Los modelos de lenguaje pequeños se están convirtiendo en componentes prácticos de aplicaciones cotidianas, en lugar de limitarse a servicios exclusivamente en la nube.

Estas dos tendencias convergen de una manera interesante.

A medida que la IA se traslada a los dispositivos finales, el enrutamiento de modelos puede pasar de ser un mecanismo de optimización del rendimiento y los costes a convertirse en un elemento fundamental de la arquitectura de seguridad.

La premisa actual: un modelo, muchos permisos

La mayoría de las arquitecturas de agentes actuales parten de la premisa de que un modelo de propósito general opera con acceso a un conjunto cada vez mayor de herramientas, API, fuentes de datos y sistemas empresariales.

La seguridad suele implementarse en capas alrededor del modelo:

• Los sistemas de identidad determinan quién inició una solicitud.
• Los controles de acceso determinan qué recursos están disponibles.
• Guardrails intentan limitar el comportamiento.
• La auditoría registra las acciones después de su ejecución.

Este enfoque reproduce la arquitectura tradicional de las aplicaciones, en la que una única aplicación recibe permisos y los controles de seguridad determinan qué puede hacer. El reto es que cada vez se pide más a los modelos de lenguaje de gran tamaño que realicen tareas con perfiles de riesgo radicalmente distintos.

Resumir un documento, aprobar un informe de gastos, modificar el registro de un cliente y eliminar infraestructura de producción no son operaciones equivalentes. Sin embargo, muchas arquitecturas las tratan como variantes de una misma interacción.

A medida que se amplían las capacidades de los agentes, aumenta la presión para añadir continuamente más políticas, más controles y más supervisión en torno a sistemas cada vez más capaces.

El resultado es una complejidad cada vez mayor tanto en la gobernanza como en la aplicación de las normas.

Un enfoque alternativo: autoridad mediante la especialización

¿Y si la solución no consistiera en aplicar controles más estrictos a un modelo de propósito general? ¿Y si la solución fuera reducir la autoridad de la que puede disponer un único modelo?

Históricamente, los sistemas distribuidos evolucionaron hacia la especialización porque esta reduce la complejidad y limita los dominios de fallo. Las bases de datos realizan funciones propias de las bases de datos. Los proxies realizan funciones de proxy. Los balanceadores de carga realizan funciones de balanceo de carga.

Las arquitecturas de IA podrían seguir un camino similar.

En lugar de un único modelo con privilegios elevados, las organizaciones pueden implementar conjuntos de modelos especializados:

• Modelos locales para resumir y clasificar
• Modelos de recuperación para acceder al conocimiento empresarial
• Modelos de flujo de trabajo para la orquestación
• Modelos de acciones para procesos empresariales específicos
• Modelos altamente restringidos para operaciones con privilegios

Cada modelo dispondría únicamente de las capacidades necesarias para la función prevista. En lugar de depender exclusivamente de la aplicación de políticas tras seleccionar el modelo, los arquitectos podrían vincular cada vez más la autoridad directamente a la propia selección del modelo.

El modelo elegido pasa a formar parte de la decisión de seguridad.

El enrutamiento de modelos como enrutamiento de políticas

Hoy en día, el enrutamiento de modelos se aborda principalmente en términos de coste y rendimiento. Las organizaciones dirigen las solicitudes a distintos modelos en función de los requisitos de latencia, los costes de los tokens o las capacidades de razonamiento. Con el tiempo, los criterios de enrutamiento podrían ampliarse considerablemente.

Una futura decisión de enrutamiento podría evaluar:

• Sensibilidad de los datos
• Requisitos normativos
• Nivel de autoridad requerido
• Requisitos de acceso a las herramientas
• Restricciones de residencia de datos
• Nivel de confianza del usuario
• Capacidades del endpoint

En este modelo, el enrutamiento deja de centrarse tanto en encontrar el modelo más barato y pasa a priorizar la selección del entorno de ejecución más seguro.

• Una solicitud que implique datos financieros confidenciales puede limitarse al procesamiento local.
• Una solicitud que requiera acceso a los sistemas del cliente puede dirigirse a un modelo alojado por la empresa con herramientas aprobadas.
• Una solicitud que implique acciones destructivas puede requerir su derivación a un entorno de ejecución estrictamente controlado.

La capa de enrutamiento se convierte, en la práctica, en un punto de decisión de políticas.

Por qué la IA en los endpoints cambia las reglas del juego

La aparición de la IA en los dispositivos finales puede acelerar este cambio.

Históricamente, los modelos alojados en la nube obligaban a las organizaciones a adoptar arquitecturas relativamente centralizadas. Los datos se enviaban al modelo porque este se encontraba en la nube. A medida que los modelos avanzados pasan a estar disponibles directamente en los dispositivos de los usuarios, surgen nuevos patrones arquitectónicos.

Es posible que la información confidencial nunca tenga que salir del dispositivo. Determinados flujos de trabajo pueden completarse íntegramente dentro de los límites de confianza locales.

Las organizaciones disponen de más opciones para equilibrar la privacidad, el rendimiento y la gobernanza. Y, lo que es más importante, cuentan con un nuevo mecanismo básico de seguridad.

La capacidad de decidir si una tarea debe ejecutarse de forma local o remota se convierte en un control arquitectónico relevante. En algunos casos, incluso el modelo en la nube más seguro puede suponer una mayor exposición que un modelo local con capacidad suficiente y sin ningún tipo de acceso a la red.

Argumentos a favor de una pasarela de IA local

Esto abre la puerta a una nueva capa de infraestructura.

En lugar de permitir que las aplicaciones invoquen directamente los modelos, es posible que las organizaciones recurran cada vez más a pasarelas de IA locales encargadas de:

• Selección de modelos
• Aplicación de políticas
• Autorización de herramientas
• Controles de movimiento de datos
• Generación de auditorías
• Filtrado de contexto

Una posible vía de implementación consiste en utilizar un entorno de ejecución ligero basado en WebAssembly que funcione como proxy local de inferencia y políticas. Esta capa permitiría a las organizaciones aplicar una gobernanza coherente, independientemente del modelo que finalmente realice el trabajo. Y, lo que es más importante, separaría las decisiones de seguridad del comportamiento del modelo.

En lugar de confiar en que un modelo cumpla una política, la puerta de enlace controla si el modelo recibe esa capacidad desde el principio.

Esa distinción cobra cada vez más importancia a medida que los modelos adquieren mayor autonomía.

Implicaciones estratégicas

Este cambio tiene varias implicaciones de mayor alcance.

En primer lugar, el enrutamiento de modelos puede convertirse en una función arquitectónica esencial, en lugar de ser una característica de optimización de la plataforma.

En segundo lugar, los modelos especializados más pequeños pueden llegar a ser más valiosos que los modelos de propósito general de mayor tamaño en entornos empresariales, ya que ofrecen límites de autoridad más claros.

En tercer lugar, la IA en los dispositivos puede convertirse tanto en una estrategia de gobernanza como de rendimiento.

Por último, las organizaciones pueden empezar a considerar la selección de modelos como parte del propio control de acceso.

En ese futuro, las decisiones de seguridad ya no se limitarán a cuestiones relacionadas con los usuarios y los recursos. También abarcarán qué modelo debe considerarse fiable para una tarea determinada.

De cara al futuro

Durante años, la identidad ha sido el principal plano de control de la informática empresarial. Los sistemas agénticos están poniendo en entredicho esa premisa.

A medida que la IA se integre más profundamente en los procesos empresariales, las arquitecturas de seguridad necesitarán nuevos mecanismos para restringir la autoridad, limitar la exposición y reducir la complejidad operativa.

La especialización de los modelos ofrece una posible vía. En lugar de crear marcos de seguridad cada vez más amplios en torno a modelos con capacidades crecientes, las organizaciones pueden optar por distribuir la autoridad entre modelos especializados y utilizar una infraestructura de enrutamiento para hacer cumplir esos límites.

Si eso ocurre, el enrutamiento de modelos evolucionará más allá de la optimización del rendimiento para convertirse en enrutamiento basado en políticas. Y el enrutamiento basado en políticas siempre ha formado parte de la infraestructura de seguridad.

Sobre el autor

Lori Mac VittieIngeniero distinguido y evangelista jefe | F5

Lori MacVittie es ingeniera distinguida y evangelista jefe en la Oficina del CTO de F5, y cuenta con una amplia experiencia en entrega de aplicaciones, estrategia de automatización e infraestructura. Es conocida por convertir la complejidad en claridad, ya sea definiendo mecanismos de protección para agentes de IA, analizando arquitecturas multinube frágiles o explorando los límites de los sistemas escalables. Aporta más de treinta años de experiencia en el sector en desarrollo de aplicaciones, arquitectura de TI y operaciones de redes y sistemas. Antes de incorporarse a F5, fue una galardonada editora de tecnología. MacVittie posee un máster en Informática y es una autora prolífica cuyas publicaciones abarcan la seguridad, la nube y la arquitectura empresarial. También es una apasionada de los juegos de mesa y los videojuegos, y expresa sin complejos sus firmes opiniones sobre el queso.

Más artículos de Lori Mac Vittie