Un líder en tecnología para la gestión de personal protege la IA a gran escala con F5

Un proveedor global de tecnología para la gestión de personal necesitaba una gobernanza de la IA rigurosa en decenas de equipos internos de producto antes de poder ampliar de forma segura sus servicios basados en IA. F5 AI Guardrails proporcionó al departamento de seguridad de la empresa la visibilidad y el control necesarios para pasar de unos pocos casos de uso en producción a una adopción en toda la empresa.

Desafío empresarial

Los grandes proveedores de tecnología empresarial se enfrentan a una versión especialmente compleja de un problema conocido: necesitan avanzar con rapidez en materia de IA, pero una sola exposición de datos mal gestionada puede acarrear consecuencias catastróficas tanto a nivel normativo como reputacional. Esto es especialmente cierto en el caso de las empresas que gestionan datos confidenciales de personal en nombre de cientos de miles de organizaciones clientes.

Uno de los mayores proveedores mundiales de tecnología para la gestión del capital humano y la fuerza laboral se encontraba precisamente en esta situación. El programa interno de IA había crecido rápidamente, con más de 50 equipos de producto desarrollando herramientas y servicios basados en IA. Con decenas de aplicaciones de IA ya en producción, la hoja de ruta contemplaba cientos más. El ritmo de crecimiento sometía la gobernanza a una gran presión: un único equipo se encargaba de revisar y aprobar cada aplicación de IA antes de ponerla en producción para su uso en toda la empresa. Necesitaban una forma coherente de demostrar que todas las aplicaciones eran seguras para operar a gran escala.

Un alto responsable de seguridad tenía el mandato de supervisar la IA en todos los equipos de producto y rendía cuentas ante los máximos responsables de tecnología y privacidad de la empresa. Este modelo de gobernanza aportaba rigor al programa, pero también implicaba que cualquier solución de seguridad para la IA debía satisfacer a un amplio abanico de partes interesadas y superar el escrutinio de la dirección.

La empresa necesitaba una forma de proteger tanto el tráfico de IA entrante como el saliente, incluida la información y las instrucciones que los empleados y los sistemas enviaban a los modelos de IA, así como los resultados devueltos por estos. Esta protección debía implementarse sin ralentizar a las decenas de equipos de producto que ya desarrollaban soluciones sobre la infraestructura y las aplicaciones de IA existentes. La solución debía ofrecer un rendimiento fiable, ejecutarse en la infraestructura existente de la empresa, integrarse con otras herramientas de seguridad y ser escalable para gestionar los volúmenes de tráfico de una empresa global.

Soluciones

La empresa eligió F5 AI Guardrails, alojado en su propio entorno de nube e integrado directamente en la capa de middleware interna que canaliza todo el tráfico de IA de los distintos equipos de producto. A petición de la empresa, F5 también desarrolló funciones de detección personalizadas para adaptar la solución al entorno de implementación. Estas funciones incluían la detección de intentos de extraer prompts, manipular el modelo u ocultar o alterar datos para eludir los análisis estándar. Con la solución implantada, todos los prompts enviados a un modelo de IA y todas las respuestas devueltas se analizan en línea y de forma bidireccional.

Resultados

Protege los datos confidenciales en cada interacción con la IA

AI Guardrails analiza las instrucciones y las respuestas en línea y en tiempo real en todo el tráfico que cada equipo de producto canaliza a través de la capa de middleware de IA de la empresa. Esto proporciona al equipo de seguridad visibilidad sobre ambos lados de cada interacción con la IA.

Cada equipo de producto puede configurar la seguridad de forma independiente, ya sea bloqueando las infracciones de las políticas en tiempo real, auditando la actividad sin bloquearla u omitiendo los controles cuando corresponda. Un «interruptor de emergencia» para toda la plataforma proporciona al equipo de seguridad un único punto de control en caso de incidente. Los resultados se envían automáticamente al sistema de gestión de eventos e información de seguridad (SIEM) que ya utiliza la empresa, lo que ofrece al equipo de seguridad una visibilidad completa de la actividad de IA junto con el resto de las señales de seguridad que ya supervisa, sin necesidad de adoptar una herramienta independiente y desconectada.

Escale fácilmente la adopción de la IA con confianza

La empresa comenzó con unas 10 aplicaciones de IA en producción. Las dudas iniciales sobre el rendimiento se resolvieron rápidamente, y la solución se mantuvo estable con cargas reales de producción y bajo un estrecho escrutinio por parte de la dirección. Se cumplieron todos los plazos sin interrumpir los flujos de trabajo existentes.

La empresa trabaja ahora para alcanzar cientos de casos de uso en más de 50 grupos de productos. Gracias a una arquitectura de seguridad cuya eficacia a gran escala ya está demostrada, el equipo de gobernanza de la empresa puede revisar y aprobar nuevos casos de uso de IA con mayor rapidez, lo que ofrece a los equipos de producto de todo el mundo una vía hacia la producción más clara y coherente. AI Guardrails impulsa este crecimiento dentro de un calendario exigente marcado por la dirección ejecutiva, ampliando la capacidad a medida que se acelera la adopción.

Refuerce la gobernanza y simplifique el cumplimiento normativo

La elaboración centralizada de informes proporciona a la empresa un registro de auditoría sólido para cumplir las normas de conformidad. A lo largo de una serie de revisiones ejecutivas y de gobernanza, AI Guardrails aportó las pruebas necesarias para demostrar que los sistemas se supervisaban y controlaban de forma sistemática. Esta visibilidad ayudó a que la gobernanza dejara de ser un obstáculo y se convirtiera en un proceso repetible y defendible que contaba con el respaldo de los responsables de todos los niveles.

Ofrecer fiabilidad y resiliencia operativa

Una vez resueltas las dudas iniciales sobre el rendimiento mediante una colaboración directa y práctica con los expertos de F5, AI Guardrails se convirtió en uno de los componentes más fiables de la infraestructura de seguridad de la empresa.

El responsable de la plataforma de IA de la empresa afirma: «La solución de F5 es tan fiable y estable que casi nos hemos olvidado de que existís… y eso es justo lo que buscamos en nuestros proveedores de seguridad».

Tras demostrar el rendimiento de AI Guardrails a gran escala, la empresa está explorando ahora otras funcionalidades de F5 AI Security Platform, como el red teaming y la remediación, para trasladar ese mismo nivel de confianza a un conjunto más amplio de riesgos relacionados con la IA.