Gobernanza de datos de IA: controle los datos durante todo el ciclo de vida de la IA

F5 Newsroom Staff

La IA empresarial ha superado con creces la fase piloto. Según el Informe de F5 sobre el estado de la estrategia de aplicaciones en 2026, el 78 % de las organizaciones afirmó que ya utiliza inferencia de IA, y el 98 % señaló que se está preparando para la IA agéntica.

A medida que las empresas aceleran la implantación de sistemas de IA, la gobernanza de datos se perfila como un reto clave. Los sistemas de IA dependen de los datos en todas las etapas de su ciclo de vida. Las organizaciones introducen datos en los modelos de IA para entrenarlos y perfeccionarlos. Las herramientas de IA reciben datos en forma de instrucciones, recuperan datos de bases de datos vectoriales y generan datos como respuestas narrativas. Además, los agentes autónomos acceden a datos para llevar a cabo tareas.

Cada paso implica tomar una decisión sobre la gobernanza de datos. Es necesario supervisar el flujo de datos y controlar el acceso a ellos. Muy pocas organizaciones cuentan con medidas de gobernanza antes de implantar la herramienta más reciente o desarrollar un nuevo agente. Como consecuencia, tanto los datos como la empresa quedan expuestos a múltiples amenazas.

El primer paso para implantar la gobernanza de datos de IA consiste en comprender en qué se diferencia tanto de la gobernanza de datos tradicional como de la gobernanza de modelos de IA. A partir de ahí, puede centrarse en las áreas de mayor riesgo y establecer prácticas que permitan controlar los datos confidenciales sin ralentizar la implantación de la IA.

¿Qué es la gobernanza de datos de IA?

La gobernanza de datos de IA es el conjunto de políticas y controles técnicos que supervisan cómo se recopilan, clasifican, utilizan, transmiten, conservan y eliminan los datos a lo largo del ciclo de vida de la IA. La gobernanza de datos debe abarcar una amplia variedad de datos, entre ellos:

• Datos utilizados para entrenar y ajustar modelos.
• Instrucciones y respuestas intercambiadas durante la inferencia.
• Datos que complementan las respuestas de los modelos.
• Llamadas a herramientas y API realizadas por agentes.
• Datos de telemetría generados durante los procesos de IA.

Los enfoques tradicionales de gobernanza de datos no funcionan con los sistemas de IA. Estos enfoques se centran principalmente en los datos estructurados que se encuentran en repositorios empresariales. Se accede a esos datos en reposo mediante consultas predecibles y los accesos se revisan periódicamente.

Los datos de los sistemas de IA presentan atributos y comportamientos diferentes. En concreto, los datos de IA son:

• No estructurados y conversacionales: Las instrucciones de formato libre y las respuestas generadas por IA no pueden regirse por políticas diseñadas para datos estructurados almacenados en bases de datos.
• En movimiento: En los sistemas de IA, los datos están en constante movimiento: las instrucciones se introducen en un modelo y este devuelve una respuesta. Un agente de IA puede realizar miles de llamadas a API y modelos en cuestión de segundos. Las revisiones trimestrales de acceso de los modelos tradicionales de gobernanza de datos no bastarán para controlar estos datos en movimiento. La gobernanza de datos de IA debe automatizarse para seguir el ritmo de los sistemas de IA.
• No determinista: Un modelo de IA puede responder de forma diferente a la misma pregunta cada vez. Los controles de salida deben evaluar el significado y el contexto. No pueden basarse en la coincidencia de patrones propia de la gobernanza de datos tradicional.

En el caso de los datos de los sistemas de IA, la gobernanza debe aplicarse en línea, en los puntos de interacción.

Gobernanza de datos de IA frente a gobernanza de modelos de IA

La gobernanza de datos de IA y la gobernanza de modelos de IA deben funcionar de forma conjunta, pero son estrategias distintas. A menudo están a cargo de equipos diferentes.

La gobernanza de modelos de IA se centra en controlar los modelos y los agentes. Las estrategias de gobernanza de modelos determinan qué modelos están aprobados para su uso, quién es su propietario, cómo se entrenan, qué versión se ejecuta en producción, cómo se supervisa su comportamiento y cuándo se retiran.

La gobernanza de datos de IA se centra en los datos a los que puede acceder la IA y en las rutas por las que circulan. Estas estrategias controlan cómo se clasifican los datos, qué datos no pueden salir de la empresa, dónde deben procesarse y durante cuánto tiempo deben conservarse.

La gobernanza de los datos y de los modelos de IA debe funcionar de forma conjunta, porque, de lo contrario, ambas fracasarán. Si no se inspeccionan las instrucciones y las respuestas de los modelos, incluso un modelo bien evaluado y documentado exhaustivamente puede filtrar datos sujetos a regulación. Del mismo modo, si un agente no autorizado tiene acceso a una base de datos de clientes, unos controles de datos sólidos podrían no impedir que los datos queden expuestos.

Esta interdependencia se refleja en los marcos y estándares consolidados de gobernanza de la IA. El Marco de Gestión de Riesgos de la IA del Instituto Nacional de Estándares y Tecnología (NIST AI RMF) adopta un enfoque del riesgo de la IA basado en el ciclo de vida mediante sus funciones de gobernar, contextualizar, medir y gestionar. La norma ISO/IEC 42001 establece asimismo un sistema de gestión para toda la organización destinado a gobernar la IA, mientras que la Matriz de Controles de IA de Cloud Security Alliance (AICM) convierte la gobernanza de la IA en controles de seguridad aplicables. En todos estos enfoques, la gobernanza de los datos y la de los modelos no se tratan de forma aislada: ambas forman parte de la gestión del riesgo de la IA a lo largo de todo el ciclo de vida.

Identificación de los principales riesgos de los datos de IA

Existen varias formas en las que los datos podrían quedar expuestos, ya sea de manera accidental o intencionada, mientras circulan por los sistemas de IA. La gobernanza de la IA tiene como objetivo eliminar o mitigar estas vulnerabilidades.

• IA en la sombra: Los empleados suelen adoptar herramientas de IA sin que los equipos de seguridad o TI lo sepan. Aunque existan soluciones de seguridad para toda la empresa o políticas de gobernanza de datos, los datos que circulan por sistemas de IA no autorizados siguen sin estar sujetos a ningún control.
• Entrada: Al utilizar herramientas autorizadas, los empleados podrían introducir inadvertidamente información confidencial, desde datos de clientes hasta información sanitaria, simplemente porque es la forma más rápida de obtener respuestas. Esos datos pueden quedar expuestos a una exfiltración.
• Salida: Cuando se le formulan determinadas instrucciones, un modelo de IA generativa puede reproducir fragmentos de los datos de entrenamiento, incluidos datos personales (lo que a veces se denomina «filtración por memorización»). Un atacante puede utilizar la IA para recomponer esos fragmentos y reconstruir información confidencial con fines fraudulentos.
• Canalizaciones de recuperación: La generación aumentada por recuperación (RAG) utiliza datos almacenados en bases de datos vectoriales. Cuando los documentos se incorporan a esas bases de datos sin sus controles de acceso originales, un modelo puede mostrar contenido a un usuario que no tiene permiso para abrir el archivo original.
• Agentes con privilegios permanentes: Cualquier amenaza para un agente se extiende a las herramientas, bases de datos y servidores a los que está conectado. Si se conceden permisos amplios a un agente, los datos a los que accede pueden quedar expuestos.
• Modelos de terceros: Enviar instrucciones a un modelo externo implica que los datos confidenciales quedan fuera del control de la organización y pueden cruzar fronteras geográficas. Esto dificulta la gestión de los periodos de conservación, el control de las ubicaciones de procesamiento, el cumplimiento de los requisitos de localización de datos y la garantía de que la información confidencial no se utilice para entrenar modelos.
• Persistencia de los datos: Eliminar los datos después de un determinado periodo de tiempo o en respuesta a una solicitud de un cliente suele ser un requisito de las políticas de gobernanza de datos. Eliminar registros de una base de datos es bastante sencillo, pero resulta más difícil eliminar la información que ya se ha incorporado a los pesos del modelo. Por tanto, planifique cuidadosamente qué datos utiliza para el entrenamiento.

Por qué las herramientas de seguridad dejan brechas en los sistemas de IA

Las herramientas de prevención de pérdida de datos (DLP) y de gestión de la postura de seguridad de los datos (DSPM) pueden ser sumamente útiles para proteger los datos empresariales. Sin embargo, los sistemas de IA pueden poner de manifiesto importantes limitaciones de estas herramientas, entre ellas:

• Falta de visibilidad de los datos en tiempo real: Las herramientas de DSPM identifican dónde se encuentran los datos confidenciales. Sin embargo, los datos utilizados por los sistemas de IA están en movimiento y se vuelven vulnerables durante su tránsito. Las herramientas de DSPM no pueden proporcionar la visibilidad en tiempo real necesaria para gobernar esos datos.
• Clasificación optimizada para datos estructurados: Las herramientas de DLP y DSPM utilizan la coincidencia de patrones para clasificar los datos. Este método funciona con datos estructurados, pero no tan bien con el contenido narrativo no estructurado que los usuarios incluyen como instrucciones y reciben como respuestas.
• Aplicación de controles en el lugar equivocado: Una herramienta de DLP podría bloquear una carga desde un endpoint, pero no impedir que un usuario envíe un prompt que contenga información confidencial. La herramienta tendría que llegar a la capa de inferencia, donde se produce el intercambio de datos.
• No hay registros utilizables: Los equipos de cumplimiento normativo suelen tener que demostrar qué se le preguntó a un sistema de IA, cómo respondió y qué política se aplicó. Las herramientas convencionales de DLP y DSPM no pueden aportar esas pruebas.

Estas herramientas sencillamente no se diseñaron para proteger los datos en los flujos de trabajo de IA. Deben complementarse con estrategias y soluciones específicas para la IA.

Prácticas para reforzar la gobernanza de datos en la IA

No todas las estrategias de gobernanza de la IA son iguales. Sin embargo, las estrategias que logran minimizar los riesgos suelen compartir varias de estas ocho prácticas recomendadas.

• Inventaríe todos los usos de la IA: Antes de poder gobernar los datos, debe saber dónde y cómo los utiliza la IA en toda su empresa. Catalogue no solo las aplicaciones y los agentes aprobados, sino también las herramientas no autorizadas, para descubrir todas las vías por las que podrían estar circulando los datos.
• Clasifique los datos durante las interacciones: Además de clasificar los datos en reposo, debe clasificar los datos incluidos en las instrucciones, las respuestas y las llamadas a herramientas. Para ello, se necesitan capacidades que permitan comprender el contexto de la conversación, en lugar de limitarse a patrones estructurados.
• Aplicar políticas en línea: Las políticas de gobernanza de datos deben aplicarse mientras los datos están en tránsito, antes de que lleguen a su destino. Por ejemplo, ocultar los datos confidenciales a medida que se introducen en una instrucción permite a los empleados seguir trabajando y, al mismo tiempo, evita que esos datos se incorporen a la base de conocimientos de un modelo, ya sea interno o externo.
• Aplique el principio de mínimo privilegio: Se debe impedir que los modelos, los agentes y las herramientas RAG accedan a datos confidenciales. Establezca medidas de protección para los sistemas de IA, de modo que los modelos y agentes de IA solo puedan acceder a lo estrictamente necesario, y revise los permisos del sistema con la misma frecuencia que los de los usuarios humanos.
• Genere un registro de auditoría: Para mejorar la respuesta ante incidentes y cumplir la normativa, mantenga un registro de auditoría que incluya las solicitudes, las respuestas, las políticas aplicadas y las decisiones de aplicación. Puede utilizar esa información para perfeccionar las políticas y demostrar el cumplimiento normativo.
• Realice pruebas de forma continua: Las amenazas evolucionan rápidamente. Una política que hoy protege eficazmente los datos confidenciales puede dejar de ser igual de efectiva dentro de seis meses. Implementar ejercicios de red teaming y pruebas automatizadas puede ayudar a detectar carencias y actualizar las políticas.
• Controle la cadena de suministro de datos: Una gobernanza integral requiere visibilidad de todos los elementos de un sistema de IA que interactúan con los datos. Por ejemplo, cuando utilice modelos externos, revise las condiciones del proveedor relativas a la exclusión voluntaria del entrenamiento, los plazos de conservación, las ubicaciones de procesamiento y el uso de subencargados del tratamiento.
• Asigne responsabilidades: La gobernanza de datos de IA puede implicar a los equipos de seguridad, privacidad, asuntos jurídicos, ciencia de datos y aplicaciones. Asigne la responsabilidad de la gobernanza de datos y realice revisiones periódicas para ayudar a garantizar que los sistemas implementados no se desvíen de las políticas establecidas.

Aplicar la gobernanza allí donde se ejecuta la IA

La mayoría de las prácticas de gobernanza de datos solo son eficaces si se aplican directamente en la ruta del tráfico de IA. Este es el principio en el que se basa el enfoque de F5 para la gobernanza y la seguridad de los datos de IA.

La F5 AI Security Platform integra funciones de descubrimiento, gobernanza, pruebas y protección en tiempo de ejecución para la IA empresarial. F5 Workforce AI Security ofrece visibilidad sobre el uso autorizado y no autorizado de la IA, incluidos los modelos, las herramientas, las instrucciones y los datos que utiliza el personal. F5 AI Gateway proporciona un punto de control para gestionar el acceso a modelos, agentes y herramientas de IA. F5 AI Red Team utiliza pruebas adversarias para identificar vulnerabilidades y puntos débiles en los sistemas de IA, mientras que F5 AI Guardrails aplica políticas durante las interacciones con la IA para ayudar a evitar filtraciones de datos confidenciales, actividades maliciosas e infracciones de las políticas.

Los datos no tienen por qué ser una vulnerabilidad. Con una gobernanza de datos adecuada, puede avanzar en la adopción de la IA de forma segura y con confianza.

Preguntas frecuentes

¿Cuál es la diferencia entre la gobernanza de datos de IA y la gobernanza de datos tradicional?

La gobernanza de datos tradicional gestiona principalmente datos estructurados almacenados en repositorios. La gobernanza de datos de IA debe abarcar los datos no estructurados en movimiento, como el texto que los usuarios introducen en las herramientas de IA y reciben en forma de respuestas generadas por IA. Dado que estos datos están en movimiento, la gobernanza debe aplicarse en línea, en los puntos de interacción.

¿Qué relación existe entre la gobernanza de datos de IA y la gobernanza de modelos de IA?

La gobernanza de modelos de IA supervisa los modelos y los agentes. Por ejemplo, las organizaciones deben mantener un inventario de los modelos, gestionar los permisos de los agentes y supervisar su comportamiento. La gobernanza de datos de IA se centra en los datos que entran y salen de esos modelos y agentes. En la práctica, la gobernanza de datos y la de modelos deben funcionar de forma coordinada, ya que, si una falla, la otra también.

¿Por qué las soluciones de seguridad tradicionales, como las herramientas de DLP y DSPM, son insuficientes para la gobernanza de datos de IA?

Aunque las herramientas de prevención de pérdida de datos (DLP) y de gestión de la postura de seguridad de los datos (DSPM) son esenciales para proteger los datos, su utilidad para la gobernanza de datos de IA es limitada. La mayoría no pueden ofrecer visibilidad de los datos en tiempo real, clasificar datos no estructurados, aplicar políticas de gobernanza durante la inferencia ni generar registros de auditoría para los sistemas de IA.

¿Cómo ayuda F5 a las organizaciones a desarrollar estrategias eficaces de gobernanza de datos?

F5 AI Security Platform permite a las organizaciones detectar el uso de la IA en toda la empresa, desarrollar políticas de gobernanza de datos y aplicarlas mientras los datos fluyen a través de los sistemas de IA. Las organizaciones también pueden utilizar las capacidades de F5 para generar registros listos para auditorías y cumplir con las leyes, los marcos y las normas relacionados con los datos y los sistemas de IA.

Obtenga más información sobre F5 AI Security Platform.

Sobre el autor

F5 Newsroom Staff

Más artículos de F5 Newsroom Staff