Governança de dados de IA: controle os dados em todo o ciclo de vida da IA

F5 Newsroom Staff

A IA empresarial já avançou muito além da fase piloto. De acordo com o Relatório sobre o Estado da Estratégia de Aplicações da F5 de 2026, 78% das organizações afirmaram que já operam inferência de IA. E 98% disseram estar se preparando para a IA agêntica.

À medida que as empresas aceleram a implementação de sistemas de IA, a governança de dados surge como um desafio fundamental. Os sistemas de IA dependem de dados em todas as etapas do seu ciclo de vida. As organizações fornecem dados aos modelos de IA para treinamento e aprimoramento. As ferramentas de IA recebem dados na forma de prompts, recuperam dados de bancos de dados vetoriais e geram dados como respostas narrativas. E agentes autônomos acessam dados para executar tarefas.

Cada etapa envolve uma decisão de governança de dados. O fluxo de dados deve ser monitorado, e o acesso aos dados, controlado. Poucas organizações implementam uma governança antes de adotar a ferramenta mais recente ou desenvolver um novo agente. Como resultado, os dados e a empresa ficam expostos a diversas ameaças.

O primeiro passo para implementar a governança de dados de IA é entender como ela difere tanto da governança de dados tradicional quanto da governança de modelos de IA. Assim, você pode se concentrar nas áreas de maior risco e estabelecer práticas que controlem dados confidenciais sem desacelerar a implementação da IA.

O que é governança de dados de IA?

A governança de dados de IA é o conjunto de políticas e controles técnicos que supervisionam como os dados são coletados, classificados, usados, transmitidos, armazenados e excluídos ao longo do ciclo de vida da IA. A governança de dados deve abranger uma ampla variedade de dados, incluindo:

• Dados usados para treinar e ajustar modelos.
• Prompts e respostas trocados durante a inferência.
• Dados que complementam as respostas dos modelos.
• Chamadas de ferramentas e APIs feitas por agentes.
• Dados de telemetria gerados durante processos de IA.

As abordagens tradicionais de governança de dados não funcionam com sistemas de IA. Essas abordagens se concentram principalmente em dados estruturados armazenados em repositórios corporativos. Esses dados em repouso são acessados por meio de consultas previsíveis, e o acesso é revisado periodicamente.

Os dados dos sistemas de IA têm atributos e comportamentos diferentes. Especificamente, os dados de IA são:

• Não estruturados e conversacionais: Prompts em formato livre e respostas geradas por IA não podem ser regidos por políticas concebidas para dados estruturados armazenados em bancos de dados.
• Em movimento: Nos sistemas de IA, os dados estão em constante movimento à medida que os prompts são inseridos em um modelo, que retorna uma resposta. Um agente de IA pode fazer milhares de chamadas a APIs e modelos em questão de segundos. As revisões trimestrais de acesso dos modelos tradicionais de governança de dados não serão suficientes para controlar esses dados em movimento. A governança de dados de IA deve ser automatizada para acompanhar a velocidade operacional dos sistemas de IA.
• Não determinístico: Um modelo de IA pode responder à mesma pergunta de forma diferente a cada vez. Os controles de saída precisam avaliar o significado e o contexto. Eles não podem depender da correspondência de padrões usada pela governança de dados tradicional.

No caso dos dados de sistemas de IA, a governança deve ser aplicada em linha, nos pontos de interação.

Governança de dados de IA vs. governança de modelos de IA

A governança de dados de IA e a governança de modelos de IA devem atuar em conjunto, mas são estratégias distintas. Muitas vezes, elas ficam sob a responsabilidade de equipes diferentes.

A governança de modelos de IA se concentra no controle de modelos e agentes. As estratégias de governança de modelos determinam quais modelos são aprovados para uso, quem é responsável por eles, como são treinados, qual versão está em execução no ambiente de produção, como o comportamento é monitorado e quando os modelos são desativados.

A governança de dados de IA concentra-se nos dados acessíveis à IA e nos caminhos que eles percorrem. Essas estratégias controlam como os dados são classificados, quais dados são impedidos de sair da empresa, onde devem ser processados e por quanto tempo devem ser retidos.

A governança de dados e de modelos de IA deve funcionar de forma integrada, pois, caso contrário, ambas falharão. Se os prompts e as respostas dos modelos não forem inspecionados, até mesmo um modelo amplamente documentado e bem avaliado ainda poderá vazar dados regulamentados. Da mesma forma, se um agente não aprovado tiver acesso a um banco de dados de clientes, controles de dados robustos talvez não sejam suficientes para impedir a exposição dos dados.

Essa interdependência se reflete em frameworks e normas consolidados de governança de IA. O Framework de Gestão de Riscos de IA do Instituto Nacional de Padrões e Tecnologia (NIST AI RMF) adota uma abordagem de ciclo de vida para os riscos de IA por meio de suas funções Governar, Mapear, Medir e Gerenciar. A ISO/IEC 42001 também estabelece um sistema de gestão para toda a organização voltado à governança de IA, enquanto a Matriz de Controles de IA da Cloud Security Alliance (AICM) traduz a governança de IA em controles de segurança aplicáveis. Nessas abordagens, a governança de dados e a governança de modelos não são tratadas isoladamente: ambas fazem parte da gestão dos riscos de IA ao longo de todo o ciclo de vida.

Identificação dos principais riscos de dados de IA

Há várias maneiras pelas quais os dados podem ser expostos acidental ou intencionalmente ao trafegar por sistemas de IA. A governança de IA existe para eliminar ou mitigar essas vulnerabilidades.

• IA paralela: Os funcionários frequentemente adotam ferramentas de IA sem o conhecimento das equipes de segurança ou de TI. Mesmo que você tenha soluções de segurança para toda a empresa ou políticas de governança de dados em vigor, os dados que passam por sistemas de IA não autorizados continuam sem governança.
• Entrada: Ao usar ferramentas autorizadas, os funcionários ainda podem inserir inadvertidamente informações confidenciais, desde dados de clientes até informações de saúde, simplesmente porque essa é a maneira mais rápida de obter respostas. Esses dados podem ficar sujeitos à exfiltração.
• Saída: Quando recebe determinados tipos de comando, um modelo de IA generativa pode reproduzir fragmentos dos dados de treinamento, incluindo partes de informações pessoais (o que às vezes é chamado de vazamento por memorização). Um invasor pode usar a IA para reunir esses fragmentos e reconstruir informações confidenciais para fins fraudulentos.
• Pipelines de recuperação: A geração aumentada por recuperação (RAG) utiliza dados armazenados em bancos de dados vetoriais. Quando documentos são incorporados a esses bancos de dados sem os controles de acesso originais, um modelo pode exibir conteúdo a um usuário que não tem permissão para abrir o arquivo original.
• Agentes com privilégios permanentes: Qualquer ameaça a um agente se estende às ferramentas, aos bancos de dados e aos servidores aos quais ele está conectado. Se um agente receber permissões amplas, os dados que ele acessa poderão ficar expostos.
• Modelos de terceiros: Enviar prompts para um modelo externo significa que dados confidenciais deixam de estar sob o controle da organização e podem atravessar fronteiras geográficas. Isso dificulta o gerenciamento dos períodos de retenção, o controle dos locais de processamento, o cumprimento dos requisitos de localização de dados e a garantia de que informações confidenciais não sejam usadas para treinar modelos.
• Persistência de dados: A exclusão de dados após determinado período ou em resposta à solicitação de um cliente costuma ser uma exigência das políticas de governança de dados. Excluir registros de um banco de dados é relativamente simples, mas é mais difícil remover informações que já foram incorporadas aos pesos do modelo. Portanto, planeje cuidadosamente quais dados serão usados no treinamento.

Por que as ferramentas de segurança deixam lacunas nos sistemas de IA

As ferramentas de prevenção contra perda de dados (DLP) e de gerenciamento da postura de segurança de dados (DSPM) podem ser extremamente valiosas para proteger os dados corporativos. No entanto, os sistemas de IA podem revelar limitações importantes dessas ferramentas, incluindo:

• Falta de visibilidade dos dados em tempo real: As ferramentas de DSPM mapeiam onde os dados confidenciais estão armazenados. No entanto, os dados usados por sistemas de IA estão em constante movimento e ficam vulneráveis durante esse processo. As ferramentas de DSPM não conseguem fornecer a visibilidade em tempo real necessária para controlar esses dados.
• Classificação otimizada para dados estruturados: As ferramentas de DLP e DSPM usam correspondência de padrões para classificar dados. Isso funciona para dados estruturados, mas não tão bem para o conteúdo narrativo e não estruturado que os usuários incluem como prompts e recebem como respostas.
• Aplicação de políticas no lugar errado: Uma ferramenta de DLP pode conseguir bloquear um upload feito a partir de um endpoint, mas não impedir que um usuário envie um prompt contendo informações confidenciais. Para isso, a ferramenta precisaria alcançar a camada de inferência, onde ocorre a troca de dados.
• Nenhum registro utilizável: As equipes de conformidade muitas vezes precisam demonstrar o que foi perguntado a um sistema de IA, como ele respondeu e qual política foi aplicada. As ferramentas convencionais de DLP e DSPM não conseguem produzir essas evidências.

Essas ferramentas simplesmente não foram desenvolvidas para proteger dados em fluxos de trabalho de IA. Elas precisam ser complementadas com estratégias e soluções específicas para IA.

Práticas para fortalecer a governança de dados de IA

Nem todas as estratégias de governança de IA são iguais. No entanto, as estratégias que conseguem minimizar os riscos geralmente adotam várias destas oito práticas recomendadas.

• Faça um inventário de todo o uso de IA: Antes de poder governar os dados, você precisa saber onde e como eles estão sendo usados pela IA em toda a sua empresa. Catalogue não apenas os aplicativos e agentes aprovados, mas também as ferramentas não autorizadas, para identificar todos os caminhos pelos quais os dados podem estar circulando.
• Classifique os dados durante as interações: Além de classificar os dados em repouso, é necessário classificar os dados em prompts, respostas e chamadas de ferramentas. Para isso, são necessários recursos capazes de compreender o contexto da conversa, em vez de apenas padrões estruturados.
• Aplique políticas em tempo real: As políticas de governança de dados devem ser aplicadas enquanto os dados estão em trânsito, antes que cheguem ao destino. Por exemplo, ocultar dados confidenciais à medida que são inseridos em um prompt permite que os funcionários continuem trabalhando, ao mesmo tempo que impede que esses dados sejam incorporados à base de conhecimento de um modelo, seja ele interno ou externo.
• Aplique o princípio do menor privilégio: Modelos, agentes e ferramentas de RAG devem ser impedidos de acessar dados confidenciais. Estabeleça mecanismos de proteção para sistemas de IA, garantindo que modelos e agentes de IA possam acessar apenas o estritamente necessário, e revise as permissões dos sistemas com a mesma frequência aplicada aos usuários humanos.
• Produza uma trilha de auditoria: Para melhorar a resposta a incidentes e cumprir as regulamentações, mantenha uma trilha de auditoria que contenha solicitações, respostas, políticas aplicadas e decisões de aplicação. Você pode usar essas informações para ajustar as políticas e demonstrar conformidade.
• Teste continuamente: As ameaças evoluem rapidamente. Uma política que protege dados confidenciais com eficácia hoje pode não ser tão eficaz daqui a seis meses. A implementação de exercícios de red teaming e testes automatizados pode ajudar a identificar lacunas e atualizar as políticas.
• Controle a cadeia de fornecimento de dados: Uma governança abrangente exige visibilidade de todos os elementos de um sistema de IA que interagem com os dados. Ao usar modelos externos, por exemplo, analise os termos do provedor referentes à opção de não permitir o uso de dados para treinamento, aos períodos de retenção, aos locais de processamento e ao uso de suboperadores.
• Atribua responsabilidades: A governança de dados de IA pode envolver equipes de segurança, privacidade, jurídico, ciência de dados e aplicações. Atribua a responsabilidade pela governança de dados e realize revisões periódicas para ajudar a garantir que os sistemas implantados não se desviem das políticas estabelecidas.

Aplicando a governança onde a IA opera

A maioria das práticas de governança de dados só é eficaz quando aplicada diretamente ao fluxo de tráfego de IA. Esse é o princípio por trás da abordagem da F5 para governança e segurança de dados de IA.

A F5 AI Security Platform reúne descoberta, governança, testes e proteção em tempo de execução para a IA em toda a empresa. F5 Workforce AI Security oferece visibilidade sobre o uso autorizado e não autorizado de IA, incluindo os modelos, as ferramentas, os prompts e os dados utilizados pelos colaboradores. F5 AI Gateway oferece um ponto de controle para gerenciar o acesso a modelos, agentes e ferramentas de IA. F5 AI Red Team usa testes adversariais para identificar vulnerabilidades e pontos fracos em sistemas de IA, enquanto o F5 AI Guardrails aplica políticas durante as interações com a IA para ajudar a evitar o vazamento de dados confidenciais, atividades maliciosas e violações de políticas.

Os dados não precisam ser uma vulnerabilidade. Com a governança de dados adequada, você pode avançar na adoção da IA com segurança e confiança.

Perguntas frequentes

Qual é a diferença entre a governança de dados de IA e a governança de dados tradicional?

A governança de dados tradicional gerencia principalmente dados estruturados armazenados em repositórios. A governança de dados de IA deve abranger dados não estruturados em trânsito, como os textos que os usuários inserem em ferramentas de IA e recebem como respostas geradas por IA. Como esses dados estão em trânsito, a governança deve ser aplicada em linha, nos pontos de interação.

Como a governança de dados de IA se relaciona com a governança de modelos de IA?

A governança de modelos de IA supervisiona modelos e agentes. Por exemplo, as organizações precisam manter um inventário dos modelos, gerenciar as permissões dos agentes e monitorar seu comportamento. A governança de dados de IA concentra-se nos dados que entram e saem desses modelos e agentes. Na prática, a governança de dados e a de modelos devem atuar em conjunto, pois, quando uma falha, a outra também falha.

Por que as soluções de segurança tradicionais, como as ferramentas de DLP e DSPM, são insuficientes para a governança de dados de IA?

Embora as ferramentas de prevenção contra perda de dados (DLP) e de gerenciamento da postura de segurança de dados (DSPM) sejam essenciais para proteger os dados, sua utilidade para a governança de dados de IA é limitada. A maioria delas não consegue oferecer visibilidade dos dados em tempo real, classificar dados não estruturados, aplicar políticas de governança durante a inferência nem gerar trilhas de auditoria para sistemas de IA.

Como a F5 ajuda as organizações a desenvolver estratégias eficazes de governança de dados?

A F5 AI Security Platform permite que as organizações identifiquem o uso de IA em toda a empresa, desenvolvam políticas de governança de dados e implementem essas políticas enquanto os dados trafegam pelos sistemas de IA. As organizações também podem usar os recursos da F5 para gerar registros prontos para auditoria e cumprir leis, estruturas e normas relacionadas a dados e sistemas de IA.

Saiba mais sobre a F5 AI Security Platform.

Sobre o autor

F5 Newsroom Staff

Mais publicações de F5 Newsroom Staff