Um triunvirato com reconhecimento de aplicações para a governança da IA agêntica

James HendergartDiretor Sênior de Pesquisa Técnica | F5

Inovação é uma coisa. Governança é outra. Uma combinação preocupante de estatísticas de pesquisas confirma que a adoção da IA generativa pelas empresas avança a todo vapor, apesar das lacunas de governança que deveriam servir de alerta.

De acordo com a Pesquisa da PwC sobre agentes de IA, de maio de 2025, 79% das empresas já adotaram a IA, e apenas 2% não estão considerando o uso de IA agêntica. Independentemente de esses agentes apresentarem características verdadeiramente agênticas — como a capacidade de elaborar planos de trabalho e executar ações em várias etapas, avaliar resultados e se autoajustar — ou de serem chatbots que encaminham solicitações pontuais a um modelo de linguagem de grande escala (LLM) selecionado, a adoção é muito alta, e quase todas essas empresas planejam aumentar os investimentos em IA no próximo ano.

Compare isso com nossa própria pesquisa—que usa um Índice de Prontidão para IA para quantificar a capacidade operacional de dimensionar, proteger e manter sistemas de IA com sucesso—apenas 2% das organizações estão altamente preparadas para enfrentar os desafios inerentes ao projeto, à implantação e à operação de sistemas habilitados por IA.

Ainda assim, as equipes de TI e segurança não têm escolha, segundo uma pesquisa da EY, que mostra que a maioria dos líderes empresariais acredita que precisa adotar a IA agêntica ainda este ano para superar seus concorrentes até esta mesma época no ano que vem. As organizações que reduzirem o ritmo o suficiente para sanar de forma criteriosa as lacunas de segurança e governança estarão mais avançadas e terão um negócio menos vulnerável em 2026 do que aquelas que as ignorarem. As três práticas a seguir formam um conjunto que ajudará a reduzir os riscos da adoção da IA generativa e agêntica:

1. Proteja seus modelos

O que é novo precisa ser protegido, e toda forma de IA generativa tem um ou mais LLMs em seu núcleo. Confiar que os criadores dos modelos aprimorem continuamente a precisão, reduzam as alucinações e impeçam o jailbreaking não é suficiente. As empresas precisam investir em serviços de prompts e modelos capazes de detectar e interromper comportamentos indesejados de forma independente. Além disso, como toda empresa que usa um LLM na verdade utiliza mais de um, é essencial abstrair das aplicações a chamada à API de inferência para atender aos requisitos de disponibilidade, roteamento, escalabilidade e controle de custos dessas aplicações.

2. Proteja seus dados

Os dados corporativos expostos aos modelos podem ou não ser novos para a empresa. O fato é que eles precisam ser protegidos, e não se trata apenas de proteger os dados onde estão armazenados ou criptografá-los quando trafegam pela rede. Os dados presentes no ambiente privado da empresa, de qualquer maneira ou forma, mesmo que sejam usados com um serviço terceirizado aprovado ou por uma entidade terceirizada, também precisam ser detectados e protegidos. Não se engane: o foco não é a procedência, mas a saída dos dados.

3. Proteja seus agentes

Os agentes mudam as regras do jogo porque usam LLMs para decidir quais ações tomar a fim de alcançar um objetivo final que eles próprios definem. Para operar, precisam de permissão para executar ações, acessar recursos e criar, alterar e excluir informações. Eles devem ser monitorados e controlados por algo externo ao agente, mas próximo o suficiente para observá-lo e avaliá-lo de forma eficaz. Duas abordagens principais surgiram e merecem atenção à medida que amadurecem nos próximos meses: frameworks de proteção (como o MCP-Universe) e frameworks de LLM como juiz (como o Microsoft LLM-as-a-Judge Framework).

A primeira abordagem define a verdade fundamental usando operações muito específicas, baseadas em tarefas, para comparar os resultados de ações iniciadas pelo agente com ações independentes, executadas previamente por um software explicitamente direcionado. Seu ponto forte é o conjunto cada vez maior de códigos de exemplo para verificar diversos dados, como informações meteorológicas ou fatos históricos, usando fontes pré-selecionadas e reconhecidamente confiáveis. Ela coleta as informações e, em seguida, compara esses resultados, tomados como verdade fundamental, com o que um agente implantado produz.

Este último usa um LLM diferente, ou até mesmo vários LLMs, para analisar o comportamento de um agente implantado e avaliar a qualidade e a adequação de seus resultados conforme os critérios definidos pela empresa. Ambas as abordagens são promissoras, estão amadurecendo rapidamente e permanecem sob o controle da empresa. Melhor ainda, ambas podem ser reforçadas com controles que incluam a intervenção humana, conforme necessário.

Esse triunvirato de controles que abrange modelos, dados e agentes elimina as lacunas em segurança cibernética e governança que, de outra forma, exporiam uma empresa aos novos tipos de risco associados à IA generativa e aos sistemas agênticos.

Para saber mais sobre o uso desses tipos de controles como serviços de infraestrutura independentes, leia o anúncio recente da F5 sobre a CalypsoAI, pioneira em soluções de defesa, red teaming e governança para aplicações e agentes de IA.

Sobre o autor

James HendergartDiretor Sênior de Pesquisa Técnica | F5

Mais publicações de James Hendergart