Agora que chegamos à metade de 2025, é oportuno traçar um panorama da adoção da IA pelas empresas e do estado da segurança de IA.
O uso de IA generativa nas empresas agora é padrão
De modo geral, as empresas têm pelo menos uma compreensão básica da IA generativa. Elas entendem o que ela é e onde pode ser aplicada. Se você trabalha em uma função que não tem acesso à IA generativa, neste momento está ficando para trás.
O desenvolvimento de aplicações com base em IA generativa está rapidamente se tornando uma prática padrão nas empresas. Vemos isso em primeira mão: nossos clientes estão colocando aplicações de IA em produção, tanto para uso interno quanto externo.
Quando se trata da adoção de agentes, há duas vertentes: a adoção por meio de terceiros e o desenvolvimento de agentes próprios. A adoção de agentes por meio de terceiros já está bastante avançada, mas as empresas nem sempre sabem que já os adotaram. Organizações que começaram usando a interface de um modelo de IA generativa em um navegador podem não perceber que também estão usando IA agêntica.
Por exemplo, quando o Google Gemini foi lançado, ele não tinha nenhum recurso de IA agêntica integrado; agora, o Deep Research é um agente dentro do Gemini. Quando recebe um prompt, o Deep Research determina quais tarefas e pesquisas na web deve realizar, reúne as informações e cria relatórios. Da mesma forma, há agentes no Microsoft 365 Copilot.
O desenvolvimento de agentes proprietários ainda está principalmente na fase de prototipagem e experimentação, mas os agentes estão avançando muito mais rápido do que a IA generativa avançou. Em 2024, as perguntas eram: isso realmente vai acontecer? Existe mesmo uma diferença em termos de risco? Agora, essas dúvidas ficaram para trás. As empresas não têm mais dúvidas.
É por isso que entender os agentes e a resistência agêntica é tão importante.
MCP não é sinônimo de segurança
Muitas empresas começaram a considerar o Model Context Protocol (MCP) como a forma de introduzir a IA agêntica. As organizações estão quase substituindo a palavra “agente” por MCP e falam em “criar um MCP”.
Isso não é exatamente correto. Na prática, o MCP representa o menu de opções que um agente pode usar para realizar tarefas. Pense no servidor MCP dizendo: “Estas são as opções disponíveis”, enquanto o cliente MCP decide: “Vou usar esta opção desta forma”. Em seguida, ele usa um modelo de IA para determinar o que fazer e como.
Nessa estrutura, o risco ainda decorre do modelo. Outros riscos estão presentes no software do servidor. Esses riscos não são eliminados automaticamente pelo MCP. O protocolo é muito bom, mas está longe de ser seguro por padrão, como vimos em incidentes de segurança recentes. Por exemplo, a Asana identificou e divulgou recentemente um bug que poderia ter exposto dados de usuários do MCP da Asana a usuários de outras contas.
Ao presumir que o MCP minimiza os riscos, as empresas podem, na verdade, aumentar sua exposição a eles. Muitos de nossos clientes e potenciais clientes agora estão perguntando: “Explique como vocês protegem o MCP”. Eles precisam adotar uma visão holística que considere e submeta a testes de estresse o caso de uso, o modelo, os padrões de implantação e as interações com ferramentas por meio do MCP e de outros padrões.
Com a IA agêntica, o “como” é crucial
“A maioria das empresas que usa IA dá importância excessiva ao que um modelo ou aplicativo de IA alcança. Elas se concentram no resultado do trabalho, naquilo que é produzido. Com agentes operando de forma autônoma, os níveis de risco são muito maiores, e a forma como isso é feito se torna extremamente importante.”
Isso acontece porque há muitas maneiras de alcançar um determinado objetivo, mas muitas delas são inadequadas ou incorretas. Imagine que um agente tenha a tarefa de manter um banco de dados atualizado e possua acesso e permissões para excluir ou inserir dados. Ele poderia excluir registros relacionados à F5, por exemplo, localizando e removendo com precisão as correspondências exatas do nome da empresa.
No entanto, o agente também poderia decidir emitir uma instrução para “excluir registros F*”, apagando os registros de todas as empresas cujos nomes começam com F. Essa ação rudimentar alcançaria o mesmo objetivo, mas desencadearia uma série de consequências não intencionais que talvez não fossem fáceis de corrigir. Na era dos agentes, em que as ações são orientadas por modelos não determinísticos, o comportamento não intencional é a violação — especialmente se as salvaguardas forem inadequadas. Compreender o comportamento dos agentes é absolutamente essencial para que sejam adotados com sucesso.
A infraestrutura de segurança empresarial está enfrentando dificuldades
Proteger a IA representa uma forma totalmente nova de operar, e não apenas pequenas mudanças nas soluções de segurança existentes. Com o tempo, todos os softwares tradicionais usados pelas empresas começarão a se transformar e assumir outras formas. E, neste momento, ainda não está totalmente claro como protegê-los.
Para as organizações que contam com uma estrutura de segurança tradicional, já há indícios de que ela está chegando ao limite. Isso ocorre porque essas estruturas foram projetadas e desenvolvidas para uma era anterior à IA. Na era da IA, o volume de novas informações geradas — desde conteúdo sem valor até dados de alta qualidade e essenciais para as operações — está crescendo exponencialmente.
Os sistemas que, nas últimas décadas, analisavam o tráfego gerado por humanos agora estão tendo que lidar com o tráfego gerado por humanos que usam IA. Isso, por si só, já representa um enorme fator de multiplicação. Agora imagine quando o tráfego passar a ser de informações geradas por agentes. O crescimento será simplesmente exponencial.
A arquitetura tradicional de segurança não foi projetada para essa realidade; ela terá que mudar radicalmente para acompanhar essa evolução — e isso precisa acontecer o quanto antes.
Um vislumbre do futuro: agentes atômicos
Hoje, um agente precisa de um modelo de IA que funcione como seu cérebro. Esse cérebro geralmente fica centralizado em algum lugar, e a estrutura do agente faz perguntas ao modelo e recebe as respostas. Esse é o ciclo, em um fluxo contínuo de ida e volta entre o agente e o modelo.
Se um agente sair de controle nesse cenário, uma organização poderá aplicar uma regra de rede simples para impedir que ele acesse o modelo. Na pior das hipóteses, o modelo poderá ser desativado.
No futuro, os modelos se tornarão pequenos o suficiente para não precisarem de GPUs nem terem de ficar em salas de servidores ou na nuvem. O “cérebro” será executado no mesmo local que o agente, permitindo que ele opere com eficiência em qualquer lugar e aumente ou reduza sua escala conforme necessário. Quando isso acontecer, o risco de segurança aumentará exponencialmente.
O grande conceito aqui são os agentes atômicos, e há indícios de que eles estão a caminho. O BitNet b1.58 2B4T da Microsoft, um modelo de 1 bit que roda em CPU, mostra o que é possível. Ele ainda não é pequeno o bastante, rápido o bastante e provavelmente nem bom o bastante. Mas, na era da IA, esse “ainda” rapidamente se torna realidade.
Sobre o autor
James White é um engenheiro e líder empresarial de destaque, com quase duas décadas de experiência no setor de software empresarial.
Mais publicações de James WhitePublicações relacionadas no blog
Segurança de APIs sem concessões: apresentamos novas opções flexíveis de descoberta com F5 API security
As opções ampliadas de descoberta de APIs da F5 foram desenvolvidas para oferecer o máximo de flexibilidade e atender às organizações onde quer que estejam.
Governe sua IA no presente e antecipe o futuro da sua IA
Aprenda com nosso CISO de campo, Chuck Herrin, como se preparar para o novo desafio de proteger modelos e agentes de IA.
Segurança de IA para a cadeia de suprimentos
As cadeias de suprimentos são cada vez mais impulsionadas pela IA — desde a previsão de demanda e o planejamento logístico até a análise de riscos de fornecedores e a gestão de estoque em tempo real. Essas ferramentas ajudam as empresas a reduzir custos, aumentar a resiliência e se adaptar a disrupções globais. No entanto, elas também criam novos riscos em um vasto ecossistema: nossas soluções de segurança de IA em tempo de execução protegem o setor de Cadeia de Suprimentos […]
Segurança de IA para Recursos Humanos
A IA está revolucionando o RH. As empresas estão implementando copilotos de recrutamento com IA, assistentes de integração, chatbots de suporte aos funcionários e ferramentas de análise da força de trabalho para reduzir custos e melhorar a experiência dos colaboradores. No entanto, as aplicações de RH também apresentam riscos específicos que podem expor as organizações a falhas de conformidade, alegações de viés e danos à reputação: nossas soluções de segurança de IA em tempo de execução protegem o setor de RH com […]
Equilibrando o desempenho da IA e a gestão de recursos
As organizações dependem cada vez mais de ferramentas e iniciativas de IA para impulsionar a inovação e a transformação. Cada avanço incremental na sofisticação das ferramentas de IA torna o equilíbrio entre desempenho e gestão de recursos um desafio maior e mais relevante para as equipes de TI e segurança. No entanto, esse equilíbrio é essencial para maximizar o ROI, garantir a segurança e manter a eficiência em toda a […]
Integração de APIs em IA: a base técnica
A integração de APIs é um canal essencial no ecossistema de IA, por meio do qual diferentes sistemas, plataformas e aplicações interagem. Analisamos as nuances técnicas da integração de APIs em IA, com ênfase em sua importância para aprimorar a eficiência e os recursos dos sistemas de IA. As APIs permitem a troca fluida de dados e funcionalidades entre diferentes soluções de IA […]