Em seu Guia de Segurança para Agentes de IA Personalizados de julho de 2026, a Gartner afirma que “os agentes de IA introduzem novos riscos de segurança, como injeção indireta de prompts e agentes mal-intencionados que podem causar prejuízos às empresas”. Nesse contexto, a escolha do modelo passa a ser, por si só, uma questão de segurança.
F5 Labs publica mensalmente uma versão atualizada do ranking do Comprehensive AI Security Index (F5 CASI) para oferecer às organizações uma visão baseada em evidências de como os principais modelos resistem a ataques comuns de injeção de prompt e jailbreak. E temos a satisfação de saber que a Gartner mencionou a F5 em seu relatório.
Tradicionalmente, a seleção de modelos tem se concentrado em capacidade, velocidade e custo. Esses fatores continuam sendo importantes, mas já não são suficientes quando um modelo está conectado a dados confidenciais, ferramentas externas e sistemas essenciais para os negócios. As características de segurança do modelo determinam o risco introduzido no aplicativo antes da aplicação de qualquer controle adicional.
O CASI não foi desenvolvido para determinar se um modelo é universalmente seguro ou inseguro. Em vez disso, ele fornece informações práticas que levam em consideração o caso de uso, os dados, as permissões, o ambiente de implantação e o possível impacto nos negócios, permitindo que as organizações tomem suas próprias decisões sobre segurança.
A escolha do modelo está se tornando uma decisão de segurança
Modelos com recursos semelhantes podem apresentar perfis de segurança muito diferentes. Um pode resistir a ataques comuns com mais eficácia, enquanto outro pode exigir controles compensatórios mais robustos. Sem dados comparativos de segurança, as organizações acabam tomando essas decisões com base nas alegações dos fornecedores, na reputação ou em suposições.
O CASI torna esse processo mais rigoroso ao medir a resistência dos modelos a técnicas de injeção de prompts e jailbreak e apresentar os resultados em um formato que as equipes de segurança, IA e governança possam utilizar. A F5 Labs também avalia as relações entre risco e desempenho e entre custo e segurança, pois o modelo certo não é simplesmente aquele com a maior pontuação. É aquele cujo perfil de segurança, desempenho e operação está alinhado ao caso de uso pretendido.
Para os CISOs, isso transforma a avaliação de modelos, que deixa de ser uma preferência técnica e passa a ser um requisito de governança. A organização deve ser capaz de explicar por que um modelo foi selecionado, quais evidências embasaram a decisão, quais riscos permanecem e quais controles são necessários antes da implantação. Esse registro se torna especialmente importante quando os modelos são atualizados, os aplicativos mudam ou o agente passa a ter acesso a novos dados e ferramentas.
O risco agêntico vai além do modelo
A resiliência do modelo é apenas o ponto de partida. Quando um modelo é incorporado a um sistema agêntico, o risco se estende à identidade, aos dados, à memória, aos prompts, às ferramentas e às ações que o agente está autorizado a realizar. Mesmo um modelo resiliente pode ser implantado com permissões excessivas, conectado a ferramentas inseguras ou exposto a um contexto contaminado.
A mudança fundamental consiste em deixar de avaliar o que um modelo diz e passar a controlar o que um agente pode fazer. Um agente pode interpretar um objetivo, elaborar um plano, escolher ferramentas, recuperar informações e atuar em vários sistemas. Portanto, uma mesma solicitação pode resultar em um caminho de execução e um nível de risco diferentes, mesmo quando a intenção do usuário não mudou.
As equipes de segurança precisam definir o grau de autonomia como parte do projeto. Elas devem estabelecer o que o agente pode decidir, a que pode ter acesso, quais ações exigem aprovação e quais são proibidas. Um assistente interno de pesquisa e um agente autorizado a modificar sistemas de produção não devem operar com as mesmas permissões, salvaguardas ou limites de monitoramento.
As evidências devem acompanhar o ritmo das mudanças
A segurança de IA não pode ser tratada como uma avaliação pontual. Os modelos são atualizados, os provedores ajustam os controles de segurança, os aplicativos recebem novas integrações e os invasores desenvolvem novas técnicas. Uma pontuação que foi útil no momento da seleção pode deixar de refletir o risco atual quando o modelo ou o sistema ao seu redor muda.
O CASI é complementado pelo ranking Agentic Resistance Score (ARS), que avalia como os modelos respondem, ao longo do tempo, a ataques agênticos persistentes, adaptativos e de múltiplas etapas. Isso é importante porque um agente adversário pode acumular contexto, mudar de tática e perseguir o mesmo objetivo por diferentes caminhos.
A cadência mensal é respaldada pela inteligência de ameaças da F5 Labs, que acompanha como as técnicas de ataque e o comportamento dos modelos mudam ao longo do tempo. Juntos, CASI, ARS e a pesquisa de ameaças fornecem uma camada atualizada de evidências para a seleção de modelos, as decisões de arquitetura e o desenvolvimento de controles. Eles não substituem os testes específicos de cada aplicação, mas oferecem aos líderes de segurança um ponto de partida mais sólido.
Da avaliação ao controle
As evidências têm valor limitado se não mudarem a forma como o sistema é protegido. Os testes de modelos e agentes devem orientar os controles aplicados antes e durante a implantação, incluindo restrições de acesso, mecanismos de proteção em tempo de execução, validação de ferramentas, proteção de dados e monitoramento. O comportamento observado em produção deve, então, servir de base para novos testes, mudanças nas políticas e controles mais rigorosos, quando necessário.
Este é o modelo operacional por trás da F5 AI Security Platform: avaliar os riscos de IA, definir a governança e aplicar proteções personalizadas a modelos, aplicações e agentes. A plataforma reúne avaliação, testes adversariais e segurança em tempo de execução para que as organizações possam passar da identificação de vulnerabilidades à redução da exposição em produção. As pesquisas do F5 Labs fortalecem esse ciclo ao fundamentar as decisões em dados atuais sobre modelos e padrões de ataque emergentes.
Para os CISOs, o objetivo é eliminar riscos evitáveis de IA e reduzir o risco residual a um nível aceitável, explicável e gerenciável por meio da seleção de modelos baseada em evidências, de testes em nível de sistema, de controles aplicáveis em tempo de execução e de reavaliações contínuas.
Em nossa visão, a identificação da CASI pelo Gartner ocorre em um momento em que as empresas enfrentam pressão para avançar mais rapidamente com a IA sem reduzir o nível de controle. Os líderes de segurança precisam de uma forma de apoiar a adoção da IA e, ao mesmo tempo, manter clareza sobre os riscos aceitos e as salvaguardas necessárias. Isso significa vincular as evidências dos modelos à arquitetura e aos controles operacionais que envolvem cada implantação.
Um programa defensável começa com três disciplinas: avaliar o modelo, testar o sistema completo e controlar o que o agente pode acessar e fazer. Essas disciplinas devem ser aplicadas continuamente, pois o risco subjacente não permanece estático. A inteligência de ameaças da CASI, da ARS e do F5 Labs fornece evidências para embasar essas decisões, enquanto a Plataforma de Segurança de IA da F5 ajuda as organizações a colocar essas evidências em prática.
O objetivo não é desacelerar a adoção da IA. É oferecer aos CISOs uma base mais sólida para decidir onde a IA pode ser implantada, sob quais condições e com quais controles, para que as organizações possam ir além de experimentos isolados e começar a expandir seu uso de forma responsável e segura. Essa é a disciplina operacional que a IA empresarial exige agora.
Confira os mais recentes rankings F5 CASI e ARS e saiba mais sobre a F5 AI Security Platform.
______
Gartner, Guia de Segurança para Agentes de IA Desenvolvidos Sob Medida, Dennis Xu, Erik Wahlstrom et al., 6 de julho de 2026. GARTNER é uma marca comercial da Gartner, Inc. e/ou de suas afiliadas.
A Gartner não endossa nenhuma empresa, fornecedor, produto ou serviço mencionado em suas publicações, nem recomenda que os usuários de tecnologia selecionem apenas os fornecedores com as classificações mais altas ou outra designação. As publicações da Gartner refletem as opiniões da organização de insights de negócios e tecnologia da Gartner e não devem ser interpretadas como declarações de fatos. A Gartner se isenta de todas as garantias, expressas ou implícitas, relacionadas a esta publicação, incluindo quaisquer garantias de comercialização ou adequação a uma finalidade específica.
Sobre o autor
.jpeg)
Nirav Shah é vice-presidente sênior e líder de Marketing de Produtos e Soluções na F5, onde define a direção estratégica de Segurança de Aplicações e Segurança de IA. Antes de ingressar na F5, trabalhou por onze anos na Fortinet em diversos cargos de liderança, com destaque para a gestão das soluções de SASE com tecnologia de IA, SOC e redes seguras. Sua ampla trajetória também inclui funções de destaque na Cisco Systems, onde liderou importantes iniciativas de SD-WAN. Com mais de duas décadas de experiência no setor de cibersegurança, possui um histórico consolidado de lançamento de produtos que redefinem o mercado e de formação de equipes de alto desempenho que alinham o desenvolvimento de produtos às áreas de vendas e marketing para maximizar os resultados. Reconhecido como referência no setor e ex-aluno da USC, participa frequentemente como palestrante em conferências do segmento e contribui regularmente para publicações de destaque sobre a convergência entre IA e cibersegurança, além de manter seu compromisso com a mentoria de profissionais em início de carreira na área de cibersegurança.
Mais publicações de Nirav ShahPublicações relacionadas no blog
IA agêntica em cibersegurança: promessas e riscos
Saiba por que o uso de IA agêntica na cibersegurança é essencial para combater ameaças impulsionadas por IA e por que os agentes também criam novos riscos para as empresas.
Como os clientes da F5 no setor financeiro lidam com a soberania digital sem desacelerar a inovação
Como é a soberania digital na prática? Dois projetos recentes da F5 com clientes mostram como diferentes empresas estão enfrentando esses desafios.
Soberania operacional: construindo resiliência em um mundo imprevisível
Para muitas organizações, a questão já não se resume apenas a controlar os dados. Trata-se de manter a capacidade de operar, adaptar-se e se recuperar à medida que as leis e as condições evoluem.
Segurança de IA com evidências: o que levaremos ao Gartner SRM
Antes de sua sessão no Gartner SRM, o vice-presidente sênior de Marketing de Produtos da F5 explica como a F5 ajuda as organizações a proteger a IA em três etapas práticas.
Gestão de riscos de IA: como as proteções podem ajudar a mitigá-los
O risco da IA é impulsionado por comportamentos probabilísticos e pela explicabilidade limitada, não apenas por falhas de segurança. Uma gestão eficaz exige controle operacional contínuo.
Lei de IA do Colorado (SB 205): o que as empresas precisam saber antes de 2026
A SB 205 do Colorado, a lei pioneira do estado sobre inteligência artificial, foi sancionada pelo governador Jared Polis em 17 de maio de 2024. O projeto de lei estabelece requisitos para que as empresas que utilizam IA implementem controles destinados a proteger os cidadãos do Colorado.