Como CISOs podem mensurar os riscos de segurança da IA

Lee EnnisGerente Sênior de Ciência de Dados | F5

Louise ScullyGerente Sênior de Marketing de Produto, Segurança de IA e Inteligência de Ameaças | F5

O risco de segurança da IA está se tornando cada vez mais difícil para os CISOs gerenciarem apenas por meio de políticas. À medida que as organizações adotam mais modelos de IA, aplicações de IA e fluxos de trabalho agênticos, os líderes de segurança precisam de formas mais claras de avaliar quais modelos são adequados para uso, quais fornecedores podem introduzir riscos e como os sistemas de IA se comportam quando expostos a ameaças do mundo real.

É aí que a mensuração se torna essencial. Os benchmarks de segurança de IA da F5, incluindo o Comprehensive AI Security Index (CASI) e o Agentic Resistance Score (ARS), ajudam as organizações a avaliar os riscos dos modelos de IA, comparar a postura de segurança de IA e entender como os modelos e sistemas agênticos se comportam sob pressão adversarial. Quando combinados com a inteligência contínua sobre ameaças de IA da F5 Labs, esses benchmarks oferecem aos CISOs uma base de evidências mais sólida para a seleção de modelos, a governança de fornecedores, a proteção em tempo de execução e a avaliação contínua dos riscos de IA.

Isso é importante porque muitas decisões sobre segurança de IA são tomadas muito antes de um modelo entrar em produção. Quando um sistema de IA entra em operação, a organização talvez já tenha selecionado o modelo, aprovado o fornecedor, definido a arquitetura, mapeado os fluxos de dados, conectado ferramentas e concedido acesso ao sistema. Os controles em tempo de execução continuam sendo essenciais, mas são mais robustos quando se baseiam em decisões melhores tomadas nas etapas anteriores.

Para os CISOs, a questão já não é apenas como proteger a IA depois de implantada, mas como tornar mensurável o risco associado à IA ao longo de todo o ciclo de vida, desde a aquisição e a seleção do modelo até a implantação, o monitoramento e os testes contínuos.

O risco da IA começa antes da execução

A segurança de IA é frequentemente discutida no contexto da proteção em tempo de execução: monitoramento de prompts, controle de saídas e prevenção do uso indevido quando os sistemas de IA já estão em produção. Esses controles são essenciais, mas representam apenas uma parte do ciclo de vida da segurança de IA.

O risco de IA não é apenas um problema de tempo de execução. É também um problema de aquisição, de governança de fornecedores e de arquitetura. Se a avaliação de segurança ocorrer somente após a implantação, os CISOs poderão acabar tendo que gerenciar riscos que poderiam ter sido reduzidos, questionados ou evitados em etapas anteriores do processo. O objetivo não é desacelerar a adoção da IA, mas ajudar as organizações a avançar mais rapidamente, com maior clareza sobre os riscos que estão assumindo.

O que as pesquisas recentes mostram

Todos os meses, a F5 Labs publica inteligência sobre ameaças à segurança de IA juntamente com os rankings CASI e ARS, a fim de acompanhar a evolução dos riscos relacionados a modelos, agentes e ecossistemas. A pesquisa da F5 Labs de maio de 2026 aponta para uma mudança mais ampla na forma como os CISOs precisam encarar os riscos de IA. As descobertas não são apenas sinais técnicos para pesquisadores; são lições práticas para líderes de segurança responsáveis por aprovar modelos, avaliar fornecedores, definir políticas e proteger aplicações de IA à medida que entram em produção.

A primeira lição é que a escolha do modelo agora é uma decisão de segurança. A análise do CASI de maio mostrou uma diferença acentuada na postura de segurança entre os modelos da família Qwen, incluindo uma diferença de 78 pontos entre o Qwen3-2B e o Qwen3-4B. Para os CISOs, a conclusão é clara: saber o nome do modelo não é suficiente. Diferentes tamanhos, versões, configurações e opções de implantação podem apresentar perfis de risco distintos.

Um modelo menor ou de menor custo pode parecer uma alternativa atraente se apresentar um desempenho satisfatório em uma tarefa específica. No entanto, se esse modelo introduzir uma postura de segurança significativamente diferente, as equipes de segurança talvez precisem questionar ou impedir a substituição. É mais fácil respaldar essa decisão com testes objetivos, pontuações comparativas e uma visão clara do desempenho de um modelo em relação a outro sob condições adversariais.

A segunda lição é que os mecanismos de segurança da IA podem falhar de maneiras que políticas estáticas não conseguem detectar. A inteligência de ameaças de maio destacou técnicas adversariais que continuam testando os limites das proteções dos modelos, incluindo abordagens de jailbreak criadas para contornar os controles previstos. Para o CISO, a principal conclusão é que os testes de segurança de IA precisam evoluir à medida que os ataques evoluem, pois um modelo que parece seguro em um teste pode falhar em outro.

A terceira lição é que o risco da cadeia de suprimentos de IA agora faz parte da segurança de IA. A inteligência de ameaças de maio apontou riscos em fluxos de trabalho de desenvolvimento relacionados à IA, ecossistemas de pacotes, pipelines de CI/CD, registros e ferramentas de desenvolvimento habilitadas por IA. O padrão em comum é a confiança: pacotes confiáveis, automação confiável, registros confiáveis, ferramentas confiáveis e caminhos de execução confiáveis. Para os CISOs, isso significa que o risco de IA não vem apenas de prompts, resultados ou do comportamento dos modelos durante a execução. Ele também pode vir de fornecedores, ferramentas, pacotes, pipelines e camadas de automação que dão suporte a aplicações de IA.

Em conjunto, essas lições apontam para a mesma conclusão: os CISOs precisam passar das políticas de IA para a mensuração da IA. As políticas definem o que deve acontecer, mas a mensuração ajuda as equipes de segurança a entender o que realmente está acontecendo, quais riscos estão sendo introduzidos e onde as decisões precisam mudar.

O risco dos modelos está avançando mais rápido do que a governança

À medida que a adoção da IA se acelera, as organizações enfrentam pressão para agir rapidamente, reduzir custos e atender a mais casos de uso em toda a empresa. As equipes comparam modelos com base em desempenho, latência, disponibilidade, facilidade de implantação e preço. No entanto, capacidade e custo não contam toda a história. Um modelo que parece ser uma substituição viável do ponto de vista comercial pode introduzir um nível diferente de risco à segurança da IA, mesmo quando pertence à mesma família de modelos.

Um fornecedor pode afirmar que usa um modelo conhecido. Uma equipe interna pode dizer que está migrando para um modelo menor em busca de eficiência. Uma equipe de produto pode presumir que modelos da mesma família se comportam de maneira bastante semelhante. Do ponto de vista da segurança, essas suposições podem ser arriscadas, especialmente quando o modelo está conectado a dados confidenciais, experiências voltadas para o cliente, fluxos de trabalho essenciais para os negócios ou sistemas agênticos capazes de realizar ações em nome dos usuários.

Os CISOs precisam de evidências que vão além do nome do modelo. Eles precisam entender como um modelo se comporta sob pressão adversarial, como se compara às alternativas e se uma mudança proposta afeta de forma significativa a postura de risco da organização.

O CASI permite mensurar o risco dos modelos mais cedo

O CASI oferece às organizações uma forma de comparar a postura básica de segurança dos modelos de IA antes de sua implantação. Para os CISOs, isso transforma a segurança dos modelos, antes uma discussão subjetiva, em um dado mensurável para a tomada de decisões.

Na prática, o CASI oferece suporte a diversos fluxos de trabalho de governança. Ele ajuda as equipes de segurança a avaliar se um modelo é adequado para um caso de uso específico, reconhecendo que um modelo usado para sumarização interna de baixo risco pode não exigir o mesmo nível de análise rigorosa que um modelo conectado a dados de clientes, fluxos de trabalho essenciais aos negócios ou sistemas autônomos baseados em agentes. Ele também pode fortalecer a governança de compras e fornecedores, oferecendo às equipes de segurança uma base mais clara para questionar quais modelos estão sendo usados, como foram testados e quais evidências fundamentam essas escolhas.

Se a empresa quiser adotar um modelo de menor custo, a avaliação comparativa pode ajudar a determinar se essa mudança é aceitável, se são necessários controles adicionais ou se o risco supera o benefício.

A inteligência de ameaças revela riscos no ecossistema

As informações recentes sobre ameaças são importantes porque mostram que o risco à segurança da IA não se limita ao modelo em si. O padrão mais relevante para os CISOs é que o risco está se expandindo para os sistemas que cercam a IA: fluxos de trabalho de desenvolvimento, ecossistemas de pacotes, pipelines de CI/CD, registros, camadas de automação e ferramentas habilitadas por IA.

Os desenvolvedores instalam pacotes, os agentes executam tarefas, os pipelines de CI/CD publicam código, os registros distribuem dependências e as ferramentas habilitadas por IA recebem acesso a ambientes e fluxos de trabalho locais. Se esses caminhos de confiança não forem gerenciados, testados e monitorados, riscos poderão ser introduzidos antes mesmo que uma aplicação de IA chegue à produção.

Para os CISOs, a lição extraída dessa inteligência de ameaças é que a governança de IA precisa abranger o ecossistema que sustenta o desenvolvimento de IA, e não apenas o modelo selecionado ou os controles de execução implementados ao seu redor. As avaliações de fornecedores devem abordar as fontes dos modelos, os pipelines de desenvolvimento, a governança de pacotes, as permissões de ferramentas e o gerenciamento de dependências. As análises de arquitetura devem examinar o que os agentes e as ferramentas habilitadas por IA podem acessar, o que podem executar e em quais situações é necessária a aprovação humana. O CASI ajuda a avaliar os riscos no nível do modelo antes da implantação, enquanto o ARS ajuda a analisar como os sistemas agênticos se comportam sob pressão adversária.

O ARS mede a resiliência de agentes de IA

À medida que as organizações passam de modelos de IA para aplicações de IA e fluxos de trabalho agênticos, o desafio da mensuração se torna mais complexo. Um modelo pode parecer aceitável isoladamente, mas o risco pode mudar quando esse modelo é conectado a ferramentas, APIs, fontes de dados, lógica de negócios ou sistemas que lhe permitem agir.

O ARS amplia a mensuração para essa camada operacional, ajudando as organizações a avaliar o desempenho de sistemas agênticos sob pressão adversarial contínua. Esses sistemas não se limitam a gerar resultados; eles podem tomar decisões, acionar ferramentas, recuperar dados, iniciar fluxos de trabalho ou influenciar processos de negócios.

Isso significa que os testes de segurança de IA precisam levar em conta como os sistemas se comportam ao longo do tempo e sob ataque, e não apenas o desempenho de um modelo individual em uma avaliação controlada. O ARS ajuda os CISOs a entender em quais aspectos os sistemas agênticos podem ser mais resilientes, onde controles adicionais podem ser necessários e como as aplicações de IA se comportam quando expostas a técnicas adversariais do mundo real.

Da política à ação mensurável

O próximo passo é incorporar a mensuração às decisões sobre IA desde o início. A segurança da IA precisa fazer parte de todo o ciclo de vida, desde a avaliação de modelos e a análise de fornecedores até o projeto da arquitetura, a implantação, a proteção em tempo de execução, os testes contínuos e o monitoramento constante. Essa visão do ciclo de vida é importante porque os riscos relacionados à IA mudam ao longo do tempo. Surgem novas técnicas de ataque, os modelos são atualizados, os fornecedores alteram seus sistemas subjacentes e os fluxos de trabalho com agentes introduzem novos caminhos para uso indevido.

Para os CISOs, isso significa que a segurança de IA não pode ser um processo de aprovação pontual. Ela precisa se tornar uma prática contínua, com mensuração e testes incorporados a todo o ciclo de vida.

Tornando o risco de IA defensável

Os CISOs estão sendo chamados a apoiar a adoção da IA enquanto gerenciam um cenário de riscos que ainda está em evolução. Eles precisam viabilizar a inovação, mas também responder a perguntas difíceis de conselhos de administração, órgãos reguladores, clientes e partes interessadas internas.

Quais modelos estão aprovados para uso? Quais fornecedores podem estar introduzindo riscos relacionados à IA? Quais casos de uso exigem testes adicionais? Quando um modelo mais barato ou mais rápido é uma substituição aceitável e quando ele gera riscos excessivos? Quais evidências fundamentam essas decisões?

Essas não são questões puramente técnicas. São questões de governança, de compras e de risco empresarial. Cada vez mais, elas exigem evidências objetivas.

As organizações que amadurecerem mais rapidamente serão aquelas que deixarem para trás as avaliações informais de IA e começarem a incorporar métricas à forma como as decisões sobre IA são tomadas. Isso significa avaliar os modelos antes de selecioná-los, testar os sistemas antes de ampliá-los e reavaliar continuamente os riscos à medida que modelos, ameaças, fornecedores e casos de uso mudam.

Os CISOs não podem esperar até a implantação para mensurar os riscos da IA. As decisões mais sólidas são tomadas nas etapas iniciais do ciclo de vida. Ao combinar CASI, ARS e inteligência contínua sobre ameaças de IA da F5 Labs, os CISOs podem tornar os riscos de segurança da IA mais visíveis, mais justificáveis e mais acionáveis em todo o ciclo de vida da IA.

Para saber mais, confira a pesquisa do F5 Labs.

Sobre os autores

Lee EnnisGerente Sênior de Ciência de Dados | F5

Lee Ennis lidera a equipe de ciência de dados e pesquisa em IA da F5, onde se concentra no desenvolvimento de soluções avançadas de segurança de IA que ajudam as empresas a implantar e monitorar com segurança modelos de linguagem de grande escala (LLMs) e sistemas de IA generativa. Sua equipe combina conhecimentos especializados em aprendizado de máquina, testes adversariais e garantia de modelos para identificar vulnerabilidades e fortalecer a confiança em ambientes orientados por IA.

Mais publicações de Lee Ennis

Louise ScullyGerente Sênior de Marketing de Produto, Segurança de IA e Inteligência de Ameaças | F5

Louise Scully é gerente sênior de Marketing de Produtos para Segurança de IA e Inteligência de Ameaças na F5. Sua carreira abrange marketing de produtos, gestão de produtos, estratégia de entrada no mercado, comunicação, liderança de pensamento e desenvolvimento de categorias nas áreas de segurança de IA e tecnologia empresarial. Antes de ingressar na F5, Louise liderou o marketing na CalypsoAI e na Artomatix, ajudando a levar tecnologias e pesquisas de IA ao mercado.

Mais publicações de Louise Scully