O Claude Mythos da Anthropic, atualmente restrito a um pequeno número de organizações confiáveis no âmbito do Projeto Glasswing devido aos seus recursos avançados de cibersegurança, representa algo fundamentalmente diferente das gerações anteriores de IA.
O risco da IA de fronteira tem pouco a ver com intenções maliciosas; ele decorre da capacidade do modelo de raciocinar, planejar, adaptar-se e otimizar em tempo real. Seja operando de forma autônoma ou por meio de uma integração comprometida, um modelo da classe Mythos pode criar campanhas de engenharia social altamente convincentes, sondar APIs em velocidade de máquina, testar continuamente os controles de segurança e mudar de tática imediatamente ao encontrar resistência.
Isso muda a dinâmica econômica da defesa cibernética.
A maioria das arquiteturas de segurança corporativa foi projetada para deter invasores que seguem padrões reconhecíveis. A detecção baseada em assinaturas, as políticas predefinidas e a investigação humana têm atendido bem às organizações, pois invasores humanos inevitavelmente deixam um intervalo de tempo entre o reconhecimento, a exploração e a adaptação.
Um modelo de raciocínio elimina essa vantagem. Quando um agente de IA consegue observar, aprender e mudar seu comportamento em questão de segundos, as equipes de segurança já não podem se dar ao luxo de reagir somente após a detecção. Agora, o ponto em que o ataque é interceptado importa mais do que sua detecção.
A resposta está no caminho do tráfego. Cada prompt, cada chamada de API, cada solicitação do Model Context Protocol (MCP) e cada invocação de ferramenta precisam passar pela camada de entrega de aplicações antes de chegar a qualquer recurso de valor. Por mais inteligente que um modelo de IA se torne, ele não pode contornar a rede. Esse é o único ponto de controle que o adversário não pode evitar.
“Quando um agente de IA consegue observar, aprender e mudar seu comportamento em questão de segundos, as equipes de segurança não podem mais se dar ao luxo de agir somente após a detecção.”
Entendendo três modelos de controle muito diferentes
Uma das maiores fontes de confusão no mercado atual de segurança de IA é o uso indistinto de termos como tempo real, tempo de execução e em linha. Eles não são a mesma coisa, e essa distinção é importante. Então, quais são as diferenças?
Controles em tempo real (visibilidade e alertas pós-ação): Os controles em tempo real detectam atividades suspeitas à medida que ocorrem e geram alertas em segundos ou minutos. Eles proporcionam visibilidade, mas geralmente dependem de outro sistema — ou de um analista humano — para tomar as medidas necessárias.
Imagine um agente de IA fazendo consultas intensivas à API de um banco de dados de clientes às 2h47 da manhã. Seu SIEM identifica corretamente o comportamento anormal e cria um incidente imediatamente.
O alerta é preciso. O momento é perfeito. Infelizmente, quando um analista analisa o chamado, a IA já concluiu seu reconhecimento e seguiu em frente. A detecção sem medidas de contenção apenas registra um ataque, em vez de impedi-lo.
Controles de runtime (proteções no nível de execução): Os controles de runtime aplicam políticas ativamente enquanto um aplicativo, endpoint ou agente está em execução.
Isso representa uma melhoria significativa em relação à simples detecção, pois as medidas são tomadas automaticamente. No entanto, a proteção em tempo de execução ainda é limitada por políticas predefinidas e pelo que esse ambiente de execução específico consegue observar.
Suponha que um agente de endpoint bloqueie uma chamada de sistema suspeita feita por um assistente de IA local. O modelo analisa a falha, identifica outro caminho de execução que não havia sido previsto pela política e alcança o mesmo objetivo por meio de uma técnica diferente.
A proteção em tempo de execução funciona extremamente bem contra comportamentos esperados. Os modelos de raciocínio são projetados especificamente para produzir comportamentos inesperados.
Controles inline de rede e de aplicações (interceptação no caminho do tráfego): Os controles inline operam em uma camada completamente diferente. Em vez de esperar que uma aplicação ou um endpoint tome uma decisão, a aplicação inline de políticas atua diretamente no caminho do tráfego, inspecionando cada solicitação antes que ela chegue ao mecanismo de inferência, à API, à aplicação ou ao serviço downstream.
Considere um modelo da classe Mythos tentando realizar uma sofisticada injeção de prompt em vários estágios, projetada para extrair dados de treinamento por meio de raciocínio indireto.
Pode não haver nenhuma assinatura conhecida, nenhum exemplo anterior, nenhum IOC histórico para comparação. Ainda assim, a solicitação pode ser inspecionada, avaliada e bloqueada antes mesmo de chegar ao modelo — ou antes que uma saída insegura chegue ao usuário.
Essa distinção é fundamental: a segurança em linha impede que a solicitação seja concluída, em vez de reagir somente depois que o comprometimento já ocorreu.
Por que a IA de fronteira rompe com as premissas tradicionais de segurança
Historicamente, os defensores contavam com uma vantagem importante: tempo. Mesmo invasores altamente qualificados precisavam de horas ou dias para avançar pelas etapas de reconhecimento, exploração e escalonamento de privilégios. As equipes de segurança podiam detectar atividades suspeitas, investigar, atualizar assinaturas e reforçar os controles antes que ocorressem danos significativos.
A IA de fronteira reduz drasticamente esse intervalo de tempo. Em uma única sessão, um agente de IA adversário pode:
- Descobrir APIs expostas, ocultas e não gerenciadas.
- Gere milhares de variações de prompts para identificar proteções frágeis.
- Determine quais respostas indicam uma aplicação efetiva das regras, em vez de uma simples filtragem.
- Altere instantaneamente as técnicas, codificações e estruturas de payload.
- Exfiltrar informações confidenciais por meio de canais de saída aparentemente legítimos.
O que antes exigia vários dias de uma equipe de red team experiente agora pode acontecer em questão de minutos. É por isso que arquiteturas dependentes de intervenção humana se tornam cada vez menos eficazes. Se a proteção depender de um analista revisar alertas, atualizar assinaturas ou modificar políticas manualmente, o invasor já terá concluído várias iterações antes mesmo do início da primeira resposta.
Contra uma IA capaz de raciocinar, a aplicação das políticas deve ocorrer na velocidade da rede.
A arquitetura necessária para isso
Enfrentar a IA de raciocínio diretamente no tráfego de rede exige uma abordagem arquitetural diferente daquela para a qual a maioria das soluções de segurança foi projetada.
O controle precisa abranger todo o caminho de entrega de aplicações como uma única superfície, em vez de ser dividido entre soluções pontuais isoladas. A inspeção deve ocorrer na própria camada de inferência, para que prompts e respostas sejam analisados em tempo real antes que cheguem a uma pessoa ou a um modelo. A descoberta de APIs precisa ser executada continuamente, pois os inventários gerenciados raramente identificam as APIs não gerenciadas e ocultas que os agentes autônomos procuram primeiro.
Os testes contra técnicas de invasores precisam ser contínuos, e não periódicos, e os resultados devem retroalimentar diretamente os mecanismos de aplicação das políticas — caso contrário, a proteção é atualizada em um ciclo de políticas medido em semanas, enquanto o adversário evolui em questão de minutos. Os agentes de IA também precisam ser reconhecidos como uma categoria distinta de identidade, separada dos usuários humanos e dos bots convencionais, para que o tráfego entre agentes e ferramentas, incluindo as interações via MCP, esteja sujeito à mesma governança aplicada à autenticação de usuários.
Nada disso funciona como um conjunto de ferramentas desconectadas. É preciso operar como uma arquitetura unificada de aplicação de políticas, abrangendo APIs, tráfego de inferência, identidade de agentes e segurança de aplicações, sob uma estrutura comum de políticas em ambientes híbridos e multicloud.
Por que isso é importante à medida que a IA continua evoluindo
A discussão atual costuma se concentrar na injeção de prompts. O desafio de amanhã serão sistemas autônomos orquestrando milhares de chamadas de API, acionando ferramentas e colaborando com outros agentes, em grande parte sem intervenção humana — e as organizações observarão um aumento correspondente no tráfego gerado por máquinas.
Cada uma dessas interações exige uma nova decisão de aplicação de políticas. Proteger camadas isoladas — um filtro de prompts aqui, um gateway de API ali, um detector de bots em outro lugar — cria pontos de ruptura na arquitetura, e é justamente nesses pontos que uma IA capaz de raciocinar procurará primeiro. Quanto mais sofisticado se torna o adversário, mais importante é a consistência arquitetural.
O imperativo estratégico para CISOs
A IA de fronteira está mudando a natureza da defesa cibernética. À medida que modelos autônomos se integram profundamente a aplicações empresariais, APIs e fluxos de trabalho de negócios, o caminho do tráfego se torna a principal superfície de aplicação de políticas sob seu controle — cada prompt, cada chamada de API, cada interação via MCP e cada acionamento autônomo de ferramenta passa por ele.
Os controles em tempo real informam o que já aconteceu. Os controles em tempo de execução impedem o que foi previsto pela política. Os controles inline interrompem o que está acontecendo neste exato momento, antes que a solicitação chegue ao destino.
Para os CISOs, essa é a questão arquitetural mais importante.
Para os líderes de segurança, o imperativo estratégico é claro: estruture a defesa da sua empresa em torno da única camada estrutural que um adversário não pode contornar.
Para saber mais, acesse a página da nossa F5 Application Delivery and Security Platform.
Sobre o autor
Publicações relacionadas no blog
IA agêntica em cibersegurança: promessas e riscos
Saiba por que o uso de IA agêntica na cibersegurança é essencial para combater ameaças impulsionadas por IA e por que os agentes também criam novos riscos para as empresas.
Como os clientes da F5 no setor financeiro lidam com a soberania digital sem desacelerar a inovação
Como é a soberania digital na prática? Dois projetos recentes da F5 com clientes mostram como diferentes empresas estão enfrentando esses desafios.
Soberania operacional: construindo resiliência em um mundo imprevisível
Para muitas organizações, a questão já não se resume apenas a controlar os dados. Trata-se de manter a capacidade de operar, adaptar-se e se recuperar à medida que as leis e as condições evoluem.
Segurança de IA com evidências: o que levaremos ao Gartner SRM
Antes de sua sessão no Gartner SRM, o vice-presidente sênior de Marketing de Produtos da F5 explica como a F5 ajuda as organizações a proteger a IA em três etapas práticas.
Gestão de riscos de IA: como as proteções podem ajudar a mitigá-los
O risco da IA é impulsionado por comportamentos probabilísticos e pela explicabilidade limitada, não apenas por falhas de segurança. Uma gestão eficaz exige controle operacional contínuo.
Lei de IA do Colorado (SB 205): o que as empresas precisam saber antes de 2026
A SB 205 do Colorado, a lei pioneira do estado sobre inteligência artificial, foi sancionada pelo governador Jared Polis em 17 de maio de 2024. O projeto de lei estabelece requisitos para que as empresas que utilizam IA implementem controles destinados a proteger os cidadãos do Colorado.