Protegendo a IA agêntica: como a F5 se alinha ao Top 10 da OWASP para IA agêntica

F5 ADSP | 30 de dezembro de 2025

A IA agêntica está hoje mais ou menos no estágio em que a IA generativa estava há um ano. A maioria das organizações com projetos de IA agêntica ainda está na fase piloto, mas algumas cargas de trabalho iniciais já estão começando a interagir com sistemas de produção. As equipes estão indo além de simples consultas a modelos e experimentando agentes de orquestração, agentes executores especializados e fluxos de trabalho que utilizam ferramentas e podem coordenar ações entre aplicações e serviços.

À medida que esses sistemas agênticos evoluem, os riscos também aumentam. Nas interações tradicionais com LLMs, as falhas geralmente começam e terminam em uma única troca de prompt e resposta entre o modelo e as pessoas. Nos sistemas agênticos, as falhas se propagam por planos de várias etapas, pelo uso de ferramentas, pela gestão e reutilização de contexto e pelas interações entre agentes e aplicações existentes.

O novo Top 10 da OWASP para Aplicações Agênticas oferece uma visão estruturada de onde esses riscos surgem. Ele define dez categorias de falhas que ocorrem quando modelos e agentes recebem objetivos, ferramentas, contexto e a capacidade de atuar em diferentes sistemas. A lista se baseia no Top 10 da OWASP para Aplicações com Grandes Modelos de Linguagem, anunciado anteriormente, para abordar ameaças de IA agêntica relacionadas à autonomia, ao uso de ferramentas, ao gerenciamento de contexto, às cadeias de suprimentos e às interações entre múltiplos agentes.

Com este novo OWASP Top 10, líderes de segurança e equipes de conformidade passam a contar com uma linguagem comum para discutir os riscos da IA agêntica, alinhar os esforços de segurança e definir as prioridades.

Por que isso é importante para os CISOs

O OWASP Agentic Top 10 destaca os modos de falha que influenciam a adoção segura da IA. Os CISOs agora precisam aplicar essas orientações aos sistemas que já estão entrando em produção.

A F5 apoia essa iniciativa por meio de:

  • F5 AI Guardrails, aplicando políticas de segurança em tempo de execução para controlar o comportamento da IA à medida que sistemas agênticos entram em produção.
  • F5 AI Red Team, avaliando sistemas de IA generativa para verificar sua resiliência em cenários reais, abrangendo o comportamento dos modelos, as aplicações e os fluxos de execução de agentes de IA.
  • Índice Abrangente de Segurança de IA (CASI) e Pontuação de Resistência Agêntica (ARS), disponibilizados pelo F5 Labs, fornecendo parâmetros de referência padronizados para medir a resiliência de modelos e sistemas e embasar decisões de segurança.

À medida que a IA agêntica avança, as organizações que mais se beneficiarão serão aquelas que incorporarem resiliência desde o início e tratarem a segurança como um pilar fundamental na concepção e operação desses sistemas.

OWASP Agentic Top 10 — Como esses riscos se manifestam

ASI01 – Sequestro do objetivo do agente

Quando os objetivos de um agente são alterados por meio de injeção de prompt, contexto contaminado ou desvio de plano.

  • F5 AI Red Team testa cenários de injeção indireta de prompts extraídos de sua biblioteca de ataques, nos quais fontes de conteúdo controladas por invasores ou não confiáveis, como documentos, páginas da web, e-mails ou saídas de ferramentas, são usadas para introduzir instruções maliciosas, avaliando a facilidade com que os objetivos dos agentes podem ser alterados.
  • O F5 AI Guardrails aplica a validação de entradas e restringe caminhos de raciocínio inseguros ou que não estejam em conformidade durante a inferência, reduzindo o risco de comportamentos indesejados nas etapas subsequentes.
  • O ARS mede a resiliência contra sequências de ataques persistentes, conduzidos por agentes e executados em várias etapas.

ASI02 – Uso indevido e exploração de ferramentas

Quando um agente faz uso indevido de ferramentas ou invasores exploram as interfaces das ferramentas como pontos de apoio para avançar no ataque.

  • F5 AI Guardrails valida solicitações relacionadas a ferramentas em tempo de execução e restringe padrões de raciocínio que poderiam levar a interações inseguras com ferramentas.
  • CASI e ARS refletem a suscetibilidade ao uso indevido em padrões de execução representativos.

ASI03 – Abuso de identidade e privilégios

Quando agentes herdam ou usam indevidamente credenciais, tokens ou acesso com privilégios elevados.

  • O F5 AI Guardrails pode detectar segredos, credenciais ou tokens no contexto de raciocínio e bloqueá-los ou registrá-los em log antes que uma ferramenta seja acionada com acesso implícito ou explícito.

ASI04 – Vulnerabilidades na cadeia de suprimentos de agentes de IA

Riscos decorrentes de servidores MCP, registros, pacotes remotos de prompts e ferramentas de terceiros que dão suporte aos fluxos de trabalho dos agentes.

  • O F5 AI Guardrails detecta e bloqueia instruções ocultas ou prompts injetados nos dados consumidos por agentes, incluindo dados de fontes confiáveis ou previamente aprovadas, em tempo de execução durante os fluxos de trabalho dos agentes.
  • O CASI e o ARS medem o risco no nível do sistema, identificando como as vulnerabilidades se propagam entre modelos e padrões de execução, em vez de tratar cada componente isoladamente.

ASI05 – Execução inesperada de código

Quando agentes geram, executam ou modificam código, shells ou configurações de maneira insegura.

  • O F5 AI Guardrails aplica políticas granulares às saídas relacionadas a código, impondo listas de permissões e bloqueando padrões de alto risco.
  • CASI e ARS capturam esses comportamentos em caminhos de execução representativos.

ASI06 – Gerenciamento de contexto e manipulação da recuperação

Quando o contexto persistente ou recuperado é envenenado, manipulado ou sofre desvios.

  • F5 AI Red Team avalia cenários em que agentes consomem e reutilizam contexto não confiável ou enganoso fornecido por meio de entradas normais em tempo de execução, analisando como a degradação do contexto afeta o raciocínio e as ações subsequentes.
  • F5 AI Guardrails inspeciona o contexto recuperado em busca de violações de políticas e detecta cargas maliciosas de injeção de prompt antes que elas influenciem o comportamento do modelo.
  • CASI e ARS medem a resiliência ao envenenamento de contexto em tempo de execução e à propagação baseada em injeção.

ASI07 – Comunicação insegura entre agentes

Quando agentes trocam mensagens sem proteção do canal, autenticação ou verificações de integridade.

  • F5 AI Guardrails pode detectar e sinalizar a intenção de delegação de agentes em tempo de execução, inclusive quando um agente ou gerenciador de agentes avalia qual agente deve ser acionado para executar uma tarefa, e aplicar controles de política para restringir o raciocínio de delegação de alto risco.
  • O CASI e o ARS oferecem visibilidade sobre como os padrões de execução com múltiplas etapas e múltiplos agentes aumentam o risco sistêmico ao longo do tempo.

ASI08 – Falhas em cascata

Quando múltiplos riscos se acumulam ao longo de etapas, agentes ou sistemas.

  • F5 AI Guardrails limita o alcance dos impactos por meio de cotas, controles de políticas e aplicação de regras em tempo de execução.
  • O CASI mede a resiliência diante de diversos vetores de ataque, enquanto o ARS avalia até onde as falhas podem se propagar durante a execução contínua de agentes de IA em múltiplas etapas.

ASI09 – Exploração da confiança entre humanos e agentes

Quando agentes exploram a confiança humana por meio de instruções convincentes ou enganosas.

  • O F5 AI Guardrails identifica e bloqueia conteúdo inseguro e registra as decisões para auditoria.
  • F5 AI Red Team simula padrões de engenharia social para aprimorar o design dos fluxos de trabalho e a conscientização dos operadores.

ASI10 – Agentes mal-intencionados

Quando agentes comprometidos ou que se desviam de seu comportamento esperado permanecem em sistemas complexos sem serem detectados.

  • F5 AI Guardrails aplica políticas de forma consistente à medida que o comportamento dos agentes evolui, bloqueando padrões de execução inseguros ou tentativas de exfiltração de dados.
  • CASI e ARS detectam desvios comportamentais ao monitorar mudanças mensuráveis nos sinais de risco ao longo do tempo.

Como a F5 oferece segurança de IA para fluxos de trabalho agênticos

A segurança de IA é parte essencial da F5 Application Delivery and Security Platform (ADSP). Os fluxos de trabalho agênticos introduzem novos riscos na forma como prompts, ferramentas, contexto e agentes interagem na camada de aplicações e APIs, mas essas interações ainda percorrem os mesmos caminhos da web, das APIs, do plano de dados e do plano de controle que as organizações já protegem hoje.

Ao estender os controles de segurança e a visibilidade ao comportamento durante a inferência, a F5 permite que as organizações enfrentem os riscos associados a agentes de IA, aproveitando as bases de segurança de aplicações nas quais já confiam.

A F5 continua apoiando o esforço mais amplo da comunidade para fortalecer as práticas de segurança em IA, incluindo o trabalho do OWASP GenAI Security Project.

Saiba mais sobre o F5 AI Red Team e o F5 AI Guardrails.

Compartilhar

Sobre o autor

Louise Scully
Louise ScullyGerente Sênior de Marketing de Produto, Segurança de IA e Inteligência de Ameaças | F5

Louise Scully é gerente sênior de Marketing de Produtos para Segurança de IA e Inteligência de Ameaças na F5. Sua carreira abrange marketing de produtos, gestão de produtos, estratégia de entrada no mercado, comunicação, liderança de pensamento e desenvolvimento de categorias nas áreas de segurança de IA e tecnologia empresarial. Antes de ingressar na F5, Louise liderou o marketing na CalypsoAI e na Artomatix, ajudando a levar tecnologias e pesquisas de IA ao mercado.

Mais publicações de Louise Scully

Publicações relacionadas no blog

Segurança de APIs sem concessões: apresentamos novas opções flexíveis de descoberta com F5 API security
F5 ADSP | 11/03/2026

Segurança de APIs sem concessões: apresentamos novas opções flexíveis de descoberta com F5 API security

As opções ampliadas de descoberta de APIs da F5 foram desenvolvidas para oferecer o máximo de flexibilidade e atender às organizações onde quer que estejam.

Governe sua IA no presente e antecipe o futuro da sua IA
F5 ADSP | 18/12/2025

Governe sua IA no presente e antecipe o futuro da sua IA

Aprenda com nosso CISO de campo, Chuck Herrin, como se preparar para o novo desafio de proteger modelos e agentes de IA.

Segurança de IA para a cadeia de suprimentos
F5 ADSP | 01/01/2025

Segurança de IA para a cadeia de suprimentos

As cadeias de suprimentos são cada vez mais impulsionadas pela IA — desde a previsão de demanda e o planejamento logístico até a análise de riscos de fornecedores e a gestão de estoque em tempo real. Essas ferramentas ajudam as empresas a reduzir custos, aumentar a resiliência e se adaptar a disrupções globais. No entanto, elas também criam novos riscos em um vasto ecossistema: nossas soluções de segurança de IA em tempo de execução protegem o setor de Cadeia de Suprimentos […]

Segurança de IA para Recursos Humanos
F5 ADSP | 01/01/2025

Segurança de IA para Recursos Humanos

A IA está revolucionando o RH. As empresas estão implementando copilotos de recrutamento com IA, assistentes de integração, chatbots de suporte aos funcionários e ferramentas de análise da força de trabalho para reduzir custos e melhorar a experiência dos colaboradores. No entanto, as aplicações de RH também apresentam riscos específicos que podem expor as organizações a falhas de conformidade, alegações de viés e danos à reputação: nossas soluções de segurança de IA em tempo de execução protegem o setor de RH com […]

Equilibrando o desempenho da IA e a gestão de recursos
F5 ADSP | 29/05/2024

Equilibrando o desempenho da IA e a gestão de recursos

As organizações dependem cada vez mais de ferramentas e iniciativas de IA para impulsionar a inovação e a transformação. Cada avanço incremental na sofisticação das ferramentas de IA torna o equilíbrio entre desempenho e gestão de recursos um desafio maior e mais relevante para as equipes de TI e segurança. No entanto, esse equilíbrio é essencial para maximizar o ROI, garantir a segurança e manter a eficiência em toda a […]

Integração de APIs em IA: a base técnica
F5 ADSP | 10/04/2024

Integração de APIs em IA: a base técnica

A integração de APIs é um canal essencial no ecossistema de IA, por meio do qual diferentes sistemas, plataformas e aplicações interagem. Analisamos as nuances técnicas da integração de APIs em IA, com ênfase em sua importância para aprimorar a eficiência e os recursos dos sistemas de IA. As APIs permitem a troca fluida de dados e funcionalidades entre diferentes soluções de IA […]