OWASP Top 10 para aplicações de IA agêntica

O OWASP Agentic AI Top 10 ajuda as organizações a compreender os principais riscos de segurança introduzidos por sistemas autônomos de IA que operam em diferentes ferramentas, APIs e fontes de dados. Como os fluxos de trabalho agênticos ampliam a superfície de ataque durante a execução, o framework oferece uma maneira prática de avaliar riscos, reforçar controles e reduzir a exposição.

Esta página relaciona esses riscos às formas como os recursos da F5 podem ajudar a mitigá-los na prática.

O que é o OWASP Top 10 para IA agêntica?

Publicado pelo OWASP GenAI Security Project, o framework se concentra nos riscos que surgem quando sistemas de IA recebem objetivos, memória, ferramentas e a capacidade de executar ações em diferentes sistemas. Ao contrário dos riscos tradicionais associados a chatbots, as ameaças da IA agêntica podem se propagar por fluxos de trabalho com várias etapas, aplicativos conectados e decisões autônomas. Exemplos comuns incluem sequestro dos objetivos do agente, uso indevido de ferramentas, agentes mal-intencionados, comunicação insegura entre agentes e falhas em cascata.

Por que o Top 10 da OWASP para IA agêntica é importante?

Muitas organizações ainda estão testando a IA agêntica em projetos-piloto, mas as primeiras cargas de trabalho já estão se conectando a sistemas de produção. Isso significa que falhas agora podem afetar dados reais, APIs, fluxos de trabalho e usuários. O framework oferece a CISOs, arquitetos e equipes de segurança uma maneira prática de identificar onde os riscos são maiores, alinhar controles e desenvolver sistemas de IA mais seguros desde o início.

Como funciona o Top 10 de IA Agêntica da OWASP?

O framework organiza os riscos da IA agêntica em dez categorias:

ASI01 Sequestro do objetivo do agente – Um invasor manipula os objetivos, as instruções ou o processo decisório de um agente para que ele busque resultados não pretendidos.

Uso indevido e exploração de ferramentas (ASI02) – Um agente usa ferramentas conectadas de forma insegura, ou invasores exploram interfaces de ferramentas para obter acesso ou causar danos.

ASI03 Abuso de identidade e privilégios – Agentes usam indevidamente credenciais, tokens ou permissões herdadas para acessar sistemas ou dados além dos limites previstos.

ASI04 Vulnerabilidades da cadeia de suprimentos agêntica – Riscos introduzidos por ferramentas, plugins, registros, servidores MCP ou componentes externos de terceiros usados em fluxos de trabalho de agentes.

ASI05 Execução inesperada de código – Um agente gera, modifica ou executa código ou comandos de maneiras que criam riscos operacionais ou de segurança.

ASI06 Gerenciamento de contexto e manipulação da recuperação – O contexto recuperado ou armazenado é contaminado, enganoso, desatualizado ou adulterado, influenciando o comportamento futuro do agente.

ASI07 Comunicação insegura entre agentes – Os agentes trocam mensagens sem autenticação, integridade ou controles de política suficientes, criando oportunidades para uso indevido.

ASI08 Falhas em cascata – Um único erro, comprometimento ou decisão equivocada se propaga por agentes, ferramentas ou fluxos de trabalho interconectados.

ASI09 Exploração da Confiança entre Humanos e Agentes – Agentes usam respostas persuasivas ou enganosas para induzir usuários a realizar ações inseguras ou conceder aprovações indevidas.

ASI10 Agentes Rebeldes – Agentes comprometidos, desalinhados ou que se desviaram continuam operando de maneiras não previstas em sistemas complexos.

Como a F5 lida com o OWASP Top 10 para IA agêntica?

O OWASP Agentic AI Top 10 destaca os riscos de segurança mais críticos associados a sistemas de IA autônomos e semiautônomos. Muitos desses riscos não existem apenas no modelo. Eles surgem em toda a arquitetura mais ampla da aplicação, incluindo APIs, fluxos de dados, ferramentas de terceiros, controles de identidade e ações em tempo de execução. Para mitigá-los, são necessários controles que abranjam todo o ecossistema de aplicações de IA.

A F5 ajuda as organizações a enfrentar esses desafios por meio da F5 Application Delivery and Security Platform (ADSP), que unifica a entrega de aplicações, a proteção de APIs, o gerenciamento de tráfego, a aplicação de políticas e os recursos de segurança para aplicações modernas e cargas de trabalho de IA. Para a IA agêntica, isso oferece uma base mais sólida para proteger os ambientes em que os sistemas de IA operam.

No ADSP:

• F5 AI Guardrails ajuda a aplicar políticas a prompts, saídas e ao comportamento do modelo no limite de inferência.
• F5 AI Red Team ajuda a identificar vulnerabilidades em modelos, aplicações e fluxos de trabalho agênticos por meio de testes adversariais.
• F5 WAAP ajuda a proteger as aplicações web, APIs e serviços digitais dos quais os agentes dependem para acessar dados e realizar ações.
• F5 AI Remediate ajuda a operacionalizar as descobertas, transformando mais rapidamente os riscos identificados em proteções que podem ser implementadas.
• F5 BIG-IP ajuda a fornecer, proteger e dimensionar aplicações de IA em ambientes híbridos e multinuvem complexos.

Ao reunir esses recursos em uma única plataforma, a F5 ajuda as organizações a seguir as diretrizes da OWASP, reduzir os riscos operacionais e adotar a IA agêntica com mais confiança.