Alinhamento da F5 com o Top 10 da OWASP para LLMs
O OWASP Top 10 para Aplicações de LLM (2025) destaca como a IA introduz novos riscos de segurança e governança, ao mesmo tempo que torna a proteção tradicional de aplicações ainda mais crítica. À medida que as organizações passam de projetos-piloto de IA para a produção, as equipes de segurança precisam de controles capazes de acompanhar a evolução das técnicas de ataque e, ainda assim, atender aos requisitos de privacidade e conformidade.
As seções a seguir relacionam cada área de risco de LLM da OWASP aos recursos relevantes da F5: F5 AI Guardrails para proteção em tempo de execução independente de modelo e aplicação de políticas em todas as interações com IA, F5 Web App and API Protection (WAAP) para proteger as superfícies de aplicações e APIs que viabilizam os fluxos de trabalho de IA, e F5 AI Red Team para avaliar proativamente as vulnerabilidades de modelos e aplicações antes que os invasores o façam.
LLM01: Injeção de prompt
A injeção de prompt ocorre quando as entradas dos usuários manipulam um modelo para que ele adote comportamentos prejudiciais, como revelar informações confidenciais, permitir acesso não autorizado ou gerar conteúdo tendencioso ou tóxico. O F5 AI Guardrails mitiga esses riscos ao inspecionar tanto os prompts quanto as saídas do modelo em busca de atividades maliciosas e bloquear interações perigosas ou que violem as políticas. Ele oferece proteções prontas para uso contra milhares de técnicas conhecidas de injeção de prompt, além de uma interface para criar rapidamente mecanismos de proteção personalizados à medida que surgem novas ameaças.
LLM02: Divulgação de informações sensíveis
A divulgação de informações sensíveis representa um risco em duas direções: as aplicações de IA podem expor aos usuários dados aos quais eles não têm autorização de acesso, e os usuários podem enviar informações sensíveis — como informações de identificação pessoal (PII) ou dados proprietários — que o sistema não tem permissão para processar. O F5 AI Guardrails atua nas duas frentes, filtrando tipos de dados sensíveis, incluindo PII, dados de cartões de pagamento (PCI) e informações de saúde protegidas (PHI), para evitar interações que violem os requisitos de conformidade. As equipes também podem definir padrões de dados personalizados para monitorar ou bloquear as entradas dos usuários, as saídas dos modelos ou ambas. Além disso, o AI Guardrails oferece suporte a funções tradicionais de gerenciamento de acesso, como o provisionamento de grupos de controle de acesso baseado em funções (RBAC), para adaptar a aplicação de políticas por usuário ou grupo.
LLM03: Cadeia de suprimentos
As vulnerabilidades na cadeia de suprimentos dos LLMs ameaçam a integridade dos dados de treinamento, dos modelos e das plataformas de implantação. O risco mais significativo decorre da adoção de modelos pré-treinados de terceiros e de adaptadores de baixo posto (LoRAs), usados para ajustar um modelo-base sem treiná-lo novamente. Com milhões de modelos e LoRAs disponíveis em plataformas como o Hugging Face, a superfície de ataque se expande drasticamente, criando oportunidades para adulteração e envenenamento de dados em inúmeras variações de modelos. O F5 AI Guardrails cria uma camada consistente de aplicação de políticas em todas as aplicações de IA, independentemente da origem do modelo. Implantado como um proxy que inspeciona as interações entre usuários, agentes e aplicações, o AI Guardrails aplica controles comuns de segurança em tempo de execução para mitigar riscos decorrentes de dados de treinamento tendenciosos, da variabilidade dos modelos e de possíveis explorações de vulnerabilidades antes que respostas prejudiciais cheguem aos usuários. Além disso, o F5 AI Red Team realiza simulações de ataques em larga escala para avaliar os riscos específicos e as tendências de comportamento de cada modelo. Como os perfis de risco podem variar amplamente mesmo dentro de uma mesma família de modelos, o AI Red Team fornece informações rápidas e acionáveis sobre vulnerabilidades antes que invasores possam explorá-las.
LLM04: Envenenamento de dados e modelos
O envenenamento de dados e modelos envolve a manipulação maliciosa de dados de treinamento, ajuste fino ou recuperação, o que pode prejudicar a qualidade das respostas, introduzir vieses ou incorporar gatilhos de backdoor. A F5 mitiga os riscos de envenenamento protegendo as superfícies expostas de aplicações e APIs com o F5 Web App and API Protection (WAAP). Os recursos do F5 WAAP, como Bot Defense e DDoS Mitigation, reduzem a injeção automatizada de conteúdo malicioso nos fluxos de ingestão e feedback, enquanto o API Discovery and Security ajuda a identificar e controlar as APIs de coleta e recuperação de dados, uma das vias de ataque mais comuns usadas para influenciar o comportamento dos modelos. Além disso, o F5 AI Guardrails pode atuar como um controle compensatório em tempo de execução, detectando e bloqueando indicadores conhecidos de envenenamento, como frases ou padrões que funcionam como gatilhos, por meio de mecanismos de proteção personalizados.
LLM05: Tratamento inadequado de saídas
O tratamento inadequado de saídas ocorre quando as saídas geradas por LLMs não são suficientemente validadas ou sanitizadas antes de serem repassadas a sistemas subsequentes. Como invasores podem influenciar as saídas do modelo por meio de prompts especialmente elaborados, isso pode levar ao acesso indireto a funcionalidades sensíveis e a impactos subsequentes, como XSS ou CSRF em navegadores, ou SSRF, escalonamento de privilégios e execução remota de código em sistemas de backend. O F5 AI Guardrails mitiga esse risco ao inspecionar as saídas do modelo antes que sejam entregues aos usuários ou encaminhadas a ferramentas subsequentes, bloqueando ou registrando conteúdo inseguro com base em políticas definidas. O F5 Web App and API Protection (WAAP) reduz ainda mais a exposição ao aplicar controles consolidados de segurança de aplicações web e APIs — incluindo descoberta de APIs, validação de esquemas e proteção contra ameaças — às aplicações e APIs que consomem saídas de LLMs, impedindo que cargas maliciosas se transformem em ataques executáveis.
LLM06: Autonomia Excessiva
A autonomia excessiva ocorre quando um modelo ou agente recebe mais autonomia, permissões ou acesso a ferramentas do que o necessário, permitindo que entradas manipuladas desencadeiem ações não intencionais, como enviar mensagens, executar transações ou exfiltrar dados. O F5 AI Guardrails reduz esse risco ao impor limites baseados em políticas ao que os modelos podem solicitar ou gerar e ao bloquear interações que não estejam em conformidade antes que elas cheguem às ferramentas ou aos sistemas subsequentes. O F5 Web App and API Protection (WAAP) oferece uma camada adicional de proteção ao aplicar autenticação, autorização e limitação de taxa às APIs de ferramentas e plug-ins, garantindo que os serviços subjacentes permaneçam protegidos mesmo que um agente tente realizar uma ação insegura.
LLM07: Vazamento do prompt de sistema
O vazamento de prompts de sistema ocorre quando invasores extraem instruções ocultas, credenciais ou lógicas de políticas incorporadas nesses prompts e usam esse conhecimento para contornar controles ou intensificar ataques. O F5 AI Guardrails mitiga esse risco ao detectar e bloquear padrões comuns de extração nas entradas dos usuários e filtrar as respostas para impedir que o modelo retorne conteúdo restrito dos prompts. O F5 AI Red Team testa proativamente modelos e aplicações em larga escala para identificar vazamentos de prompts e suscetibilidade à extração de prompts de sistema, fornecendo resultados que orientam ações para fortalecer prompts, políticas e controles em tempo de execução antes da implantação.
LLM08: Fragilidades em vetores e embeddings
As vulnerabilidades em vetores e embeddings surgem na geração aumentada por recuperação (RAG) e em sistemas baseados em embeddings quando invasores manipulam, contaminam ou exploram o conteúdo recuperado para influenciar respostas, provocar a exposição de dados sensíveis ou contornar controles de segurança. O F5 Web App and API Protection (WAAP) ajuda a mitigar esses riscos ao proteger as APIs usadas para ingerir documentos, gerenciar coleções e executar consultas de recuperação, com recursos como descoberta de APIs, validação de conformidade com esquemas e prevenção de bots e abusos. O F5 AI Guardrails reduz ainda mais o impacto nas etapas seguintes ao aplicar inspeção em tempo de execução e políticas personalizadas às saídas do modelo, ajudando a detectar padrões suspeitos, conteúdo inseguro ou dados sensíveis antes que as respostas sejam entregues aos usuários.
LLM09: Desinformação
O risco de desinformação ocorre quando um LLM gera respostas incorretas ou enganosas que podem levar a decisões inseguras, danos à reputação ou falhas de conformidade. O F5 AI Guardrails mitiga esse risco com mecanismos de proteção para moderação de conteúdo que sinalizam ou bloqueiam categorias de conteúdo de alto risco, exigem estruturas de resposta específicas ou acionam controles adicionais quando o conteúdo parece incerto ou em desacordo com as normas. O F5 AI Red Team avalia como os sistemas de IA se comportam diante de perguntas adversariais e casos extremos, ajudando as equipes a quantificar a propensão à desinformação e a ajustar políticas e fluxos de trabalho antes da implantação em produção.
LLM10: Consumo ilimitado
O consumo ilimitado ocorre quando invasores ou clientes mal configurados provocam o uso excessivo do modelo, levando ao esgotamento de recursos, à redução da disponibilidade ou a aumentos inesperados de custos por meio de um alto volume de solicitações, prompts muito extensos ou automação abusiva. O F5 Web App and API Protection (WAAP) mitiga esse risco ao aplicar limitação de taxa e mitigação de DDoS na camada de aplicações e APIs para reduzir o tráfego abusivo antes que ele alcance a infraestrutura do modelo. Em conjunto com a descoberta de APIs voltadas à IA e controles de segurança, o F5 WAAP ajuda a conter os riscos de indisponibilidade e de aumento de custos associados ao uso descontrolado de LLMs.
A segurança da IA é um alvo em constante movimento
Proteger aplicações de LLM exige mais do que testes pontuais ou configurações padrão do provedor do modelo. Uma estratégia eficaz de segurança de IA exige a aplicação contínua de políticas em tempo de execução e uma proteção robusta das APIs, ferramentas e sistemas de dados dos quais os LLMs dependem. Para abordar os riscos do OWASP Top 10 para Aplicações de LLM (2025), a F5 combina:
- F5 AI Guardrails - Segurança adaptativa em tempo de execução, independente de modelo, com o F5 AI Guardrails para evitar vazamentos de dados, manipulação adversarial e respostas prejudiciais
- F5 AI Red Team - Testes proativos com o F5 AI Red Team para identificar antecipadamente vulnerabilidades específicas de modelos e fluxos de trabalho e transformar as descobertas em defesas ativas
- F5 Web App and API Protection (WAAP) - Controles de aplicações e APIs para reduzir a exposição, o uso indevido e os riscos aos recursos
Juntas, essas camadas permitem que as empresas ampliem o uso da IA, mantendo a resiliência, a conformidade e a confiança dos usuários à medida que as experiências baseadas em LLMs evoluem.