Alinhamento da F5 com o Top 10 da OWASP para LLMs
O OWASP Top 10 para aplicações de LLM (2025) destaca como a IA introduz novos riscos de segurança e governança, ao mesmo tempo que aumenta a importância da proteção tradicional de aplicações. À medida que as organizações passam de projetos-piloto de IA para o ambiente de produção, as equipes de segurança precisam de controles capazes de acompanhar a evolução das técnicas adversariais e, ainda assim, atender aos requisitos de privacidade e conformidade.
As seções a seguir relacionam cada área de risco para LLMs da OWASP aos recursos relevantes da F5: F5 AI Guardrails para proteção em tempo de execução independente de modelo e aplicação de políticas em todas as interações com IA, F5 Web App and API Protection (WAAP) para proteger as superfícies de aplicações e APIs que viabilizam fluxos de trabalho de IA, e F5 AI Red Team para avaliar proativamente as vulnerabilidades de modelos e aplicações antes que os invasores o façam.
LLM01: Injeção de Prompt
A injeção de prompt ocorre quando as entradas do usuário manipulam um modelo para que ele adote comportamentos prejudiciais, como revelar informações confidenciais, conceder acesso não autorizado ou gerar conteúdo tendencioso ou tóxico. O F5 AI Guardrails reduz esses riscos ao inspecionar tanto os prompts quanto as respostas do modelo em busca de atividades maliciosas e bloquear interações perigosas ou em desacordo com as normas. Ele oferece proteções prontas para uso contra milhares de técnicas conhecidas de injeção de prompt, além de uma interface para criar rapidamente Guardrails personalizados à medida que surgem novas ameaças.
LLM02: Divulgação de Informações Sensíveis
A divulgação de informações confidenciais representa um risco em duas vias: aplicações de IA podem expor dados não autorizados aos usuários, e os usuários podem enviar informações confidenciais — como informações de identificação pessoal (PII) ou dados proprietários — que o sistema não tem permissão para processar. O F5 AI Guardrails aborda ambos os riscos filtrando tipos de dados confidenciais, incluindo PII, PCI e PHI, para evitar interações que não estejam em conformidade. As equipes também podem definir padrões de dados personalizados para monitorar ou bloquear entradas de usuários, saídas do modelo ou ambas. Além disso, o AI Guardrails oferece suporte a funções tradicionais de gerenciamento de acesso, como o provisionamento de grupos com controle de acesso baseado em função (RBAC), para adaptar a aplicação de políticas por usuário ou grupo.
LLM03: Cadeia de Suprimentos
As vulnerabilidades da cadeia de suprimentos em LLMs ameaçam a integridade dos dados de treinamento, dos modelos e das plataformas de implantação. O risco mais significativo decorre da adoção de modelos de terceiros pré-treinados e de adaptadores de baixa classificação (LoRAs), usados para ajustar um modelo-base sem retreiná-lo. Com milhões de modelos e LoRAs disponíveis em plataformas como a Hugging Face, a superfície de ataque se expande drasticamente, criando oportunidades de adulteração e envenenamento de dados em inúmeras variações de modelos. O F5 AI Guardrails cria uma camada consistente de aplicação de políticas em aplicações de IA, independentemente da origem do modelo. Implantado como um proxy que inspeciona as interações entre usuários, agentes e aplicações, o AI Guardrails aplica controles comuns de segurança em tempo de execução para mitigar os riscos decorrentes de dados de treinamento tendenciosos, da variabilidade dos modelos e de possíveis explorações antes que resultados prejudiciais cheguem aos usuários. Além disso, o F5 AI Red Team realiza simulações de ataques em larga escala para avaliar os riscos específicos e as tendências comportamentais de cada modelo. Como os perfis de risco podem variar amplamente até mesmo dentro da mesma família de modelos, o AI Red Team fornece insights rápidos e práticos sobre vulnerabilidades antes que invasores possam explorá-las.
LLM04: Envenenamento de Dados e Modelos
O envenenamento de dados e modelos envolve a manipulação maliciosa de dados de treinamento, ajuste fino ou recuperação, o que pode degradar a qualidade das respostas, introduzir vieses ou inserir gatilhos de backdoor. A F5 reduz os riscos de envenenamento protegendo as superfícies expostas de aplicações e APIs com o F5 Web App and API Protection (WAAP). Recursos do F5 WAAP, como Bot Defense e DDoS Mitigation, reduzem a inserção automatizada de conteúdo malicioso nos fluxos de ingestão e feedback, enquanto API Discovery and Security ajudam a identificar e controlar as APIs de coleta e recuperação de dados, um dos vetores de ataque mais comuns usados para influenciar o comportamento dos modelos. Além disso, o F5 AI Guardrails pode atuar como um controle compensatório em tempo de execução, detectando e bloqueando indicadores conhecidos de envenenamento, como frases ou padrões de gatilho, por meio de Guardrails personalizados.
LLM05: Tratamento inadequado da saída
O tratamento inadequado de saídas ocorre quando as saídas geradas por LLMs não são suficientemente validadas ou sanitizadas antes de serem encaminhadas a sistemas subsequentes. Como invasores podem influenciar as saídas do modelo por meio de prompts elaborados, isso pode levar ao acesso indireto a funcionalidades sensíveis e causar impactos subsequentes, como XSS ou CSRF em navegadores, ou SSRF, escalonamento de privilégios e execução remota de código em sistemas de backend. O F5 AI Guardrails reduz esse risco inspecionando as saídas do modelo antes que sejam entregues aos usuários ou encaminhadas a ferramentas subsequentes, bloqueando ou registrando conteúdo inseguro com base em políticas definidas. O F5 Web App and API Protection (WAAP) reduz ainda mais a exposição ao aplicar controles consolidados de segurança para a Web e APIs — incluindo descoberta de APIs, validação de esquemas e proteção contra ameaças — aos aplicativos e às APIs que consomem saídas de LLMs, impedindo que cargas maliciosas se transformem em ataques executáveis.
LLM06: Agência excessiva
A agência excessiva ocorre quando um modelo ou agente recebe mais autonomia, permissões ou acesso a ferramentas do que o necessário, permitindo que entradas manipuladas desencadeiem ações não intencionais, como enviar mensagens, executar transações ou exfiltrar dados. O F5 AI Guardrails reduz esse risco ao impor limites baseados em políticas ao que os modelos podem solicitar ou gerar e ao bloquear interações que não estejam em conformidade antes que elas cheguem a ferramentas ou sistemas subsequentes. O F5 Web App and API Protection (WAAP) oferece uma proteção adicional ao impor autenticação, autorização e limitação de taxa às APIs de ferramentas e plugins, garantindo que os serviços subjacentes permaneçam protegidos mesmo que um agente tente realizar uma ação insegura.
LLM07: Vazamento de Prompt do Sistema
O vazamento de prompts de sistema ocorre quando invasores extraem instruções ocultas, credenciais ou lógica de políticas incorporadas aos prompts de sistema e usam esse conhecimento para contornar controles ou intensificar ataques. O F5 AI Guardrails reduz esse risco detectando e bloqueando padrões comuns de extração nas entradas dos usuários e filtrando as respostas para impedir que o modelo retorne conteúdo restrito dos prompts. O F5 AI Red Team testa proativamente modelos e aplicações em escala para identificar vazamentos de prompts e vulnerabilidades à extração de prompts de sistema, fornecendo descobertas práticas para reforçar prompts, políticas e controles em tempo de execução antes da implantação.
LLM08: Vulnerabilidades de Vetores e Embeddings
As vulnerabilidades de vetores e embeddings surgem em sistemas de Geração Aumentada por Recuperação (RAG) e baseados em embeddings quando invasores manipulam, contaminam ou exploram o conteúdo recuperado para influenciar respostas, provocar a exposição de dados confidenciais ou contornar controles de segurança. O F5 Web App and API Protection (WAAP) ajuda a mitigar esses riscos protegendo as APIs usadas para ingerir documentos, gerenciar coleções e realizar consultas de recuperação, incluindo descoberta de APIs, aplicação de esquemas e prevenção contra bots e abusos. O F5 AI Guardrails reduz ainda mais o impacto posterior ao aplicar inspeção em tempo de execução e políticas personalizadas às saídas do modelo, ajudando a detectar padrões suspeitos, conteúdo inseguro ou dados confidenciais antes que as respostas sejam entregues aos usuários.
LLM09: Desinformação
O risco de desinformação ocorre quando um LLM produz respostas incorretas ou enganosas que podem levar a decisões inseguras, danos à reputação ou falhas de conformidade. O F5 AI Guardrails reduz esse risco com Guardrails de moderação de conteúdo que sinalizam ou bloqueiam categorias de conteúdo de alto risco, exigem estruturas de resposta específicas ou acionam controles adicionais quando o conteúdo parece incerto ou não conforme. O F5 AI Red Team avalia como os sistemas de IA se comportam diante de questionamentos adversariais e casos extremos, ajudando as equipes a quantificar tendências de desinformação e ajustar políticas e fluxos de trabalho antes da implantação em produção.
LLM10: Consumo sem Limites
O consumo ilimitado ocorre quando invasores ou clientes configurados incorretamente provocam o uso excessivo do modelo, levando ao esgotamento de recursos, à redução da disponibilidade ou ao aumento inesperado de custos por meio de um grande volume de solicitações, prompts muito extensos ou automação abusiva. O F5 Web App and API Protection (WAAP) reduz esse risco aplicando limitação de taxa e mitigação de DDoS nas camadas de aplicação e API, a fim de reduzir o tráfego abusivo antes que ele chegue à infraestrutura do modelo. Combinado com recursos de descoberta de APIs voltadas para IA e controles de segurança, o F5 WAAP ajuda a conter os riscos de disponibilidade e custos associados ao uso descontrolado de LLMs.
A segurança da IA é um alvo em constante movimento
Proteger aplicações de LLM exige mais do que testes pontuais ou configurações padrão do provedor do modelo. Uma estratégia eficaz de segurança de IA requer a aplicação contínua de políticas em tempo de execução e uma proteção robusta das APIs, ferramentas e sistemas de dados dos quais os LLMs dependem. Para enfrentar os 10 principais riscos da OWASP para aplicações de LLM (2025), a F5 combina:
- F5 AI Guardrails - Segurança adaptativa em tempo de execução, independente de modelo, com F5 AI Guardrails para evitar vazamento de dados, manipulação adversarial e resultados prejudiciais
- F5 AI Red Team - Testes proativos com o F5 AI Red Team para identificar antecipadamente vulnerabilidades específicas de modelos e fluxos de trabalho e transformar as descobertas em defesas ativas
- F5 Web App and API Protection (WAAP) - Controles de aplicações e APIs para reduzir a exposição, o uso indevido e os riscos aos recursos
Juntas, essas camadas permitem que as empresas ampliem o uso da IA, mantendo a resiliência, a conformidade e a confiança dos usuários à medida que as experiências baseadas em LLMs evoluem.