Quando a OWASP publicou, em 2025, sua lista As 10 principais vulnerabilidades em modelos de linguagem de grande porte (LLMs), ela forneceu ao setor uma referência de segurança muito necessária. Mas referências não significam nada sem ação.
A CalypsoAI aborda 80% dos 10 principais riscos da OWASP, priorizando os riscos mais urgentes do mundo real. A plataforma combina proteção em tempo de execução em tempo real e testes adversariais aprofundados, oferecendo uma cobertura incomparável dos riscos mais críticos associados aos LLMs atualmente. De injeção de prompts e vazamento de dados a autonomia excessiva e consumo ilimitado, criamos um perímetro de inferência para a forma como a IA é realmente usada nas empresas.
Enquanto outros fornecedores ficam na superfície ou protegem apenas uma parte da stack, a CalypsoAI vai além, mapeando os riscos da OWASP tanto nas camadas de red team quanto nas de defesa. Não se trata apenas de cumprir requisitos. Trata-se de oferecer às equipes de segurança a visibilidade, o controle e os mecanismos de aplicação de políticas necessários para proteger sistemas de IA generativa em escala.
Veja como abordamos os principais riscos da OWASP — e vamos além.
LLM01: Injeção de prompt
Bloqueado, testado e mitigado.
A CalypsoAI realiza testes abrangentes de vulnerabilidades a injeção de prompts usando mais de 20.000 prompts de avaliação. A plataforma oferece proteções integradas para impedir a manipulação não autorizada de prompts.
LLM02: Divulgação de Informações Sensíveis
Dados confidenciais permanecem privados.
A CalypsoAI identifica vulnerabilidades que podem levar à exposição de dados confidenciais. A plataforma inclui um scanner de informações de identificação pessoal (PII) pronto para uso (OOTB) e oferece suporte à verificação personalizada por meio de palavras-chave, expressões regulares e modelos de IA generativa.
LLM03: Cadeia de suprimentos
Nós mitigamos os riscos para que você não precise se preocupar com eles.
A plataforma mitiga riscos, como modelos desatualizados, modelos pré-treinados vulneráveis e procedência pouco confiável dos modelos, por meio de testes de intrusão (red teaming) e monitoramento contínuo.
LLM04: Envenenamento de Dados e Modelos
Protegemos a inferência — até mesmo contra erros em etapas anteriores.
Embora seja principalmente um risco relacionado ao treinamento, a CalypsoAI ajuda a identificar modelos mal treinados ou envenenados e oferece proteção para aplicações de geração aumentada por recuperação (RAG) durante a inferência.
LLM05: Tratamento inadequado da saída
Interações mais seguras desde a concepção.
A CalypsoAI detecta e bloqueia tentativas de XSS e injeção de código nas respostas de LLMs, garantindo interações mais seguras.
LLM06: Autonomia excessiva
Autonomia com responsabilidade.
A plataforma oferece proteção integrada aos agentes, verificando entradas e saídas para mitigar os riscos associados às Plataformas de Colaboração Multiagente (MCPs).
LLM07: Vazamento de prompt do sistema
Mantemos seus sistemas seguros.
A CalypsoAI inclui mecanismos de proteção integrados contra o vazamento de prompts do sistema, com recursos adicionais previstos no roadmap para aprimorar essa proteção.
LLM08: Vulnerabilidades de Vetores e Embeddings
Não se aplica — por definição.
A CalypsoAI opera na camada de inferência e não aborda diretamente as vulnerabilidades de armazenamento vetorial.
LLM09: Desinformação
Não se aplica — tratado antes da inferência.
Atualmente, a CalypsoAI não oferece detecção de alucinações, pois essa questão está sendo tratada no nível do modelo por provedores upstream, como a OpenAI. Nosso foco continua sendo proteger a inferência para garantir resultados de IA seguros e confiáveis.
LLM10: Consumo Ilimitado
Eficiência aliada à aplicação de políticas.
A CalypsoAI evita o consumo excessivo e o uso indevido de APIs, garantindo que os recursos de LLM sejam utilizados com eficiência e segurança.
Desenvolvido para IA no mundo real
Não se trata apenas de cumprir requisitos para marcar uma caixa. A CalypsoAI foi desenvolvida especificamente para proteger a IA em produção — onde os riscos são reais e as consequências importam. De testes de red teaming contra mais de 30 mil ataques agênticos à proteção em tempo de execução e em tempo real, nossa plataforma se adapta a novas ameaças antes que elas afetem seus negócios.
Sobre o autor
Louise Scully é gerente sênior de Marketing de Produtos para Segurança de IA e Inteligência de Ameaças na F5. Sua carreira abrange marketing de produtos, gestão de produtos, estratégia de entrada no mercado, comunicação, liderança de pensamento e desenvolvimento de categorias nas áreas de segurança de IA e tecnologia empresarial. Antes de ingressar na F5, Louise liderou o marketing na CalypsoAI e na Artomatix, ajudando a levar tecnologias e pesquisas de IA ao mercado.
Mais publicações de Louise ScullyPublicações relacionadas no blog
Segurança de APIs sem concessões: apresentamos novas opções flexíveis de descoberta com F5 API security
As opções ampliadas de descoberta de APIs da F5 foram desenvolvidas para oferecer o máximo de flexibilidade e atender às organizações onde quer que estejam.
Governe sua IA no presente e antecipe o futuro da sua IA
Aprenda com nosso CISO de campo, Chuck Herrin, como se preparar para o novo desafio de proteger modelos e agentes de IA.
Segurança de IA para a cadeia de suprimentos
As cadeias de suprimentos são cada vez mais impulsionadas pela IA — desde a previsão de demanda e o planejamento logístico até a análise de riscos de fornecedores e a gestão de estoque em tempo real. Essas ferramentas ajudam as empresas a reduzir custos, aumentar a resiliência e se adaptar a disrupções globais. No entanto, elas também criam novos riscos em um vasto ecossistema: nossas soluções de segurança de IA em tempo de execução protegem o setor de Cadeia de Suprimentos […]
Segurança de IA para Recursos Humanos
A IA está revolucionando o RH. As empresas estão implementando copilotos de recrutamento com IA, assistentes de integração, chatbots de suporte aos funcionários e ferramentas de análise da força de trabalho para reduzir custos e melhorar a experiência dos colaboradores. No entanto, as aplicações de RH também apresentam riscos específicos que podem expor as organizações a falhas de conformidade, alegações de viés e danos à reputação: nossas soluções de segurança de IA em tempo de execução protegem o setor de RH com […]
Equilibrando o desempenho da IA e a gestão de recursos
As organizações dependem cada vez mais de ferramentas e iniciativas de IA para impulsionar a inovação e a transformação. Cada avanço incremental na sofisticação das ferramentas de IA torna o equilíbrio entre desempenho e gestão de recursos um desafio maior e mais relevante para as equipes de TI e segurança. No entanto, esse equilíbrio é essencial para maximizar o ROI, garantir a segurança e manter a eficiência em toda a […]
Integração de APIs em IA: a base técnica
A integração de APIs é um canal essencial no ecossistema de IA, por meio do qual diferentes sistemas, plataformas e aplicações interagem. Analisamos as nuances técnicas da integração de APIs em IA, com ênfase em sua importância para aprimorar a eficiência e os recursos dos sistemas de IA. As APIs permitem a troca fluida de dados e funcionalidades entre diferentes soluções de IA […]