Proteja modelos e agentes de IA sem comprometer a segurança: Como a aquisição da CalypsoAI pela F5 vai garantir proteção completa em tempo de execução para IA

Gerenciar a segurança cibernética em um mundo com IA é mais desafiador do que nunca. À medida que as empresas adotam rapidamente ferramentas de IA generativa e autônoma, você enfrenta riscos crescentes como ataques por injeção de comandos, vazamento de dados e dificuldades para manter a conformidade. A natureza dinâmica e altamente interconectada das aplicações, modelos e APIs de IA amplia a superfície de ataque, intensifica a fiscalização regulatória e cria pontos cegos operacionais.

Ferramentas tradicionais de segurança pontual não conseguem acompanhar o cenário complexo e em constante evolução das ameaças de IA. Você precisa integrar essas ferramentas poderosas às suas operações, garantindo conformidade, protegendo dados sensíveis e evitando atrasos operacionais — tudo em uma escala e velocidade sem precedentes.

Na F5, sabemos que proteger fluxos de trabalho de IA não precisa sacrificar velocidade, experiência do usuário ou escalabilidade. Por isso, temos o prazer de anunciar a aquisição da CalypsoAI, uma pioneira em segurança de IA empresarial que oferece proteção adaptativa, monitoramento de ameaças em tempo real e governança pronta para auditoria para sistemas de IA. Com essa aquisição, a F5 se torna a primeira empresa a entregar proteção completa para todos os aplicativos, APIs e agora também modelos e agentes de IA, onde quer que estejam.

Junto com a CalypsoAI, redefinimos a segurança da IA corporativa, permitindo que você escale com segurança, reduza riscos, simplifique a conformidade e ofereça fluxos de trabalho de IA de alto desempenho. Ao integrar as capacidades da CalypsoAI à F5 Application Delivery and Security Platform (ADSP), sua empresa tem acesso à solução de segurança de IA mais completa e integrada do mercado, garantindo a proteção dos seus sistemas de IA desde o piloto até a produção, sem compromissos.

Conversamos com James White, CTO da CalypsoAI, e Kunal Anand, diretor de inovação da F5, sobre como essa solução inovadora simplifica a segurança da IA empresarial em todo o ciclo de vida dos sistemas de IA.

James White: Obrigado! Na CalypsoAI, nossa missão sempre foi capacitar organizações a adotar IA com segurança e confiança. À medida que as empresas ampliam rapidamente o uso da IA, elas enfrentam riscos crescentes, como ataques adversários, comportamentos irregulares de modelos, violações de políticas e novas demandas de conformidade. Esses riscos evoluem tão rápido que as ferramentas tradicionais não conseguem enfrentá-los, gerando lacunas na proteção e na governança.

Para isso, criamos soluções que protegem os fluxos de trabalho de IA em todas as fases de maturidade. Incluímos testes proativos por meio do Red Teaming de IA, defesas em tempo real com soluções como inspeção e aplicação durante a execução, além de observação e conformidade centralizadas para garantir o cumprimento de normas como GDPR e a Lei de IA da UE.

Ao unirmos forças com a F5, ampliamos nossa visão e integramos esses recursos em uma plataforma única, permitindo que sua empresa teste, implemente e expanda a IA sem comprometer a segurança.

Kunal Anand: IA não é apenas mais uma carga de trabalho; ela cria uma nova superfície de ataque dinâmica que ultrapassa a segurança tradicional. Por décadas, a F5 atuou na conexão crucial entre aplicações e usuários. Proteger modelos de IA, agentes e fluxos de dados é a evolução natural da nossa missão central.

Nossa visão é uma plataforma única e adaptável que protege código, APIs e agora as estruturas de IA que impulsionam aplicações modernas. Ao integrar a segurança nativa de IA da CalypsoAI ao nosso ADSP, tornamos essa visão realidade. Não estamos apenas adicionando um novo recurso. Estamos incorporando a proteção de IA diretamente na estrutura das aplicações. Agora, as empresas podem construir com IA, em vez de apenas reagir a seus riscos. Essa é a diferença entre liderar e simplesmente participar dessa transformação.

James White: Conforme as empresas implementam uma nova pilha de IA, os fluxos de trabalho de IA geram uma superfície de ataque dinâmica que traz desafios únicos:

• Vulnerabilidades da IA: Os riscos incluem ataques de injeção imediata, envenenamento de dados e manipulações adversárias, que podem comprometer a integridade do sistema de IA. Um dos desafios mais urgentes observados pelos profissionais de segurança é o surgimento da IA ​​oculta, em que o uso não autorizado de serviços de IA de terceiros aumenta riscos como exfiltração de dados e pontos cegos operacionais. Os profissionais destacam que equilibrar as demandas de dados da IA com os princípios de segurança cibernética muitas vezes gera compensações que deixam as empresas escolhendo entre uma IA eficaz e uma segurança robusta.
• Lacunas de conformidade: Regulamentações como GDPR e a Lei Europeia de IA exigem supervisão centralizada e responsabilização, mas muitas organizações carecem de ferramentas eficazes para facilitar a conformidade dos sistemas de IA.
• IA sombra: Usar serviços de IA de terceiros sem monitoramento ou autorização aumenta riscos como a exfiltração de dados e pontos cegos operacionais.
• Ferramentas de segurança fragmentadas: Muitas empresas usam ferramentas desconectadas ou processos manuais, gerando ineficiência e criando gargalos.

Integrar as soluções especializadas da CalypsoAI ao F5 ADSP combate esses desafios de forma direta, oferecendo proteção proativa e em tempo real em cada fase, desde o piloto até a produção.

Kunal Anand: Oferece segurança de IA ao longo de todo o ciclo de vida. Você nota três benefícios imediatos:

• Fortaleça os modelos antes da implantação. Pense nisso como um red-teaming automatizado e contínuo para sua IA. O CalypsoAI lança milhares de prompts adversários nos seus modelos, identificando e corrigindo vulnerabilidades em horas, não em semanas. Sua equipe entrega sistemas mais resilientes com rapidez.
• Proteja o Runtime AI. Não é um scanner de logs passivo. É um escudo em tempo real no caminho de dados, bloqueando ativamente injeções em prompts, exfiltração de dados e outros ataques sem afetar o desempenho. Prevenimos a violação, não apenas a relatamos.
• Observabilidade unificada para IA. Sistemas de IA costumam parecer uma caixa preta, gerando grandes pontos cegos operacionais. O CalypsoAI monitora cada comando, resposta e interação de dados em todo seu ambiente de IA. Assim, transformamos incertezas em insights claros, possibilitando que sua equipe identifique problemas, perceba desvios e mantenha um registro completo do comportamento da IA, pronto para auditoria. Você não consegue proteger o que não consegue enxergar.

James White: Adotamos uma abordagem que é ao mesmo tempo proativa e contínua. Por exemplo, durante o desenvolvimento, nossas ferramentas de Red Team simulam ataques adversários para testar a robustez dos sistemas de IA, garantindo que vulnerabilidades sejam corrigidas antes da implantação. Depois da implantação, sistemas de monitoramento ao vivo e proteção em tempo de execução identificam e reagem imediatamente a comportamentos anômalos e ataques, como exfiltração de dados.

Essa abordagem de segurança em camadas fornece às empresas as ferramentas para proteger contra riscos desde o piloto até a produção, simplificar a conformidade e acelerar a inovação em IA — com segurança. A CalypsoAI é reconhecida como especialista líder no mercado em segurança de modelos de IA pós-implantação. Nossas soluções nos dão insights exclusivos para mensurar e comparar o grau de vulnerabilidade dos modelos de IA generativa e agente mais usados no mundo. Nosso índice de segurança CASI e os rankings de Resistência à Guerra Agente classificam os 10 melhores modelos em cada área, ajudando sua empresa a entender quais modelos implantar e os riscos envolvidos.