Protegendo modelos e agentes de IA sem concessões: como a aquisição da CalypsoAI pela F5 oferecerá proteção de ponta a ponta para a execução de IA

Kunal AnandDiretor de Produto | F5

Gerenciar a segurança cibernética em um mundo impulsionado pela IA está mais desafiador do que nunca. À medida que as empresas adotam rapidamente ferramentas de IA generativa e agêntica, elas enfrentam riscos crescentes, como ataques de injeção de prompts, vazamento de dados e desafios de conformidade. A natureza dinâmica e altamente interconectada das aplicações, dos modelos e das APIs de IA está ampliando a superfície de ataque, intensificando o escrutínio regulatório e criando pontos cegos operacionais.

As ferramentas tradicionais de segurança pontuais têm dificuldade para acompanhar o cenário complexo e em constante evolução das ameaças de IA. As empresas precisam integrar essas ferramentas poderosas às suas operações e, ao mesmo tempo, garantir a conformidade, proteger dados confidenciais e evitar atrasos operacionais — tudo isso em um ritmo e uma escala sem precedentes.

Na F5, acreditamos que proteger os fluxos de trabalho de IA não significa sacrificar velocidade, experiência do usuário ou escalabilidade. É por isso que temos o prazer de anunciar a aquisição da CalypsoAI, pioneira em segurança de IA empresarial, que oferece proteção adaptativa, monitoramento de ameaças em tempo real e governança pronta para auditoria para sistemas de IA. Essa aquisição posiciona a F5 como a primeira empresa a oferecer proteção de ponta a ponta para todos os aplicativos, APIs e, agora, modelos e agentes de IA, em qualquer lugar.

Juntamente com a CalypsoAI, estamos redefinindo a segurança de IA empresarial, permitindo que as organizações cresçam com segurança, reduzam riscos, simplifiquem a conformidade e implementem fluxos de trabalho de IA de alto desempenho. Ao incorporar os recursos da CalypsoAI à F5 Application Delivery and Security Platform (ADSP), as empresas passam a ter acesso à solução de segurança de IA de ponta a ponta mais abrangente do mundo, o que lhes permite proteger seus sistemas de IA desde o projeto-piloto até a produção, sem concessões.

Conversamos com James White, CTO da CalypsoAI, e Kunal Anand, diretor de inovação da F5, sobre como essa solução revolucionária simplifica a segurança da IA empresarial em todo o ciclo de vida dos sistemas de IA.

P: Bem-vindo à F5, James! Você pode nos contar sobre a missão da CalypsoAI e o que levou vocês a firmar esta parceria?

James White: Obrigado! Nossa missão na CalypsoAI sempre foi capacitar as organizações a adotar a IA com confiança e segurança. À medida que as empresas ampliam rapidamente o uso da IA, elas enfrentam riscos crescentes, como ataques adversariais, comportamentos indevidos de modelos, violações de políticas e exigências de conformidade em constante evolução. Devido à rapidez com que a IA está mudando, esses riscos não podem ser enfrentados por ferramentas tradicionais, que deixam lacunas na proteção e na governança.

Para lidar com isso, desenvolvemos soluções que protegem os fluxos de trabalho de IA em todos os estágios de maturidade. Isso inclui testes proativos de ataques por meio de Red Teaming de IA, defesas em tempo real oferecidas por soluções como inspeção e aplicação de políticas em tempo de execução, além de observabilidade e conformidade centralizadas para atender a normas regulatórias como o GDPR e a Lei de IA da UE.

Fazer parte da F5 nos permite ampliar nossa visão e integrar perfeitamente esses recursos em uma única plataforma, possibilitando que as empresas testem, implementem e escalem a IA sem comprometer a segurança.

P: Kunal, como essa aquisição contribui para a visão da F5 de promover o sucesso das empresas?

Kunal Anand: A IA não é apenas mais uma carga de trabalho; ela representa uma nova e dinâmica superfície de ataque que contorna os mecanismos de segurança tradicionais. Há décadas, a F5 ocupa uma posição estratégica entre as aplicações e os usuários. Proteger modelos de IA, agentes e fluxos de dados é a extensão natural da nossa missão principal.

Nossa visão é oferecer uma plataforma única e adaptável que proteja códigos, APIs e, agora, os componentes de IA que impulsionam as aplicações modernas. Ao integrar a segurança nativa de IA da CalypsoAI à nossa ADSP, estamos transformando essa visão em realidade. Não se trata de simplesmente adicionar um novo recurso, mas de incorporar a proteção de IA à própria estrutura das aplicações. Agora, as empresas podem desenvolver com IA, em vez de apenas reagir aos riscos que ela apresenta. Essa é a diferença entre liderar essa transformação e apenas participar dela.

P: James, você pode falar mais sobre os desafios específicos que a CalypsoAI foi criada para enfrentar?

James White: À medida que as empresas buscam implementar uma nova pilha de IA, os fluxos de trabalho de IA criam uma superfície de ataque dinâmica que apresenta desafios específicos:

• Vulnerabilidades de IA: os riscos incluem ataques de injeção de prompts, envenenamento de dados e manipulações adversariais, que podem comprometer a integridade dos sistemas de IA. Um dos desafios mais urgentes apontados por profissionais de segurança é o avanço da IA paralela (Shadow AI), em que o uso não autorizado de serviços de IA de terceiros amplia riscos como a exfiltração de dados e os pontos cegos operacionais. Os profissionais destacam que conciliar as demandas de dados da IA com os princípios de segurança cibernética muitas vezes exige concessões que obrigam as empresas a escolher entre uma IA eficaz e uma segurança robusta.
• Lacunas de conformidade: regulamentações como o GDPR e a Lei de IA da UE exigem supervisão centralizada e responsabilização, mas muitas organizações não dispõem de ferramentas eficazes para simplificar a conformidade dos sistemas de IA.
• IA paralela: o uso não monitorado ou não autorizado de serviços de IA de terceiros aumenta riscos como a exfiltração de dados e a falta de visibilidade operacional.
• Ferramentas de segurança fragmentadas: muitas empresas dependem de ferramentas desconectadas ou de processos manuais, o que gera ineficiências e cria gargalos.

A integração das soluções desenvolvidas especificamente pela CalypsoAI ao F5 ADSP aborda diretamente esses desafios, oferecendo proteção proativa e em tempo real em todas as etapas — do projeto-piloto à produção.

P: Kunal, quais são os principais benefícios que os clientes podem esperar da integração da CalypsoAI à F5 ADSP?

Kunal Anand: Ela oferece segurança de IA durante todo o ciclo de vida. Três benefícios são imediatos:

• Fortaleça os modelos antes da implantação. Pense nisso como um red teaming contínuo e automatizado para sua IA. A CalypsoAI submete seus modelos a milhares de prompts adversariais, descobrindo e corrigindo vulnerabilidades em horas, não semanas. Assim, as equipes lançam sistemas resilientes com mais rapidez.
• Proteja a IA em tempo de execução. Este não é um scanner passivo de logs. É uma proteção em tempo real que atua no fluxo de dados, bloqueando ativamente injeções de prompts, exfiltração de dados e outros ataques sem comprometer o desempenho. Nós evitamos a violação, em vez de apenas reportá-la.
• Observabilidade unificada para IA. Os sistemas de IA podem parecer uma caixa-preta, criando enormes pontos cegos operacionais. A CalypsoAI monitora cada prompt, resposta e interação de dados em todo o seu ecossistema de IA. Isso transforma a ambiguidade em informações claras, permitindo que as equipes solucionem problemas, detectem desvios e mantenham um registro completo do comportamento da IA, pronto para auditoria. Não é possível proteger o que não se pode ver.

P: James, o que torna a abordagem da CalypsoAI transformadora para as empresas?

James White: Nossa abordagem é proativa e contínua. Por exemplo, durante o desenvolvimento, nossas ferramentas de Red Teaming simulam ataques adversariais para testar os sistemas de IA sob pressão, garantindo que as vulnerabilidades sejam corrigidas antes da implantação. Após a implantação, os sistemas de monitoramento ao vivo e proteção em tempo de execução detectam e respondem, em tempo real, a comportamentos anômalos e ataques como a exfiltração de dados.

Essa abordagem de segurança em camadas oferece às empresas as ferramentas necessárias para se protegerem contra riscos desde o projeto-piloto até a produção, simplificarem a conformidade e acelerarem a inovação em IA com segurança. A CalypsoAI é uma especialista consolidada do setor em segurança de modelos de IA após a implantação. Nossas soluções nos proporcionam insights exclusivos sobre como medir e comparar o grau de vulnerabilidade dos modelos de IA generativa e de IA agêntica mais utilizados no mundo. Nosso índice de segurança CASI e nossos rankings de Agentic Warfare Resistance classificam os 10 melhores modelos em cada uma dessas respectivas áreas, ajudando as empresas a entender melhor quais modelos implantar e os riscos inerentes à sua implantação.

P: Kunal, por que essa parceria será um divisor de águas para a segurança de IA nas empresas?

Kunal Anand: A abordagem atual não funciona, e as empresas sabem disso. O mercado está vendendo um conjunto fragmentado de ferramentas especializadas em segurança de IA que resolvem 10% do problema, mas geram 100% mais sobrecarga operacional. As empresas estão sendo obrigadas a atuar como integradoras de sistemas para sua própria segurança.

Isso muda o jogo porque é uma integração, não um complemento. Estamos consolidando a stack. Estamos incorporando a segurança de IA em toda a nossa F5 ADSP. Ela se torna um recurso nativo da infraestrutura, e não mais uma solução adicional para gerenciar. E, por ser da F5, essa plataforma funciona onde quer que você precise — em hardware, software ou SaaS, em qualquer nuvem. Uma plataforma unificada sempre supera uma stack improvisada de soluções pontuais. É isso que muda o jogo.

Em um mundo centrado em IA, proteger as operações de IA não é opcional — é essencial para os negócios. Com a combinação da F5 com a CalypsoAI, as empresas agora contam com as ferramentas, a governança e o controle necessários para inovar sem abrir mão da segurança.

Sobre o autor

Kunal AnandDiretor de Produto | F5

Kunal Anand lidera a organização de produtos da F5 como Chief Product Officer. Responsável pela visão, estratégia e execução de produtos, ele garante o desenvolvimento de soluções inovadoras que resolvem desafios críticos e proporcionam experiências excepcionais aos clientes. Em sua função anterior como Chief Technology and AI Officer, Kunal definiu a estratégia e a visão de tecnologia e IA da empresa. Antes da F5, Kunal exerceu simultaneamente os cargos de Chief Technology Officer e Chief Information Security Officer na Imperva. Sua trajetória na Imperva começou em 2018, com a aquisição da Prevoty, uma startup de segurança de aplicações que ele cofundou em 2013. Antes de ingressar na Prevoty, foi Diretor de Tecnologia na BBC Worldwide. Kunal tem um amplo histórico de inovação e conhecimento técnico especializado, além de ter ocupado cargos de liderança em equipes de segurança, dados, tecnologia e engenharia na Gravity, MySpace e no Laboratório de Propulsão a Jato da NASA. Kunal tem mais de 15 anos de experiência em IA e aprendizado de máquina, abrangendo treinamento de modelos, uso de algoritmos baseados em IA para aprimorar produtos e projeto e implementação de arquiteturas de IA. Kunal é bacharel em Ciência da Computação pelo Babson College.

Mais publicações de Kunal Anand