A inteligência artificial se tornou uma faca de dois gumes para a segurança cibernética. Embora os modelos de IA impulsionem a inovação e transformem setores, sua imprevisibilidade inerente traz novos riscos. Seja uma conversa constrangedora com um chatbot ou um agente com autonomia excessiva, o novo cenário de riscos está repleto de armadilhas para a reputação que podem atrair atenção indesejada da mídia ou abalar a confiança dos clientes.
Cada nova iteração de um modelo traz novas vulnerabilidades e, quando as organizações começam a conceder autonomia a esses modelos em larga escala — seja para acionar ferramentas ou executar operações —, os efeitos da exploração, dos vieses e dos problemas de segurança tornam-se muito mais significativos. Daí a necessidade de mais controles e mecanismos de proteção.
“Ao integrar os recursos da CalypsoAI à F5 Application Delivery and Security Platform (ADSP), a F5 se posiciona como líder no fornecimento de uma solução abrangente que não apenas reduz os riscos da IA, mas também permite que as empresas ampliem suas implementações de IA com flexibilidade, segurança e confiança.”
Em seu recente “Guia de Mercado para Gestão de Confiança, Riscos e Segurança em IA (TRiSM)”,1 a Gartner® afirma que “As empresas enfrentam diversos riscos relacionados à IA e estão mais preocupadas com o comprometimento de dados, os riscos de terceiros e resultados imprecisos ou indesejados”. Em nossa opinião, isso reforça a necessidade de maior governança, segurança e gestão de riscos, que se tornou uma prioridade crítica para as organizações que adotam IA em escala — especialmente para aquelas que desejam fazer isso rapidamente. A implementação de controles do TRiSM permite uma adoção de IA mais segura e mais rápida.
Nesse cenário em transformação, a aquisição da CalypsoAI pela F5 se mostrará uma iniciativa oportuna e estratégica para enfrentar esses desafios. Entre os recursos relevantes estão a experiência da CalypsoAI em governança de IA, bem como em inspeção e aplicação de políticas em tempo de execução para sistemas de IA. Ao integrar os recursos da CalypsoAI à F5 Application Delivery and Security Platform (ADSP), a F5 se posiciona como líder no fornecimento de uma solução abrangente que não apenas reduz os riscos da IA, mas também permite que as empresas ampliem suas implantações de IA com flexibilidade, segurança e confiança.
Navegando por um cenário de IA em rápido amadurecimento
O mercado de IA está evoluindo em um ritmo sem precedentes, com modelos de linguagem de grande porte (LLMs) fundacionais e modelos de linguagem de pequeno porte (SLMs) especializados se proliferando em diversos setores. As organizações que tentam recorrer a ferramentas tradicionais nesse cenário em constante transformação correm o risco de não conseguir ampliar sua escala, manter um nível adequado de flexibilidade e controlar os custos.
Como afirma o Gartner: “As empresas devem manter a independência em relação a qualquer modelo de IA ou provedor de hospedagem específico para garantir escalabilidade, flexibilidade, controle de custos e confiança, à medida que os mercados de IA amadurecem e mudam rapidamente.”1
Concordamos com a importância de manter a independência em relação a qualquer modelo de IA ou provedor de hospedagem específico, dada a necessidade de flexibilidade e confiança à medida que os recursos de IA continuam a se expandir para novos casos de uso.
A F5 está respondendo diretamente a esse cenário dinâmico ao incorporar a inspeção de segurança em tempo real e a avaliação de riscos da CalypsoAI para qualquer modelo, independentemente de sua origem. As empresas que utilizam o F5 ADSP, complementado pelas soluções da CalypsoAI, podem adotar com confiança diversas ferramentas de IA, mantendo a governança sobre seus modelos e aplicações. Essa independência reduz a dependência de provedores específicos de IA e prepara as implementações de IA para o futuro, garantindo um sucesso escalável.
Uma abordagem em camadas para a segurança de IA
De acordo com o Guia de Mercado da Gartner para AI TRiSM,1 há quatro camadas de recursos técnicos, todas apoiadas em uma quinta camada que representa a proteção tecnológica tradicional:
- Governança de IA
- Inspeção e aplicação de políticas em tempo de execução
- Governança da informação
- Infraestrutura e stack
Em nossa visão, essa estrutura garante que os sistemas de IA sejam confiáveis e seguros ao validar seu alinhamento às políticas organizacionais, à conformidade regulatória e às expectativas éticas.
Este gráfico foi publicado pela Gartner, Inc. como parte de um documento de pesquisa mais abrangente e deve ser avaliado no contexto do documento completo. O documento da Gartner está disponível mediante solicitação à F5.
A aquisição da CalypsoAI reforçará o papel da F5 como líder em segurança de aplicações, especialmente no âmbito da IA, em que as empresas enfrentam ameaças crescentes tanto externas quanto internas, na forma de agentes mal-intencionados que exploram comportamentos inadequados da IA e o comportamento imprevisível da própria IA. Os recursos da CalypsoAI em governança de IA e aplicação de políticas em tempo de execução complementam o F5 ADSP, que se destaca por oferecer controles em toda a empresa para informações, infraestrutura e tecnologias de proteção tradicionais. Juntos, esses pontos fortes buscam abranger todas as camadas do AI TRiSM,1 oferecendo cobertura completa para a gestão da confiança e dos riscos da IA.
Os pontos fortes da CalypsoAI estão nas duas camadas superiores da pirâmide — governança de IA e inspeção e aplicação de políticas em tempo de execução —, enquanto o F5 ADSP complementa esses recursos ao oferecer suporte às camadas de governança da informação, infraestrutura e proteção tradicional.
Governança de IA
A CalypsoAI aprimora a governança de IA com sistemas de catalogação de modelos e classificação de riscos, proporcionando uma visão unificada dos ativos de IA da empresa. Os recursos de governança da CalypsoAI concentram-se nos princípios da IA responsável — prestação de contas, transparência e segurança. Ao avaliar continuamente a integridade e o desempenho dos modelos, a CalypsoAI garante o alinhamento entre os resultados da IA e as políticas regulatórias, como o Regulamento Geral sobre a Proteção de Dados (GDPR) e o Regulamento de Inteligência Artificial da UE, reforçando práticas de IA éticas e pautadas pela confiança.
Inspeção e aplicação de políticas em tempo de execução de IA
A CalypsoAI utiliza mecanismos de runtime para garantir o alinhamento às políticas em aplicações de IA. Esses mecanismos permitem inspecionar as interações de IA em tempo real, destacando anomalias ou violações. Os frameworks plug-and-play da CalypsoAI adaptam as defesas com base no comportamento dos modelos e na inteligência sobre ameaças de agentes de IA, oferecendo segurança proativa e em tempo real para implantações corporativas de IA. Com base nesses insights, a inspeção em runtime combate prompts maliciosos, riscos de viés e questões de conformidade, permitindo que as empresas se antecipem às ameaças emergentes.
Governança da informação
O F5 ADSP estabelece uma governança de informações robusta com base em aquisições como a LeakSignal para ajudar a reforçar a proteção de dados em produtos como o F5 BIG-IP SSL Orchestrator (SSLO), que desempenha um papel fundamental na identificação precisa dos tipos de dados transmitidos e de seus destinos. O SSLO permite que organizações que estão implantando modelos de IA apliquem controles orientados por políticas que interceptam os dados antes da exposição, reduzindo drasticamente o risco.
A CalypsoAI adiciona funcionalidades avançadas de controle de acesso baseado em funções (RBAC) e de prevenção contra perda de dados (DLP), alinhadas ao ecossistema mais amplo da F5, oferecendo classificação e descoberta dinâmicas de dados durante a execução da IA. Com o F5 BIG-IP Access Policy Manager (APM), as empresas obtêm controles de acesso unificados para usuários, dispositivos e APIs, criando uma base segura para interações orientadas por IA e, ao mesmo tempo, atendendo aos requisitos de governança específicos de IA.
Infraestrutura e stack
As soluções de proteção de aplicações web e APIs (WAAP) do F5 ADSP desempenham um papel fundamental na segurança da infraestrutura que está no centro das aplicações de IA, e isso começa pela criação de um ecossistema de APIs robusto e seguro. Embora a IA seja um recurso poderoso e avançado, as vias que ela utiliza continuam sendo as mesmas APIs que, historicamente, as organizações têm enfrentado dificuldades para descobrir e proteger. A aplicação de políticas em tempo de execução da CalypsoAI complementa a WAAP ao mitigar vulnerabilidades em interações específicas de IA, enquanto a F5 reforça essa camada com ferramentas de descoberta e proteção de APIs desenvolvidas para ecossistemas com uso intensivo de APIs.
As parcerias com os principais fornecedores de armazenamento, como Dell, NetApp e MinIO, estendem essa segurança aos fluxos de trabalho de dados, garantindo armazenamento e transferência de dados escaláveis e de alto desempenho para viabilizar os ciclos de treinamento e inferência de modelos de IA, incluindo RAG. Além disso, a parceria da F5 com a NVIDIA traz avanços para a DPU por meio do F5 BIG-IP Next for Kubernetes, ajudando a simplificar a entrega e a implantação de aplicações para GPUs e, ao mesmo tempo, introduzindo novos controles de segurança para inferência e treinamento.
Incorporados a uma única plataforma com o F5 ADSP, esses avanços tecnológicos ajudam a reduzir o custo total de propriedade e, ao mesmo tempo, preparam a infraestrutura de IA para a escalabilidade empresarial no futuro.
Proteção de tecnologias tradicionais
A camada de tecnologia tradicional constitui a espinha dorsal da segurança de aplicações empresariais, e as soluções F5 BIG-IP e F5 WAAP oferecem proteções fundamentais que garantem a estabilidade e a resiliência de aplicações, dados e infraestrutura.
Apoiadas por ferramentas de segurança avançadas, essas soluções combatem uma série de ameaças — desde ataques volumétricos e direcionados de negação de serviço distribuída (DDoS) até tráfego de bots e ameaças avançadas à camada de aplicação. No centro dessa proteção está a capacidade de um firewall robusto de aplicações web (WAF) de oferecer defesa contra injeção de SQL, scripts entre sites (XSS) e outras das principais ameaças da OWASP. Essa cobertura abrangente completa uma abordagem de segurança em camadas, garantindo proteção de ponta a ponta tanto para operações de IA quanto para cargas de trabalho tradicionais.
Liderança fortalecida em segurança de IA
A inteligência artificial apresenta tanto um potencial transformador quanto riscos significativos para a segurança cibernética. Sua imprevisibilidade inerente, aliada à exploração incessante por agentes mal-intencionados, cria um cenário de ameaças em constante evolução que desafia as abordagens tradicionais de segurança.
À medida que as empresas adotam rapidamente as inovações de IA, a necessidade de confiança e responsabilização torna-se fundamental. A aquisição estratégica da CalypsoAI pela F5 oferecerá uma resposta essencial a essa demanda crescente, permitindo que as organizações adotem a IA com confiança, mantendo a segurança, a privacidade e o controle operacional. Com soluções de AI TRiSM em camadas1, a F5 estabelece um novo padrão para a segurança de aplicações de IA, garantindo que as empresas possam inovar tendo a confiança como princípio central.
1 Gartner, Guia de Mercado para Gestão de Confiança, Riscos e Segurança em IA, 18 de fevereiro de 2025.
GARTNER é uma marca comercial e marca de serviço registrada da Gartner, Inc. e/ou de suas afiliadas nos EUA e internacionalmente, sendo utilizada neste documento com autorização. Todos os direitos reservados
Sobre o autor
Publicações relacionadas no blog
Segurança de APIs sem concessões: apresentamos novas opções flexíveis de descoberta com F5 API security
As opções ampliadas de descoberta de APIs da F5 foram desenvolvidas para oferecer o máximo de flexibilidade e atender às organizações onde quer que estejam.
Governe sua IA no presente e antecipe o futuro da sua IA
Aprenda com nosso CISO de campo, Chuck Herrin, como se preparar para o novo desafio de proteger modelos e agentes de IA.
Segurança de IA para a cadeia de suprimentos
As cadeias de suprimentos são cada vez mais impulsionadas pela IA — desde a previsão de demanda e o planejamento logístico até a análise de riscos de fornecedores e a gestão de estoque em tempo real. Essas ferramentas ajudam as empresas a reduzir custos, aumentar a resiliência e se adaptar a disrupções globais. No entanto, elas também criam novos riscos em um vasto ecossistema: nossas soluções de segurança de IA em tempo de execução protegem o setor de Cadeia de Suprimentos […]
Segurança de IA para Recursos Humanos
A IA está revolucionando o RH. As empresas estão implementando copilotos de recrutamento com IA, assistentes de integração, chatbots de suporte aos funcionários e ferramentas de análise da força de trabalho para reduzir custos e melhorar a experiência dos colaboradores. No entanto, as aplicações de RH também apresentam riscos específicos que podem expor as organizações a falhas de conformidade, alegações de viés e danos à reputação: nossas soluções de segurança de IA em tempo de execução protegem o setor de RH com […]
Equilibrando o desempenho da IA e a gestão de recursos
As organizações dependem cada vez mais de ferramentas e iniciativas de IA para impulsionar a inovação e a transformação. Cada avanço incremental na sofisticação das ferramentas de IA torna o equilíbrio entre desempenho e gestão de recursos um desafio maior e mais relevante para as equipes de TI e segurança. No entanto, esse equilíbrio é essencial para maximizar o ROI, garantir a segurança e manter a eficiência em toda a […]
Integração de APIs em IA: a base técnica
A integração de APIs é um canal essencial no ecossistema de IA, por meio do qual diferentes sistemas, plataformas e aplicações interagem. Analisamos as nuances técnicas da integração de APIs em IA, com ênfase em sua importância para aprimorar a eficiência e os recursos dos sistemas de IA. As APIs permitem a troca fluida de dados e funcionalidades entre diferentes soluções de IA […]