A inteligência artificial virou uma faca de dois gumes na segurança cibernética. Modelos de IA impulsionam a inovação e transformam setores, mas sua imprevisibilidade traz riscos inéditos. Desde conversas embaraçosas com chatbot até agentes com autonomia excessiva, o novo cenário de riscos está repleto de minas sobre reputação que podem atrair atenção negativa da mídia ou prejudicar sua confiança junto aos clientes.
Cada nova versão do modelo traz novas vulnerabilidades e, quando você começa a usar esses modelos em larga escala—seja para chamadas de ferramentas ou para executar operações—os impactos da exploração, do viés e da segurança se tornam muito mais graves. Por isso, você precisa de controles e limites mais rigorosos.
No recente “Guia de Mercado para Gestão de Confiança, Risco e Segurança de IA (TRiSM),”1 a Gartner® declara que “as empresas enfrentam múltiplos riscos com IA e estão mais preocupadas com comprometimento de dados, riscos de terceiros e resultados imprecisos ou indesejados.” Acreditamos que isso reforça a urgência de fortalecer governança, segurança e gestão de riscos, um requisito essencial para organizações que adotam IA em larga escala—principalmente para quem deseja agir rapidamente. Implantar controles baseados no TRiSM possibilita uma adoção da IA mais segura e eficiente.
Nesse cenário em constante mudança, a aquisição da CalypsoAI pela F5 surge como uma ação estratégica e oportuna para enfrentar esses desafios. Entre os recursos relevantes estão a expertise da CalypsoAI em governança de IA, além da inspeção e aplicação em tempo real para sistemas de IA. Ao integrar as capacidades da CalypsoAI à F5 Application Delivery and Security Platform (ADSP), a F5 se posiciona como líder ao oferecer uma solução completa que não só reduz os riscos de IA, mas também permite que você escale suas implantações de IA com flexibilidade, segurança e confiança.
O mercado de IA cresce em ritmo acelerado, com modelos de linguagem grandes (LLMs) e modelos especializados menores (SLMs) se espalhando por diversos setores. Se você apoiar em ferramentas tradicionais nesse cenário em transformação, poderá enfrentar dificuldades para escalar, manter a flexibilidade e controlar os custos.
Conforme afirma a Gartner, “as empresas precisam manter independência em relação a qualquer modelo de IA ou provedor de hospedagem para garantir escalabilidade, flexibilidade, controle de custos e confiança, enquanto os mercados de IA evoluem e mudam rapidamente.”1
Reconhecemos a importância de manter a independência de qualquer modelo de IA ou provedor de hospedagem, destacando a necessidade de flexibilidade e confiança conforme as capacidades da IA avançam para novos casos de uso.
A F5 responde diretamente a esse cenário dinâmico ao incorporar a inspeção de segurança em tempo real e a pontuação de risco da CalypsoAI para qualquer modelo, independentemente da sua origem. Você, como empresa que utiliza o F5 ADSP, pode adotar diversas ferramentas de IA com confiança, contando com as soluções da CalypsoAI para manter o controle sobre seus modelos e aplicações. Essa autonomia reduz a dependência de fornecedores específicos de IA e garante implementações de IA preparadas para o futuro, com sucesso escalável.
De acordo com o Guia de Mercado Gartner para AI TRiSM,1 existem quatro camadas de capacidades técnicas, todas sustentadas por uma quinta camada que representa a proteção tecnológica tradicional:
Acreditamos que essa estrutura faz com que os sistemas de IA sejam confiáveis e seguros ao validar seu alinhamento com as políticas da organização, a conformidade regulatória e as expectativas éticas.
As funções da tecnologia AI TRiSM da Gartner
Este gráfico foi publicado pela Gartner, Inc. como parte de um documento de pesquisa mais amplo e deve ser avaliado considerando todo o conteúdo do documento. Você pode solicitar o documento da Gartner diretamente na F5.
A aquisição da CalypsoAI fortalecerá o papel da F5 como líder em segurança de aplicações, especialmente em IA, área em que as empresas enfrentam ameaças crescentes tanto externas quanto internas, vindas de agentes mal-intencionados que exploram comportamentos incorretos da IA e da própria imprevisibilidade da IA. As capacidades da CalypsoAI em governança de IA e aplicação em tempo de execução complementam o F5 ADSP, que se destaca ao entregar controles corporativos para informações, infraestrutura e tecnologias tradicionais de proteção. Juntos, esses pontos fortes buscam cobrir todas as camadas do AI TRiSM,1 oferecendo uma cobertura completa para gestão de confiança e riscos em IA.
A CalypsoAI se destaca nas duas camadas superiores da pirâmide—governança de IA e inspeção e aplicação em tempo de execução—enquanto o F5 ADSP complementa essas capacidades ao suportar governança da informação, infraestrutura e camadas tradicionais de proteção.
A CalypsoAI amplia a governança de IA com sistemas de catalogação de modelos e pontuação de riscos, oferecendo uma visão unificada dos ativos de IA da sua empresa. As capacidades de governança da CalypsoAI priorizam princípios de IA responsável: responsabilidade, transparência e segurança. Ao avaliar continuamente a saúde e o desempenho dos modelos, a CalypsoAI garante que os resultados da IA estejam alinhados às políticas regulatórias, como o Regulamento Geral de Proteção de Dados (GDPR) e a Lei de IA da UE, fortalecendo práticas éticas e confiáveis de IA.
CalypsoAI usa motores em tempo de execução para garantir o alinhamento das políticas em todas as aplicações de IA. Esses mecanismos realizam inspeção em tempo real das interações de IA, destacando anomalias ou violações. Os frameworks plug-and-play da CalypsoAI ajustam as defesas conforme o comportamento do modelo e a inteligência de ameaças agentivas, entregando segurança proativa e em tempo real para implantações corporativas de IA. Aproveitando esses insights, a inspeção em tempo de execução combate prompts maliciosos, riscos de viés e questões de conformidade, preparando sua empresa para antecipar ameaças emergentes.
O F5 ADSP desenvolve uma governança de informações sólida fundamentada em aquisições como a LeakSignal para fortalecer a proteção de dados em produtos como o F5 BIG-IP SSL Orchestrator (SSLO), que identifica com precisão os tipos de dados transmitidos e seus destinos. O SSLO permite que organizações que implementam modelos de IA apliquem controles baseados em políticas para interceptar dados antes de qualquer exposição, reduzindo significativamente os riscos.
CalypsoAI inclui controle de acesso baseado em função (RBAC) avançado e proteção contra perda de dados (DLP) que se integra ao ecossistema mais amplo da F5, proporcionando classificação e descoberta dinâmica de dados durante a execução da IA. Com o F5 BIG-IP Access Policy Manager (APM), você obtém controles unificados de acesso para usuários, dispositivos e APIs, garantindo uma base segura para interações orientadas por IA e cumprindo as exigências de governança específicas dessa tecnologia.
As soluções de proteção para aplicações web e APIs F5 ADSP (WAAP) são essenciais para proteger a infraestrutura no núcleo das aplicações de IA, começando pela criação de um ecossistema de APIs robusto e seguro. Embora a IA seja uma ferramenta poderosa e avançada, as vias que ela utiliza ainda são as mesmas APIs que as organizações historicamente enfrentam dificuldades para descobrir e proteger. O runtime enforcement da CalypsoAI complementa o WAAP ao mitigar vulnerabilidades em interações específicas da IA, enquanto a F5 reforça essa camada com ferramentas de descoberta e proteção de APIs criadas para ecossistemas intensivos em APIs.
Parcerias com os principais fornecedores de armazenamento, como Dell, NetApp e MinIO, ampliam essa segurança para os fluxos de trabalho de dados, garantindo armazenamento e transferência escaláveis e de alto desempenho para suportar os ciclos de treinamento e inferência de modelos de IA, incluindo RAG. Além disso, a parceria da F5 com a NVIDIA traz avanços à DPU por meio do F5 BIG-IP Next para Kubernetes, facilitando a entrega e implantação de aplicações para GPUs enquanto introduz novos controles de segurança para inferência e treinamento.
Ao integrar esses avanços tecnológicos em uma única plataforma com o F5 ADSP, reduzimos o custo total de propriedade e preparamos a infraestrutura de IA para escalar com sua empresa no futuro.
A camada tecnológica tradicional sustenta a segurança das aplicações empresariais, e as soluções F5 BIG-IP e F5 WAAP oferecem proteções essenciais para garantir a estabilidade e a resiliência das aplicações, dos dados e da infraestrutura.
Com ferramentas avançadas de segurança, essas soluções enfrentam diversas ameaças — desde ataques volumétricos e direcionados de negação de serviço distribuída (DDoS) até tráfego de bots e ameaças complexas na camada de aplicação. No centro está um firewall de aplicação web (WAF) robusto, capaz de proteger contra injeção de SQL, cross-site scripting (XSS) e outras principais ameaças do OWASP. Essa cobertura completa fortalece uma abordagem de segurança em camadas, garantindo proteção integral para operações de IA, assim como para cargas de trabalho tradicionais.
A inteligência artificial oferece um potencial transformador e riscos consideráveis para a segurança cibernética. Sua imprevisibilidade natural, combinada com a contínua exploração por agentes maliciosos, cria um cenário de ameaças em constante evolução que desafia as abordagens tradicionais de segurança.
À medida que as empresas adotam rapidamente inovações em IA, a confiança e a responsabilidade assumem papel fundamental. A aquisição estratégica da CalypsoAI pela F5 oferece uma resposta vital a essa demanda crescente, permitindo que sua organização adote IA com segurança, privacidade e controle operacional completos. Com soluções em camadas de IA TRiSM1, a F5 estabelece um novo patamar para a segurança de aplicações de IA, garantindo que sua empresa inove com a confiança como base.
1 Gartner, Guia de mercado para gestão de confiança, risco e segurança em IA, 18 de fevereiro de 2025.
GARTNER é marca registrada e marca de serviço da Gartner, Inc. e/ou suas afiliadas nos EUA e internacionalmente, usada aqui com permissão. Todos os direitos reservados