Governe sua IA no presente e antecipe o futuro da sua IA

Chuck HerrinCISO de Campo | F5

É comum ouvirmos a IA ser descrita como o estagiário mais entusiasmado que você já teve. Ela é incansável e criativa, mas às vezes inventa coisas ou se convence de que sabe mais do que você. Muitas empresas confiam dados confidenciais e fluxos de trabalho críticos a modelos de IA e aos aplicativos que os utilizam antes mesmo de implementarmos as proteções adequadas. Essa é a receita certa para prejudicar a reputação da marca, gerar riscos de não conformidade e causar muitas noites em claro para equipes de segurança frustradas, que muitas vezes só descobrem que um novo modelo entrou em produção ou foi disponibilizado para uso depois que isso já aconteceu.

Essa abordagem precisa mudar, e nós vamos mudá-la. Nos últimos meses, nós da F5 compartilhamos dois marcos importantes em nossa jornada de segurança de IA. Primeiro, após a aquisição da CalypsoAI, lançamos dois novos produtos, F5 AI Guardrails e F5 AI Red Team, para levar segurança avançada de IA a grandes empresas. Segundo, mostramos como proteger modelos e agentes de IA sem concessões. Hoje, quero conectar esses pontos para mostrar como essas iniciativas ajudam os clientes da F5 a adotar a IA com confiança, rapidez e, acima de tudo, sem abrir mão de nada. É hora de inovar com confiança e, para as equipes de segurança, de ganhar muita agilidade na identificação de vulnerabilidades.

Nossa análise recente sobre como as equipes de segurança se sentem em relação à IA revelou muitas preocupações. Três outras constatações se destacam:

1. 71% dos profissionais de segurança estão mais preocupados com a exposição decorrente do uso indevido interno ou do comportamento dos modelos.
2. As preocupações com o uso indevido de modelos de IA superam em 134% as preocupações com o uso malicioso.
3. Entre as preocupações das equipes de segurança com a proteção de dados, 52% estão relacionadas ao uso de IA paralela e à divulgação de dados confidenciais a LLMs.

Em outras palavras, é claro que invasores externos são uma preocupação, mas os riscos cotidianos que mais preocupam as equipes de SecOps decorrem de usuários (geralmente) bem-intencionados, modelos excessivamente confiantes e controles fragmentados ou inexistentes. Esses dados do mundo real explicam por que estamos tão focados na segurança em tempo de execução e na aplicação de políticas, pois é durante a execução que o risco realmente se manifesta em prompts, respostas, ferramentas e ações de agentes.

O que o foco da F5 em segurança de IA significa para os clientes

Diante do ritmo acelerado de adoção da IA, estamos agilizando a concretização da visão da F5 de oferecer segurança abrangente e independente de modelo para aplicativos, modelos, agentes e dados de IA, desde o projeto-piloto até a produção. Para isso, estamos incorporando dois produtos importantes e complementares à F5 Application Delivery and Security Platform (ADSP):

• F5 AI Guardrails: Uma camada de segurança e governança em tempo de execução que inspeciona, controla e protege prompts, respostas e ações de agentes/ferramentas em qualquer modelo ou provedor. Ela permite que as equipes detectem e evitem vazamentos de dados, moderem resultados nocivos ou tendenciosos e apliquem o princípio do privilégio mínimo a modelos e agentes, tudo isso sem prejudicar a experiência do usuário.
• F5 AI Red Team: Recursos de red team específicos para IA, com testes adversariais em larga escala para avaliar continuamente seus sistemas de IA usando milhares de padrões de ataque e mais de 10.000 novos prompts de ataque adicionados todos os meses. Esse conjunto de testes em constante evolução abrange injeção de prompts, jailbreaks, destilação de modelos, exfiltração de dados e muito mais, além de fornecer logs e impressões digitais detalhados e prontos para auditoria.

É no ciclo de feedback que a mágica acontece

Os insights e as descobertas obtidos nos testes se traduzem diretamente em proteções dinâmicas — mecanismos de segurança ativos. Isso significa que suas defesas evoluem junto com as novas ameaças e as mudanças no sistema, sem precisar esperar por uma revisão trimestral ou pelo ciclo de atualizações de um fornecedor. Quanto melhores forem os testes, melhor será sua proteção, mês após mês.

Essa abordagem é de importância crítica para acompanhar a evolução contínua dos agentes de ameaças, que recentemente automatizaram por completo o desenvolvimento de códigos de exploração com base em vulnerabilidades CVE usando IA. Precisamos usar IA para nos defender de ataques impulsionados por IA; caso contrário, a assimetria será simplesmente grande demais. Esse aprimoramento contínuo se tornará a marca registrada da defesa impulsionada por IA, e a F5 está adotando essa metodologia e integrando-a diretamente ao F5 ADSP.

IA eficaz sem comprometer a segurança

Em nosso blog recente, Protegendo modelos e agentes de IA sem concessões, defendemos que você não deveria ter que escolher entre experiência do usuário, velocidade e segurança. É fácil falar, mas colocamos essa promessa em prática oferecendo o seguinte:

1. Consistência em qualquer modelo ou nuvem. Os modelos mudarão, os provedores mudarão, mas suas proteções não deveriam mudar. A F5 oferece políticas uniformes em um ambiente híbrido e com vários modelos, incluindo implantações locais e opções de modelos de código aberto.
2. Proteção de baixa latência desde a concepção. Evitar o failover mantém as experiências rápidas e resilientes, mesmo quando as políticas de segurança são aplicadas em linha.
3. Conformidade incorporada desde o início, não adicionada depois. Modelos de auditoria predefinidos e personalizados para atender a requisitos de conformidade, como o Regulamento Geral sobre a Proteção de Dados (GDPR), a HIPAA e o Regulamento de IA da UE, aliados à observabilidade de ponta a ponta e a integrações com soluções SIEM/SOAR de terceiros, tornam a coleta de evidências fácil, repetível e confiável.

O que esperar do novo capítulo da F5 em segurança de IA

Você já conhece a F5 por nossa capacidade de manter as aplicações rápidas, disponíveis e seguras. A segurança de IA se integra a essa estrutura existente. O próximo capítulo da segurança de IA reduz e revela riscos vindos de todas as direções. Combata novas ameaças adversariais, como injeção de prompts, jailbreaks, destilação de modelos e tentativas de exfiltração de dados, com inteligência de ameaças agêntica que aprende com mais de 10.000 novos prompts de ataque por mês. Detecte e impeça, em tempo real, a divulgação de dados confidenciais para LLMs públicos e privados, e aplique políticas de DLP e de acesso alinhadas às suas classificações de dados.

Por fim, gerencie o uso responsável da IA moderando resultados nocivos ou tendenciosos, aplicando privilégios baseados em funções e sensíveis ao contexto para modelos e agentes e adotando estruturas de avaliação de riscos em modelos públicos e internos. Em todas essas medidas de proteção, você pode simplificar a observabilidade com visibilidade e rastreabilidade centralizadas de todas as interações de IA, além de logs detalhados, impressões digitais de agentes e integrações com suas soluções SIEM/SOAR existentes para reduzir o ruído e aumentar o sinal.

Enfrentando de frente os desafios atuais

Depender exclusivamente das proteções dos modelos de fronteira é arriscado. Os adversários as atacam primeiro, e seus riscos vão muito além de um único provedor. Ferramentas pontuais e desconectadas aumentam o ruído e criam pontos cegos. E a mágica de uma “IA” em uma caixa-preta não é governança. Você precisa de controles transparentes, com supervisão humana, evidências prontas para auditoria e políticas que possam ser explicadas aos órgãos reguladores e ao conselho de administração.

Se você está apenas começando a usar IA, comece pelas áreas de maior risco — descoberta de IA paralela, proteção de dados confidenciais ou testes adversariais — e amplie a partir daí. Se já estiver em produção, mapeie as cadeias de ferramentas dos seus agentes e os fluxos de dados e, em seguida, aplique o princípio do menor privilégio e proteções em tempo de execução nos limites.

Juntando tudo

F5 AI Guardrails e F5 AI Red Team aceleram a missão da F5 de oferecer a plataforma mais abrangente para proteger a IA. Essas soluções estão alinhadas ao nosso compromisso de proteger modelos e agentes sem concessões e visam enfrentar os desafios que as equipes de SecOps realmente encontram no dia a dia. A superfície de ataque da IA evolui diariamente. Com esses novos recursos, você conta com proteção adaptativa em tempo de execução e inteligência de ameaças agêntica que acompanham essa evolução, protegendo seus modelos, agentes e dados desde o projeto-piloto até a produção.

Traga seus modelos — mostraremos proteções independentes de modelo em toda a sua stack. Para saber mais, assista ao nosso vídeo mais recente.

Sobre o autor

Chuck HerrinCISO de Campo | F5

Chuck Herrin é CSO de Campo na F5.

Mais publicações de Chuck Herrin