Segurança de IA com evidências: o que levaremos ao Gartner SRM

Nirav ShahVice-presidente sênior de Marketing de Produtos e Soluções | F5

Estou realmente entusiasmado com o que levaremos ao Gartner Security & Risk Management Summit (SRM) este ano.

A IA está avançando tão rapidamente que é difícil para qualquer pessoa acompanhar. Mas, quando se trata de segurança, nenhum de nós pode se dar ao luxo de ficar para trás. Os invasores estão usando a IA para agir com mais rapidez, realizar sondagens de forma mais inteligente e explorar vulnerabilidades em velocidade e escala recordes. Os termos da moda mais recentes e as promessas sem comprovação dos fornecedores não vão eliminar essa lacuna.

É para resolver esse problema que temos trabalhado.

Por que este momento é diferente

Os CISOs já não perguntam se precisam proteger sua IA. Agora, querem saber como podem ter certeza de que seus controles estão realmente funcionando. Essa é a questão mais difícil — e queremos incentivar o setor de segurança de IA a começar a respondê-la para seus clientes.

Qual é a eficácia da segurança da sua IA na prevenção de novas ameaças, como a injeção de prompts?

Trabalhamos com a SecureIQLab, uma organização independente de testes terceirizados, para submeter o F5 AI Guardrails a um teste contra ataques reais, lançando 20.000 ataques contra um modelo da OpenAI para avaliar o nível de proteção.

Os resultados: o F5 AI Guardrails apresenta 99,3% de eficácia contra injeção direta de prompts, 98,7% contra autonomia excessiva e 99,0% contra vazamento de dados confidenciais.

Para dar uma ideia da eficácia dessa solução, o modelo, por si só, conseguiu identificar apenas 13% dos ataques como adversariais. Isso mostra a importância de proteções adicionais para os casos de uso empresariais.

Somos o primeiro fornecedor de segurança de IA a publicar resultados como estes, validados de forma independente por terceiros, e esperamos que outros sigam nosso exemplo.

O que apresentaremos no Gartner

No Gartner Security & Risk Management Summit, mostrarei como a F5 ajuda as organizações a proteger a IA em três etapas práticas. Em vez de ficarmos na teoria ou fazermos um exercício no quadro branco, discutiremos proteções aplicáveis ao mundo real que funcionam em ambientes de produção:

1. Implemente proteções fundamentais que reduzam os riscos sem desacelerar a inovação
2. Personalize proteções sob medida para seus casos de uso e definições de risco específicos
3. Faça testes contínuos para que suas defesas evoluam tão rapidamente quanto as ameaças

Compartilharemos o caso de uma instituição financeira global que precisava viabilizar o uso de IA empresarial sem perder o controle sobre a conformidade regulatória nem a privacidade dos dados. Essa instituição conseguiu alcançar esse objetivo, e mostraremos como.

O que vem a seguir

Além do que estamos entregando hoje, daremos aos participantes uma prévia dos próximos passos da segurança de IA da F5: descoberta e governança para a IA que você nem sabe que possui. À medida que os agentes de IA se proliferam nos ambientes corporativos, as organizações que permanecerão à frente serão aquelas capazes de encontrar todos os modelos e agentes em execução em seu ambiente, entender o que estão fazendo e gerenciá-los de acordo com seus próprios padrões de risco. Esse recurso está a caminho e falaremos sobre ele no Gartner SRM em 1º de junho.

Venha nos encontrar

Se você for participar do Gartner SRM, adoraria encontrar você em nossa sessão, “F5: Protegendo a IA em 3 etapas”, no dia 1º de junho, às 12h (horário do leste dos EUA). Inscreva-se aqui.

Se você está enfrentando dificuldades para proteger seus sistemas de IA à medida que eles entram em produção e gostaria de se reunir conosco pessoalmente, agende uma reunião aqui.

Além disso, não deixe de nos visitar no estande 729 para conferir pessoalmente.

Sobre o autor

Nirav ShahVice-presidente sênior de Marketing de Produtos e Soluções | F5

Nirav Shah é vice-presidente sênior e líder de Marketing de Produtos e Soluções na F5, onde define a direção estratégica de Segurança de Aplicações e Segurança de IA. Antes de ingressar na F5, trabalhou por onze anos na Fortinet em diversos cargos de liderança, com destaque para a gestão das soluções de SASE com tecnologia de IA, SOC e redes seguras. Sua ampla trajetória também inclui funções de destaque na Cisco Systems, onde liderou importantes iniciativas de SD-WAN. Com mais de duas décadas de experiência no setor de cibersegurança, possui um histórico consolidado de lançamento de produtos que redefinem o mercado e de formação de equipes de alto desempenho que alinham o desenvolvimento de produtos às áreas de vendas e marketing para maximizar os resultados. Reconhecido como referência no setor e ex-aluno da USC, participa frequentemente como palestrante em conferências do segmento e contribui regularmente para publicações de destaque sobre a convergência entre IA e cibersegurança, além de manter seu compromisso com a mentoria de profissionais em início de carreira na área de cibersegurança.

Mais publicações de Nirav Shah