Por que a F5 se juntou à Open Secure AI Alliance

Kunal AnandDiretor de Produto | F5

A IA está mudando a dinâmica econômica tanto do software quanto da segurança.

Agora, os agentes podem descobrir vulnerabilidades, escrever código, acionar ferramentas, chamar APIs e atuar em toda a infraestrutura na velocidade das máquinas. Isso oferece aos defensores novos recursos poderosos. Também significa que a segurança de IA não pode mais se limitar ao modelo.

É por isso que a F5 se juntou à NVIDIA e a outros líderes do setor como membro da Open Secure AI Alliance. A aliança está desenvolvendo e compartilhando tecnologias, técnicas e ferramentas abertas para ajudar os defensores a proteger softwares e agentes na era da IA.

A segurança precisa de um nível mínimo de aplicação

Um agente de IA não é simplesmente um modelo de linguagem. É um sistema composto por modelos, instruções, identidade, permissões, memória, ferramentas, APIs, mecanismos de proteção, logs e sistemas de avaliação. Cada camada é importante, mas o controle mais duradouro é aquele que o agente não consegue reescrever, contornar nem sequer persuadir.

Penso nisso como a camada de aplicação de políticas: o ponto em que uma solicitação é avaliada e a política é aplicada fora do controle do solicitante. Para agentes de IA, essa camada está cada vez mais situada no caminho entre o agente e os sistemas que ele pode acessar. O poder prático de um agente é determinado pelo que ele pode acionar, pelos dados que pode acessar e pelas ações que pode realizar.

Esse é um território conhecido para a F5.

A Internet se tornou confiável não porque todos os endpoints se comportavam corretamente, mas porque controles essenciais foram implementados:

• Balanceadores de carga gerenciavam a disponibilidade
• Firewalls aplicavam a política de rede
• Firewalls de aplicações web protegiam as aplicações

Os agentes de IA criam a próxima versão desse problema. O ponto de controle está mudando novamente, desta vez em direção às conexões entre usuários, aplicações, APIs, agentes, ferramentas e modelos.

O que a F5 oferece

Há décadas, a F5 atua em pontos críticos de controle do tráfego de aplicações e APIs. Nos últimos dois anos, temos ampliado essa atuação para a IA.

A F5 AI Security Platform foi projetada para proteger e gerenciar aplicações, modelos e agentes de IA, bem como as APIs que os conectam. Oferecemos testes independentes de modelo e proteção em tempo de execução, visibilidade das ações dos agentes e das chamadas de ferramentas, além de opções de implantação em nuvem pública, nuvem privada, ambientes locais e ambientes isolados fisicamente.

Isso é importante porque a maioria das empresas não adotará um único modelo ou provedor como padrão. Elas usarão modelos diferentes para diferentes cargas de trabalho, perfis de risco, regiões geográficas e estruturas de custos. É provável que seu portfólio de modelos mude mais rapidamente do que suas aplicações ou sua arquitetura de segurança.

Portanto, os controles de segurança precisam continuar funcionando mesmo após a troca do modelo. Uma política vinculada a um único modelo precisa ser refeita quando esse modelo muda. Já uma política aplicada em todo o fluxo da aplicação e da API pode ser implementada de forma consistente em diferentes modelos, provedores e ambientes de implantação.

Esse é o princípio de design que a F5 traz para a aliança: proteger a interação, não apenas a inteligência por trás dela. Também pretendemos contribuir com pesquisas abertas, estruturas de teste, ferramentas e trabalhos selecionados de diferentes áreas da nossa organização. Nosso objetivo é ajudar a comunidade de defensores.

Olhando para o futuro

O debate entre soluções abertas e fechadas é limitado demais para a segurança empresarial.

O estado final será híbrido. As empresas usarão modelos abertos e fechados, sistemas hospedados e autogerenciados, além de modelos de uso geral e especializados. A verdadeira questão é se elas conseguirão aplicar uma postura de segurança única a todos eles, demonstrar essa postura a clientes e órgãos reguladores e substituir os modelos subjacentes sem precisar reconstruir os controles do zero.

A questão principal não é qual modelo tem o maior potencial. É se o sistema oferece uma base confiável.

A F5 se juntou à Open Secure AI Alliance para ajudar a construir abertamente essa base confiável. Para saber mais, leia este artigo no blog.

Sobre o autor

Kunal AnandDiretor de Produto | F5

Kunal Anand lidera a organização de produtos da F5 como Chief Product Officer. Responsável pela visão, estratégia e execução de produtos, ele garante o desenvolvimento de soluções inovadoras que resolvem desafios críticos e proporcionam experiências excepcionais aos clientes. Em sua função anterior como Chief Technology and AI Officer, Kunal definiu a estratégia e a visão de tecnologia e IA da empresa. Antes da F5, Kunal exerceu simultaneamente os cargos de Chief Technology Officer e Chief Information Security Officer na Imperva. Sua trajetória na Imperva começou em 2018, com a aquisição da Prevoty, uma startup de segurança de aplicações que ele cofundou em 2013. Antes de ingressar na Prevoty, foi Diretor de Tecnologia na BBC Worldwide. Kunal tem um amplo histórico de inovação e conhecimento técnico especializado, além de ter ocupado cargos de liderança em equipes de segurança, dados, tecnologia e engenharia na Gravity, MySpace e no Laboratório de Propulsão a Jato da NASA. Kunal tem mais de 15 anos de experiência em IA e aprendizado de máquina, abrangendo treinamento de modelos, uso de algoritmos baseados em IA para aprimorar produtos e projeto e implementação de arquiteturas de IA. Kunal é bacharel em Ciência da Computação pelo Babson College.

Mais publicações de Kunal Anand