F5 colabora com AWS e Microsoft em estudo da NSS Labs sobre testes de segurança de IA em tempo de execução

Nova pesquisa da NSS Labs estabelece o padrão para a avaliação da segurança de IA e define um modelo para as empresas

SEATTLE – A F5, líder global em disponibilizar e proteger todos os aplicativos e APIs, em colaboração com a Amazon Web Services (AWS) e a Microsoft, anunciou hoje suas contribuições para um estudo técnico de referência da NSS Labs sobre Segurança de IA além do modelo: com o que as empresas precisam se preocupar — e por quê. Esse trabalho apresenta uma estrutura abrangente para a realização de testes adequados de eficácia das proteções de IA, marcando um momento decisivo para as melhores práticas de segurança e governança de IA.

O white paper tem como objetivo fornecer às empresas orientações práticas e aplicáveis ao mundo real para compreender e avaliar a segurança e a responsabilização relacionadas a sistemas de IA em ambientes complexos e de alto risco.

À medida que a IA continua transformando as operações empresariais, ela introduz riscos sem precedentes e amplia as superfícies de ataque, expondo as organizações a ameaças operacionais, jurídicas e reputacionais. Este white paper aborda a necessidade urgente de métodos padronizados para avaliar com eficácia as soluções de segurança de IA. Ele apresenta uma abordagem pioneira no setor para a segurança de IA, reunindo líderes das áreas de segurança, nuvem e IA para enfrentar um dos desafios mais urgentes das empresas atualmente. O objetivo deste white paper é estabelecer clareza, estrutura e responsabilização em todo o setor para os mecanismos de proteção de IA, garantindo que as empresas possam adotar inovações em IA de forma segura e eficaz.

Principais recomendações

O white paper apresenta uma estrutura prática para que as empresas compreendam e implementem mecanismos de proteção para a segurança da IA. Entre as principais recomendações, a análise destaca:

• Áreas de recursos essenciais: identificação dos principais componentes que as empresas devem avaliar, incluindo detecção de ameaças na entrada, gerenciamento da exfiltração de dados na saída e controles de IA agêntica.
• Estrutura para testes de validação: fornece um modelo para testes independentes, adversariais e em condições reais dos controles de segurança de IA, a fim de garantir sua eficácia em condições dinâmicas.
• Governança e Resiliência Operacional: Enfatizando a importância do alinhamento da governança e da resiliência no gerenciamento de situações de estresse, falhas e degradação em sistemas de IA.

NSS Labs: padrões rigorosos para avaliação de segurança cibernética
“Nossa pesquisa ressalta a importância da validação independente para as proteções de IA”, afirmou Ian Foo, diretor de tecnologia e vice-presidente executivo de produtos da NSS Labs. “A IA está transformando empresas globais e, sem testes de validação rigorosos e reproduzíveis, as alegações de segurança não passam de promessas vazias. Acreditamos que esta estrutura permitirá que as empresas tomem decisões fundamentadas e estabeleçam novos padrões para a segurança da IA.”

F5: Promovendo a segurança de IA por meio da experiência em entrega de aplicações
“Este esforço colaborativo reflete a importância crucial de reunir conhecimentos especializados de diversas áreas do setor para enfrentar os complexos desafios de proteger sistemas de IA”, afirmou Jeanette Hur, arquiteta de soluções globais da F5. “Na F5, contribuímos para esta colaboração com a NSS Labs, a AWS e a Microsoft com décadas de experiência em entrega e segurança de aplicações nas camadas 4 a 7. Essa estrutura permitirá que as organizações avaliem rigorosamente os mecanismos de proteção de IA, garantindo que as empresas possam implementar inovações em IA com confiança e, ao mesmo tempo, manter a resiliência, a segurança e a responsabilização em todos os seus ecossistemas de aplicações.”

Microsoft: ética e segurança não são mutuamente excludentes na IA
“Na Microsoft, temos um forte compromisso com o avanço da IA de forma ética e segura”, afirmou Zachary Riffle, arquiteto de segurança da Microsoft. “Este white paper representa um avanço, e esperamos sinceramente que forneça a compradores de todos os portes as ferramentas adequadas e orientações independentes de fornecedor para proteger qualquer modelo ou sistema de IA que utilizem, mantendo a transparência e a responsabilização.”

Compreendendo e protegendo sistemas corporativos de IA

Este white paper apresenta um roteiro prático para empresas que enfrentam os desafios em rápida evolução da segurança de IA. Ao se concentrar no que realmente importa — eficácia no mundo real, validação independente e governança robusta —, ele fornece às organizações o conhecimento necessário para tomar decisões mais inteligentes e bem fundamentadas ao avaliar soluções de segurança de IA.

Para as empresas que utilizam IA, entender como se proteger contra riscos emergentes, como exfiltração de dados, injeção de prompts e falhas de governança, deixou de ser opcional. Este recurso ajuda as equipes de segurança a ir além do ruído das alegações dos fornecedores, oferecendo as ferramentas necessárias para fazer as perguntas difíceis, avaliar soluções com rigor e implementar mecanismos de proteção que garantam que os sistemas de IA permaneçam seguros e sujeitos à prestação de contas.

Materiais de apoio

• White paper da NSS Labs: Segurança de IA além do modelo: com o que as empresas precisam se preocupar — e por quê
• Blog: Definindo o padrão: por que os testes de eficácia das proteções de IA não podem esperar

Sobre a F5

A F5, Inc. (NASDAQ: FFIV) é líder global em disponibilizar e proteger todos os aplicativos. Com três décadas de experiência, a F5 desenvolveu a principal plataforma do setor — F5 Application Delivery and Security Platform (ADSP) — para disponibilizar e proteger todos os aplicativos e todas as APIs, em qualquer lugar: localmente, na nuvem, na borda e em ambientes híbridos e multinuvem. A F5 tem o compromisso de inovar e estabelecer parcerias com as maiores e mais avançadas organizações do mundo para oferecer experiências digitais rápidas, disponíveis e seguras. Juntos, ajudamos uns aos outros a prosperar e damos vida a um mundo digital melhor.

Para mais informações, acesse f5.com
Confira as pesquisas sobre ameaças do F5 Labs em f5.com/labs
Siga-nos para saber mais sobre a F5, nossos parceiros e tecnologias: Blog | LinkedIn | X | YouTube | Instagram | Facebook

F5 é uma marca comercial, marca de serviço ou nome comercial da F5, Inc., nos EUA e em outros países. Todos os demais nomes de produtos e empresas aqui mencionados podem ser marcas comerciais de seus respectivos proprietários.