BLOG

Firewall de segurança rápida para IA na plataforma de nuvem distribuída F5 protege interações de aplicativos de IA generativa

Miniatura de Yuichi Miyazaki
Yuichi Miyazaki
Publicado em 30 de abril de 2024

Organizações em todo o mundo estão criando aplicativos de IA generativa em um ritmo vertiginoso. Essas aplicações nacionais se tornaram essenciais para impulsionar a inovação e novas eficiências. Mas mesmo algumas das aplicações de IA generativa mais transformacionais podem correr o risco de expor a organização a novas superfícies de ataque.

Ataques bem-sucedidos, como injeções rápidas, jailbreaks ou execução remota de código, podem levar a violações de segurança e vazamentos de dados. Da mesma forma, respostas potencialmente prejudiciais ou tóxicas de grandes modelos de linguagem (LLMs) às partes interessadas de uma organização podem trazer danos à reputação, problemas legais e perdas monetárias.

Em resposta à crescente necessidade de proteger aplicativos alimentados por IA generativa, a F5 Distributed Cloud Platform está expandindo suas parcerias de tecnologia de terceiros para incluir tecnologias que protegem aplicativos de IA generativa. O Prompt Security , um firewall de IA, agora é compatível com o F5 Distributed Cloud App Stack . A Plataforma de Nuvem Distribuída fornece segurança de aplicativos, como WAF, defesa contra bots, proteção contra DDoS e descoberta/segurança de API, além de remover a complexidade da rede com o Customer Edge . Esta parceria demonstra a extensibilidade dos F5 Distributed Cloud Services e facilita para os clientes a proteção de aplicativos de IA em ambientes locais, de ponta, híbridos e multinuvem. O firewall Prompt Security para IA protege consultas de IA generativas de entrada e respostas de saída, garantindo que as organizações estejam protegidas contra injeções rápidas, divulgação de dados confidenciais, respostas prejudiciais e outros ataques.

Princípios-chave para proteger aplicações de IA generativas

1.      Abordando o risco de segurança específico da IA generativa

Aplicações de IA generativa estão trazendo uma nova configuração de riscos de segurança. Como resultado, as abordagens de segurança tradicionais por si só não serão suficientes. O Prompt Security inspeciona cada prompt e resposta de modelo para proteger contra uma série de novas ameaças, como injeções de prompt, jailbreak, negação de carteira e muito mais. Todo o tráfego para aplicativos de IA generativa é roteado pelo Prompt Security, fornecendo visibilidade completa sobre os prompts recebidos.

2.      Moderar conteúdo produzido por LLMs

Tão importante quanto inspecionar os prompts do usuário antes que eles cheguem aos sistemas de uma organização é garantir que as respostas dos LLMs sejam seguras e não contenham conteúdo tóxico ou prejudicial que possa ser prejudicial a uma organização.

O firewall Prompt Security para IA fica no caminho de consultas de entrada para LLMs de IA generativos e respostas de saída para interromper ataques de entrada e exfiltração de dados de saída.

3.      Garantir a privacidade dos dados e evitar vazamentos

No desenvolvimento de aplicações operacionais de IA generativa, as aplicações terão acesso a bancos de dados e recursos de uma organização (ou terceiros) para proporcionar a experiência mais benéfica ao usuário. No entanto, sem medidas de segurança adequadas, dados organizacionais podem ser divulgados como parte das respostas geradas por LLMs. Isso poderia potencialmente permitir que um usuário enganasse o aplicativo para revelar informações confidenciais, levando a possíveis consequências legais e de reputação.

4.      Implementando governança e visibilidade

Desenvolvedores de aplicativos e equipes de segurança monitoram o tráfego de entrada e saída de aplicativos de IA generativa em todos os pontos de inserção possíveis. Isso se tornará mais significativo à medida que a governança e as regulamentações de uma organização em torno da IA crescerem em detalhes e forem aplicadas com mais firmeza. O Prompt Security fornece registro completo de cada interação de IA generativa. O registro inclui usuário, prompt, resposta, descobertas e muito mais.

Aumente a produtividade empresarial com aplicativos Gen AI seguros

O firewall Prompt Security para IA permite que os clientes do F5 Distributed Cloud Services protejam seus aplicativos de IA generativa em todos os pontos de contato. Com observabilidade imediata e gerenciamento de políticas integrados, as organizações podem proteger seus aplicativos de IA generativa, melhorar a produtividade dos negócios e manter a governança de dados.

Para ler o comunicado de imprensa da Prompt Security, visite aqui .

Para ver uma demonstração do Prompt Security + F5 Distributed Cloud Services em ação, assista https://www.youtube.com/watch?v=rP4fgpXgv3Q .

Para entender melhor como o F5 Distributed Cloud Services pode ajudar as organizações a criar infraestrutura para qualquer aplicativo em qualquer lugar, visite https://www.f5.com/cloud .

Para saber mais sobre o Prompt Security, visite https://www.prompt.security .