Organizações em todo o mundo estão desenvolvendo aplicações de IA generativa em um ritmo vertiginoso. Essas aplicações desenvolvidas internamente tornaram-se essenciais para impulsionar a inovação e gerar novos ganhos de eficiência. No entanto, até mesmo algumas das aplicações de IA generativa mais transformadoras podem expor a organização a superfícies de ataque totalmente novas.
Ataques bem-sucedidos, como injeções de prompt, jailbreaks ou execução remota de código, podem resultar em violações de segurança e vazamentos de dados. Da mesma forma, respostas potencialmente prejudiciais ou tóxicas de modelos de linguagem de grande escala (LLMs) às partes interessadas de uma organização podem causar danos à reputação, problemas jurídicos e perdas financeiras.
Em resposta à crescente necessidade de proteger aplicações baseadas em IA generativa, a Plataforma F5 Distributed Cloud está ampliando suas parcerias tecnológicas com terceiros para incluir tecnologias que protegem aplicações de IA generativa. Prompt Security, um firewall de IA, agora é compatível com o F5 Distributed Cloud App Stack. A Plataforma Distributed Cloud oferece segurança de aplicações, como WAF, defesa contra bots, proteção contra DDoS e descoberta/segurança de APIs, além de eliminar a complexidade da rede com o Customer Edge. Essa parceria demonstra a extensibilidade dos Serviços F5 Distributed Cloud e facilita a proteção de aplicações de IA pelos clientes em ambientes locais, de borda, híbridos e multinuvem. O firewall de IA da Prompt Security protege consultas recebidas de IA generativa e respostas enviadas, garantindo que as organizações estejam protegidas contra injeções de prompt, divulgação de dados confidenciais, respostas prejudiciais e outros ataques.
Princípios fundamentais para proteger aplicações de IA generativa
1. Como lidar com riscos de segurança específicos da IA generativa
As aplicações de IA generativa estão trazendo um conjunto totalmente novo de riscos de segurança. Por isso, as abordagens tradicionais de segurança, por si só, não são suficientes. A Prompt Security inspeciona cada prompt e resposta do modelo para oferecer proteção contra diversas novas ameaças, como injeções de prompt, jailbreaking, negação de carteira e muito mais. Todo o tráfego destinado às aplicações de IA generativa é encaminhado pela Prompt Security, proporcionando visibilidade completa dos prompts recebidos.
2. Moderação de conteúdo produzido por LLMs
Tão importante quanto inspecionar os prompts dos usuários antes que eles cheguem aos sistemas de uma organização é garantir que as respostas dos LLMs sejam seguras e não contenham conteúdo tóxico ou prejudicial que possa causar danos à organização.
3. Garantia da privacidade dos dados e prevenção de vazamentos
Ao desenvolver aplicações operacionais de IA generativa, elas terão acesso aos bancos de dados e recursos de uma organização (ou de terceiros) para proporcionar a melhor experiência possível ao usuário. No entanto, sem medidas de segurança adequadas, os dados da organização podem ser divulgados nas respostas geradas por LLMs. Isso pode permitir que um usuário engane a aplicação para que ela revele informações confidenciais, acarretando possíveis consequências jurídicas e danos à reputação.
4. Implementação de governança e visibilidade
Os desenvolvedores de aplicativos e as equipes de segurança monitoram o tráfego de entrada e saída dos aplicativos de IA generativa em todos os possíveis pontos de inserção. Isso se tornará ainda mais importante à medida que a governança e as regulamentações de uma organização relacionadas à IA se tornarem mais detalhadas e forem aplicadas com maior rigor. A Prompt Security fornece registros completos de cada interação com a IA generativa. Esses registros incluem usuário, prompt, resposta, constatações e muito mais.
Impulsione a produtividade dos negócios com aplicações seguras de IA generativa
O firewall de IA da Prompt Security permite que os clientes dos serviços F5 Distributed Cloud protejam suas aplicações de IA generativa em todos os pontos de contato. Com observabilidade imediata e gerenciamento de políticas integrados, as organizações podem proteger suas aplicações de IA generativa, aumentar a produtividade dos negócios e manter a governança de dados.
Para ler o comunicado à imprensa da Prompt Security, acesse aqui.
Para ver uma demonstração da Prompt Security + F5 Distributed Cloud Services em ação, assista a https://www.youtube.com/watch?v=rP4fgpXgv3Q.
Para entender melhor como o F5 Distributed Cloud Services pode ajudar as organizações a criar infraestrutura para qualquer aplicação, em qualquer lugar, acesse https://www.f5.com/cloud.
Para saber mais sobre a Prompt Security, acesse https://www.prompt.security.
Sobre o autor
Publicações relacionadas no blog
Entrega e proteção de agentes de IA em fábricas de IA: F5 para a arquitetura de referência NVIDIA OpenShell para agentes de IA seguros
As soluções da F5 ampliam a Arquitetura de Referência NVIDIA OpenShell para agentes de IA seguros.
Como medir – e minimizar – o custo total de propriedade do seu Kubernetes
O Kubernetes pode ser baixado e executado gratuitamente, mas sua manutenção está longe de não ter custos. Assim como outras grandes plataformas de código aberto que são “gratuitas” apenas em um sentido simplista, o Kubernetes quase certamente exigirá investimentos para ser implantado e operado.
As-Code: a pilha de TI contínua
Infraestrutura, configuração, pipeline, operações. De repente, tudo é “como código”. Lori MacVittie busca esclarecer a terminologia e identificar os diferentes componentes de uma stack contínua de TI.
O estado da entrega de aplicações em 2017: automação, APIs e DevOps
Explore o relatório State of Application Delivery de 2017. Leia o blog retrospectivo da F5 sobre o início da ascensão das redes declarativas e dos pipelines de DevOps.
DevOps Summit: onde a rede foi convidada para a festa
No DevOps Summit NY, falou-se muito não apenas sobre DevOps, mas também sobre contêineres, IoT e microsserviços. As sessões se concentraram não só na mudança cultural necessária para crescer em escala com uma abordagem DevOps, mas também fizeram questão de incluir...
F5 e Nutanix convergem em infraestrutura no .NEXT
Aplicações empresariais como Microsoft SharePoint e Exchange, juntamente com a VDI, continuam sendo a espinha dorsal da sua empresa. A produtividade, embora não seja tão atraente quanto o lucro, é um fator essencial para o sucesso das operações empresariais atuais. Deixar de...