DLP e TMI na era dos LLMs

F5 Newsroom Staff

Desde o surgimento das redes sociais, há mais de duas décadas, pessoas do mundo todo têm se sentido cada vez mais, e mais à vontade para compartilhar informações — às vezes, muito além do necessário. Nossa jornada coletiva, desde a publicação de informações em excesso (TMI) no MySpace e no Facebook, passando pelo compartilhamento no Instagram e no Pinterest de fotos de cada minuto de nossas vidas, até as conversas semelhantes às humanas, viabilizadas por IA, com grandes modelos de linguagem (LLMs), foi rápida. Infelizmente, no contexto da IA generativa (GenAI), compartilhar informações em excesso não é apenas uma gafe social, mas um risco significativo à segurança, especialmente para as organizações. 

Os modelos de IA generativa, como os LLMs, oferecem recursos extraordinários para gerar todo tipo de conteúdo — inclusive conteúdo preciso e relevante —, mas são verdadeiras peneiras de informação e representam um risco considerável quando recebem informações detalhadas, privadas ou confidenciais. A facilidade de interação com os LLMs pode induzir os usuários a uma falsa sensação de segurança, levando ao compartilhamento excessivo e não intencional de dados críticos e a casos de exposição acidental de dados por meio desses modelos. Na verdade, isso se tornou tão comum que já não causa espanto quando surgem relatos de executivos compartilhando documentos estratégicos da empresa, médicos inserindo dados de pacientes ou engenheiros enviando código-fonte proprietário para um modelo público, como o ChatGPT ou outros.

Esses são apenas alguns exemplos de como informações confidenciais podem ser comprometidas involuntariamente porque a pessoa que as enviou não percebeu que elas passariam a fazer parte da base de conhecimento do modelo. Não há como recuperá-las nem voltar atrás. Elas estão por aí. Para sempre.

A chave para aproveitar o poder dos LLMs sem comprometer a segurança está na arte e na ciência de criar prompts. É fundamental elaborar um prompt detalhado o suficiente para obter a resposta desejada, mas discreto o bastante para proteger informações confidenciais. Isso exige uma abordagem criteriosa na elaboração dos prompts, equilibrando a necessidade de especificidade com a importância da discrição. Algumas orientações que devem ser enfatizadas aos usuários de modelos e aplicações de IA são:

• Seja conciso e claro: Evite incluir nos prompts detalhes desnecessários que possam revelar informações confidenciais. Isso pode incluir nomes de pessoas ou projetos, datas, destinos e outras informações específicas.
• Use cenários hipotéticos: Ao buscar a ajuda da IA para tarefas confidenciais, formule as solicitações em termos hipotéticos. Não use nomes reais de empresas, pessoas, projetos ou lugares. 
• Mantenha a conscientização: O treinamento e a capacitação em segurança de IA que você oferece aos funcionários sobre os riscos do compartilhamento excessivo de informações devem ser reforçados com lembretes frequentes e orientações úteis sobre as melhores práticas ao usar ferramentas de IA.
• Implemente mecanismos de supervisão: Monitore o uso de ferramentas de IA para detectar e prevenir possíveis vazamentos de dados e identificar potenciais ameaças internas.

No entanto, até mesmo o funcionário mais diligente, ao escrever um prompt cuidadosamente elaborado, ainda pode causar problemas de segurança. É por isso que uma camada de confiança automatizada, com verificadores de conteúdo personalizáveis, pode ser fundamental para uma prevenção contra perda de dados (DLP) à prova de falhas. Nossa plataforma de segurança e capacitação para implantações de GenAI analisa o conteúdo enviado e recebido para garantir que dados pessoais ou corporativos confidenciais não saiam da organização e que conteúdos maliciosos, suspeitos ou inaceitáveis por qualquer outro motivo não entrem. Outros verificadores analisam os prompts em busca de conteúdo que, embora não seja prejudicial à empresa, não esteja alinhado aos valores corporativos ou não seja adequado ao uso empresarial. Todas as interações realizadas em nossa plataforma independente de modelo são registradas para fins de análise pelos administradores, auditoria e responsabilização.

À medida que os LLMs se tornam mais integrados às nossas operações diárias, é impossível exagerar a importância de gerenciar a forma como interagimos com eles. O compartilhamento excessivo de informações, seja intencional ou acidental, pode ter consequências abrangentes e extremamente negativas. Ao adotar práticas prudentes no uso dessas ferramentas poderosas pelos funcionários, sua organização pode aproveitar os benefícios da GenAI e, ao mesmo tempo, proteger informações pessoais e profissionais. Clique aqui para agendar uma demonstração da nossa plataforma de segurança e capacitação para GenAI.

Sobre o autor

F5 Newsroom Staff

Mais publicações de F5 Newsroom Staff