A importância do controle de permissões para grandes modelos de linguagem em implantações empresariais

F5 Newsroom Staff

Grandes modelos de linguagem (LLMs), como o ChatGPT e o Claude, surgiram no final de 2022 e no início de 2023, provocando uma onda avassaladora de conscientização sobre o poder da IA. Muitas empresas reconheceram imediatamente o potencial transformador dessa tecnologia, comparável ao advento da World Wide Web ou da nuvem, e buscaram aproveitar seu poder sem dar muita atenção à segurança ou à proteção. Outras empresas mergulharam em uma hesitação frustrante, sem saber como se adaptar, e algumas simplesmente ficaram paralisadas.

Desde o seu surgimento, os LLMs mudaram completamente o ecossistema, desde a forma como as organizações planejam estratégias de investimento e táticas de mercado até a reformulação das operações corporativas e a elaboração de documentos jurídicos. Os próprios modelos continuaram evoluindo, passando de grandes modelos fundacionais públicos, como ChatGPT e Bard, para modelos ajustados e direcionados a setores específicos, como Harvey e BloombergGPT, enquanto as organizações passaram cada vez mais a ajustar ou desenvolver modelos de geração aumentada por recuperação (RAG) e, mais recentemente, modelos internos. Esse desenvolvimento mais recente é um fenômeno por si só: esses modelos internos são treinados com dados proprietários para realizar tarefas específicas dentro de uma organização, departamento ou equipe.

O processo de RAG envolve inserir no modelo dados específicos da empresa — por exemplo, documentos jurídicos, registros de atendimento ao cliente ou campanhas de marketing —, treiná-lo para identificar e analisar padrões e outros conteúdos, realizar iterações até atingir os limites de desempenho e, então, usá-lo para a finalidade pretendida. O uso de modelos internos de RAG e de modelos com ajuste fino permite implementar controles de acesso baseados em políticas (PBAC), que autorizam apenas profissionais identificados a interagir com o modelo e seus dados. Assim como as organizações usam o Active Directory e outros sistemas de gerenciamento de permissões para segmentar e controlar o acesso aos dados, o acesso a informações e modelos pode ser segmentado por equipe ou indivíduo, com base nas políticas da empresa, nas necessidades do negócio ou em outros critérios específicos da organização. À medida que o uso de modelos de IA em toda a empresa continuar a crescer, o gerenciamento de permissões continuará sendo um elemento importante das operações empresariais, além de um fator crítico para a segurança dos LLMs.

• Proteção de dados confidenciais, propriedade intelectual, documentação jurídica, informações de identificação pessoal (PII) e outros conteúdos confidenciais torna-se mais fácil quando o acesso a essas informações é concedido apenas a funcionários ou outras pessoas devidamente autorizadas. Os riscos de roubo de dados diminuem à medida que as camadas de segurança aumentam. 
• Alcançar, monitorar e manter a conformidade com regulamentações de privacidade e segurança de dados, padrões do setor, como os relacionados à tomada de decisões automatizada, políticas de uso aceitável da empresa, e outras diretrizes torna-se mais viável ao trabalhar com grupos menores e requisitos específicos ou diversos. 
• Como as estruturas de custos para o uso de modelos continuarão oscilando até se estabilizarem, a alocação de recursos ocupa uma posição de destaque entre os benefícios proporcionados pelo controle de permissões dos modelos. Limitar o número de equipes ou funcionários com acesso a um modelo permite controlar com eficiência o uso dos recursos computacionais e possibilita que as organizações dimensionem adequadamente as licenças, assinaturas ou vagas de acesso aos modelos, o que se torna ainda mais importante quando vários modelos estão em uso. 
• A capacidade de personalizar as ações ou atividades do modelo com base em casos de uso específicos e/ou grupos de usuários simplifica a funcionalidade, enquanto a capacidade de personalizar filtros e a sensibilidade do scanner permite respostas adaptadas às necessidades da organização.

Saber que têm à disposição a capacidade de implementar um PBAC robusto em modelos de inteligência artificial generativa (GenAI) representa um enorme avanço para as organizações que ainda enfrentam dificuldades para determinar de quais modelos — e de quais tipos de modelos — precisam, bem como para implantá-los e protegê-los em toda a empresa. Esse componente essencial e amplamente compreendido da infraestrutura de segurança de uma organização limita possíveis vulnerabilidades de segurança ao minimizar o acesso desnecessário a dados confidenciais e reduz o risco de ameaças internas. Os sistemas de gerenciamento de identidade e acesso (IAM) e as ferramentas de gerenciamento de funções que centralizam a autenticação, a autorização e a auditoria de usuários são fundamentais para a implementação eficaz do PBAC. 

No entanto, o risco da proliferação tecnológica, que ocorre quando há aplicativos e dispositivos demais em um sistema que não se integram bem ou sequer se integram, também deve ser levado em consideração, pois pode criar vulnerabilidades onde antes talvez não existissem. A implantação de uma solução abrangente de segurança para LLMs, como o F5 AI Runtime Security, que funciona como uma camada de confiança abrangente e engloba todos os modelos em uso na empresa, é o elo que falta em uma implantação típica de múltiplos LLMs. Nossa solução única, independente de modelo e escalável, que não adiciona “peso” à infraestrutura e se integra perfeitamente aos mecanismos de segurança existentes, também oferece permissões granulares para grupos e indivíduos em toda a organização, sem aumentar os custos computacionais nem introduzir latência nos modelos. 

À medida que o uso de modelos avançados de IA generativa, como os LLMs, se torna cada vez mais comum e diversificado nas organizações, a segurança deve ser incorporada desde os estágios iniciais da implantação. O gerenciamento de permissões por meio de IAM e PBAC deve ser priorizado como uma forma essencial de mitigar riscos e, ao mesmo tempo, aumentar a produtividade, a inovação e a vantagem competitiva.

Sobre o autor

F5 Newsroom Staff

Mais publicações de F5 Newsroom Staff