Como elaborar políticas de segurança de IA específicas para sua organização

F5 Newsroom Staff

Introdução

Desde o lançamento do ChatGPT, em novembro de 2022, temos observado a rápida adoção de modelos de inteligência artificial generativa (GenAI) pelas empresas, sem quaisquer mecanismos de proteção ou responsáveis capazes de pisar no freio ou desligar os motores.

Órgãos governamentais estão enfrentando dificuldades para elaborar regulamentações que protejam tanto os usuários quanto a inovação e, ao mesmo tempo, impeçam comportamentos criminosos ou simplesmente predatórios por parte de agentes de ameaças individuais, organizações criminosas, entidades não estatais, nações e corporações, incluindo aquelas que criam os modelos e lucram com eles. 

O trabalho árduo de governança de LLMs ficou a cargo dos CISOs. Elaborar um conjunto de políticas de segurança de IA e controles correspondentes para uma organização é uma tarefa desafiadora, pois não é possível ter um único conjunto de políticas que abranja todos os aspectos da IA. Por exemplo, as políticas específicas para IA precisarão abordar, ampliar ou até mesmo substituir as políticas existentes de aquisição, implantação, segurança e uso de TI; as políticas jurídicas e de conformidade relacionadas a tudo, desde a retenção de documentos e a titularidade da propriedade intelectual até a elaboração de contratos; as políticas de recursos humanos que tratam de aplicativos automatizados de triagem de currículos; e assim por diante, para cada função e unidade de negócios da empresa.

Este post oferece um ponto de partida para a elaboração de políticas básicas que abordem as preocupações mais urgentes no ecossistema de adoção de IA: a implantação segura e o uso protegido de modelos de GenAI em toda a empresa. Nossa solução AI Guardrails aborda muitas das principais questões identificadas nos exemplos de políticas apresentados abaixo.

Além das diretrizes de políticas, criamos um modelo sugerido para você elaborar suas próprias políticas de segurança de IA. Estes exemplos não constituem aconselhamento jurídico. Consulte um advogado antes de implementar políticas de segurança de IA.

Exemplos de políticas

Política de Integração de Modelos

A primeira etapa para implantar um modelo de IA em toda a sua organização é definir como isso será feito. Entre os aspectos a serem considerados nessa definição estão:

• O número de modelos de que sua organização precisa atualmente
  • Inclua capacidade adicional nos estágios iniciais para permitir o aumento do número de usuários e de modelos
• Se os seus modelos devem ser públicos (ChatGPT, Claude, Bard etc.), privados (personalizados ou integrados a outros aplicativos, como o Salesforce), internos ou uma combinação dessas opções
• Que tipo de plataforma é mais adequado para implantação em toda a sua organização: SaaS, nuvem privada, nuvem pública, infraestrutura local, ambiente isolado (air-gapped) ou algum outro tipo
  • Observação: Restringir o uso de aplicativos SaaS com base em modelos não é particularmente viável, dado o grande número de modelos que já são utilizados por fornecedores de SaaS
  • Garanta que qualquer plataforma tenha a capacidade de aumentar e reduzir sua escala
• Segmentação de rede
• Compatibilidade com softwares e sistemas existentes para reduzir a proliferação de tecnologias
• Redundâncias
• Lacunas de segurança

Política de Acesso de Usuários

Identifique claramente quem terá permissão para usar quais modelos, com que frequência e para quais finalidades.

• O uso é limitado a funcionários e prestadores de serviços ou outras pessoas, como parceiros de negócios, clientes etc., terão acesso total ou limitado?
• O acesso à rede/ao sistema permitirá acesso total ao(s) modelo(s) ou serão aplicadas permissões segmentadas ou controles de acesso baseados em políticas (PBAC) ao(s) modelo(s)?
• Diferentes grupos ou departamentos precisarão de funcionalidades distintas em um determinado modelo ou alguns grupos deverão ser impedidos de usar certas funcionalidades?
• Como e por que são concedidos acessos ou permissões para realizar atividades administrativas?

Política de Uso Aceitável

A definição do que pode ser considerado um uso aceitável ou inaceitável de modelos varia significativamente de uma organização para outra. Entre as questões gerais a serem consideradas estão:

• Como o modelo deve ser usado; por exemplo, somente para atividades da empresa, em conformidade com as demais políticas relacionadas; por exemplo, sem uso pessoal; sem uso para outras entidades comerciais (trabalhos paralelos); sem uso para fins criminosos ou outros fins ilegais, antiéticos ou perigosos etc.?
• O que um filtro de termos proibidos incluiria? Por exemplo, determinados termos anatômicos poderiam ser proibidos em uma empresa de engenharia civil, mas não em uma empresa farmacêutica ou de equipamentos para diagnóstico médico.
• A alocação de recursos também pode afetar o uso; nos estágios iniciais de implantação e adoção, pode ser útil desenvolver uma hierarquia de tarefas, permitindo uma expansão planejada para incluir tarefas adicionais à medida que os casos de uso e as necessidades de negócios evoluem.

Política de Conteúdo de Prompts

O conteúdo dos prompts está alinhado ao uso aceitável, mas tem um escopo diferente. Entre as questões a serem definidas estão:

• Conteúdo permitido ao usar um modelo público, como terminologia não específica, perguntas genéricas etc.
• Conteúdo proibido em todos os modelos, como termos obscenos, tendenciosos, depreciativos, tóxicos e outros semelhantes, além de informações de identificação pessoal (PII)
• Conteúdo proibido ao usar um modelo público, como termos específicos da empresa (nomes de marcas, nomes de projetos etc.); o nome da empresa; nomes de concorrentes; documentação da empresa (contratos, e-mails, pautas, calendários, atas de reuniões, dados brutos, código-fonte, políticas, procedimentos, diretrizes etc.)
• Conteúdo proibido ao usar modelos privados ou internos, como assuntos relevantes para pequenos grupos de usuários internos, por exemplo, folha de pagamento ou estratégias de negócios

Política de Uso dos Resultados do Modelo

O tratamento dos resultados gerados por modelos é uma questão delicada, considerando os controles internos deficientes presentes na maioria dos modelos públicos. Portanto, as organizações devem desenvolver e aplicar políticas internas rigorosas que orientem os usuários. Entre as questões a serem consideradas estão:

• Verificação humana 
  • Antes que qualquer conteúdo gerado por modelos possa ser usado para qualquer finalidade, inclusive para ser incorporado a qualquer tipo de documentação da empresa, todo o conteúdo produzido por modelos deve ser verificado por uma pessoa para garantir que seja preciso, factual e/ou autêntico, conforme aplicável, e que não seja fictício, imaginário ou sem fundamento.
  • A verificação deve incluir o nome do responsável pela verificação e um registro de data e hora.
• Uso de conteúdo não modificado 
  • O conteúdo gerado pelo modelo que não for significativamente modificado antes de ser incluído na documentação da empresa deverá ser identificado como tal, por exemplo, por meio de uma nota de rodapé, nota de fim ou link para o prompt.
  • O código fornecido por um modelo não deve ser usado sem a análise e a verificação de [dois] membros seniores da equipe com experiência na linguagem específica utilizada nesse código.
  • A verificação deve incluir o nome do responsável pela verificação e um registro de data e hora.

Política de Monitoramento e Auditoria de Uso

À medida que a adoção de modelos se torna mais difundida, a observabilidade se torna cada vez mais essencial. Saber o que seus usuários estão fazendo e entender o desempenho dos modelos são fatores fundamentais para garantir eficiência e eficácia.

• Use como modelo para esta política a política de privacidade de e-mail da sua organização (por exemplo, sem expectativa de privacidade), se permitido pelas leis estaduais de monitoramento eletrônico.
• Certifique-se de que os funcionários entendam que o uso do modelo, seja em um dispositivo pessoal ou de propriedade da empresa, é monitorado e rastreado por aplicativos automatizados, com alertas em tempo real enviados ao usuário em alguns casos e ao administrador em outros.
  • O rastreamento de algumas informações, como o sentimento do usuário, não é permitido em determinadas jurisdições.
  • A exclusão de dados de usuários pode ser exigida em determinadas jurisdições ou circunstâncias.
• Identifique quais informações são monitoradas e por quê, como, por exemplo, parâmetros de uso do modelo (custo, precisão etc.), conteúdo (prompts/respostas), verificações ou engajamento dos usuários.

Política de retenção do histórico de prompts e respostas

Como mencionado acima, a capacidade de rastrear e auditar as interações dos usuários pode fornecer muitos dados bastante úteis, mas alguns órgãos reguladores começaram a considerar a privacidade dos usuários nesse contexto. Certifique-se de que sua organização compreenda e implemente adequadamente todas as normas aplicáveis. Entre as questões a serem consideradas estão:

• Identificar por quanto tempo o conteúdo (prompts, respostas, alertas etc.) é retido por padrão, se esse conteúdo pode ser retido por mais tempo para finalidades específicas e quais funções seriam responsáveis por essa decisão.
• Descreva o processo de exclusão de conteúdo (periodicidade, se é automatizado ou manual etc.).
• Todos os prompts e respostas são mantidos por pelo menos (X de tempo), ou por mais tempo, se considerado necessário pela(s) função(ões) responsável(is).

Política de Controle de SaaS de Terceiros

O uso de software de terceiros, como por meio de um provedor de SaaS, exige considerações adicionais.

• Os fornecedores de SaaS devem informar se um LLM é utilizado como parte de seu aplicativo/produto e para qual finalidade.
• Os fornecedores de SaaS devem fornecer aos clientes corporativos uma Lista de Materiais de IA (ABOM) que descreva o uso do LLM e o processo de validação humana.
• As políticas dos fornecedores de SaaS devem ser aplicadas por meio da função de governança de terceiros, em coordenação com o processo de aquisição/licenciamento.

Para saber mais sobre as soluções de segurança de runtime de IA da F5, clique aqui.

Sobre o autor

F5 Newsroom Staff

Mais publicações de F5 Newsroom Staff