Um tipo diferente de multiverso: integração multimodelo e multimodal

F5 Newsroom Staff

A integração segura e protegida de modelos de IA multimodais e/ou de vários modelos às infraestruturas digitais existentes está se tornando uma questão importante nas discussões sobre por que, quando e como implantar a inteligência artificial generativa (IA generativa), incluindo grandes modelos de linguagem (LLMs), em toda a empresa. Embora muitas organizações já tenham implantado pelo menos um modelo de IA generativa — quase 15% em uma pesquisa recente —, um número consideravelmente maior adiou a implantação por um período de três a 12 meses, enquanto as demais continuam debatendo se devem ou não incorporar LLMs aos seus sistemas.

Os benefícios de contar com apenas um modelo de linguagem unimodal — como o ChatGPT-3.5 ou outros, por exemplo — podem gerar enormes ganhos de eficiência e produtividade quando ele é usado em tarefas baseadas em texto, como geração de conteúdo, resumo, análise e tradução. No entanto, incorporar vários modelos ou modelos que utilizam ou criam conteúdo não textual é a versão criativa de um “multiplicador de força” e exige uma estratégia diferente.

Multimodal? Vários modelos?

Os cenários para uma organização que implementa vários modelos de IA variam bastante. Embora algumas organizações possam querer aproveitar os recursos de mais de um LLM público de grande porte — por exemplo, usando tanto o BERT quanto o Gemini, em vez de apenas um deles —, há muitas outras opções disponíveis.

Em pouco mais de um ano desde o lançamento do ChatGPT, surgiram muitos novos tipos de modelos, incluindo:

• Modelos direcionados a mercados específicos, como finanças, direito, indústria farmacêutica e varejo
• Modelos incorporados a aplicações de software como serviço (SaaS)
• Modelos internos desenvolvidos internamente e treinados com dados proprietários
• Modelos de geração aumentada por recuperação (RAG), que são extensões adicionadas aos grandes modelos públicos para fornecer acesso a informações mais recentes
• Modelos de linguagem pequenos (SLMs), que exigem consideravelmente menos poder computacional e, em alguns casos, podem ser executados em um computador pessoal

Tornou-se um entendimento comum entre os especialistas do setor de IA que, nos próximos anos, as grandes empresas implantarão muitos modelos — centenas, segundo algumas estimativas — em suas organizações, à medida que se tornar mais fácil e barato criar, treinar e manter modelos. Muitos desses novos modelos provavelmente serão multimodais (como as versões mais recentes do ChatGPT e outros), o que significa que poderão receber solicitações em vários formatos, como voz, texto, áudio, imagens, vídeo, código etc., e produzir conteúdo no mesmo formato ou em outro. Por exemplo, um usuário pode fornecer instruções por voz ao modelo para que ele produza conteúdo em um formato específico, como um gráfico, uma imagem ou um clipe de áudio. 

Risco multiplicado

Os benefícios de integrar vários modelos e modelos multimodais à estrutura de uma organização são enormes e continuam a se expandir para novos casos de uso entre desenvolvedores, analistas, usuários em geral e clientes. No entanto, os riscos são extremamente significativos e precisam ser tratados antes da integração.

Adicionar qualquer ferramenta de IA à infraestrutura digital de uma organização amplia imediatamente a superfície de ataque, e a inclusão de modelos multimodais pode tornar esse cenário ainda mais complexo. A arquitetura de um modelo multimodal inclui diversos pontos de entrada, que ficam vulneráveis à exploração por invasores.

Da mesma forma, concentrar-se em proteger algumas modalidades de um modelo ou sistema de IA e negligenciar outras pode criar pontos cegos na postura de segurança de um sistema multimodal. É certo que os invasores explorarão o elo mais fraco, seja acessando um sistema por meio de um portal desprotegido, seja inserindo código malicioso na resposta do modelo.

À medida que as regulamentações começaram a entrar em vigor em todo o mundo, a conformidade, especialmente no que diz respeito à garantia da privacidade dos dados, tornou-se um desafio significativo para as equipes de segurança de IA. Os dados que precisam ser protegidos já não se limitam a registros de texto, mas incluem imagens digitais, arquivos de áudio, vídeos, digitalizações, impressões digitais, radiografias, ressonâncias magnéticas, impressões vocais usadas como confirmação verbal, além de conteúdo científico altamente especializado.

Todos esses dados podem ser expostos em uma violação de dados, mas também podem ser manipulados e vendidos para fins maliciosos, incluindo a criação de deepfakes. A integração de diversas modalidades às infraestruturas digitais existentes também apresenta desafios, como problemas de interoperabilidade, pois diferentes tecnologias e protocolos precisam funcionar em conjunto de forma integrada, e uma única configuração incorreta ou vulnerabilidade pode comprometer a segurança de todo o sistema.

A correção desses problemas pode exigir muitos recursos, potencialmente causar problemas de desempenho no modelo, como latência, e demandar hardware adicional que, se não for gerenciado corretamente, pode introduzir vulnerabilidades de segurança.

Soluções de segurança para IA

A falta de práticas padronizadas relacionadas ao uso de IA torna ainda mais difícil garantir uma segurança consistente nos ambientes dos usuários. No entanto, estão surgindo soluções na área de segurança de IA para tornar as implantações mais seguras e, portanto, mais atraentes para organizações avessas a riscos.

Nossas soluções de segurança para GenAI independentes de modelo são as primeiras do gênero a oferecer proteção 360° para sistemas de IA. Uma “leve” camada de confiança e controle posicionada fora da infraestrutura, mas imediatamente adjacente a ela, permite que nossas soluções de segurança em tempo de execução protejam a organização contra ameaças ocultas nas respostas dos modelos de IA e outras ameaças externas. Essa camada impede que prompts contendo instruções prejudiciais ou informações privadas saiam do sistema, tudo isso sem introduzir latência no processo. 

Os administradores podem usar controles de acesso baseados em políticas para autorizar ou bloquear o acesso aos modelos por usuário e por equipe, o que permite: 

• Permite monitorar os custos ao limitar quem pode acessar os modelos
• Permite a implementação de limites de taxa para evitar que ataques de negação de serviço ao modelo (DoS) consigam tornar o sistema mais lento ou interromper seu funcionamento
• Permite definir critérios personalizáveis de verificação de acordo com as necessidades de cada equipe, promovendo maior conformidade com as políticas de uso aceitável da empresa

Nossa solução também oferece às equipes de segurança total observabilidade de todas as ferramentas de IA no sistema e entre elas, permitindo entender como os modelos estão sendo usados e garantir que não sejam utilizados de forma indevida ou abusiva. Da mesma forma, os administradores têm visibilidade dos padrões e das práticas de uso de usuários e grupos. Cada interação com os modelos é rastreada e armazenada para revisão e análise, fornecendo insights sobre o comportamento dos usuários. O histórico de prompts pode ser excluído manual ou automaticamente; os administradores também podem optar por não armazenar nenhum prompt para revisão. Painéis interativos fornecem uma ampla variedade de dados detalhados sobre o uso dos modelos, de usuários individuais e de grupos, em períodos definidos pelos administradores.

A integração de diversos modelos multimodais de IA generativa a uma infraestrutura digital existente apresenta oportunidades, riscos e desafios em proporções aproximadamente iguais. A implementação simultânea de práticas de segurança cibernética e de IA é a melhor opção para que a organização mantenha suas operações normalmente, com a certeza de que suas pessoas, seus ativos e seus processos estão protegidos contra riscos decorrentes da IA.

Clique aqui para solicitar uma demonstração.

Sobre o autor

F5 Newsroom Staff

Mais publicações de F5 Newsroom Staff