Atualização: um tipo diferente de multiverso — integração multimodelo e multimodal

F5 Newsroom Staff

A integração segura e protegida de modelos de IA multimodais e/ou de vários modelos às infraestruturas digitais existentes está se tornando uma questão importante nas discussões sobre por que, quando e como implantar a inteligência artificial generativa (GenAI), incluindo grandes modelos de linguagem (LLMs), em toda a empresa. Embora muitas organizações já tenham implantado pelo menos um modelo de GenAI — quase 15% em uma pesquisa recente —, um número consideravelmente maior adiou a implantação por um período de três a 12 meses, enquanto as demais continuam debatendo se devem ou não incorporar LLMs aos seus sistemas.

Os benefícios de contar com apenas um modelo de linguagem unimodal — como o ChatGPT-3.5 ou outros, por exemplo — podem gerar enormes ganhos de eficiência e produtividade quando ele é usado em tarefas baseadas em texto, como geração de conteúdo, resumo, análise e tradução. No entanto, a adoção de vários modelos ou de modelos que utilizam ou criam conteúdo não textual funciona como um “multiplicador de força” no âmbito criativo e exige uma estratégia diferente.

Multimodal? Vários modelos?

Os cenários para uma organização que implementa vários modelos de IA variam bastante. Embora algumas organizações possam querer aproveitar os recursos de mais de um LLM público de grande porte, por exemplo, usando tanto o BERT quanto o Gemini em vez de apenas um deles, há muitas outras opções disponíveis.

Em pouco mais de um ano desde o lançamento do ChatGPT, surgiram muitos novos tipos de modelos, incluindo:

• Modelos direcionados a mercados específicos, como finanças, direito, indústria farmacêutica e varejo
• Modelos incorporados a aplicações de software como serviço (SaaS)
• Modelos internos desenvolvidos internamente e treinados com dados proprietários
• Modelos de geração aumentada por recuperação (RAG), que são extensões adicionadas aos grandes modelos públicos para fornecer acesso a informações mais recentes
• Modelos de linguagem pequenos (SLMs), que exigem consideravelmente menos poder computacional e, em alguns casos, podem ser executados em um computador pessoal

Tornou-se um consenso entre especialistas do setor de IA que, nos próximos anos, as grandes empresas implantarão muitos modelos em suas organizações — centenas, segundo algumas estimativas —, à medida que se tornar mais fácil e barato criar, treinar e manter esses modelos. 

Muitos desses modelos recém-implantados provavelmente serão multimodais (como as versões mais recentes do ChatGPT e outros), o que significa que poderão receber consultas em vários formatos, como voz, texto, áudio, imagens, vídeo, código etc., e produzir conteúdo no mesmo formato ou em um formato diferente. Por exemplo, um usuário pode fornecer instruções por voz ao modelo para que ele produza conteúdo em um formato específico, como um gráfico, uma imagem ou um clipe de áudio.

Risco multiplicado

Os benefícios da integração de vários modelos e modelos multimodais à estrutura de uma organização são enormes e continuam a se expandir para novos casos de uso entre desenvolvedores, analistas, usuários em geral e clientes. No entanto, os riscos são significativos e precisam ser abordados antes da integração.

Adicionar qualquer ferramenta de IA à infraestrutura digital de uma organização amplia imediatamente a superfície de ataque, e a inclusão de modelos multimodais pode tornar esse cenário ainda mais complexo. A arquitetura de um modelo multimodal inclui diversos pontos de entrada, que ficam vulneráveis à exploração por invasores.

Da mesma forma, concentrar-se em proteger algumas modalidades de um modelo ou sistema de IA e negligenciar outras pode criar pontos cegos na postura de segurança de um sistema multimodal. É certo que os invasores explorarão o elo mais fraco, seja acessando um sistema por meio de um portal desprotegido, seja inserindo código malicioso na resposta do modelo.

À medida que as regulamentações começaram a entrar em vigor em todo o mundo, a conformidade, especialmente no que diz respeito à garantia da privacidade dos dados, tornou-se um grande desafio para as equipes de segurança de IA. Os dados que precisam ser protegidos já não se limitam a registros de texto, mas incluem imagens digitais, arquivos de áudio e vídeos; exames, como escaneamentos de retina, impressões digitais, radiografias e ressonâncias magnéticas; impressões vocais usadas como confirmação verbal; além de conteúdo científico altamente especializado.

Todos esses dados podem ser expostos em uma violação de dados, mas também podem ser manipulados e vendidos para fins maliciosos, incluindo a criação de deepfakes. A integração de diferentes modalidades às infraestruturas digitais existentes também apresenta desafios, como problemas de interoperabilidade, pois diferentes tecnologias e protocolos precisam funcionar em conjunto de forma integrada, e uma única configuração incorreta ou vulnerabilidade pode comprometer a segurança de todo o sistema.

A correção disso pode exigir muitos recursos, potencialmente causar problemas de desempenho no modelo, como latência, e demandar hardware adicional que, se não for gerenciado corretamente, pode introduzir vulnerabilidades de segurança.

Soluções de segurança para IA

A falta de práticas padronizadas relacionadas ao uso de IA torna ainda mais difícil garantir uma segurança consistente nos ambientes dos usuários. No entanto, estão surgindo soluções na área de segurança de IA para tornar as implementações mais seguras e, portanto, mais atraentes para organizações avessas a riscos. 

Nossa plataforma independente de modelo de segurança e viabilização de IA generativa é a primeira do gênero a oferecer proteção completa aos sistemas de IA. Como uma camada “sem peso” de confiança e controle, posicionada fora da infraestrutura, mas imediatamente adjacente a ela, nossas soluções de segurança em tempo de execução protegem a organização contra ameaças ocultas nas respostas dos modelos de IA e outras ameaças externas. Ela garante que prompts contendo instruções prejudiciais ou informações privadas não saiam do sistema, sem introduzir latência no processo.

Os administradores podem usar controles de acesso baseados em políticas para autorizar ou bloquear o acesso a modelos de IA por usuário e por equipe, o que permite: 

• Permite o monitoramento de custos ao limitar quem pode acessar os modelos
• Permite a implementação de limites de taxa para garantir que ataques de negação de serviço ao modelo (DoS) não consigam tornar o sistema mais lento nem interromper seu funcionamento
• Permite definir critérios personalizáveis para o scanner de acordo com as necessidades de cada equipe, promovendo maior conformidade com as políticas de uso aceitável da empresa

Nossa solução também oferece às equipes de segurança total observabilidade sobre todas as ferramentas de IA no sistema e entre elas, permitindo que entendam como os modelos estão sendo usados e garantindo que não sejam utilizados de forma indevida ou abusiva. Da mesma forma, os administradores têm visibilidade dos padrões e das práticas de uso de usuários e grupos. 

Cada interação com o modelo é monitorada e armazenada para revisão e análise, fornecendo insights sobre o comportamento dos usuários. O histórico de prompts pode ser excluído manual ou automaticamente; os administradores também podem optar por não armazenar nenhum prompt para revisão. Painéis interativos fornecem uma ampla variedade de dados detalhados sobre o uso dos modelos por usuários individuais e grupos, em períodos definidos pelos administradores.

A integração de diversos modelos de IA, inclusive multimodais, a uma infraestrutura digital existente traz oportunidades, riscos e desafios. A implementação simultânea da segurança cibernética e da segurança de IA é a melhor opção para que as organizações mantenham suas atividades normalmente, com a certeza de que suas pessoas, seus ativos e seus processos estão protegidos contra riscos impulsionados pela IA.

Clique aqui para solicitar uma demonstração.

Sobre o autor

F5 Newsroom Staff

Mais publicações de F5 Newsroom Staff