Implantação de LLMs nas empresas: o framework SaaS

F5 Newsroom Staff

A implantação de modelos de inteligência artificial generativa (GenAI), especialmente modelos de linguagem de grande escala (LLMs), em toda a empresa representa uma oportunidade de alto risco e alto retorno para qualquer organização, sobretudo quando não há medidas adicionais de proteção nem protocolos de segurança de IA em vigor. Definir exatamente como sua organização deve dar esse grande passo no universo da GenAI exige um planejamento cuidadoso.

Talvez seja mais adequado para sua organização acessar o modelo de IA por meio de um provedor, seguindo o modelo de Software como Serviço (SaaS), para evitar problemas de configuração ou instalação. Outra opção que pode funcionar melhor é implantar o modelo na nuvem privada ou no sistema da sua organização, permitindo que ela controle a configuração e o gerenciamento da API.

Esta série de três artigos abordará a pergunta Como? Como sua organização deve implantar LLMs em toda a empresa para obter o máximo retorno sobre o investimento? Cada artigo apresentará informações sobre os benefícios e as desvantagens de uma estrutura de implantação comum, permitindo que você a avalie à luz da estrutura organizacional e empresarial da sua empresa e de suas necessidades comerciais específicas. 

Definição de SaaS

O modelo SaaS, ou software sob demanda, é provavelmente a maneira mais fácil de implantar LLMs do ponto de vista da sua equipe de TI, pois o software é disponibilizado aos usuários pela internet. O provedor assume o trabalho mais complexo e mantém o hardware, o modelo, o código que executa o modelo e os dados utilizados por ele. Embora implantar um LLM usando o modelo SaaS possa parecer uma excelente ideia em todos os aspectos, essa não é a melhor opção para todas as organizações. Veja a seguir cinco benefícios e cinco desvantagens importantes que devem ser considerados ao avaliar uma abordagem de implantação SaaS para sua organização.

Benefícios

Implantação rápida com menor tempo para obtenção de benefícios: As soluções SaaS podem ser configuradas e colocadas em operação de forma rápida e fácil, pois a aplicação já está instalada, configurada e disponível na nuvem. Implantar um LLM como uma solução SaaS significa que o modelo pode ser integrado às operações de uma organização sem exigir nenhuma infraestrutura nova ou modificada.

Eficiências financeiras e operacionais: Normalmente, os LLMs não exigem grandes investimentos iniciais de capital, pois são oferecidos por assinatura e não requerem nenhum hardware ou software especial, o que permite otimizar a gestão de recursos. As atualizações do sistema e alguns aspectos da segurança ficam a cargo do provedor de serviços.

Facilmente escaláveis e integráveis: Os LLMs oferecidos como soluções SaaS permitem que as organizações se adaptem e se ajustem à demanda dos usuários sem investimentos adicionais significativos. Opções flexíveis de assinatura são comuns, e a variedade de plug-ins disponíveis para integração aos recursos organizacionais existentes continua aumentando.

Promove a acessibilidade e a colaboração: Os usuários podem acessar o LLM por meio de qualquer navegador da web, em qualquer dispositivo conectado à internet e de qualquer local com conexão à internet, o que permite a colaboração contínua entre equipes e fusos horários. Alguns LLMs oferecem aos usuários acesso limitado ou completo aos seus históricos de pesquisa para facilitar consultas futuras.

Fácil de usar, com pouco ou nenhum treinamento: A maioria dos LLMs tem uma interface semelhante à de um mecanismo de busca e, portanto, bastante familiar para os usuários. Alguns provedores oferecem aos usuários a opção de selecionar a versão do LLM que desejam usar de acordo com a tarefa que precisam realizar. Além disso, alguns LLMs são “conversacionais” e podem fornecer conteúdo relacionado à consulta anterior, enquanto outros tratam cada consulta como um prompt independente.

Desvantagens

Privacidade e segurança de dados: O uso de LLMs em tarefas que envolvem informações confidenciais pode expor sua organização a riscos de perda de dados e problemas de privacidade. O conteúdo enviado aos LLMs por meio de prompts pode ser processado e armazenado pelo provedor, sem garantias de proteção contra uso indevido ou disseminação posterior.

Personalização e controles limitados: Os LLMs são uma tecnologia emergente e, como tal, foram desenvolvidos para atender às necessidades de uma ampla variedade de usuários. Isso significa que sua capacidade de oferecer interações personalizadas aos usuários com base nas necessidades ou preferências da organização ainda está em desenvolvimento. Controles de segurança ou restrições de uso aceitável que as organizações talvez queiram implementar, como proibir conteúdos específicos — por exemplo, nomes de projetos ou código-fonte em prompts —, ainda não estão disponíveis, o que aumenta a exposição da organização a riscos.

Aumento de custos: Embora o modelo SaaS normalmente não exija um grande investimento inicial, as taxas de assinatura podem aumentar ao longo do tempo devido a reajustes de preços ou à inclusão de novos usuários no sistema, o que reduz a relação custo-benefício no longo prazo. 

Latência e desempenho: Não é incomum que aplicações SaaS sejam executadas mais lentamente do que aplicações locais, o que significa que a latência deve ser uma consideração fundamental, especialmente para o uso de LLMs em tempo real, como em aplicações de atendimento conversacional ao cliente ou de tradução de idiomas. 

Conectividade: Essa questão é tão básica quanto crítica. Assim como ocorre com qualquer solução baseada na internet, só é possível garantir um desempenho confiável do LLM quando a conectividade do provedor de serviços é estável e conta com mecanismos de proteção contra lentidão ou falhas.

Conclusão

Para determinar se os benefícios de implantar um LLM em toda a sua empresa usando uma estrutura SaaS superam as desvantagens, é preciso avaliar cuidadosamente os recursos financeiros e técnicos da organização, suas necessidades de negócios e as restrições de segurança ou outras limitações operacionais.

Sobre o autor

F5 Newsroom Staff

Mais publicações de F5 Newsroom Staff