Implantação de LLMs em empresas: via API em uma nuvem privada

F5 Newsroom Staff

Por si só, sem salvaguardas especializadas ou protocolos de segurança, a implantação de modelos de inteligência artificial generativa (GenAI), especialmente modelos de linguagem de grande escala (LLMs), em toda a empresa representa uma oportunidade de alto risco e alto retorno para qualquer organização. Definir exatamente como sua organização deve dar esse grande passo no universo da GenAI exige um planejamento cuidadoso.

Talvez seja melhor para a organização acessar modelos de IA por meio de um provedor, seguindo o modelo de Software como Serviço (SaaS), para evitar problemas de configuração ou instalação. Outra opção que pode funcionar melhor é implantar o modelo na nuvem privada da organização ou em suas instalações físicas, permitindo que ela controle a configuração e o gerenciamento da API.

Esta série de artigos aborda a questão Como? Como sua organização deve implantar LLMs em toda a empresa para obter o máximo retorno sobre o investimento? Cada artigo apresentará informações sobre os benefícios e as desvantagens de uma estrutura de implantação comum, permitindo que você a avalie à luz da estrutura organizacional e empresarial da sua empresa e de suas necessidades comerciais específicas. 

Definição da nuvem e das APIs

Como termo, “a nuvem” é amplamente utilizado e, ao mesmo tempo, frequentemente mal compreendido. Por isso, queremos deixar claro o que queremos dizer quando falamos sobre ela. A nuvem é uma vasta coleção de servidores físicos localizados em inúmeros data centers ao redor do mundo. Esses servidores remotos desempenham diversas funções essenciais para os negócios, como executar aplicativos; armazenar ou gerenciar dados; fornecer conteúdo, como mídias sociais; ou disponibilizar serviços, como streaming ou softwares especializados. Embora cada um tenha funcionalidades específicas, eles estão interconectados e operam como componentes de um único ecossistema digital interdependente, que permite aos usuários — pessoas e organizações — acessar arquivos e dados de qualquer dispositivo com conexão à Internet.

Enquanto isso, uma interface de programação de aplicações (API) é, em essência, uma conexão entre dois dispositivos que permite a troca de informações entre eles. O software da API inclui definições que identificam o que será enviado entre os dispositivos (por exemplo, o dispositivo cliente que faz a solicitação e o dispositivo servidor que envia a resposta) e protocolos que determinam como essas informações devem ser enviadas (por exemplo, a URL/o endpoint do dispositivo receptor e a sintaxe/redação/linguagem que tanto a solicitação quanto a resposta devem usar).

Isso permite que os usuários finais, por exemplo, façam login em aplicativos para comprar itens em um site, agendem uma corrida por aplicativo ou, no caso de um LLM, façam uma consulta e recebam uma resposta, sem precisar entender como ou por que o sistema funciona. As APIs podem ser monitoradas e protegidas, de modo que os dados no dispositivo do cliente nunca fiquem totalmente expostos ao dispositivo servidor.

A diferença entre SaaS e serviços baseados em nuvem

O primeiro artigo desta série abordou as vantagens e desvantagens da implantação de LLMs em toda a empresa usando um modelo de Software como Serviço, ou SaaS. Um modelo de implantação baseado em SaaS é semelhante, em muitos aspectos, a um modelo de implantação baseado em nuvem, pois ambos usam a nuvem para acessar o software necessário, em vez de hospedar aplicativos em seus próprios sistemas. No entanto, a principal diferença entre eles pode ser resumida em um conceito muito simples. Por padrão, SaaS significa que sua organização paga pelo acesso e uso de um aplicativo de software de terceiros hospedado “na nuvem”, enquanto computação em nuvem significa que você paga a terceiros para hospedar e fornecer acesso aos dados da sua organização, que ficam armazenados “na nuvem”.

Benefícios

Implantação rápida: Os serviços em nuvem que permitem configurar um LLM para uso pela sua organização podem ser implementados rapidamente, possibilitando que você comece a usar o modelo em pouco tempo. 

Escalabilidade: Um LLM implantado na nuvem pode ser configurado para escalar automaticamente de acordo com a demanda, sem necessidade de intervenção manual.

Redução da sobrecarga operacional: A configuração, a segurança, a manutenção, as atualizações e a otimização do sistema geralmente ficam a cargo do provedor de nuvem, permitindo que sua equipe de TI e outros profissionais se concentrem em outras tarefas. Acessibilidade: Os LLMs baseados em nuvem podem ser acessados de qualquer dispositivo e em qualquer lugar com acesso à internet, proporcionando flexibilidade aos profissionais que estão viajando ou trabalhando remotamente. 

Eficiência de custos: Os provedores de serviços em nuvem geralmente oferecem um modelo de preços baseado no uso, cobrando apenas pelos recursos utilizados, o que pode ser importante caso a demanda da sua organização oscile. Sua organização não precisa de grandes recursos computacionais nem de ampla capacidade de armazenamento de dados.

Modelos pré-treinados e ajustados: Os modelos de IA são continuamente aprimorados e treinados com conjuntos de dados maiores e melhores, podendo ser ajustados para uso com conjuntos de dados personalizados.

Redundância inerente: Os riscos de perda de dados devido a interrupções são significativamente reduzidos pelas diversas camadas de redundância dos ambientes de nuvem.

Desvantagens

Latência: A definição de “tempo real” dependerá da localização, da velocidade e da capacidade de processamento dos servidores operados pelo seu provedor de serviços de nuvem. Embora tempos de resposta ligeiramente mais longos possam passar despercebidos em alguns ambientes, eles podem comprometer atividades essenciais em outros. 

Custos contínuos: A computação em nuvem não é uma iniciativa de baixo custo e, à medida que os modelos ficam maiores e mais rápidos, os custos de recursos de computação e armazenamento aumentam proporcionalmente.

Dependência de fornecedor: Depender de um único fornecedor envolve riscos. A postura e os protocolos de segurança física e cibernética do fornecedor são aspectos importantes a considerar, assim como questões como alterações nos termos de serviço ou em outras políticas, aumentos de preços e descontinuação de serviços.

Conclusão

Determinar se os benefícios de implantar um LLM em toda a sua empresa por meio de um serviço baseado em nuvem superam as desvantagens exigirá uma análise cuidadosa dos recursos financeiros e técnicos, das necessidades de negócios e das restrições de segurança ou de outras limitações operacionais da sua organização. Alguns de nossos blogs anteriores abordaram a implementação de salvaguardas internas e externas sistemáticas, de programas de governança de IA e de outras formas de implantar com segurança essas ferramentas transformadoras em sua organização, e podem ser úteis à medida que você percorre esse novo caminho pela tecnosfera.

Sobre o autor

F5 Newsroom Staff

Mais publicações de F5 Newsroom Staff