Quando considerados isoladamente, sem a aplicação de medidas de proteção e sem protocolos adicionais de segurança de IA, a implantação de modelos de IA generativa, especialmente modelos de linguagem de grande escala (LLMs), em toda a empresa representa uma oportunidade de alto risco e alto retorno para qualquer organização.
Mas definir exatamente como sua organização deve dar esse grande passo no universo da IA generativa exige um planejamento cuidadoso. Talvez, do ponto de vista organizacional, seja melhor acessar o modelo por meio de um provedor, seguindo o modelo de Software como Serviço (SaaS), para evitar problemas de configuração ou instalação. Ou talvez seja mais adequado implantar o modelo na nuvem privada ou na rede local (on-premise) da sua organização, permitindo que ela controle a configuração e o gerenciamento das APIs.
Esta série de três artigos abordará a pergunta Como? Como sua organização deve implantar LLMs em toda a empresa para obter o máximo retorno sobre o investimento? Cada artigo apresentará informações sobre os benefícios e as desvantagens de uma estrutura de implantação comum, permitindo que você a avalie à luz da estrutura organizacional e empresarial da sua empresa e de suas necessidades específicas de negócios.
Definição de APIs
Uma interface de programação de aplicações (API) é, em essência, uma conexão digital entre dois dispositivos que permite o envio e o recebimento de informações entre eles. O software de uma API inclui definições que identificam o que será enviado entre os dispositivos (por exemplo, o dispositivo cliente que faz a solicitação e o dispositivo servidor que envia a resposta) e protocolos que determinam como essas informações devem ser enviadas (por exemplo, a URL/o endpoint do dispositivo receptor e a sintaxe/redação/linguagem que tanto a solicitação quanto a resposta devem usar). Isso permite que os usuários finais, por exemplo, façam login em aplicativos para comprar itens em um site, solicitem uma corrida por aplicativo ou, no caso de um LLM, façam uma consulta e recebam uma resposta, sem precisar entender como ou por que o sistema funciona. As APIs podem ser monitoradas e protegidas, de modo que os dados no dispositivo do cliente nunca fiquem totalmente expostos ao dispositivo servidor.
Definição de implantação local
Um sistema local (on-premise) significa que a aplicação — neste caso, o LLM — está instalada na infraestrutura (servidores) da organização e disponível para todos os usuários que têm acesso à rede e à aplicação da organização. Alguns sistemas locais são isolados ou mantidos em uma rede sem conexão direta (“air-gapped”) com a Internet, embora possam ser conectados por meios seguros.
Benefícios
Segurança de dados e conformidade: Hospedar LLMs em seus próprios servidores garante controle total sobre seus dados e sobre os protocolos de segurança que os protegem contra ameaças internas e externas. Isso é especialmente importante para organizações sujeitas a normas rigorosas de proteção de dados, como as dos setores de saúde ou financeiro.
Personalização e controle: Com uma configuração local, você pode personalizar os LLMs para atender a tarefas organizacionais específicas, requisitos e outras necessidades, além de configurar e gerenciar as APIs.
Baixa latência: Os LLMs locais geralmente apresentam menor latência, o que é essencial para algumas aplicações em tempo real, como tradução instantânea, análises em tempo real ou operações de atendimento ao cliente que dependem de chatbots.
Integração de dados: A integração dos LLMs com bancos de dados existentes e sistemas internos pode ser realizada sem preocupações com a proteção e a segurança durante a transferência de dados.
Controle e previsibilidade de custos: A configuração inicial de uma solução local pode ser cara, mas não há taxas recorrentes de terceiros, assinaturas ou hospedagem, que estão sujeitas a aumentos, nem problemas de dependência de fornecedor, o que pode tornar uma solução local mais econômica no longo prazo. Com um modelo local, a automação de tarefas e o ajuste fino do modelo para outras finalidades são processos mais simples e podem ampliar tanto o número de tarefas que geram economia de custos quanto as que geram receita.
Desvantagens
Alto custo inicial: Configurar o hardware e o software locais necessários, incluindo a preparação do espaço físico e do fornecimento de energia para um LLM local, pode ser caro e demorado.
Requisitos de manutenção: Uma solução local exige manutenção contínua e custos operacionais adicionais, incluindo reparos de hardware, atualizações de software e medidas de segurança, o que pode demandar muitos recursos.
Complexidade e escalabilidade: Escalar LLMs locais pode ser complexo e caro, muitas vezes exigindo a compra de hardware adicional e a interrupção do sistema para atualizações, pois aumentar ou reduzir a capacidade não é algo que possa ser feito sob demanda.
Acessibilidade limitada: Soluções locais podem não ser acessíveis de forma fácil ou segura a partir de diferentes locais e podem exigir redes privadas virtuais (VPNs) ou outros canais seguros para acesso remoto. Falhas nos sistemas locais, como as causadas por eventos climáticos ou outros problemas, podem comprometer a conectividade, a menos que a organização tenha planejado e mantido redundâncias essenciais.
Conclusão
Os benefícios de implantar um LLM localmente em toda a sua empresa devem ser avaliados com base em uma análise criteriosa dos recursos financeiros e técnicos da organização, das necessidades do negócio e das restrições de segurança ou de outras limitações operacionais.
Publicações relacionadas no blog
Segurança de APIs sem concessões: apresentamos novas opções flexíveis de descoberta com F5 API security
As opções ampliadas de descoberta de APIs da F5 foram desenvolvidas para oferecer o máximo de flexibilidade e atender às organizações onde quer que estejam.
Governe sua IA no presente e antecipe o futuro da sua IA
Aprenda com nosso CISO de campo, Chuck Herrin, como se preparar para o novo desafio de proteger modelos e agentes de IA.
Segurança de IA para a cadeia de suprimentos
As cadeias de suprimentos são cada vez mais impulsionadas pela IA — desde a previsão de demanda e o planejamento logístico até a análise de riscos de fornecedores e a gestão de estoque em tempo real. Essas ferramentas ajudam as empresas a reduzir custos, aumentar a resiliência e se adaptar a disrupções globais. No entanto, elas também criam novos riscos em um vasto ecossistema: nossas soluções de segurança de IA em tempo de execução protegem o setor de Cadeia de Suprimentos […]
Segurança de IA para Recursos Humanos
A IA está revolucionando o RH. As empresas estão implementando copilotos de recrutamento com IA, assistentes de integração, chatbots de suporte aos funcionários e ferramentas de análise da força de trabalho para reduzir custos e melhorar a experiência dos colaboradores. No entanto, as aplicações de RH também apresentam riscos específicos que podem expor as organizações a falhas de conformidade, alegações de viés e danos à reputação: nossas soluções de segurança de IA em tempo de execução protegem o setor de RH com […]
Equilibrando o desempenho da IA e a gestão de recursos
As organizações dependem cada vez mais de ferramentas e iniciativas de IA para impulsionar a inovação e a transformação. Cada avanço incremental na sofisticação das ferramentas de IA torna o equilíbrio entre desempenho e gestão de recursos um desafio maior e mais relevante para as equipes de TI e segurança. No entanto, esse equilíbrio é essencial para maximizar o ROI, garantir a segurança e manter a eficiência em toda a […]
Integração de APIs em IA: a base técnica
A integração de APIs é um canal essencial no ecossistema de IA, por meio do qual diferentes sistemas, plataformas e aplicações interagem. Analisamos as nuances técnicas da integração de APIs em IA, com ênfase em sua importância para aprimorar a eficiência e os recursos dos sistemas de IA. As APIs permitem a troca fluida de dados e funcionalidades entre diferentes soluções de IA […]