Não existe “um modelo para governar todos” na IA generativa

Lori Mac VittieEngenheiro Emérito e Evangelista-Chefe | F5

Pelas manchetes, parece que a OpenAI é a única opção de IA generativa no mercado. Ela é mencionada em todas as conversas sobre IA, inclusive nesta. Mas não é o único serviço existente, nem o único modelo disponível.

Na verdade, a adoção da IA generativa pelas empresas não é tão homogênea quanto as manchetes podem levar você a pensar.

Nossa pesquisa mais recente revelou que as organizações utilizam, em média, quase três modelos diferentes. A escolha parece ser motivada pelos casos de uso.

Por exemplo, não é de surpreender que as operações de segurança, como caso de uso, tendam a adotar modelos de código aberto, que podem ser treinados de forma privada sem o risco de expor processos e dados corporativos confidenciais. O mesmo vale para a criação de conteúdo, que muitas vezes exige o compartilhamento de dados confidenciais com um modelo. Também não surpreende que os casos de uso de automação de fluxos de trabalho recorram aos serviços hospedados da Microsoft, já que muitas organizações estão fortemente vinculadas às soluções da Microsoft tanto em ambientes locais quanto no Azure.

Nenhum modelo isolado atenderá a todos os requisitos técnicos e de negócios da crescente lista de casos de uso de IA generativa em empresas.

Isso gera alguns desafios em relação à entrega e à segurança de aplicativos e às operações em geral, já que diferentes escolhas de modelos implicam diferentes padrões de implantação.

Padrões emergentes de implantação de IA

Estão surgindo três padrões básicos de implantação. A principal diferença está na responsabilidade operacional pelo dimensionamento dos serviços de inferência. Em todos os padrões, a organização é responsável pela entrega de aplicações e pela segurança.

1. Gerenciado como SaaS. Em um padrão de implantação gerenciado como SaaS, os aplicativos de IA usam APIs para acessar um serviço gerenciado de IA, como o OpenAI ChatGPT. A responsabilidade operacional pelo dimensionamento fica a cargo do provedor.
2. Gerenciado na nuvem. Os padrões de implantação gerenciados na nuvem utilizam serviços de IA hospedados por provedores de nuvem. Esses serviços ainda são acessados por meio de uma API, mas podem ser privados para a empresa ou compartilhados. Os próprios aplicativos de IA também podem estar na nuvem pública ou no ambiente local. Quando o serviço é privado, a empresa assume a responsabilidade pelo dimensionamento dos serviços de inferência, o que pode ser um desafio, pois a maioria das organizações tem pouca experiência em dimensionar grandes modelos de linguagem. Quando o serviço é compartilhado, as organizações transferem a responsabilidade para o provedor de nuvem, mas precisam considerar fatores como cotas e custos baseados em tokens como parte de suas operações.
3. Autogerenciado. Modelos de código aberto têm maior probabilidade de serem implantados em um modelo autogerenciado, tanto na nuvem pública quanto no ambiente local. Os modelos podem ser acessados via API ou diretamente por meio de um aplicativo. Nesse modelo, as organizações assumem total responsabilidade pelo dimensionamento, pela segurança e pelo monitoramento dos serviços de inferência.

(Para se aprofundar nesses padrões, confira este post de Chris Hain)

Há diversos provedores que hospedam modelos de código aberto para oferecer suporte a um padrão gerenciado de SaaS, além de muitos provedores de nuvem que também disponibilizam código aberto como serviço.

Os modelos da OpenAI não estão disponíveis apenas em um modelo gerenciado de SaaS por meio da OpenAI, mas também em um modelo gerenciado na nuvem por meio da Microsoft. O Mistral, um popular modelo de código aberto, pode ser implantado nos três modelos. É por isso que consideramos o caso de uso o principal fator na escolha do modelo, já que as empresas podem combinar, por assim dizer, diferentes modelos e formas de implantação.

As organizações já estão sentindo a pressão em relação às competências necessárias não apenas para treinar modelos, mas também para operá-los e protegê-los. Portanto, selecionar os modelos de acordo com o caso de uso é a abordagem mais sensata para muitas organizações que dispõem de pouca experiência operacional. Concentrar recursos nos casos de uso que, por motivos de segurança ou privacidade, não podem ser implantados em ambientes compartilhados acabará gerando os melhores resultados.

Cuidado com a miopia operacional

Mas cuidado com o perigo da miopia operacional, que pode criar silos dentro da organização. Já vimos isso acontecer com a computação em nuvem e, sem dúvida, veremos novamente com a IA generativa para empresas. No entanto, ao reconhecer o perigo de isolar as operações e a segurança por modelo, espera-se que as organizações possam evitar a complexidade e os riscos decorrentes dessa abordagem e escolher estrategicamente modelos e padrões de implantação que aproveitem ao máximo os recursos, as capacidades e os orçamentos operacionais.

Ainda estamos nos estágios iniciais e, quando você ler isto, sem dúvida haverá novos provedores e modelos com novos recursos. No entanto, os padrões de implantação permanecerão praticamente os mesmos, o que permite um planejamento mais estratégico das operações — desde o orçamento e a alocação de pessoal até os serviços de aplicação necessários para proteger e escalar quaisquer modelos que você venha a escolher.

Sobre o autor

Lori Mac VittieEngenheiro Emérito e Evangelista-Chefe | F5

Lori MacVittie é engenheira distinta e evangelista-chefe no Escritório do CTO da F5, com ampla experiência em entrega de aplicações, estratégia de automação e infraestrutura. Ela é conhecida por transformar complexidade em clareza, seja definindo diretrizes para agentes de IA, analisando arquiteturas multinuvem frágeis ou investigando os limites de sistemas escaláveis. Ela acumula mais de trinta anos de experiência no setor, abrangendo desenvolvimento de aplicações, arquitetura de TI e operações de redes e sistemas. Antes de ingressar na F5, atuou como editora de tecnologia e recebeu diversos prêmios. MacVittie tem mestrado em Ciência da Computação e é uma autora prolífica, com publicações que abrangem segurança, nuvem e arquitetura empresarial. Ela também é uma entusiasta de jogos de tabuleiro e videogames, além de ter opiniões assumidamente fortes sobre queijos.

Mais publicações de Lori Mac Vittie