Aplicações de IA generativa: do experimento à produção

Ecossistema F5 | 18 de julho de 2024

Promessas, promessas. Os aplicativos habilitados por IA generativa prometem aumentar a produtividade humana e, consequentemente, os lucros das empresas. Para muitos casos de uso, o caminho entre a fase experimental e a produção continua frenético e perigoso, assim como no videogame de 1981 da Konami, Frogger. O sapo precisa chegar em casa, primeiro atravessando uma rua movimentada e depois um rio de correnteza rápida. Ele não pode ficar parado, mas também nem sempre pode saltar para a frente devido ao perigo inerente.

As empresas são o sapo. A rua e o rio são fluxos vertiginosos de tecnologias de IA que passam sem parar. Os espaços seguros (trechos livres da rua e troncos flutuantes) são projetos desenvolvidos internamente e soluções oferecidas por fornecedores. Carros, caminhões, tartarugas e águas abertas representam os riscos éticos, jurídicos, de privacidade e de precisão da IA generativa. O lar fica do outro lado, onde os ganhos empresariais disparam após a entrada em produção de aplicações de IA generativa.

Frogger
Colocar a IA generativa em produção é como jogar Frogger

A velocidade com que a IA generativa ganhou força cria um senso frenético de urgência nas empresas. Mas a rapidez com que os modelos avançam pode paralisar algumas organizações, pois o cenário muda tão depressa sob seus pés que elas não conseguem se orientar diante de mudanças constantes e aceleradas. O segredo para adotar a IA generativa é o mesmo que começar uma partida de Frogger: é só se jogar!

Partindo dos casos de uso básicos da IA generativa, assim que as empresas decidirem quais deles parecem mais interessantes, poderão começar a experimentar. Seja desenvolvendo uma aplicação com recursos de IA, testando soluções de terceiros ou fazendo ambos, os testes iniciais esclarecerão exatamente do que a empresa precisa. A chave para o sucesso nessa fase inicial é se comprometer com uma versão mínima da aplicação que atenda aos requisitos de segurança e eficácia para entrar em produção. Essa versão se torna a base da organização. A partir daí, é possível avançar, decidindo quais evoluções dos modelos são relevantes e se é mais prudente desenvolver internamente ou comprar uma solução pronta.

Há duas “armadilhas” que inevitavelmente atrasarão uma organização que esteja tentando adotar a IA generativa: treinar modelos internamente e usar repositórios de dados privados. O ritmo de evolução dos modelos fundacionais agora é medido em semanas e meses, e as versões derivadas são atualizadas diariamente. Basta dar uma olhada no rastreador de modelos da HuggingFace se precisar de uma prova. A página que acabei de abrir enquanto escrevia este artigo ocupa quase uma página inteira com modelos atualizados há menos de 1 minuto. É preciso rolar a página para encontrar um modelo com mais de 2 minutos!

Se os dados necessários para responder a uma pergunta feita à IA estiverem disponíveis publicamente, é provável que já exista uma boa variedade de modelos fundacionais disponíveis para uso por meio de uma API. Por outro lado, se os dados não forem públicos, será preciso decidir entre enviá-los durante a inferência ou criar ou adquirir e implantar um modelo de forma privada. Pagar pelo acesso a um modelo é certamente mais rápido e, muito provavelmente, mais barato do que criar ou licenciar, hospedar e manter seu próprio modelo internamente. Qual é o superpoder da sua empresa? Se não for criar ou manter grandes modelos de linguagem (LLMs), provavelmente é melhor comprar do que criar e hospedar.

E, no caso de dados privados, as janelas de contexto e as opções personalizadas para o uso de LLMs evoluíram tão rapidamente que a segurança e a conformidade de nível empresarial, semelhantes às já aceitas para a computação em nuvem, atendem aos requisitos da maioria das empresas. Na verdade, não treinar com seus dados foi uma exigência que os provedores de modelos ouviram em alto e bom som em 2023. Tomando o ChatGPT Enterprise como exemplo, ele oferece conformidade SOC 2 Tipo 2, SSO via SAML, criptografia de dados em repouso e em trânsito, além de espaços de trabalho dedicados compatíveis com retenção de dados e verificação de domínio — nada mal, não é? Bem, para 92% das empresas da Fortune 500, isso parece ser mais do que suficiente.

As organizações que acreditam nas promessas da IA generativa não precisam ficar paralisadas pelos riscos inerentes nem pelos avanços diários dos LLMs. Elas podem ter sucesso ao adotar essa tecnologia de forma consciente. O ciclo inicial de experimentação traz confiança e permite priorizar as tarefas que mais se beneficiam de um uso seguro e ético. Essas soluções devem ser implementadas em toda a organização em ambiente de produção, dando algum fôlego aos avaliadores e responsáveis pela implementação, além de tempo para a organização mensurar os ganhos de produtividade, priorizar o próximo conjunto de tarefas e determinar se faz mais sentido desenvolver seus próprios LLMs ou contratar acesso a eles.

Compartilhar

Sobre o autor

James Hendergart
James HendergartDiretor Sênior de Pesquisa Técnica | F5

Mais publicações de James Hendergart

Publicações relacionadas no blog

O estado da maturidade digital empresarial: a transformação digital ainda não terminou
Ecossistema F5 | 31/07/2024

O estado da maturidade digital empresarial: a transformação digital ainda não terminou

Explore como a IA impacta as empresas, as aplicações da IA generativa, as estratégias para modernizar as operações de TI e os benefícios da maturidade digital com a F5.

Como a IA generativa acelera a transformação digital
Ecossistema F5 | 26/03/2024

Como a IA generativa acelera a transformação digital

Veja como a IA generativa impulsiona a transformação digital nas empresas, acelerando tendências como a integração de APIs, os desafios dos modelos operacionais de TI híbrida e a adoção de AIOps.

Seis capacidades técnicas para acelerar a transformação digital
Ecossistema F5 | 05/01/2023

Seis capacidades técnicas para acelerar a transformação digital

As arquiteturas empresariais atuais carecem dos fatores necessários de agilidade, escalabilidade, segurança e observabilidade, essenciais para impulsionar a mudança tecnológica. No entanto, estas seis capacidades fundamentais ajudarão as empresas a gerenciar riscos e desafios ao longo de sua transformação digital.

Inverter a API é a transformação digital de que as empresas precisam para participar e competir em uma economia de APIs
Ecossistema F5 | 18/10/2022

Inverter a API é a transformação digital de que as empresas precisam para participar e competir em uma economia de APIs

As organizações detêm um valor latente — na forma de APIs internas — que precisam explorar para competir em uma economia de APIs. Embora os desafios técnicos e de segurança possam desestimular algumas delas, as empresas precisam reconhecer que inverter suas APIs permitirá liberar o valor da organização como plataforma.

A modernização da TI começa pela infraestrutura
Ecossistema F5 | 08/09/2022

A modernização da TI começa pela infraestrutura

O hardware e o software evoluíram rapidamente desde os primórdios da internet, mas, para aproveitar ao máximo os benefícios resultantes dessa evolução, as organizações precisam avaliar e modernizar sua infraestrutura e a entrega de aplicativos. Acelere os esforços de modernização com a nova F5 rSeries.