Desvendando a magia da IA com RAG, F5 e NetApp

Hunter SmitGerente Sênior de Marketing de Produto | F5

À medida que as empresas exploram maneiras de aproveitar o poder da IA, muitas estão recorrendo a grandes modelos de linguagem (LLMs) para aprimorar a tomada de decisões. No entanto, LLMs como o ChatGPT são treinados com enormes volumes de dados públicos disponíveis na Internet, o que limita sua utilidade para empresas que desejam usar a IA para extrair insights de seus próprios dados corporativos. Além disso, o treinamento desses modelos pode levar meses e exigir altos investimentos, tornando praticamente impossível garantir que todas as respostas sejam realmente relevantes e estejam atualizadas.

A questão é: como as empresas podem aproveitar o processamento de linguagem natural para obter insights avançados e atualizados de IA a partir de seus próprios dados corporativos? Criar um LLM próprio tem um custo proibitivo. O mesmo vale para o ajuste fino de um modelo existente com dados especializados.

Felizmente, a geração aumentada por recuperação (RAG) surgiu como uma forma de as empresas superarem essas limitações. Com essa técnica avançada de IA, as organizações podem combinar um LLM pré-treinado, como o ChatGPT, com seus próprios dados proprietários para obter respostas precisas e contextualizadas. Elas podem restringir os dados utilizados, consultando apenas as fontes mais relevantes, como procedimentos, políticas ou informações sobre produtos aprovados pela empresa. E, como a RAG recupera informações em tempo real do banco de dados vetorial da empresa, elas podem garantir que sempre obtenham as informações mais recentes à medida que novos dados são adicionados.

Combinando os benefícios de um LLM com os dados da empresa

A RAG combina de forma eficaz a recuperação de dados com a geração de linguagem. O recuperador funciona como um mecanismo de busca que obtém dados com base na consulta do usuário, usando algoritmos sofisticados para coletar apenas as informações mais relevantes. O gerador geralmente é um LLM, como o ChatGPT, que usa essas informações para produzir uma resposta precisa e bem fundamentada. Ao integrar esses dois componentes, a RAG permite que as empresas criem sistemas de IA personalizados que lhes proporcionam uma vantagem competitiva.

A geração aumentada por recuperação (RAG) incorpora dados proprietários e privados para complementar os grandes modelos de linguagem (LLMs), fornecendo respostas precisas e contextualizadas.

As aplicações potenciais são inúmeras. As equipes de vendas e marketing podem combinar rapidamente informações de relatórios de mercado, feedback de clientes e feeds de redes sociais para identificar tendências de compra e preferências dos clientes. As equipes de atendimento ao cliente podem aumentar a fidelidade dos clientes por meio de chatbots baseados em RAG, que usam informações sobre produtos, perfis de clientes e históricos de compras para fornecer respostas personalizadas às dúvidas dos clientes. As equipes jurídicas podem aproveitar facilmente o aprendizado da IA obtido a partir de contratos, processos judiciais e outros documentos ao prestar consultoria jurídica. Ao ajudar os funcionários a acessar de forma rápida e precisa dados estruturados e não estruturados relevantes e atualizados, armazenados em vários bancos de dados, a RAG pode aumentar a produtividade empresarial, melhorar a experiência do cliente e elevar os lucros ao reduzir a necessidade de mão de obra e aumentar a fidelidade dos clientes.

No entanto, embora a RAG prometa transformar a IA empresarial, ainda existem alguns obstáculos. Um dos principais desafios é recuperar e integrar dados nos ambientes de TI distribuídos adotados pela maioria das empresas. Atualmente, a maioria das organizações executa suas aplicações em um ambiente híbrido e multinuvem altamente complexo. Como os dados geralmente são armazenados em diferentes locais — incluindo data centers locais e várias nuvens, como Microsoft Azure, Google Cloud Platform e AWS —, pode ser difícil integrar todos esses dados isolados a um LLM. Além disso, sem as proteções adequadas, há o risco de exposição de informações privadas.

Implementação de RAG em ambientes híbridos e multicloud

A F5 vem trabalhando em conjunto com a empresa de infraestrutura de dados NetApp para solucionar esses problemas. Ao integrar os recursos seguros e de alto desempenho da F5 para redes multicloud às robustas soluções de gerenciamento de dados da NetApp, estamos possibilitando a rápida recuperação dos dados da empresa, independentemente de onde estejam localizados, e sua combinação segura com um LLM.

Cloud Volumes ONTAP da NetApp e Azure NetApp Files otimizam os custos e o desempenho do armazenamento em nuvem, ao mesmo tempo que aprimoram a proteção de dados e a conformidade. Quando combinados com o F5 Distributed Cloud Network Connect, os dados podem ser conectados e transferidos com rapidez e segurança entre zonas e regiões, independentemente de onde estejam armazenados.

À medida que as empresas buscam maneiras de disponibilizar aplicações de LLM que impulsionem seus negócios, nossa solução conjunta oferece uma forma integrada de gerenciar, proteger e otimizar seus dados e, ao mesmo tempo, reduzir custos. Os dados da empresa permanecem privados. E os usuários podem obter as informações precisas, oportunas e relevantes ao contexto de que precisam para prosperar na era digital.

Como afirmou Kunal Anand, diretor de Tecnologia e IA da F5: “Nossa solução conjunta oferece desempenho incomparável e segurança inabalável, permitindo que as empresas aproveitem com confiança os recursos da IA em seus contextos de negócios específicos.”

Aproveitando todo o potencial da IA empresarial

Esta parceria se baseia em colaborações anteriores entre a F5 e a NetApp para ajudar as empresas a conectar seus ambientes híbridos e multinuvem. E é importante destacar que este é apenas o começo. Nos próximos meses, continuaremos trabalhando em conjunto para ajudar as empresas a aproveitar todo o potencial da IA em seus ambientes de TI distribuídos.

Para saber mais, leia nosso comunicado à imprensa. Acesse também nossa página sobre a parceria entre a F5 e a NetApp.

Sobre o autor

Hunter SmitGerente Sênior de Marketing de Produto | F5

Hunter Smit é gerente sênior de marketing de produtos para soluções e estratégia na F5. Ele lidera o marketing de soluções em todo o portfólio da F5, incluindo infraestrutura de IA e segurança de aplicações, e está conduzindo a entrada da F5 no mercado emergente de entrega de dados para IA. Hunter integra o Conselho Consultivo da Escola de Negócios da Whitworth University e atuou como professor adjunto de marketing de produtos. Ele possui MBA e bacharelado em Administração de Empresas com ênfase em gestão pela Whitworth University.

Mais publicações de Hunter Smit