Geração Aumentada por Recuperação (RAG) para Fábricas de IA

Hunter SmitGerente Sênior de Marketing de Produto | F5

No cenário tecnológico atual, em rápida evolução, a implantação e a operacionalização da IA tornaram-se diferenciais cruciais para as empresas. À medida que as empresas aproveitam o poder da IA para aprimorar a tomada de decisões e a eficiência ou desenvolver produtos diferenciados com IA, as fábricas de IA surgiram como um modelo fundamental. No centro das fábricas de IA está a Geração Aumentada por Recuperação (RAG), um dos sete componentes básicos da IA e aquele que permite que os resultados da IA considerem o contexto e sejam mais precisos e oportunos.

Anteriormente, em nossa série sobre fábricas de IA, definimos uma fábrica de IA como um investimento de grande porte em armazenamento, redes e computação para atender a requisitos de treinamento e inferência de alto volume e alto desempenho. Neste artigo, abordaremos dois dos componentes fundamentais de IA que definimos: RAG e gerenciamento de corpus de RAG.

Entendendo a fábrica de IA

Assim como uma fábrica tradicional, uma fábrica de IA é projetada para criar resultados e modelos de IA por meio de uma infraestrutura meticulosamente orquestrada de servidores, GPUs, DPUs e armazenamento. Por oferecerem suporte ao treinamento e à inferência, as fábricas de IA são essenciais para o desenvolvimento de aplicações de IA em escala. No entanto, a incorporação de RAG para aumentar a relevância contextual dos resultados revela o verdadeiro potencial de uma fábrica de IA.

O que é a geração aumentada por recuperação, também conhecida como RAG?

Antes de nos aprofundarmos, vamos definir a Geração Aumentada por Recuperação: RAG é uma técnica de IA que incorpora dados proprietários para complementar modelos de IA e fornecer resultados de IA contextualizados. À medida que as implantações de aplicações se tornam mais distribuídas e hospedadas em ambientes híbridos e de multicloud os dados de uma empresa ficam espalhados por toda parte. Para as organizações que desejam aproveitar a vantagem estratégica de seus dados para a IA, surge a seguinte questão: como conectar dados relevantes para enriquecer as entradas de modelos de IA, como os grandes modelos de linguagem (LLMs)? As organizações estão recorrendo à RAG para resolver esse problema e criar vias seguras entre o modelo de IA e os silos de dados distribuídos. Isso permite o acesso às informações mais recentes, tornando os resultados oportunos, contextualizados e mais precisos. Sem isso, nem mesmo os modelos de IA com ajuste fino têm acesso às informações mais recentes, que muitas vezes mudam assim que o treinamento é concluído.

Quais são alguns exemplos? Dois casos a considerar são os veículos autônomos baseados em visão computacional e os LLMs quando alucinam ou fazem suposições devido à falta de relevância contextual de uma solicitação.

Para veículos autônomos, a inferência deve incluir dados em tempo real com base na localização do veículo e no ambiente em constante mudança ao seu redor, para que ele possa circular com segurança por vias com pedestres, ciclistas e outros veículos. No caso dos LLMs, tomando como exemplo um chatbot de suporte ao cliente, o acesso a informações sobre o produto, como registros de alterações, bases de conhecimento, status do sistema e telemetria, combinado com informações específicas do cliente, como chamados de suporte, histórico de compras e perfis de clientes, transforma respostas genéricas dos LLMs em resultados valiosos.

Os ambientes híbridos e multinuvem estão se tornando cada vez mais complexos, e as implantações de armazenamento estão cada vez mais isoladas em locais distintos. Na F5, chamamos esse fenômeno de “bola de fogo”.

RAG para fábricas de IA

No contexto das fábricas de IA, a RAG amplia os recursos básicos de inferência dos modelos fundacionais de IA ao extrair contexto adicional de bancos de dados vetoriais e repositórios de conteúdo, que são então utilizados para gerar respostas enriquecidas com contexto. Em uma fábrica de IA, a camada de orquestração da RAG gerencia interações complexas entre o modelo de IA e os serviços de ampliação, garantindo a integração perfeita de dados complementares aos fluxos de trabalho de IA.

Por exemplo, no cenário de suporte ao cliente mencionado acima, a RAG pode acessar e incorporar dados de diversos bancos de dados e fontes relevantes. Isso resulta em respostas de IA altamente pertinentes. Ao integrar a RAG à estrutura da fábrica de IA, as empresas podem melhorar a qualidade e a agilidade de suas respostas de inferência, promovendo, assim, uma tomada de decisões mais eficaz e maior eficiência operacional.

Arquitetura de Referência de IA da F5 com destaque para a RAG, um dos sete componentes básicos de IA necessários para infraestruturas de IA de grande escala bem-sucedidas.

Gerenciamento de corpus de RAG para fábricas de IA

O gerenciamento de corpus para RAG concentra-se na ingestão e no pré-processamento de dados essenciais para realizar inferências com RAG. Isso envolve uma série de etapas, incluindo normalização de dados, tokenização, geração de embeddings e preenchimento de bancos de dados vetoriais, garantindo que o conteúdo esteja preparado da melhor forma possível para chamadas RAG.

Em uma fábrica de IA, esse processo começa com a normalização de diversos formatos de dados para criar um conjunto de dados consistente e estruturado. Em seguida, são gerados embeddings para converter esses dados em um formato que possa ser consultado pelos modelos de IA. Os dados preparados são inseridos em bancos de dados vetoriais, grafos de conhecimento e repositórios de conteúdo, ficando prontamente acessíveis para recuperação em tempo real durante a inferência. Ao garantir que os dados estejam limpos, estruturados e possam ser recuperados, o gerenciamento do corpus de RAG aumenta a eficácia geral e a precisão dos resultados da IA. Esse processo é essencial para empresas que buscam manter respostas de IA de alta qualidade e enriquecidas com informações contextuais.

O gerenciamento de corpus de RAG é um dos sete componentes fundamentais de IA que a F5 definiu para uma arquitetura de IA bem-sucedida.

O RAG se aplica apenas a fábricas de IA?

Embora a RAG seja um componente fundamental das fábricas de IA, ela é necessária em implantações de modelos de IA de todos os portes. Como os modelos fundacionais de IA (por exemplo, GPT e Llama) são treinados com informações públicas, a implantação de um modelo fundacional não proporciona às organizações uma vantagem competitiva significativa em relação a outras que utilizam o mesmo modelo. A integração de dados proprietários e não públicos por meio da RAG é essencial para qualquer organização, independentemente do porte de sua implantação de IA, a fim de complementar as solicitações com seus próprios dados. Um exemplo seria um chatbot de atendimento ao cliente e a necessidade de um aplicativo de suporte baseado em LLM ter acesso a informações específicas sobre produtos e clientes para oferecer uma solução útil. Mesmo com o treinamento ou o ajuste fino de modelos, o acesso a dados em constante mudança é necessário para gerar resultados mais precisos.

Criando vias de dados seguras para viabilizar o RAG

À medida que as organizações continuam investindo em IA para impulsionar a inovação e a eficiência operacional, a importância da RAG nas fábricas de IA não pode ser subestimada. Ao aprimorar a compreensão contextual, a precisão e a atualidade, a RAG garante que os modelos de IA forneçam resultados mais relevantes e confiáveis. Para empresas que buscam criar integrações seguras entre seus silos de dados e as fábricas de IA, F5 Distributed Cloud Network Connect oferece vias modernas que conectam com segurança os locais onde os dados corporativos proprietários estão armazenados, fornecem acesso restrito, simplificam a rede e viabilizam o armazenamento e a mobilidade de dados entre zonas e regiões.

O foco da F5 em IA não para por aqui—descubra como a F5 protege e disponibiliza aplicações de IA em qualquer lugar.

Quer saber mais sobre fábricas de IA? Confira outros artigos da nossa série de posts sobre fábricas de IA:

• O que é uma fábrica de IA? ›
• Otimize o gerenciamento de tráfego para a ingestão de dados da fábrica de IA ›
• Conectando fontes de dados de borda a fábricas de IA de forma otimizada ›
• Escalabilidade e flexibilidade multicloud dão suporte às fábricas de IA ›
• O poder e a importância da DPU NVIDIA BlueField para fábricas de IA ›
• Proteção de APIs para fábricas de IA: o primeiro passo para a segurança da IA ›
• A importância da segmentação de rede para fábricas de IA ›
• As fábricas de IA produzem os aplicativos mais modernos da atualidade: aplicativos de IA ›

Sobre o autor

Hunter SmitGerente Sênior de Marketing de Produto | F5

Hunter Smit é gerente sênior de marketing de produtos para soluções e estratégia na F5. Ele lidera o marketing de soluções em todo o portfólio da F5, incluindo infraestrutura de IA e segurança de aplicações, e está conduzindo a entrada da F5 no mercado emergente de entrega de dados para IA. Hunter integra o Conselho Consultivo da Escola de Negócios da Whitworth University e atuou como professor adjunto de marketing de produtos. Ele possui MBA e bacharelado em Administração de Empresas com ênfase em gestão pela Whitworth University.

Mais publicações de Hunter Smit