À medida que as organizações adotam cada vez mais tecnologias de IA, elas percebem que manter os grandes modelos de linguagem (LLMs) atualizados com seus dados proprietários mais recentes pode ser um desafio. Isso levou à adoção da geração aumentada por recuperação (RAG), que adiciona dados complementares para aprimorar a inferência de IA e gerar respostas mais precisas e úteis. Fornecer esses dados adicionais ao LLM com segurança pode ser desafiador, exigindo uma solução de conectividade segura.
A revolução da RAG na IA empresarial
Os LLMs tradicionais, embora poderosos, são limitados pelos dados usados em seu treinamento e não conseguem acessar informações específicas de uma organização. A RAG permite que os LLMs consultem fontes externas de conhecimento durante a geração, produzindo resultados que refletem tanto o amplo conhecimento do modelo quanto os dados proprietários de uma organização.
No entanto, como a maioria das organizações migrou para ambientes de TI híbridos e multicloud, seus dados geralmente estão distribuídos entre várias fontes. Essa dispersão dificulta a implementação eficaz da RAG, pois as organizações precisam garantir acesso seguro a todas as fontes de dados relevantes, mantendo o desempenho e a eficiência de custos em escala. Para superar esse desafio, é necessário conectar com segurança os repositórios de dados de todas as fontes aos LLMs. Por isso, F5, NetApp e Google Cloud se uniram para oferecer uma solução.
Um fluxo de trabalho básico de RAG que inclui um recuperador para obter dados relevantes de um modelo de linguagem de grande porte, combinando-os com o contexto necessário para gerar informações precisas e contextualmente relevantes.
Uma abordagem unificada para o acesso a dados
Serviços do F5 Distributed Cloud incluem conectividade de rede multicloud segura para conectar aplicações e dados entre nuvens e ambientes locais. Usando o backbone privado da Rede Global da F5, F5 Distributed Cloud Network Connect trabalha com a NetApp para transferir e armazenar dados com rapidez e segurança onde e quando necessário.
Especificamente para RAG, o Distributed Cloud Network Connect conecta o armazenamento da NetApp na nuvem ou no ambiente local a LLMs, incluindo a plataforma Vertex AI do Google Cloud, para realizar inferências seguras, rápidas e relevantes. Essa solução cria uma estrutura integrada para acessar fontes de dados distribuídas em ambientes híbridos e multinuvem.
Os recursos de rede multicloud segura da F5 servem como base, permitindo acesso eficiente e protegido aos dados em diferentes ambientes, ao mesmo tempo que mantêm a observabilidade e a orquestração centralizadas. As organizações podem usar o Distributed Cloud Network Connect com o Google Cloud NetApp Volumes, o NetApp Cloud Volumes ONTAP para Google Cloud, e outros sistemas de armazenamento de dados da NetApp, proporcionando a conectividade segura e o alto desempenho necessários para cargas de trabalho de IA.
A plataforma Vertex AI do Google Cloud completa a solução ao aproveitar esse acesso unificado aos dados para facilitar a RAG no desenvolvimento de aplicações de LLM com contexto ampliado. A utilização eficiente de recursos e a infraestrutura segura de IA da plataforma ajudam as organizações a manter uma boa relação custo-benefício à medida que ampliam suas operações de IA.
Essa solução conjunta oferece diversas vantagens:
- Segurança aprimorada: A rede multinuvem da F5 conta com segurança integrada, incluindo firewalls de aplicações web, defesa contra bots e proteção de APIs, além da aplicação consistente de políticas para proteger dados proprietários e modelos de IA, mesmo em ambientes híbridos complexos.
- Rede criptografada: As conexões de camada 3 entre modelos de IA e o armazenamento da NetApp (tanto local quanto baseado em nuvem) são criptografadas para proteger dados confidenciais em trânsito.
- Desempenho otimizado: Com pontos de presença em todo o mundo, a F5 Global Network minimiza a latência e permite controlar as velocidades de transferência para garantir a alta capacidade de resposta das aplicações de IA.
- Operações multinuvem simplificadas: As organizações podem gerenciar a segurança e a rede da nuvem ao ambiente local e à borda com o F5 Distributed Cloud Console e deixar que o Distributed Cloud Network Connect cuide das complexidades da rede multinuvem.
- Racionalização de ferramentas: Reduza o número de ferramentas de segurança e rede necessárias para dar suporte a RAG e IA.
A F5, a NetApp e o Google Cloud uniram forças para ajudar os clientes a implementar a RAG com segurança em ambientes híbridos e multicloud.
Um caminho simplificado para a produtividade com IA
As organizações podem aproveitar seus investimentos atuais em infraestrutura da F5, da NetApp e do Google Cloud para criar uma solução de RAG segura, tornando-a uma opção prática para empresas que buscam aprimorar seus recursos de IA. A parceria permite que as organizações aproveitem seus dados para obter insights orientados por IA, mantendo a segurança e o controle. Ao simplificar o acesso aos dados para aplicações de RAG, as organizações podem se concentrar em extrair valor da IA, em vez de gerenciar a complexidade da infraestrutura.
Os serviços F5 Distributed Cloud estão disponíveis no Google Cloud Marketplace.
Sobre o autor
Publicações relacionadas no blog
Entrega e proteção de agentes de IA em fábricas de IA: F5 para a arquitetura de referência NVIDIA OpenShell para agentes de IA seguros
As soluções da F5 ampliam a Arquitetura de Referência NVIDIA OpenShell para agentes de IA seguros.
Como medir – e minimizar – o custo total de propriedade do seu Kubernetes
O Kubernetes pode ser baixado e executado gratuitamente, mas sua manutenção está longe de não ter custos. Assim como outras grandes plataformas de código aberto que são “gratuitas” apenas em um sentido simplista, o Kubernetes quase certamente exigirá investimentos para ser implantado e operado.
As-Code: a pilha de TI contínua
Infraestrutura, configuração, pipeline, operações. De repente, tudo é “como código”. Lori MacVittie busca esclarecer a terminologia e identificar os diferentes componentes de uma stack contínua de TI.
O estado da entrega de aplicações em 2017: automação, APIs e DevOps
Explore o relatório State of Application Delivery de 2017. Leia o blog retrospectivo da F5 sobre o início da ascensão das redes declarativas e dos pipelines de DevOps.
DevOps Summit: onde a rede foi convidada para a festa
No DevOps Summit NY, falou-se muito não apenas sobre DevOps, mas também sobre contêineres, IoT e microsserviços. As sessões se concentraram não só na mudança cultural necessária para crescer em escala com uma abordagem DevOps, mas também fizeram questão de incluir...
F5 e Nutanix convergem em infraestrutura no .NEXT
Aplicações empresariais como Microsoft SharePoint e Exchange, juntamente com a VDI, continuam sendo a espinha dorsal da sua empresa. A produtividade, embora não seja tão atraente quanto o lucro, é um fator essencial para o sucesso das operações empresariais atuais. Deixar de...