À medida que as organizações aceleram a inovação e desenvolvem produtos transformadores baseados em IA, como carros autônomos ou grandes modelos de linguagem (LLMs), uma infraestrutura eficiente é essencial para ampliar as operações e manter a competitividade. Historicamente, os data centers têm se concentrado no uso de unidades centrais de processamento (CPUs) para computação de uso geral e unidades de processamento gráfico (GPUs) para tarefas intensivas de processamento paralelo, fundamentais para a IA e o aprendizado de máquina. À medida que os modelos de IA aumentam em escala e complexidade, os data centers se tornam a nova unidade de computação, ampliando os limites das redes tradicionais em nuvem. Para viabilizar a transformação rumo à computação em escala de data center, a unidade de processamento de dados (DPU) surgiu como um terceiro pilar da computação.
A ascensão das fábricas de IA
Anteriormente, em nossa série sobre fábricas de IA, a F5 definiu uma fábrica de IA como um investimento de grande porte em armazenamento, redes e computação para atender a requisitos de treinamento e inferência de alto volume e alto desempenho. Assim como as fábricas tradicionais, as fábricas de IA utilizam modelos de IA pré-treinados para transformar dados brutos em inteligência.
O que é uma unidade de processamento de dados (DPU)?
Uma DPU é um processador programável projetado para lidar com grandes volumes de movimentação e processamento de dados por meio de aceleração de hardware na velocidade de linha da rede. No final de 2024, anunciamos o BIG-IP Next for Kubernetes implantado em DPUs NVIDIA BlueField-3. NVIDIA BlueField é uma plataforma de computação acelerada para infraestrutura de data centers, desenvolvida especificamente para viabilizar fábricas de IA da NVIDIA. Enquanto a CPU é responsável pela computação de uso geral para aplicações computacionais e a GPU se destaca em tarefas de computação acelerada, como cálculos vetoriais e matriciais em larga escala relacionados à IA e renderização gráfica, a DPU NVIDIA BlueField costuma ser incorporada a uma placa de interface de rede (NIC) PCIe (Peripheral Component Interconnect Express), responsável pela conectividade de rede do host ou chassi de um cluster de IA. Em outras palavras, a NIC agora se tornou essencialmente um processador potente, otimizado para processar dados à medida que entram e saem do servidor. A DPU BlueField também pode funcionar como um dispositivo de rede entre clusters quando vários hosts ou chassis fazem parte de um único cluster de IA.
“Uma DPU é um processador programável projetado para lidar com grandes volumes de movimentação e processamento de dados por meio de aceleração de hardware, na velocidade de linha da rede.”
Potência liberada
Ao lidar com redes definidas por software, gerenciamento de armazenamento e serviços de segurança, as DPUs BlueField reduzem a carga computacional sobre as CPUs, permitindo que elas se concentrem nas tarefas que executam melhor. Essa capacidade de descarregamento é crucial para as fábricas de IA, nas quais grandes volumes de dados precisam ser processados e transferidos rapidamente para atender às demandas de modelos complexos de IA e tarefas de inferência em tempo real.
As DPUs BlueField contribuem significativamente para a eficiência energética e a escalabilidade das fábricas de IA. Como essas fábricas exigem enormes recursos computacionais, o gerenciamento eficiente de energia e refrigeração torna-se essencial. Com seus mecanismos de aceleração especializados e interfaces de rede de alto desempenho, as DPUs garantem que os dados sejam processados e transportados com latência e consumo de energia mínimos. Essa eficiência não apenas reduz os custos operacionais, mas também permite que as fábricas de IA sejam dimensionadas de forma eficaz. Com as DPUs BlueField, as fábricas de IA e as infraestruturas de grande escala podem alcançar uma infraestrutura equilibrada, de alto desempenho e altamente eficiente, capaz de sustentar a inovação e a implantação contínuas de tecnologias de IA.
Onde as DPUs BlueField são implantadas em fábricas de IA?
Ao analisar a Arquitetura de Referência de IA da F5, as DPUs são comumente implantadas nas áreas funcionais de gerenciamento de corpus para RAG, ajuste fino, treinamento e serviços de inferência, bem como nos clusters de armazenamento que dão suporte a essas funções. Além disso, as DPUs são usadas em diversas aplicações que exigem transferência de dados de alto desempenho e eficiência energética, incluindo implantações de redes de acesso via rádio (RAN) 5G.
A Arquitetura de Referência de IA da F5 destaca as áreas em que as DPUs são comumente implantadas.
Transferência e aceleração da entrega e da segurança de aplicações para a DPU
O novo requisito de gerenciamento eficiente do tráfego e segurança robusta para fábricas de IA representa uma mudança importante, com foco no fluxo de dados e em uma infraestrutura reforçada para evitar ameaças à segurança. O F5 BIG-IP Next for Kubernetes implantado em DPUs NVIDIA BlueField-3 oferece conectividade de baixa latência e alta taxa de transferência ao transferir e acelerar a movimentação de dados da CPU para as DPUs. Além disso, ele integra recursos abrangentes de segurança, como firewalls, mitigação de DDoS, WAF, proteção de APIs e prevenção contra intrusões, diretamente na DPU programável NVIDIA BlueField-3. Isso permite criar uma arquitetura que isola modelos e aplicativos de IA contra ameaças, garantindo a integridade e a soberania dos dados.
O BIG-IP Next for Kubernetes oferece suporte à multilocação, permitindo hospedar vários usuários e cargas de trabalho de IA em uma única infraestrutura, com isolamento de rede. O gerenciamento de uma infraestrutura de IA de grande escala torna-se simples com o BIG-IP Next for Kubernetes, pois ele fornece um ponto central para gerenciar redes, tráfego, segurança e ambientes multilocatários. Isso simplifica as operações e reduz as despesas operacionais ao fornecer dados detalhados de tráfego para visibilidade da rede e otimização do desempenho. A integração entre o BIG-IP Next for Kubernetes e a DPU NVIDIA BlueField-3 ajuda a garantir que as fábricas de IA operem em todo o seu potencial, reduzindo a proliferação de ferramentas e a complexidade operacional.
Desenvolvido pela F5
Para empresas que investem em IA, garantir que sua infraestrutura esteja otimizada e segura é imprescindível. F5 BIG-IP Next for Kubernetes implantado em DPUs NVIDIA BlueField-3 é um investimento estratégico para proporcionar alto desempenho, escalabilidade e segurança, maximizando o retorno sobre a infraestrutura de IA em larga escala. Para organizações que implantam GPUs e DPUs para viabilizar investimentos em fábricas de IA, entre em contato com a F5 para saber como o BIG-IP Next for Kubernetes pode aprimorar suas cargas de trabalho de IA.
O foco da F5 em IA não para por aqui — descubra como a F5 protege e disponibiliza aplicações de IA em qualquer lugar.
Quer saber mais sobre fábricas de IA? Confira outros artigos da nossa série de posts sobre fábricas de IA:
- O que é uma fábrica de IA? ›
- Geração Aumentada por Recuperação (RAG) para fábricas de IA ›
- Otimize o gerenciamento de tráfego para a ingestão de dados da fábrica de IA ›
- Conectando fontes de dados de borda a fábricas de IA de forma otimizada ›
- Escalabilidade e flexibilidade multicloud dão suporte às fábricas de IA ›
- Proteção de APIs para fábricas de IA: o primeiro passo para a segurança da IA ›
- A importância da segmentação de rede para fábricas de IA ›
- As fábricas de IA produzem os aplicativos mais modernos da atualidade: aplicativos de IA ›
Sobre o autor
Hunter Smit é gerente sênior de marketing de produtos para soluções e estratégia na F5. Ele lidera o marketing de soluções em todo o portfólio da F5, incluindo infraestrutura de IA e segurança de aplicações, e está conduzindo a entrada da F5 no mercado emergente de entrega de dados para IA. Hunter integra o Conselho Consultivo da Escola de Negócios da Whitworth University e atuou como professor adjunto de marketing de produtos. Ele possui MBA e bacharelado em Administração de Empresas com ênfase em gestão pela Whitworth University.
Mais publicações de Hunter SmitPublicações relacionadas no blog
Entrega e proteção de agentes de IA em fábricas de IA: F5 para a arquitetura de referência NVIDIA OpenShell para agentes de IA seguros
As soluções da F5 ampliam a Arquitetura de Referência NVIDIA OpenShell para agentes de IA seguros.
Como medir – e minimizar – o custo total de propriedade do seu Kubernetes
O Kubernetes pode ser baixado e executado gratuitamente, mas sua manutenção está longe de não ter custos. Assim como outras grandes plataformas de código aberto que são “gratuitas” apenas em um sentido simplista, o Kubernetes quase certamente exigirá investimentos para ser implantado e operado.
As-Code: a pilha de TI contínua
Infraestrutura, configuração, pipeline, operações. De repente, tudo é “como código”. Lori MacVittie busca esclarecer a terminologia e identificar os diferentes componentes de uma stack contínua de TI.
O estado da entrega de aplicações em 2017: automação, APIs e DevOps
Explore o relatório State of Application Delivery de 2017. Leia o blog retrospectivo da F5 sobre o início da ascensão das redes declarativas e dos pipelines de DevOps.
DevOps Summit: onde a rede foi convidada para a festa
No DevOps Summit NY, falou-se muito não apenas sobre DevOps, mas também sobre contêineres, IoT e microsserviços. As sessões se concentraram não só na mudança cultural necessária para crescer em escala com uma abordagem DevOps, mas também fizeram questão de incluir...
F5 e Nutanix convergem em infraestrutura no .NEXT
Aplicações empresariais como Microsoft SharePoint e Exchange, juntamente com a VDI, continuam sendo a espinha dorsal da sua empresa. A produtividade, embora não seja tão atraente quanto o lucro, é um fator essencial para o sucesso das operações empresariais atuais. Deixar de...