BIG-IP Next for Kubernetes implantado em DPUs NVIDIA BlueField

Name: BIG-IP Next for Kubernetes implantado em DPUs NVIDIA BlueField
Brand: F5

Ofereça gerenciamento de tráfego e segurança de alto desempenho para infraestruturas de IA em larga escala, proporcionando mais eficiência, controle e desempenho às aplicações de IA.

Saiba mais

Oferecendo multilocação, aceleração e observabilidade

O BIG-IP Next for Kubernetes implantado em DPUs NVIDIA BlueField oferece a empresas e provedores de serviços um único ponto de controle para maximizar o uso da infraestrutura de nuvem de IA e acelerar o tráfego de IA para ingestão de dados, treinamento de modelos, inferência, RAG e IA agêntica.

Maximize a eficiência e reduza os custos

Maximize o investimento em infraestrutura de IA e reduza o TCO com gerenciamento de tráfego e balanceamento de carga de alto desempenho para infraestruturas de IA em escala de nuvem.

Suporte à multilocação para provedores de nuvem de IA

Habilite a multilocação segura baseada em Kubernetes e o isolamento de rede para aplicações de IA, permitindo que vários locatários e cargas de trabalho compartilhem com eficiência uma única infraestrutura de IA — até mesmo no nível do servidor.

Segurança Zero Trust baseada em DPU

Integre recursos essenciais de segurança e uma arquitetura de confiança zero que inclui firewall de borda, mitigação de DDoS, proteção de APIs, prevenção contra intrusões, criptografia e gerenciamento de certificados, transferindo, acelerando e isolando essas funções na DPU.

Um único ponto de controle

Desempenho aprimorado

Maximize o potencial da infraestrutura As aplicações de IA exigem recursos de rede acelerados. O BIG-IP Next for Kubernetes otimiza os fluxos de tráfego para clusters de IA, permitindo o uso mais eficiente dos recursos de GPU por meio da interface direta com as redes de front-end. Para modelos de IA com bilhões de parâmetros, o BIG-IP Next for Kubernetes reduz a latência e oferece balanceamento de carga de alto desempenho para a ingestão de dados e as consultas recebidas.

Escale a GPUaaS

A arquitetura multilocatário potencializa fábricas de IA e data centers em nuvem para cargas de trabalho de IA Permite que as organizações ofereçam suporte a mais usuários em clusters de computação compartilhados e, ao mesmo tempo, escalem cargas de trabalho de treinamento e inferência de IA. Acelere a conexão de modelos de IA ao armazenamento de dados em diferentes locais e amplie significativamente a visibilidade do desempenho das aplicações utilizando recursos avançados do Kubernetes para automatizar cargas de trabalho de IA e centralizar os controles de políticas.

Proteja dados, modelos e aplicativos

Proteja e simplifique suas implantações de IA O rápido crescimento das APIs para modelos de IA traz desafios significativos de segurança. O BIG-IP Next for Kubernetes automatiza a descoberta e a proteção de endpoints, protegendo aplicações de IA contra ameaças em constante evolução. Ao transferir o processamento da segurança de rede das CPUs para as DPUs NVIDIA BlueField e aproveitar sua arquitetura de confiança zero, o BIG-IP Next for Kubernetes oferece proteção granular e garante uma criptografia de dados robusta. Essa abordagem não apenas reforça as defesas cibernéticas, como também otimiza o gerenciamento de dados de IA, resultando em uma infraestrutura mais segura, escalável e eficiente para provedores de serviços e empresas.

Otimize o tráfego Norte-Sul

Obtenha uma visão integrada de rede, gerenciamento de tráfego e segurança A solução atende às crescentes demandas das cargas de trabalho de IA e foi desenvolvida especificamente para ambientes Kubernetes. Ela aumenta a eficiência dos fluxos de tráfego norte-sul e oferece às organizações uma visão integrada de rede, gerenciamento de tráfego e segurança para casos de uso de IA, como inferência e IA agêntica.

Otimize o roteamento e a inferência de LLMs

O roteamento avançado de LLMs direciona dinamicamente as tarefas para os modelos mais eficientes, reduzindo a latência, melhorando o tempo até o primeiro byte (TTFB) e aproveitando LLMs específicos de cada domínio para gerar resultados de maior qualidade. A integração com o NVIDIA Dynamo acelera ainda mais a inferência distribuída por meio do armazenamento em cache de KV econômico em CPUs, minimizando a dependência da memória da GPU e, ao mesmo tempo, otimizando o desempenho. A F5 reforça a segurança das implantações do Model Context Protocol (MCP) atuando como proxy reverso, protegendo os LLMs contra ameaças em constante evolução e garantindo a adaptação a protocolos de IA que mudam rapidamente, para operações escaláveis e seguras.

Implantação de computação acelerada da NVIDIA em larga escala

Maximize seu investimento

Desempenho, eficiência e segurança são fundamentais para o sucesso das organizações que implantam clusters de GPU em larga escala em suas fábricas de IA e data centers em nuvem. O BIG-IP Next for Kubernetes utiliza as plataformas DPU NVIDIA BlueField-3, liberando ciclos valiosos de CPU para aplicações geradoras de receita. O BIG-IP Next for Kubernetes implantado em DPUs NVIDIA BlueField-3 (versões B3220 e B3240) otimiza a movimentação de dados e melhora a utilização das GPUs, ao mesmo tempo que otimiza o consumo de energia.

Principais recursos

BIG-IP Next for Kubernetes oferece redes de alto desempenho, segurança avançada e operações simplificadas para fábricas de IA, permitindo escalabilidade contínua, integração com Kubernetes e visibilidade do tráfego em tempo real para otimizar cargas de trabalho de IA.

Maximize o desempenho da IA

Aumente a taxa de transferência de dados e a utilização da GPU para cargas de trabalho de IA.

Multilocação segura

Habilite ambientes seguros e isolados para vários locatários.

Segurança Zero Trust

Proteja cargas de trabalho de IA com recursos avançados de segurança.

Gerenciamento centralizado

Simplifique as operações com um único ponto de controle.

Rede de alta velocidade

Ofereça conectividade ultrarrápida para tarefas exigentes de IA.

Escalabilidade sem complicações

Expanda a infraestrutura sem esforço à medida que as cargas de trabalho de IA aumentam.

Integração com o Kubernetes

Integre-se perfeitamente aos fluxos de trabalho nativos do Kubernetes.

Observabilidade de tráfego

Obtenha insights em tempo real sobre o tráfego e o desempenho da rede.

Recursos

DESTAQUE

F5 BIG-IP Next for Kubernetes oferece desempenho validado de inferência de IA com DPUs NVIDIA BlueField.

Testes independentes realizados pelo The Tolly Group demonstram que o gerenciamento inteligente de tráfego de IA da F5 melhora significativamente a eficiência da inferência, proporcionando maior taxa de processamento de tokens, menor tempo até o primeiro token e menor latência para cargas de trabalho de IA em larga escala executadas em infraestrutura acelerada pela NVIDIA.