F5 e NVIDIA aprimoram a economia das fábricas de IA com novos recursos para acelerar a inferência de IA

F5 BIG-IP Next for Kubernetes acelerado com DPUs BlueField melhora a taxa de transferência de tokens, reduz o custo por token e viabiliza uma infraestrutura de IA multilocatário segura, transformando as fábricas de IA para a era dos agentes

SEATTLE – A F5 (NASDAQ: FFIV), líder global em disponibilizar e proteger todos os aplicativos e APIs, anunciou hoje a ampliação dos recursos de sua contínua colaboração com a NVIDIA para acelerar e otimizar infraestruturas de inferência de IA.

A integração ampliada combina F5 BIG-IP Next for Kubernetes com as DPUs NVIDIA BlueField-3, criando uma camada de infraestrutura inteligente e orientada por telemetria que aumenta a taxa de transferência de tokens por meio de uma melhor utilização das GPUs, reduz a latência e viabiliza plataformas de IA multilocatário seguras e em grande escala.

Em sistemas de IA, os tokens representam a unidade mensurável da saída de IA — as palavras, os símbolos ou os fragmentos de dados gerados e processados durante a inferência. O volume e a velocidade da produção de tokens determinam, em última análise, a experiência do usuário, a eficiência da infraestrutura e a receita por acelerador.

À medida que empresas e provedores de GPUaaS correm para monetizar a IA e passar da experimentação com IA para serviços geradores de receita, a eficiência da infraestrutura tornou-se uma métrica determinante. O sucesso é cada vez mais medido não apenas pela capacidade de GPUs implantada, mas também pela economia de tokens, pela taxa sustentada de processamento de tokens, pelo tempo até o primeiro token (TTFT), pelo custo por token e pela receita por acelerador de GPU. A solução conjunta da F5 e da NVIDIA foi desenvolvida para abordar diretamente essas métricas.

Otimizando a economia de tokens por meio de uma infraestrutura de IA inteligente

A transição da inferência centrada em aplicações para fluxos de trabalho de IA orientados por agentes exige novas abordagens arquitetônicas para otimizar a taxa de transferência de tokens e reduzir custos. O BIG-IP Next for Kubernetes agora utiliza estatísticas do NVIDIA NIM, sinais de tempo de execução do Dynamo e telemetria de GPUs para tomar decisões de roteamento com base nas necessidades de inferência antes da execução. Ao direcionar as cargas de trabalho aos aceleradores mais adequados em tempo real, a solução aumenta a utilização sustentada, ao mesmo tempo que reduz a latência e o reprocessamento.

“A infraestrutura de IA não se resume mais apenas ao acesso a GPUs ou à expansão de suas implantações. Ela evoluiu para a maximização do retorno econômico por acelerador”, afirmou Kunal Anand, diretor de produtos da F5. “Juntamente com a NVIDIA, estamos permitindo que as fábricas de IA tratem a produção de tokens como uma métrica de negócios mensurável. BIG-IP Next for Kubernetes oferece a inteligência e a governança necessárias para aumentar o rendimento das GPUs, reduzir o custo por token e escalar plataformas de IA compartilhadas com confiança.”

Eficiência de infraestrutura validada: um avanço estrutural

Os números de desempenho falam por si. Em testes validados pelo The Tolly Group, o BIG-IP Next for Kubernetes, acelerado por DPUs NVIDIA BlueField-3, proporcionou um aumento de até 40% na taxa de transferência de tokens, uma redução de 61% no tempo até o primeiro token (TTFT), além de uma redução de 34% na latência geral das solicitações.

Esses não são ganhos incrementais. Ao transferir as funções de rede, TLS/criptografia, balanceamento de carga com reconhecimento de IA e gerenciamento de tráfego para as DPUs NVIDIA BlueField-3, o BIG-IP Next for Kubernetes preserva a capacidade da CPU do host e libera as GPUs para fazer o que foram projetadas para fazer: inferência contínua, em grande escala e com alta taxa de transferência. O resultado é uma melhor utilização das GPUs, redução dos atrasos em filas e aumento da geração de tokens, permitindo um menor custo por token com uma infraestrutura de capacidade fixa. Um aspecto crucial é que não foi necessário modificar os modelos, o que permite implementar esses ganhos imediatamente na infraestrutura existente das fábricas de IA. Para empresas e provedores de NeoCloud que competem com base na economia de tokens, essa é a diferença entre uma infraestrutura que limita a produção da IA e uma infraestrutura que a acelera.

“A infraestrutura de computação acelerada da NVIDIA, combinada com a Plataforma de Segurança e Entrega de Aplicações da F5 com reconhecimento de IA, proporciona uma economia de tokens superior para fábricas de IA, oferecendo inferência escalável e econômica sem exigir nenhuma alteração nos modelos”, afirmou Kevin Deierling, vice-presidente sênior de Redes da NVIDIA. “Juntas, a F5 e a NVIDIA estão capacitando as empresas a ampliar a inferência em fábricas de IA de forma eficiente e econômica.”

Desenvolvido para IA orientada por agentes e plataformas de IA multilocatário

As cargas de trabalho modernas de IA são cada vez mais orientadas por agentes, persistentes e sensíveis ao contexto. Elas exigem um controle inteligente de tráfego que o balanceamento de carga tradicional não consegue oferecer. A solução aprimorada BIG-IP Next for Kubernetes agora oferece suporte a:

• Roteamento com reconhecimento de inferência para fluxos de trabalho de IA agêntica
• Integração com o NVIDIA DOCA Platform Framework (DPF) para simplificar a implantação e o gerenciamento do ciclo de vida das DPUs NVIDIA BlueField
• EVPN-VXLAN com VRFs dinâmicas para multilocação segura no nível da rede
• Segurança integrada, governança de tokens e observabilidade em ambientes de IA no Kubernetes

Esses recursos permitem que empresas e provedores de NeoCloud compartilhem com segurança a infraestrutura de GPUs entre unidades de negócios ou clientes externos, preservando o isolamento de desempenho e níveis de serviço previsíveis.

Um plano de controle para a economia das fábricas de IA

A F5 e a NVIDIA fornecem às empresas ferramentas validadas e práticas recomendadas para otimizar a arquitetura de inferência. Com esses avanços, o BIG-IP Next for Kubernetes está posicionado para se tornar um plano de controle estratégico para a economia das fábricas de IA, gerenciando o consumo de tokens, otimizando os fluxos de tráfego e maximizando o retorno sobre o investimento em infraestrutura.

Em vez de superdimensionar a infraestrutura para compensar ineficiências, as organizações agora podem extrair mais valor econômico de cada GPU já em produção. O resultado é uma maior receita por GPU, menor sobrecarga operacional e serviços de IA escaláveis, desenvolvidos para um crescimento sustentável. Ao combinar a telemetria de infraestrutura e a aceleração por DPU da NVIDIA com a inteligência de tráfego e os recursos de segurança da F5, as empresas estão ajudando as organizações a transformar fábricas de IA em plataformas eficientes, monetizáveis e preparadas para a era dos agentes de IA.

Materiais de apoio

• Blog: Fábricas de IA precisam de infraestrutura inteligente. Novos resultados do The Tolly Group mostram o porquê.
• Relatório: Testes independentes realizados pela Tolly: F5 BIG-IP Next for Kubernetes

Sobre a F5

A F5, Inc. (NASDAQ: FFIV) é líder global no fornecimento e na proteção de todos os aplicativos. Com três décadas de experiência, a F5 desenvolveu a principal plataforma do setor — F5 Application Delivery and Security Platform (ADSP) — para fornecer e proteger todos os aplicativos e todas as APIs, em qualquer lugar: localmente, na nuvem, na borda e em ambientes híbridos e multinuvem. A F5 está comprometida em inovar e estabelecer parcerias com as maiores e mais avançadas organizações do mundo para oferecer experiências digitais rápidas, disponíveis e seguras. Juntos, ajudamos uns aos outros a prosperar e damos vida a um mundo digital melhor.

Para mais informações, acesse f5.com
Confira as pesquisas sobre ameaças do F5 Labs em f5.com/labs
Siga-nos para saber mais sobre a F5, nossos parceiros e tecnologias: Blog | LinkedIn | X | YouTube | Instagram | Facebook

F5, BIG-IP e BIG-IP Next são marcas comerciais, marcas de serviço ou nomes comerciais da F5, Inc. nos EUA e em outros países. Todos os demais nomes de produtos e empresas aqui mencionados podem ser marcas comerciais de seus respectivos proprietários. A colaboração descrita neste comunicado à imprensa não implica a constituição de uma joint venture, parceria jurídica ou relação de representação entre a F5 e a NVIDIA.

Declarações prospectivas
Este comunicado à imprensa contém declarações prospectivas sobre o desempenho, a eficiência e os benefícios econômicos esperados da integração da F5 com a NVIDIA, que estão sujeitos a riscos e incertezas.