Nas últimas décadas, o mundo dos negócios enfrentou muitos pontos de inflexão impulsionados por revoluções tecnológicas, e a F5 esteve presente para ajudar nossos clientes a superar esses momentos críticos.
Quando as organizações começaram a embarcar em suas transformações digitais, os aplicativos se tornaram o coração dos negócios, e a F5 garantiu que eles pudessem ser disponibilizados e protegidos em escala. Mais recentemente, quando o 5G prometeu revolucionar o mundo dos negócios com velocidades, serviços e confiabilidade sem precedentes, a F5 estava presente para ajudar as operadoras de telefonia móvel a implantar o núcleo 5G nativo da nuvem em escala.
Agora, mais uma vez, estamos em um ponto de inflexão, provavelmente o maior que o nosso setor já enfrentou, à medida que as organizações buscam maneiras de aproveitar o poder da IA. À medida que os clientes implementam essa tecnologia transformadora, a F5 os ajuda a explorar todo o potencial de suas implantações de IA em larga escala.
A dificuldade de alcançar o desempenho ideal
A crescente adoção de clusters de IA está impulsionando a transformação rumo à computação acelerada. A tentativa de aplicar práticas consolidadas de computação de uso geral, redes, segurança e monitoramento muitas vezes resulta em ineficiências, atrasos e aumento de custos.
Os enormes requisitos de processamento de dados da IA exercem uma pressão considerável sobre a infraestrutura de rede tradicional, dificultando a manutenção do desempenho ideal. A unidade de processamento de dados (DPU) NVIDIA BlueField surgiu como uma solução fundamental. Ao transferir e acelerar tarefas de rede e segurança de alta largura de banda — como processamento de pacotes, criptografia e compactação —, as DPUs BlueField-3 oferecem conectividade de rede ideal na nuvem. Essa otimização melhora o desempenho geral e acelera o acesso das unidades de processamento gráfico (GPUs) aos dados.
Provedores de serviços e grandes empresas estão implementando infraestruturas de IA em larga escala, também conhecidas como fábricas de IA, usando a plataforma de computação acelerada full-stack da NVIDIA para realizar treinamento e inferência de modelos de IA generativa em escala. As empresas precisam maximizar seus investimentos em fábricas de IA, que podem ser significativos. No entanto, sem a base adequada, a infraestrutura de IA pode ser subutilizada.
Gerenciamento eficiente do enorme volume de tráfego direcionado aos servidores de IA
F5 BIG-IP Next for Kubernetes implantado em DPUs NVIDIA BlueField-3 foi projetado para solucionar esses problemas. A solução se concentra em transferir e acelerar o processamento do F5 BIG-IP Next Service Proxy for Kubernetes (SPK) nas DPUs NVIDIA BlueField-3. Ela se baseia na liderança da F5 em solucionar desafios críticos de entrega e segurança de aplicações durante importantes transformações do mercado, aproveitando as inovações da NVIDIA em computação acelerada e redes de alto desempenho.
O F5 BIG-IP Next SPK foi desenvolvido para solucionar os problemas que os provedores de serviços enfrentaram com o Kubernetes durante a transição para o 5G. A infraestrutura 5G é baseada em uma arquitetura conteinerizada nativa da nuvem, com cargas de trabalho em contêineres gerenciadas por meio do Kubernetes. No entanto, o Kubernetes não foi originalmente projetado para os casos de uso complexos exigidos por um ambiente 5G. O BIG-IP Next SPK ajudou as operadoras de telecomunicações a adaptar a rede do Kubernetes a uma infraestrutura 5G, proporcionando a visibilidade, o controle e a segurança necessários para dimensionar dinamicamente suas redes 5G. Nos últimos anos, os provedores de serviços têm usado o BIG-IP para levar a tecnologia 5G a milhões de assinantes.
Assim como o BIG-IP Next SPK desempenhou um papel fundamental na viabilização do núcleo 5G durante a última transformação do mercado, ele agora está evoluindo para enfrentar os desafios da transformação do mercado de IA e da entrega de cargas de trabalho de IA, que apresentam semelhanças com as cargas de trabalho de 5G, mas envolvem volumes de tráfego exponencialmente maiores. Para atender às demandas dessa nova transformação do mercado, a F5 está lançando o BIG-IP Next for Kubernetes, implantado em DPUs NVIDIA BlueField-3, para gerenciar com eficiência o enorme volume de tráfego direcionado aos servidores de IA.
Esta solução transforma a entrega de aplicações modernas para atender às demandas da IA generativa. Trata-se de uma implementação nativa do Kubernetes da plataforma BIG-IP da F5, que processa cargas de trabalho de rede, segurança e balanceamento de carga, posicionada no ponto de demarcação entre o cluster de IA e outras partes dos data centers. O BIG-IP Next for Kubernetes mapeia os namespaces do cluster de IA para a segmentação de rede do data center, proporcionando segurança adequada e gerenciamento simplificado. Ao aproveitar os aceleradores de hardware da DPU BlueField-3, o BIG-IP Next for Kubernetes acelera diversos serviços de rede e dados, otimizando a eficiência energética ao transferir o processamento dos recursos de CPU.
Por exemplo, em seu evento Networking @Scale 2024, realizado no início deste ano, a Meta mencionou que o treinamento de seu modelo de linguagem de aprendizado (LLM) de código aberto Llama 3 foi prejudicado pela latência da rede, problema que foi solucionado por meio do ajuste das interações entre hardware e software. Essa abordagem aumentou o desempenho geral em 10%. Embora 10% possa parecer um ganho pequeno, para um modelo que leva meses para ser treinado, essa melhoria representa semanas de tempo economizado.
Reduzindo a complexidade das implantações de IA
O F5 BIG-IP Next for Kubernetes implantado em DPUs BlueField-3 oferece diversos benefícios para provedores de serviços e grandes empresas que buscam desenvolver infraestruturas de IA em larga escala. Entre eles:
- Integração simplificada: Até agora, as organizações enfrentavam a complexidade de integrar componentes de software de diferentes fornecedores para disponibilizar e proteger suas aplicações de IA. O BIG-IP Next for Kubernetes combina rede, segurança, gerenciamento de tráfego e balanceamento de carga em uma única solução, reduzindo a complexidade das implantações de IA. Ele também oferece uma visão integrada dessas funções em toda a infraestrutura de IA, além da ampla observabilidade e do controle granular necessários para otimizar as cargas de trabalho de IA.
- Segurança aprimorada: BIG-IP Next for Kubernetes oferece suporte a recursos essenciais de segurança e à arquitetura de confiança zero, incluindo firewall de borda, mitigação de ataques distribuídos de negação de serviço (DDoS), proteção de APIs, prevenção contra intrusões, criptografia e gerenciamento de certificados, transferindo essas funções para a DPU e liberando recursos valiosos da CPU.
- Desempenho aprimorado: O BIG-IP Next for Kubernetes acelera a rede e a segurança, o que é essencial para atender às demandas da infraestrutura de IA para a entrega de aplicações em escala de nuvem.
- Suporte à multilocação: O BIG-IP Next for Kubernetes viabiliza uma arquitetura multilocatária para que os provedores de serviços possam hospedar com segurança vários usuários na mesma infraestrutura de IA, mantendo separados os dados e as cargas de trabalho de IA de cada um.
Implementação bem-sucedida de data centers otimizados para IA
Ao considerar cuidadosamente os desafios e as soluções disponíveis, as organizações podem implementar com sucesso data centers otimizados para IA sem interromper as operações existentes nem comprometer a segurança. O F5 BIG-IP Next for Kubernetes implantado em DPUs BlueField-3 surge como uma opção atraente, oferecendo integração perfeita, segurança aprimorada e melhor desempenho para cargas de trabalho de IA, incluindo LLMs de grande escala, como o Llama 3.
Para saber mais, leia nosso comunicado à imprensa e a publicação da NVIDIA no blog.
Sobre o autor
Publicações relacionadas no blog
Entrega e proteção de agentes de IA em fábricas de IA: F5 para a arquitetura de referência NVIDIA OpenShell para agentes de IA seguros
As soluções da F5 ampliam a Arquitetura de Referência NVIDIA OpenShell para agentes de IA seguros.
Como medir – e minimizar – o custo total de propriedade do seu Kubernetes
O Kubernetes pode ser baixado e executado gratuitamente, mas sua manutenção está longe de não ter custos. Assim como outras grandes plataformas de código aberto que são “gratuitas” apenas em um sentido simplista, o Kubernetes quase certamente exigirá investimentos para ser implantado e operado.
As-Code: a pilha de TI contínua
Infraestrutura, configuração, pipeline, operações. De repente, tudo é “como código”. Lori MacVittie busca esclarecer a terminologia e identificar os diferentes componentes de uma stack contínua de TI.
O estado da entrega de aplicações em 2017: automação, APIs e DevOps
Explore o relatório State of Application Delivery de 2017. Leia o blog retrospectivo da F5 sobre o início da ascensão das redes declarativas e dos pipelines de DevOps.
DevOps Summit: onde a rede foi convidada para a festa
No DevOps Summit NY, falou-se muito não apenas sobre DevOps, mas também sobre contêineres, IoT e microsserviços. As sessões se concentraram não só na mudança cultural necessária para crescer em escala com uma abordagem DevOps, mas também fizeram questão de incluir...
F5 e Nutanix convergem em infraestrutura no .NEXT
Aplicações empresariais como Microsoft SharePoint e Exchange, juntamente com a VDI, continuam sendo a espinha dorsal da sua empresa. A produtividade, embora não seja tão atraente quanto o lucro, é um fator essencial para o sucesso das operações empresariais atuais. Deixar de...