Em pouquíssimo tempo, a IA deixou de ser um experimento interessante e se tornou uma capacidade essencial para os negócios. Para acompanhar esse ritmo, os provedores de nuvem estão ampliando suas ofertas de GPU como serviço (GPUaaS) e de modelos de linguagem de grande escala como serviço (LLMaaS), que formam a espinha dorsal das fábricas de IA modernas. Esses ambientes transformam dados, capacidade computacional e modelos em resultados de alto valor para os clientes.
Essas ofertas simplificam drasticamente a adoção da IA. No entanto, também expõem os provedores a novas pressões financeiras e operacionais. Implantar uma infraestrutura de IA é uma coisa. Operá-la de forma lucrativa e em escala, com custos previsíveis, é outra. Os custos de GPUs, os desafios da monetização baseada em tokens, as preocupações com latência e a segurança em ambientes multilocatários convergem para uma complexa equação de negócios.
“Os provedores de IA em nuvem que alcançarem uma economia sustentável serão aqueles que começarem desde já a projetar suas arquiteturas para operar em escala.”
É nesse ponto que a F5 BIG-IP Next for Kubernetes, especialmente quando implantada em DPUs NVIDIA BlueField-3, começou a transformar a forma como as nuvens de IA operam. A plataforma oferece aos provedores uma maneira estruturada de aumentar a receita, reduzir o custo por token e operar ambientes complexos de IA com mais eficiência.
A transformação da economia das fábricas de IA
GPUaaS e LLMaaS ganharam força porque eliminam enormes barreiras de entrada.
A GPUaaS permite que os clientes treinem e façam o ajuste fino de modelos sem investir em clusters de GPUs ou infraestrutura especializada. Prestadores de serviços de saúde, empresas industriais e outras organizações podem desenvolver projetos de IA de alto valor, como diagnóstico por imagem ou automação preditiva, sem precisar se tornar operadores de infraestrutura.
O LLMaaS faz o oposto. Ele elimina completamente a necessidade de treinar modelos. Os clientes integram modelos pré-treinados, como o Gemini ou os GPTs, aos seus aplicativos por meio de APIs e se concentram na criação de experiências como chatbots, copilotos ou análises em tempo real.
Esses modelos reduzem as dificuldades para os clientes, mas concentram a complexidade no provedor. A viabilidade econômica torna-se altamente sensível à utilização das GPUs, à latência (especialmente o tempo até o primeiro token), à precisão da medição de tokens, à segurança em ambientes multilocatários e à sobrecarga operacional.
É aqui que a arquitetura influencia diretamente a lucratividade.
Impulsionando a receita com mais tokens
A receita de GPUaaS e LLMaaS cresce de acordo com o consumo. Quanto mais tokens forem processados e mais cargas de trabalho forem atendidas, maior será a receita. Isso só acontece se a plataforma oferecer experiências rápidas e previsíveis.
BIG-IP Next for Kubernetes aumenta o potencial de receita ao manter as GPUs concentradas na computação de IA em vez de tarefas de rede, roteamento ou inspeção. Transferir essas funções para as DPUs NVIDIA BlueField-3 libera ciclos de computação e reduz a sobrecarga nas GPUs, permitindo que elas processem mais cargas de trabalho.
Testes demonstraram que essa arquitetura pode gerar mais de 30% de tokens adicionais com a mesma infraestrutura de GPU e reduzir significativamente o tempo até o primeiro token.
Essas melhorias afetam diretamente a experiência do cliente e o consumo. Quando as respostas dos LLMs são rápidas e interativas, os usuários naturalmente utilizam mais o serviço. Quando a taxa de transferência aumenta, as mesmas GPUs geram mais atividades faturáveis. É assim que os serviços de IA aumentam a receita sem exigir mais hardware.
Redução de custos por meio da melhoria da utilização das GPUs
As GPUs são o núcleo financeiro de qualquer nuvem de IA. Cada ineficiência, período de ociosidade ou gargalo de CPU se traduz diretamente em um custo maior por token e margens menores.
O BIG-IP Next for Kubernetes ajuda a reduzir custos ao transferir grande parte do processamento de rede, segurança e tráfego para as DPUs NVIDIA BlueField-3. Isso elimina a sobrecarga que, de outra forma, consumiria ciclos de CPU e GPU. Também melhora os padrões de tráfego e o roteamento de cargas de trabalho, permitindo que os provedores operem mais perto da utilização ideal das GPUs.
Como resultado, os provedores podem reduzir consideravelmente o custo por token e aumentar significativamente a eficiência de seus clusters de IA.
A melhoria na utilização das GPUs potencializa esse efeito. Quanto mais consistentemente as GPUs recebem cargas de trabalho, menor é o custo por cliente e maior é a receita total gerada por hora de GPU. A arquitetura influencia diretamente a viabilidade econômica.
Aumento da eficiência operacional
As nuvens de IA precisam operar em vários clusters, regiões, GPUs e tipos de modelos. A complexidade aumenta rapidamente e pode sobrecarregar as equipes sem os mecanismos de controle adequados.
O BIG-IP Next for Kubernetes oferece multilocação segura, segmentação robusta, proteção de APIs e observabilidade aprofundada em ambientes Kubernetes. Esses recursos proporcionam aos provedores um controle claro sobre o comportamento das cargas de trabalho, o isolamento dos locatários e a aplicação das políticas.
Especificamente para LLMaaS, o BIG-IP Next for Kubernetes permite o roteamento com reconhecimento de tokens, melhora a eficiência do cache e garante um tratamento consistente do tráfego entre diferentes GPUs e modelos. Isso torna os fluxos de trabalho de inferência mais rápidos, eficientes e previsíveis.
Do ponto de vista operacional, isso significa que os provedores integram novos locatários com mais rapidez, solucionam problemas mais rapidamente e dimensionam sua infraestrutura sem multiplicar a sobrecarga operacional. Tudo isso proporciona melhores resultados econômicos e um modelo de serviço mais sustentável.
Transforme fábricas de IA em negócios sustentáveis
A demanda por IA está crescendo mais rápido do que a maioria dos provedores consegue construir infraestrutura. No longo prazo, os vencedores não serão simplesmente as plataformas com os maiores clusters. Serão aquelas que aumentarem a receita por meio do desempenho, reduzirem os custos com eficiência e conduzirem as operações com clareza e controle.
BIG-IP Next for Kubernetes, especialmente quando usado com DPUs NVIDIA BlueField-3, foi desenvolvido especificamente para essa realidade de negócios. Ele aumenta a taxa de transferência, reduz a latência, fortalece a multilocação, otimiza a eficiência das GPUs e diminui o custo por token, com resultados validados por meio de testes.
As cargas de trabalho de IA não estão desacelerando. Os provedores que alcançarem uma economia sustentável serão aqueles capazes de projetar, desde já, uma arquitetura escalável.
Essa arquitetura conjunta da F5 e da NVIDIA oferece um caminho claro para alcançar esse objetivo.
Saiba como a F5 e a NVIDIA estão estabelecendo a base técnica para a próxima era de sistemas de IA inteligentes e orientados a objetivos.
Sobre o autor
Publicações relacionadas no blog
Entrega e proteção de agentes de IA em fábricas de IA: F5 para a arquitetura de referência NVIDIA OpenShell para agentes de IA seguros
As soluções da F5 ampliam a Arquitetura de Referência NVIDIA OpenShell para agentes de IA seguros.
Como medir – e minimizar – o custo total de propriedade do seu Kubernetes
O Kubernetes pode ser baixado e executado gratuitamente, mas sua manutenção está longe de não ter custos. Assim como outras grandes plataformas de código aberto que são “gratuitas” apenas em um sentido simplista, o Kubernetes quase certamente exigirá investimentos para ser implantado e operado.
As-Code: a pilha de TI contínua
Infraestrutura, configuração, pipeline, operações. De repente, tudo é “como código”. Lori MacVittie busca esclarecer a terminologia e identificar os diferentes componentes de uma stack contínua de TI.
O estado da entrega de aplicações em 2017: automação, APIs e DevOps
Explore o relatório State of Application Delivery de 2017. Leia o blog retrospectivo da F5 sobre o início da ascensão das redes declarativas e dos pipelines de DevOps.
DevOps Summit: onde a rede foi convidada para a festa
No DevOps Summit NY, falou-se muito não apenas sobre DevOps, mas também sobre contêineres, IoT e microsserviços. As sessões se concentraram não só na mudança cultural necessária para crescer em escala com uma abordagem DevOps, mas também fizeram questão de incluir...
F5 e Nutanix convergem em infraestrutura no .NEXT
Aplicações empresariais como Microsoft SharePoint e Exchange, juntamente com a VDI, continuam sendo a espinha dorsal da sua empresa. A produtividade, embora não seja tão atraente quanto o lucro, é um fator essencial para o sucesso das operações empresariais atuais. Deixar de...