Os líderes empresariais sabem que precisam colocar a IA no centro de suas estratégias. Mas é mais fácil falar do que fazer. A IA pode ser complexa, cara e arriscada. E tanto a tecnologia quanto o ecossistema estão evoluindo rapidamente.
Primeiro, há uma clara mudança em relação à abordagem única para todos. A IA/ML preditiva, a IA generativa e, agora, a IA agêntica estão sendo adaptadas para setores e aplicações específicos. À medida que proliferam os modelos de IA desenvolvidos para finalidades específicas, o cenário da IA se torna cada vez mais diversificado.
Agora está claro que as aplicações de IA exigem uma infraestrutura sob medida, não apenas otimizada em termos de desempenho, custo e eficiência energética, mas também capaz de acompanhar as necessidades em rápida evolução dos modelos, aplicações e agentes de IA. Um exemplo perfeito é o Model Context Protocol (MCP), uma inovação poderosa que nem sequer existia há poucos meses.
À medida que as organizações correm para aproveitar a IA generativa e, cada vez mais, os agentes de IA, algumas estão construindo seus próprios data centers dedicados. Outras estão recorrendo a provedores especializados que implantam infraestruturas em escala de nuvem, adaptadas para oferecer suporte a vários modelos de linguagem de grande porte (LLMs). Frequentemente chamadas de fábricas de IA ou Neoclouds, essas plataformas contam com investimentos maciços em computação acelerada, redes e armazenamento, todos desenvolvidos especificamente para atender às intensas demandas de desempenho e escala das cargas de trabalho de IA.
A criação de uma infraestrutura soberana e escalável para inferência de IA e LLMs exige enfrentar quatro desafios principais:
- Latência e desempenho – Uma IA rápida e responsiva é essencial, especialmente para casos de uso interativos. Ninguém gosta de ficar olhando para um ícone de carregamento enquanto espera a IA pensar.
- Segurança e privacidade dos dados – Os LLMs frequentemente processam dados confidenciais. Garantir uma inferência segura e privada é fundamental e se torna ainda mais complexo devido às diferentes regras de segurança e exigências de conformidade em ambientes de nuvem e locais.
- Conformidade regulatória – Com a expansão da IA em diversos setores, regulamentações como o Regulamento Geral sobre a Proteção de Dados (GDPR) da União Europeia impõem regras rigorosas sobre o uso de dados, a seleção de modelos, a transparência e a equidade. É essencial saber lidar com essas exigências.
- Gerenciamento e integração de modelos – Os modelos de IA exigem gerenciamento contínuo, incluindo controle de versões, monitoramento e atualizações, e precisam se integrar perfeitamente aos sistemas existentes. Não é uma solução pronta para uso, mas protocolos como o MCP estão facilitando esse processo, apesar dos desafios de segurança enfrentados pelos modelos de IA.
Implementando o melhor chip para cada tarefa
Na F5, estamos colaborando com a NVIDIA para ajudar a garantir que as fábricas de IA e a infraestrutura de IA em escala de nuvem atendam às demandas da IA moderna. Hoje, na NVIDIA GTC Paris 2025, estamos revelando o próximo nível de inovação com novos recursos para o F5 BIG-IP Next for Kubernetes implantado em DPUs NVIDIA BlueField-3. Isso amplia os avanços em desempenho, multilocação e segurança que apresentamos na GTC San Jose 2025. Como parte da F5 Application Delivery and Security Platform, o F5 BIG-IP Next for Kubernetes é executado nativamente no NVIDIA BlueField-3, uma linha de processadores potentes e programáveis, desenvolvidos especificamente para movimentação e processamento de dados.
Ao transferir tarefas como processamento de rede, gerenciamento de armazenamento e operações de segurança (por exemplo, criptografia e monitoramento de tráfego), as DPUs liberam ciclos valiosos de CPU e recursos de GPU para que sejam direcionados ao treinamento e à inferência de IA. Isso reduz gargalos, aumenta o desempenho e diminui a latência, ajudando as fábricas de IA a operar com mais rapidez e eficiência e a gerar mais tokens.
Localizadas em placas de interface de rede, as DPUs gerenciam o fluxo de dados entre servidores e entre clientes/usuários/agentes externos e a fábrica de IA, orquestrando a rede e a segurança em escala. O F5 BIG-IP Next for Kubernetes implantado em DPUs NVIDIA BlueField-3 passou a estar disponível para o público em geral em abril.
Direcionando prompts de IA ao lugar certo para obter o resultado desejado
Os LLMs avançaram rapidamente nos últimos meses e agora oferecem uma ampla variedade de tamanhos, custos e conhecimentos especializados em domínios específicos. Escolher o modelo certo para cada prompt não só garante respostas melhores e conformidade regulatória, como também otimiza o consumo de recursos, os custos e a latência.
Com a integração de hoje dos microsserviços NVIDIA NIM, as organizações agora podem encaminhar de forma inteligente as solicitações de prompts de IA para o LLM mais adequado ou, mais precisamente, para o modelo certo para cada tarefa. Por exemplo, modelos leves e energeticamente eficientes podem processar solicitações simples, enquanto prompts mais complexos, extensos ou especializados são direcionados para modelos maiores ou específicos de um domínio.
Essa abordagem permite que as fábricas de IA usem os recursos computacionais com mais eficiência, reduzindo os custos de inferência em até 60%. É uma solução vantajosa tanto para os provedores quanto para os usuários de modelos, que obtêm respostas melhores, mais rápidas e com menor custo.
Menos por mais: o cache elimina cálculos redundantes e aumenta a geração de tokens
Além das GPUs, a NVIDIA continua inovando no nível de software para enfrentar os principais desafios da inferência de IA. NVIDIA Dynamo e o cache KV, incluídos no NVIDIA NIM, são ótimos exemplos. O NVIDIA Dynamo introduz a disponibilização desagregada para inferência, separando a compreensão do contexto (prefill), que exige alto poder computacional da GPU, da geração de respostas (decode), que demanda alta largura de banda de memória, em diferentes clusters de GPUs. Isso melhora a utilização das GPUs e simplifica o dimensionamento entre data centers ao gerenciar com eficiência o agendamento, o roteamento e a memória. O cache KV otimiza a forma como o contexto do modelo é armazenado e acessado. Ao manter os dados usados com frequência na memória da GPU e transferir o restante para a CPU ou o armazenamento, ele reduz os gargalos de memória, permitindo oferecer suporte a modelos maiores ou a mais usuários sem a necessidade de hardware adicional.
Um novo e poderoso recurso do BIG-IP Next for Kubernetes é o suporte ao cache de KV, que acelera a inferência de IA e reduz o consumo de tempo e energia. Combinado ao roteamento inteligente do NVIDIA Dynamo, baseado em algumas métricas explícitas, como o uso da memória da GPU, entre outros critérios, esse recurso permite reduzir significativamente o tempo até o primeiro token (TTFT), aumentar a geração de tokens e, em última análise, processar mais prompts. O DeepSeek demonstrou ganhos de capacidade de 10 a 30 vezes.
Os clientes podem usar a programabilidade da F5 para ampliar e adaptar os recursos do F5 BIG-IP às suas necessidades específicas e exclusivas, mantendo um desempenho muito alto.
Operacionalizando e protegendo o MCP para uma IA agêntica segura e soberana
Para a maioria das organizações, especialmente as de grande porte, como empresas dos setores de serviços financeiros, telecomunicações e saúde, que contam com sistemas legados complexos, a IA agêntica é extremamente atraente. Desenvolvidos com base em LLMs, esses agentes de IA podem navegar por bancos de dados, servidores, ferramentas e aplicações complexos para obter informações precisas, possibilitando novos níveis de eficiência e geração de insights.
Apresentado pela Anthropic em novembro de 2024, o MCP está transformando a forma como os sistemas de IA interagem com dados, ferramentas e serviços do mundo real. Atuando como conectores padronizados, os servidores MCP permitem que os modelos de IA acessem APIs, bancos de dados e sistemas de arquivos em tempo real, possibilitando que a IA supere as limitações dos dados estáticos de treinamento e execute tarefas com eficiência. À medida que a adoção aumenta, esses servidores exigem proxies reversos avançados com balanceamento de carga, segurança robusta, autenticação, autorização para dados e ferramentas, além de integração perfeita com o Kubernetes, tornando o MCP um pilar fundamental da infraestrutura de IA soberana e garantindo a segurança e a viabilização da IA agêntica.
Implantado como um proxy reverso à frente dos servidores MCP, o BIG-IP Next for Kubernetes, executado em DPUs NVIDIA BlueField-3, permite dimensionar e proteger os servidores MCP, verificando solicitações, classificando dados e conferindo sua integridade e privacidade — protegendo, assim, tanto as organizações quanto os LLMs contra ameaças à segurança e vazamentos de dados. Ao mesmo tempo, a capacidade de programação da F5 facilita garantir que a aplicação de IA esteja em conformidade com os requisitos do MCP e de outros protocolos.
Se token é a nova moeda, então vamos contabilizá-lo, administrá-lo e gastá-lo com sabedoria
Em anúncios recentes de resultados financeiros, algumas grandes organizações começaram a divulgar o número de tokens gerados a cada trimestre, seu crescimento e a receita associada a eles. Isso reflete uma necessidade crescente entre nossos clientes: a capacidade de monitorar, gerenciar e controlar o uso de tokens como se fosse um orçamento, a fim de evitar custos inesperados, como às vezes ocorre com as nuvens públicas.
É por isso que o BIG-IP Next for Kubernetes agora inclui novos recursos para medir e controlar o consumo de tokens em toda a organização. Quando os clientes pedem, nós ouvimos e entregamos com todo o cuidado.
Construindo fábricas de IA seguras, rápidas, soberanas e flexíveis
À medida que os setores desenvolvem fábricas de IA e os países constroem sua IA soberana, agentes de IA estão surgindo, e a infraestrutura, os ecossistemas e as aplicações precisam ser flexíveis e adaptáveis. As organizações que implementarem a IA com eficiência avançarão mais rapidamente, atenderão melhor os clientes e reduzirão custos. No entanto, para concretizar esse potencial, a IA deve permanecer segura, escalável e economicamente viável, sem desacelerar o ritmo da inovação.
É aí que entra a F5. Em março passado, entregamos desempenho, multilocação e segurança. Agora, com o BIG-IP Next for Kubernetes, estamos viabilizando inovações desenvolvidas para acompanhar a velocidade da IA.
Nossa promessa: mais tokens por dólar e por watt. Experimente e comprove a diferença em primeira mão.
Vai participar da GTC Paris 2025?
A F5 tem orgulho de ser patrocinadora Gold da NVIDIA GTC Paris 2025. Visite-nos no estande G27 para conhecer como a F5 Application Delivery and Security Platform oferece suporte a uma infraestrutura de IA segura e de alto desempenho e participe da nossa sessão conjunta com a NVIDIA, Infraestrutura segura desde a concepção: criando fábricas de IA confiáveis, na quinta-feira, 12 de junho, às 10h (CEST).
Para saber mais sobre o F5 BIG-IP Next for Kubernetes implantado em DPUs NVIDIA BlueField-3, confira meu post anterior no blog. Além disso, não deixe de ler nosso comunicado à imprensa sobre o anúncio de hoje.
O foco da F5 em IA não para por aqui — descubra como a F5 protege e disponibiliza aplicações de IA em qualquer lugar.
Sobre o autor
Publicações relacionadas no blog
Entrega e proteção de agentes de IA em fábricas de IA: F5 para a arquitetura de referência NVIDIA OpenShell para agentes de IA seguros
As soluções da F5 ampliam a Arquitetura de Referência NVIDIA OpenShell para agentes de IA seguros.
Como medir – e minimizar – o custo total de propriedade do seu Kubernetes
O Kubernetes pode ser baixado e executado gratuitamente, mas sua manutenção está longe de não ter custos. Assim como outras grandes plataformas de código aberto que são “gratuitas” apenas em um sentido simplista, o Kubernetes quase certamente exigirá investimentos para ser implantado e operado.
As-Code: a pilha de TI contínua
Infraestrutura, configuração, pipeline, operações. De repente, tudo é “como código”. Lori MacVittie busca esclarecer a terminologia e identificar os diferentes componentes de uma stack contínua de TI.
O estado da entrega de aplicações em 2017: automação, APIs e DevOps
Explore o relatório State of Application Delivery de 2017. Leia o blog retrospectivo da F5 sobre o início da ascensão das redes declarativas e dos pipelines de DevOps.
DevOps Summit: onde a rede foi convidada para a festa
No DevOps Summit NY, falou-se muito não apenas sobre DevOps, mas também sobre contêineres, IoT e microsserviços. As sessões se concentraram não só na mudança cultural necessária para crescer em escala com uma abordagem DevOps, mas também fizeram questão de incluir...
F5 e Nutanix convergem em infraestrutura no .NEXT
Aplicações empresariais como Microsoft SharePoint e Exchange, juntamente com a VDI, continuam sendo a espinha dorsal da sua empresa. A produtividade, embora não seja tão atraente quanto o lucro, é um fator essencial para o sucesso das operações empresariais atuais. Deixar de...