O ADC10 original se concentra em um problema que toda equipe de operações conhece: o uso ineficiente de recursos de computação, armazenamento e rede aumenta os custos e limita a escalabilidade. O superdimensionamento desperdiça dinheiro. O subdimensionamento prejudica o desempenho. A solução, conforme descrita, é melhorar a distribuição do tráfego, implementar verificações de integridade inteligentes e adotar controles programáveis para que os recursos sejam usados com eficiência em todo o sistema. Isso continua sendo verdade.
O que muda com a IA é que a utilização de recursos deixa de ser previsível.
As aplicações tradicionais consomem recursos de maneira relativamente consistente. Os sistemas de IA, não. Eles apresentam picos de demanda, exigem grande capacidade computacional e variam muito de acordo com a solicitação. Isso transforma o que antes era um problema de planejamento de capacidade em um problema de alocação em tempo real.
Consequências da má utilização de recursos
Impacto no desempenho
Em um sistema convencional, a utilização ineficiente de recursos se manifesta como uma distribuição desigual da carga. Alguns servidores ficam ociosos, enquanto outros ficam sobrecarregados. O resultado são tempos de resposta mais lentos e desperdício de capacidade. A IA introduz um tipo diferente de desequilíbrio.
As cargas de trabalho de inferência não são uniformes. Uma solicitação pode ser trivial, enquanto outra pode consumir uma capacidade computacional várias ordens de grandeza maior devido ao tamanho do prompt, à extensão do contexto ou à profundidade do raciocínio. Mesmo dentro do mesmo modelo, o desempenho pode variar significativamente de uma solicitação para outra.
Essa variabilidade torna muito mais difícil prever e distribuir a carga de forma eficiente.
Se as solicitações forem encaminhadas sem levar em conta seu custo computacional, surgirão pontos de sobrecarga. GPUs ou nós de inferência ficarão saturados inesperadamente. As filas aumentarão. A latência disparará. Enquanto isso, outros recursos permanecerão subutilizados porque não foram selecionados para essa carga de trabalho.
Portanto, o conhecido problema de desempenho persiste — a distribuição desigual —, mas a causa muda. Já não se trata apenas de quantas solicitações estão sendo enviadas, mas do custo de processamento de cada uma delas.
Impacto na disponibilidade
O ADC10 original relaciona a baixa utilização de recursos a preocupações mais amplas de entrega, incluindo a capacidade de sustentar cargas de trabalho com eficiência. Com a IA, a utilização ineficiente pode afetar diretamente a disponibilidade de maneiras que parecem desproporcionais.
As cargas de trabalho de IA são limitadas por recursos escassos, especialmente recursos computacionais especializados, como GPUs. Quando esses recursos se esgotam, o sistema não apresenta uma degradação gradual. Ele fica paralisado. As solicitações entram em fila ou falham. Os tempos limite aumentam.
O que torna isso ainda mais desafiador é que a disponibilidade passa a depender das decisões de alocação, e não apenas da capacidade.
Você pode ter capacidade total suficiente em todo o sistema, mas, se ela não estiver acessível no lugar certo, no momento certo ou para o tipo certo de solicitação, o sistema se comportará como se estivesse sem recursos. Um endpoint de modelo pode estar tecnicamente online, mas não conseguir aceitar cargas de trabalho adicionais. Uma região pode ter capacidade ociosa que não pode ser utilizada devido a restrições de latência ou conformidade. Um modelo mais barato pode estar disponível, mas não ser selecionado porque a lógica de roteamento é rígida demais.
Isso cria um cenário em que a disponibilidade é fragmentada. O sistema fica parcialmente disponível, dependendo do caminho percorrido por ele.
Esse é um problema mais complexo do que simplesmente manter o sistema no ar. Ele exige a capacidade de redistribuir cargas de trabalho de forma inteligente entre modelos, regiões e camadas em tempo real.
Impacto na escalabilidade
O uso ineficiente de recursos força as organizações a expandir sua infraestrutura prematuramente, adicionando mais recursos para lidar com cargas de trabalho que poderiam ter sido gerenciadas com mais eficiência. No passado, isso levou ao superdimensionamento, o que, em ambientes de nuvem, pode fazer os custos dispararem. A IA acelera drasticamente esse padrão.
A inferência é cara. O armazenamento de embeddings e contexto cresce rapidamente. Os pipelines de dados se expandem. Se os recursos não forem usados de forma eficiente, a resposta padrão é adicionar mais capacidade. Isso funciona por algum tempo.
Mas isso rapidamente se torna insustentável, tanto do ponto de vista financeiro quanto operacional. Escalar sistemas de IA não significa apenas adicionar mais servidores. Trata-se de gerenciar uma combinação complexa de tipos de recursos computacionais, cada um com características distintas de desempenho e custo.
Se a utilização for baixa, o escalonamento amplifica a ineficiência em vez de resolvê-la.
A alternativa é tomar decisões mais inteligentes sobre como os recursos são utilizados. Isso inclui selecionar o modelo certo para a tarefa, otimizar quando e como o contexto é recuperado e garantir que as cargas de trabalho sejam distribuídas com base nas condições em tempo real, em vez de regras estáticas.
Em outras palavras, a escalabilidade depende menos da quantidade de infraestrutura disponível e mais da inteligência com que ela é utilizada.
Impacto na eficiência operacional
A utilização ineficiente de recursos sempre aumentou os custos e a complexidade operacional. O provisionamento excessivo desperdiça dinheiro. O provisionamento insuficiente gera contenção e exige escalabilidade reativa. A IA agrava os dois lados desse problema.
Como as cargas de trabalho são imprevisíveis, as equipes muitas vezes acabam compensando em excesso. Elas provisionam mais capacidade do que acreditam ser necessário para evitar problemas de desempenho. Isso resulta em uma quantidade significativa de recursos ociosos, especialmente quando a demanda oscila.
Ao mesmo tempo, ainda ocorrem picos inesperados. Um aumento repentino de solicitações de inferência complexas pode sobrecarregar os recursos disponíveis, apesar desse superdimensionamento. Com isso, as equipes precisam lidar tanto com o desperdício de capacidade quanto com a degradação do desempenho.
Do ponto de vista operacional, isso exige um equilíbrio constante.
As equipes dedicam tempo a calibrar limites, ajustar regras de roteamento e tentar entender por que determinadas cargas de trabalho consomem uma quantidade desproporcional de recursos. A observabilidade se torna mais importante, mas também mais difícil, porque a unidade de trabalho deixou de ser uniforme.
A eficiência, portanto, depende de visibilidade e controle. Sem ambos, o gerenciamento de recursos se torna reativo e dispendioso.
Práticas recomendadas para otimizar a utilização de recursos
Infraestrutura programável e alocação dinâmica
Para aplicações tradicionais, a infraestrutura programável e o direcionamento dinâmico de tráfego são soluções essenciais. Ao rotear o tráfego com base em métricas em tempo real, as organizações podem equilibrar a carga e melhorar a utilização em todo o sistema. Essa abordagem se torna crucial com a IA.
O balanceamento de carga estático pressupõe que as solicitações sejam aproximadamente equivalentes. A IA invalida essa premissa. As solicitações já não permitem prever o consumo de recursos. É preciso rotear com base em mais do que o número de conexões ou uma simples distribuição algorítmica. É necessário considerar o custo da solicitação, o desempenho do modelo e o estado do sistema.
A programabilidade permite que você se adapte em tempo real. As solicitações podem ser direcionadas a diferentes modelos com base na latência, no custo ou na disponibilidade. As cargas de trabalho podem ser transferidas entre regiões ou clusters conforme as condições mudam. Operações dispendiosas podem ser limitadas ou adiadas quando os recursos estão restritos.
Isso transforma a utilização de recursos em um ciclo de controle ativo, em vez de um resultado passivo.
Eficiência por meio do roteamento inteligente
Em sua essência, o ADC10 busca usar os recursos de forma eficiente. A IA amplia o significado de “eficiente”.
Não se trata mais apenas de distribuir o tráfego de maneira uniforme. Trata-se de direcionar a carga de trabalho certa para o recurso adequado.
Isso pode significar usar um modelo menor para solicitações mais simples, em vez de recorrer por padrão ao mais poderoso. Pode significar limitar o tamanho do contexto para reduzir o custo computacional. Pode significar armazenar resultados em cache ou reutilizá-los, em vez de recalculá-los. Pode significar reconhecer quando não se deve usar IA de forma alguma.
Todas essas decisões vão além do balanceamento de carga tradicional. Elas exigem compreender a intenção, não apenas o tráfego.
É aqui que a entrega de aplicações evolui mais uma vez. O roteamento se transforma em orquestração de recursos. O objetivo não é simplesmente manter os sistemas ocupados, mas garantir que cada unidade de computação seja utilizada de forma eficiente.
Conclusão
O ADC10 sempre teve como objetivo evitar desperdícios e garantir que a infraestrutura seja usada de forma eficiente para oferecer suporte ao desempenho, à disponibilidade e à escalabilidade.
O que a IA introduz é a volatilidade.
O consumo de recursos deixou de ser previsível. O custo das cargas de trabalho varia muito. A computação especializada impõe novas restrições. E as ineficiências aumentam mais rapidamente porque o custo de cada solicitação é maior.
A resposta segue o mesmo padrão das orientações originais, mas com maior urgência.
Você precisa ter visibilidade sobre como os recursos estão sendo consumidos. Precisa de programabilidade para se adaptar em tempo real. E precisa tomar decisões de roteamento mais inteligentes, que considerem o custo real de cada solicitação, e não apenas a quantidade delas.
Porque, em um sistema orientado por IA, a má utilização dos recursos não representa apenas desperdício.
Esse é o caminho mais rápido para a degradação do desempenho, a disponibilidade limitada e custos descontrolados.
Saiba mais sobre os 10 principais desafios da entrega de aplicações enfrentados por organizações em todo o mundo.
Sobre o autor
Lori MacVittie é engenheira distinta e evangelista-chefe no Escritório do CTO da F5, com ampla experiência em entrega de aplicações, estratégia de automação e infraestrutura. Ela é conhecida por transformar complexidade em clareza, seja definindo diretrizes para agentes de IA, analisando arquiteturas multinuvem frágeis ou investigando os limites de sistemas escaláveis. Ela acumula mais de trinta anos de experiência no setor, abrangendo desenvolvimento de aplicações, arquitetura de TI e operações de redes e sistemas. Antes de ingressar na F5, atuou como editora de tecnologia e recebeu diversos prêmios. MacVittie tem mestrado em Ciência da Computação e é uma autora prolífica, com publicações que abrangem segurança, nuvem e arquitetura empresarial. Ela também é uma entusiasta de jogos de tabuleiro e videogames, além de ter opiniões assumidamente fortes sobre queijos.
Mais publicações de Lori Mac VittiePublicações relacionadas no blog
O que é o Top 10 de Entrega de Aplicações?
A F5 busca ajudar as organizações a enfrentar os desafios de entrega e proteção de aplicações, APIs e IA generativa com a lista dos 10 principais desafios de entrega de aplicações.
Top 10 em entrega de aplicações de IA: requisitos para aplicações sob medida
A IA transforma o que era “sob medida” de exceção em padrão: as solicitações passam a ser cadeias combináveis (seleção de modelo, recuperação de informações, políticas e ferramentas), por isso a entrega precisa se adaptar a cada solicitação, não a cada aplicativo.
Top 10 em entrega de aplicações de IA: falta de segurança e conformidade regulatória
A IA amplia a conformidade, que deixa de se limitar à proteção de caminhos e repositórios e passa a abranger a governança do comportamento em tempo de execução — acesso a modelos, contexto de recuperação, resultados e ações de agentes —, exigindo que os controles se aproximem da inferência.
Top 10 de entrega de aplicações de IA: políticas de entrega incompatíveis
Incompatibilidades entre políticas se tornam geradoras de indisponibilidade de IA: failover, tempos limite, limites e controles de segurança inconsistentes causam falhas silenciosas, resultados parciais e desfechos diferentes conforme o endpoint.
Top 10 em entrega de aplicações de IA: incapacidade de lidar com a latência
A IA transforma a latência em um problema de confiança, não apenas de desempenho: respostas lentas do “assistente” parecem hesitação ou falha, e prompts e respostas com muitos tokens aumentam a carga de trabalho mesmo em sistemas funcionando normalmente.
Top 10 de entrega de aplicações de IA: direcionamento de tráfego não otimizado
A IA rompe com as premissas tradicionais de direcionamento de tráfego: os back-ends não são intercambiáveis, os custos variam e os agentes distribuem requisições de forma imprevisível — por isso, o roteamento deve levar em conta o modelo, a integridade das GPUs e a localidade dos dados.