Durante décadas, os sistemas distribuídos se apoiaram na elegância da ausência de estado tanto como princípio de design quanto como estratégia de escalabilidade — uma abstração simples em que cada requisição chega de forma independente da anterior, é processada isoladamente e não deixa nenhum resíduo. Sistemas sem estado esquecem e, ao esquecer, ganham liberdade: liberdade para escalar horizontalmente sem coordenação, liberdade para falhar sem consequências e liberdade do ônus operacional da memória. Foi um bom modelo e, para algumas aplicações, nos atendeu bem.
Os sistemas de IA, no entanto, expõem essa ficção.
O que hoje chamamos de “inferência sem estado” só é sem estado na implementação, não na função, porque o estado não desapareceu; foi apenas deslocado. A conversa, o raciocínio e o significado dependem do contexto anterior e, portanto, esse contexto precisa persistir em algum lugar. Hoje, nós o transportamos dentro de cada solicitação, codificado em tokens, reproduzido repetidamente e reconstruído interação após interação, como se o sistema lesse toda a conversa desde o início cada vez que responde. A arquitetura alega não ter estado, mas, operacionalmente, comporta-se como se o estado existisse em toda parte — porque ele existe.
Contexto, sem seu nome mais brando, é simplesmente estado em movimento.
Cada solicitação carrega consigo um histórico e, à medida que as conversas se prolongam, esse histórico se torna mais pesado. O tamanho das cargas úteis aumenta, a transferência de dados pela rede cresce, a latência de inferência se eleva e recursos computacionais são gastos repetidamente para processar informações que o modelo já viu. Janelas de contexto maiores e hardware mais rápido adiam as consequências, e técnicas engenhosas de engenharia, como cache de KV e compressão de prompts, amenizam o impacto, mas nenhuma delas elimina a ineficiência fundamental de reproduzir a memória em vez de mantê-la. O sistema se lembra por repetição, e não por projeto — e a repetição sempre tem um custo.
O custo de uma conversa consistente
Esse custo se manifesta primeiro no consumo de largura de banda, depois no processamento e, por fim, na latência, gerando uma pressão de escalabilidade discreta, porém persistente. A ausência de estado antes simplificava a escalabilidade, pois nada precisava ser preservado entre as chamadas. No entanto, as cargas de trabalho de IA invertem essa vantagem, já que preservar a continuidade é justamente o que as torna úteis. Um sistema que esquece o passado não consegue sustentar o raciocínio, manter a coerência da conversa nem aproveitar conhecimentos anteriores durante uma sessão. Na prática, construímos um comportamento com estado sobre uma infraestrutura sem estado, e essa sobrecarga começa a ficar evidente.
A resposta previsível é a afinidade de sessão.
Se o contexto precisar persistir, será mais eficiente mantê-lo próximo de onde foi usado pela última vez, permitindo a reutilização de representações em cache e evitando a transferência e a reconstrução repetidas do histórico da conversa. As sessões se tornam “persistentes” não por uma escolha filosófica, mas por uma necessidade operacional, pois mover o estado passa a ser dispendioso. A latência melhora, o desperdício de recursos computacionais diminui e a ilusão de ausência de estado se enfraquece ainda mais à medida que a memória se torna uma dependência explícita do desempenho.
No entanto, as sessões persistentes introduzem seus próprios atritos. O balanceamento de carga perde flexibilidade, o failover se torna mais complexo e a mobilidade distribuída fica limitada pela localização da memória. Sistemas concebidos para a liberdade sem estado acabam tendo de lidar com a gravidade do estado. A contramedida natural é externalizar o estado, armazenando a memória da sessão em repositórios compartilhados, sistemas de recuperação ou bancos de dados de contexto que permitam a qualquer nó de inferência retomar a conversa sem reproduzir todo o seu histórico. Isso restaura a flexibilidade de roteamento e a escalabilidade horizontal, mas transforma a memória em um componente arquitetural que precisa ser gerenciado com o mesmo rigor aplicado aos dados: consistência, ordenação, integridade e segurança passam a ser relevantes de maneiras que não eram quando o contexto estava apenas incorporado a um prompt.
Neste ponto, surge uma questão mais profunda, que vai além da otimização e adentra a filosofia de design: será que devemos continuar carregando toda a conversa?
Estamos evoluindo rumo a um estado seletivo
A abordagem atual trata o contexto como uma transcrição em constante expansão, um fluxo contínuo de tokens reproduzidos integralmente. No entanto, as máquinas não estão sujeitas às limitações da conversação humana. Já observamos os primeiros avanços rumo à memória seletiva, em que a sumarização substitui o histórico bruto, a recuperação substitui a repetição e a memória estruturada distingue o conhecimento duradouro do diálogo transitório. Em vez de carregar todo o passado adiante, os sistemas começam a preservar apenas o que continua relevante, construindo uma memória em camadas, na qual o contexto imediato, os resumos condensados e o conhecimento persistente desempenham papéis distintos. A arquitetura deixa de lembrar tudo e passa a lembrar de forma inteligente.
Esta é a verdadeira transição em curso.
O setor começou com a computação sem estado porque os recursos computacionais eram escassos e descartar a memória era barato. A IA inverte essa relação, elevando o contexto e a continuidade a preocupações arquiteturais de primeira ordem. O estado nunca desapareceu de fato; apenas foi transportado, reproduzido e disfarçado em arquiteturas sem estado. À medida que os sistemas de IA amadurecerem, esse disfarce desaparecerá, e as arquiteturas evoluirão para um gerenciamento deliberado da memória, em vez do transporte contínuo de contexto.
As sessões continuarão vinculadas porque a continuidade tem valor. O contexto continuará persistente porque o significado depende da memória. A ficção da ausência de estado continuará a se desfazer, sendo substituída por sistemas que compreendem explicitamente o que lembrar, onde armazenar e quando liberar, pois o futuro da IA escalável não pertencerá aos sistemas que carregam estado para todos os lugares, mas àqueles que o gerenciam com sabedoria.
Sobre o autor
Lori MacVittie é engenheira distinta e evangelista-chefe no Escritório do CTO da F5, com ampla experiência em entrega de aplicações, estratégia de automação e infraestrutura. Ela é conhecida por transformar complexidade em clareza, seja definindo diretrizes para agentes de IA, analisando arquiteturas multinuvem frágeis ou investigando os limites de sistemas escaláveis. Ela acumula mais de trinta anos de experiência no setor, abrangendo desenvolvimento de aplicações, arquitetura de TI e operações de redes e sistemas. Antes de ingressar na F5, atuou como editora de tecnologia e recebeu diversos prêmios. MacVittie tem mestrado em Ciência da Computação e é uma autora prolífica, com publicações que abrangem segurança, nuvem e arquitetura empresarial. Ela também é uma entusiasta de jogos de tabuleiro e videogames, além de ter opiniões assumidamente fortes sobre queijos.
Mais publicações de Lori Mac VittiePublicações relacionadas no blog
Por que o roteamento de modelos pode se tornar uma infraestrutura de segurança
A IA agêntica expõe os limites da identidade. Modelos especializados, combinados com roteamento baseado em políticas, vinculam a autoridade à escolha do modelo, reduzindo o raio de impacto e a complexidade da governança.
Top 10 em entrega de aplicações de IA: incapacidade de lidar com a latência
A IA transforma a latência em um problema de confiança, não apenas de desempenho: respostas lentas do “assistente” parecem hesitação ou falha, e prompts e respostas com muitos tokens aumentam a carga de trabalho mesmo em sistemas funcionando normalmente.
As 10 principais ameaças à entrega de aplicações de IA: observabilidade incompleta
A IA não escala sozinha. Sem um plano de controle unificado que elimine as barreiras entre ferramentas e responsabilidades, a inferência se torna a camada mais frágil e que mais exige coordenação.
Habilidades de agentes: um padrão aberto emergente
As skills declaram intenção, mas não impõem controle. A segurança de verdade deve estar nos limites das ferramentas, onde os pensamentos dos agentes se transformam em ações e as políticas podem ser aplicadas.
De pacotes a prompts: a inferência adiciona uma nova camada à pilha
Inferência não é treinamento. Não é experimentação. Não é um exercício de ciência de dados. Inferência é um comportamento de execução em produção e funciona como uma camada de aplicação.
A influência da inferência: APIs, DPUs e o caos do contexto
A inferência de IA está remodelando a infraestrutura, multiplicando APIs, sobrecarregando a capacidade computacional e tornando o contexto mais complexo. Saiba por que uma arquitetura mais inteligente e políticas de execução são essenciais.