Quando o inteligente não é seguro: o que meu aquário de recife me ensinou sobre IA, automação e disjuntores

Lori Mac VittieEngenheiro Emérito e Evangelista-Chefe | F5

A entrega de aplicações não é apenas algo desejável na era da IA e da automação. Ela é absolutamente essencial, pois balanceadores de carga, gateways de API e malhas de serviço se tornam a última linha de defesa quando sistemas autônomos fogem do previsto.

No início desta semana, perdi um controlador.

Mais especificamente, perdi o controlador Apex do meu sistema secundário. Ele é o cérebro da automação responsável por gerenciar parte da infraestrutura do meu aquário de recife, incluindo duas bombas que fornecem água salgada nova ao sistema principal durante as trocas de água.

Essas bombas foram configuradas com os valores de contingência definidos como LIGADO, uma medida de segurança padrão para o caso de o sistema parar de responder. Assim, quando o controlador falhou, elas ligaram e continuaram funcionando. Sem controle. Sem coordenação. Sem supervisão.

O resultado? O tanque principal quase transbordou, enquanto Lori, em pânico, tentava conter a situação. E ficou o lembrete de que automação sem limites não é inteligente. É arriscada.

E esse lembrete tem tudo a ver com a forma como estamos construindo arquiteturas modernas de TI, especialmente à medida que a IA começa a assumir o controle.

A automação só é segura na medida em que seu modo de falha também é

O que aconteceu no tanque não foi causado por um bug nem por um problema de hardware. As bombas fizeram exatamente o que foram instruídas a fazer. O problema foi que, quando o controlador falhou, elas continuaram funcionando. Não havia disjuntor. Nenhum watchdog externo. Nenhuma estratégia inteligente de contingência.

É exatamente isso que pode acontecer em um sistema de TI orientado por IA.

Imagine atualizações de políticas geradas por IA sendo aplicadas à infraestrutura em produção. Ou decisões de direcionamento de tráfego em tempo real baseadas em um modelo que está falhando silenciosamente. Ou um pipeline de implantação que continua enviando alterações porque o controlador nunca disse explicitamente “pare”.

Nesses momentos, o silêncio não significa aprovação. Significa perigo.

O papel dos balanceadores de carga como disjuntores

Na maioria das arquiteturas corporativas, contamos com balanceadores de carga, gateways de API e malhas de serviço para atuarem como nossa versão dos disjuntores. Eles monitoram a integridade, detectam latência, aplicam lógica de repetição e isolam sistemas com problemas antes que comprometam todo o restante.

Isso não é apenas uma questão de boas práticas operacionais; é assim que contemos falhas e preservamos a confiança em sistemas autônomos.

Quando o plano de controle fica indisponível, a função do balanceador de carga é interromper o tráfego, e não presumir que está tudo bem.

Às vezes, “falhar ligado” é a resposta certa

É claro que nem todos os sistemas devem ser desligados em caso de falha. No meu aquário de recife, as bombas de circulação do tanque principal também são automatizadas, mas foram deliberadamente configuradas para permanecer LIGADAS em caso de falha.

Porque, sem circulação, os níveis de oxigênio caem e os peixes morrem.

Esta é a nuance que importa. Alguns sistemas precisam continuar funcionando aconteça o que acontecer, como DNS, identidade e telemetria básica. Mas e a automação de processos, como a geração de políticas ou implantações em etapas? Esses sistemas precisam ser desativados em caso de falha se o controlador ficar indisponível.

E é aí que os agentes de IA introduzem uma tensão real: eles nem sempre sabem quando estão errados. Por isso, a arquitetura ao redor deles precisa saber.

A adoção da IA está crescendo e, com ela, a necessidade de limites

Os resultados do Relatório F5 sobre o Estado da Estratégia de Aplicações de 2025 confirmam o que a maioria de nós já observa na prática: a IA está passando das sugestões para a ação.

• 77% dos entrevistados disseram que querem que a IA gere sugestões para ajustar políticas e configurações.
• 45% querem que a IA ajuste automaticamente essas políticas em tempo real para cumprir os SLOs.
• 55% querem que a IA execute scripts para implantar novas configurações e políticas ou ajustar as existentes.

Isso nos revela algo importante: estamos entrando na era dos agentes digitais autônomos, e as organizações não estão recuando. Elas estão acelerando.

Mas uma IA capaz de criar ou modificar configurações sem revisão humana? É como deixar as bombas funcionando sem supervisão. É apenas uma questão de tempo até que algo alague ou quebre.

Conclusão: crie sistemas que saibam quando parar

A IA não é opcional. Os mecanismos de interrupção também não.

À medida que incorporamos agentes mais inteligentes aos nossos sistemas — aos fluxos de tráfego, mecanismos de configuração e decisões de políticas —, precisamos dotar a infraestrutura subjacente de limites claros e automáticos.

Balanceadores de carga. Gateways. Verificações de integridade. Lógica de repetição. Esses não são apenas padrões; são mecanismos de proteção para uma autonomia segura. Esse é um dos principais motivos por trás do desenvolvimento do Top 10 de Entrega de Aplicações, que busca destacar a importância da entrega de aplicações para a operação e a proteção de um ambiente digital. Afinal, ela só se tornará mais importante à medida que a automação substituir as operações manuais no papel de controladora dos negócios digitais.

Automação sem disciplina não é resiliência.

É apenas caos com uma tarefa cron.

Sobre o autor

Lori Mac VittieEngenheiro Emérito e Evangelista-Chefe | F5

Lori MacVittie é engenheira distinta e evangelista-chefe no Escritório do CTO da F5, com ampla experiência em entrega de aplicações, estratégia de automação e infraestrutura. Ela é conhecida por transformar complexidade em clareza, seja definindo diretrizes para agentes de IA, analisando arquiteturas multinuvem frágeis ou investigando os limites de sistemas escaláveis. Ela acumula mais de trinta anos de experiência no setor, abrangendo desenvolvimento de aplicações, arquitetura de TI e operações de redes e sistemas. Antes de ingressar na F5, atuou como editora de tecnologia e recebeu diversos prêmios. MacVittie tem mestrado em Ciência da Computação e é uma autora prolífica, com publicações que abrangem segurança, nuvem e arquitetura empresarial. Ela também é uma entusiasta de jogos de tabuleiro e videogames, além de ter opiniões assumidamente fortes sobre queijos.

Mais publicações de Lori Mac Vittie