Por que o roteamento de modelos pode se tornar uma infraestrutura de segurança

Lori Mac VittieEngenheiro Emérito e Evangelista-Chefe | F5

Nas últimas duas décadas, a segurança empresarial esteve centrada na identidade. Autentique o usuário. Autorize a ação. Audite a solicitação. A IA agêntica está expondo os limites desse modelo.

À medida que as organizações dependem cada vez mais de sistemas de IA para recuperar informações, tomar decisões e executar tarefas, a questão já não é simplesmente quem está fazendo a solicitação. A questão é em qual modelo se deve confiar para realizar o trabalho em primeiro lugar.

Ao mesmo tempo, uma segunda tendência está surgindo. Os recursos de IA estão migrando para os dispositivos de endpoint. Os PCs estão sendo fornecidos com unidades de processamento neural (NPUs) e modelos integrados capazes de executar inferências localmente. Modelos de linguagem pequenos estão se tornando componentes práticos de aplicações cotidianas, em vez de serviços disponíveis apenas na nuvem.

Essas duas tendências se cruzam de uma maneira interessante.

À medida que a IA migra para os dispositivos de endpoint, o roteamento de modelos pode deixar de ser apenas um mecanismo de otimização de desempenho e custos para se tornar um elemento fundamental da arquitetura de segurança.

A premissa atual: um modelo, muitas permissões

Atualmente, a maioria das arquiteturas de agentes pressupõe um modelo de uso geral operando com acesso a um conjunto cada vez maior de ferramentas, APIs, fontes de dados e sistemas empresariais.

A segurança geralmente é implementada em camadas ao redor do modelo:

• Os sistemas de identidade determinam quem iniciou uma solicitação.
• Os controles de acesso determinam quais recursos estão disponíveis.
• Guardrails tentam restringir o comportamento.
• A auditoria rastreia as ações após a execução.

Essa abordagem reflete a arquitetura tradicional de aplicações, na qual uma única aplicação recebe permissões e os controles de segurança determinam o que ela pode fazer. O desafio é que os modelos de linguagem de grande porte estão sendo cada vez mais solicitados a executar tarefas com perfis de risco radicalmente diferentes.

Resumir um documento, aprovar um relatório de despesas, modificar o cadastro de um cliente e excluir a infraestrutura de produção não são operações equivalentes. Ainda assim, muitas arquiteturas as tratam como variações da mesma interação.

À medida que as capacidades dos agentes se expandem, isso gera pressão para adicionar continuamente mais políticas, mais controles e mais supervisão em torno de sistemas cada vez mais capazes.

O resultado é uma complexidade crescente tanto na governança quanto na aplicação das políticas.

Uma abordagem alternativa: autoridade por meio da especialização

E se a solução não for impor controles mais rígidos a um modelo de uso geral? E se a solução for reduzir a autoridade concedida a cada modelo individualmente?

Historicamente, os sistemas distribuídos evoluíram rumo à especialização, pois ela reduz a complexidade e limita os domínios de falha. Bancos de dados desempenham funções de banco de dados. Proxies desempenham funções de proxy. Balanceadores de carga desempenham funções de balanceamento de carga.

As arquiteturas de IA podem seguir um caminho semelhante.

Em vez de um único modelo com privilégios elevados, as organizações podem implantar portfólios de modelos especializados:

• Modelos locais para sumarização e classificação
• Modelos de recuperação para acesso ao conhecimento empresarial
• Modelos de fluxo de trabalho para orquestração
• Modelos de ação para processos de negócios específicos
• Modelos altamente restritos para operações privilegiadas

Cada modelo teria apenas os recursos necessários para a função a que se destina. Em vez de depender exclusivamente da aplicação de políticas após a seleção do modelo, os arquitetos poderiam vincular cada vez mais a autoridade diretamente à própria seleção do modelo.

O modelo escolhido passa a fazer parte da decisão de segurança.

Roteamento de modelos como roteamento de políticas

Atualmente, o roteamento de modelos é discutido principalmente em termos de custo e desempenho. As organizações direcionam as solicitações para diferentes modelos com base em requisitos de latência, custos de tokens ou capacidades de raciocínio. Com o tempo, os critérios de roteamento podem se ampliar significativamente.

Uma futura decisão de roteamento poderá avaliar:

• Sensibilidade dos dados
• Requisitos regulatórios
• Nível de autoridade necessário
• Requisitos de acesso às ferramentas
• Restrições de residência de dados
• Nível de confiança do usuário
• Recursos do endpoint

Nesse modelo, o roteamento deixa de se concentrar em encontrar o modelo mais barato e passa a priorizar a seleção do ambiente de execução mais seguro.

• Uma solicitação que envolva dados financeiros confidenciais pode ser restrita ao processamento local.
• Uma solicitação que exija acesso aos sistemas do cliente pode ser encaminhada para um modelo hospedado pela empresa com ferramentas aprovadas.
• Uma solicitação que envolva ações destrutivas pode exigir o encaminhamento para um ambiente de execução rigorosamente controlado.

A camada de roteamento torna-se, na prática, um ponto de decisão de políticas.

Por que a IA nos endpoints muda o cenário

O surgimento da IA em endpoints pode acelerar essa mudança.

Historicamente, os modelos hospedados na nuvem obrigavam as organizações a adotar arquiteturas relativamente centralizadas. Os dados eram enviados ao modelo porque ele estava localizado na nuvem. À medida que modelos avançados passam a estar disponíveis diretamente nos dispositivos dos usuários, surgem novos padrões de arquitetura.

Informações confidenciais talvez nunca precisem sair do dispositivo. Determinados fluxos de trabalho podem ser concluídos inteiramente dentro dos limites locais de confiança.

As organizações passam a contar com opções adicionais para equilibrar privacidade, desempenho e governança. Mais importante ainda, elas ganham um novo recurso fundamental de segurança.

A capacidade de decidir se uma tarefa deve ser executada local ou remotamente torna-se um controle arquitetural relevante. Em alguns cenários, até mesmo o modelo de nuvem mais seguro pode representar uma exposição maior do que um modelo local suficientemente capaz e sem qualquer acesso à rede.

A importância de um gateway de IA local

Isso cria uma oportunidade para uma nova camada de infraestrutura.

Em vez de permitir que os aplicativos invoquem modelos diretamente, as organizações podem adotar cada vez mais gateways de IA locais responsáveis por:

• Seleção de modelos
• Aplicação de políticas
• Autorização de ferramentas
• Controles de movimentação de dados
• Geração de auditoria
• Filtragem de contexto

Um possível caminho de implementação é um ambiente de execução leve baseado em WebAssembly, operando como um proxy local de inferência e políticas. Essa camada permitiria que as organizações aplicassem uma governança consistente, independentemente do modelo que efetivamente realizasse o trabalho. Mais importante ainda, ela separa as decisões de segurança do comportamento do modelo.

Em vez de esperar que um modelo obedeça a uma política, o gateway controla se o modelo terá acesso a esse recurso desde o início.

Essa distinção se torna cada vez mais importante à medida que os modelos ganham mais autonomia.

Implicações estratégicas

Essa mudança traz várias implicações mais amplas.

Primeiro, o roteamento de modelos pode se tornar uma função arquitetural central, em vez de um recurso de otimização da plataforma.

Em segundo lugar, modelos especializados menores podem se tornar mais valiosos do que modelos maiores de uso geral em ambientes corporativos, pois oferecem limites de autoridade mais claros.

Terceiro, a IA em dispositivos pode se tornar tanto uma estratégia de governança quanto uma estratégia de desempenho.

Por fim, as organizações podem começar a tratar a seleção de modelos como parte do próprio controle de acesso.

Nesse futuro, as decisões de segurança não se limitarão mais a questões sobre usuários e recursos. Elas também incluirão questões sobre qual modelo deve ser considerado confiável para uma determinada tarefa.

Olhando para o futuro

Há anos, a identidade tem funcionado como o principal plano de controle da computação empresarial. Os sistemas agênticos estão colocando essa premissa em xeque.

À medida que a IA se integra mais profundamente aos processos de negócios, as arquiteturas de segurança precisarão de novos mecanismos para restringir a autoridade, limitar a exposição e reduzir a complexidade operacional.

A especialização de modelos oferece um caminho possível. Em vez de criar estruturas de segurança cada vez maiores em torno de modelos cada vez mais avançados, as organizações podem optar por distribuir a autoridade entre modelos especializados e usar uma infraestrutura de roteamento para impor esses limites.

Se isso acontecer, o roteamento de modelos deixará de se limitar à otimização de desempenho e passará a incluir o roteamento de políticas. E o roteamento de políticas sempre foi uma infraestrutura de segurança.

Sobre o autor

Lori Mac VittieEngenheiro Emérito e Evangelista-Chefe | F5

Lori MacVittie é engenheira distinta e evangelista-chefe no Escritório do CTO da F5, com ampla experiência em entrega de aplicações, estratégia de automação e infraestrutura. Ela é conhecida por transformar complexidade em clareza, seja definindo diretrizes para agentes de IA, analisando arquiteturas multinuvem frágeis ou investigando os limites de sistemas escaláveis. Ela acumula mais de trinta anos de experiência no setor, abrangendo desenvolvimento de aplicações, arquitetura de TI e operações de redes e sistemas. Antes de ingressar na F5, atuou como editora de tecnologia e recebeu diversos prêmios. MacVittie tem mestrado em Ciência da Computação e é uma autora prolífica, com publicações que abrangem segurança, nuvem e arquitetura empresarial. Ela também é uma entusiasta de jogos de tabuleiro e videogames, além de ter opiniões assumidamente fortes sobre queijos.

Mais publicações de Lori Mac Vittie