Os varejistas estão desenvolvendo ferramentas de IA agêntica adaptadas a tarefas específicas para gerar um impacto real nos negócios, tanto na experiência do cliente quanto nas operações de suas plataformas on-line.
À medida que surgem agentes pessoais de compras, as organizações estão adaptando sua infraestrutura para oferecer suporte a compras conduzidas por máquinas, o que traz sérias implicações de segurança.
“Os varejistas precisam adaptar as estratégias de risco e as defesas de segurança para gerenciar adequadamente os agentes autônomos.”
Os defensores estão sobrecarregados com dados, alertas e logs. Eles precisam de contexto acionável para reduzir a complexidade e responder com eficiência, priorizando as ameaças mais críticas antes que um Indicador de Comprometimento seja encontrado no ambiente.
Neste blog, analisamos como agentes autônomos podem sair do controle e por que as equipes de segurança e riscos precisam ter cuidado com as ações que lhes são permitidas.
A realidade do varejo
Para os varejistas, o potencial da IA agêntica é extraordinário. Uma empresa líder em comércio eletrônico já está implementando assistentes de compras pessoais sofisticados, capazes de compreender, em tempo real, os sinais de compra dos clientes e os ambientes dinâmicos das lojas.
Embora o valor comercial e a vantagem competitiva proporcionados por uma interação mais eficiente com os clientes sejam fatores motivadores convincentes, as implicações para a segurança são significativas. Ao contrário dos agentes de IA, a IA agêntica é projetada para perceber, raciocinar e agir de forma independente . Essa autonomia levanta questões relacionadas à rastreabilidade, à responsabilização e à governança.
“Os principais provedores de e-commerce já estão implementando assistentes de compras pessoais sofisticados.”
O setor de comércio eletrônico já apresenta uma das maiores proporções de ataques avançados em APIs web e móveis, com bots de revenda representando uma em cada cinco transações de adição ao carrinho. Os adversários continuarão usando bots para ampliar os ataques cibernéticos contra grandes modelos de linguagem (LLMs) de backend, e as organizações de hackers, que já interromperam importantes serviços online, como o clique e retire de grandes varejistas, sem dúvida adaptarão suas táticas, técnicas e procedimentos (TTPs) para atingir fluxos de trabalho agênticos.
Os varejistas precisam de uma nova abordagem para garantir a implantação segura da IA agêntica. Não adaptar as estratégias de risco e as defesas de segurança para levar em conta a arquitetura e o comportamento únicos dos agentes autônomos representa uma responsabilidade empresarial.
Deixe as ferramentas tradicionais de lado
Ah, os bons e velhos tempos! Proteja o perímetro. Implemente controles de segurança, como firewalls de rede e de aplicações web. Realize testes estáticos e dinâmicos. Embora fossem viáveis em arquiteturas cliente-servidor, nas quais predominavam os fluxos de tráfego norte-sul e a segurança tradicional de aplicações web conseguia mitigar os riscos, a rápida modernização das aplicações, a ascensão dos sistemas baseados em APIs e os ecossistemas de IA altamente interconectados resultaram em uma ampla superfície de risco e em um volume exponencial de tráfego máquina a máquina (leste-oeste).
Em seguida, muitas empresas introduziram interfaces de processamento de linguagem natural (PLN). Enquanto as equipes de segurança corriam para acompanhar essa evolução, as empresas agora estão implementando IA agêntica.
“As melhores práticas de segurança, os frameworks e a supervisão regulatória estão sendo postos à prova pela IA agêntica.”
Paradigmas existentes, como a defesa em profundidade, continuam aplicáveis, pois novos ataques de IA no front-end frequentemente resultam em explorações clássicas, como a execução remota de código (RCE) no back-end.
No entanto, as melhores práticas de segurança já estabelecidas, como a divulgação responsável, as estruturas existentes, como o sistema de Vulnerabilidades e Exposições Comuns (CVEs), e a supervisão regulatória estão tendo dificuldades para acompanhar o ritmo da corrida armamentista da IA agêntica.
Quem está a fim de MCP?
O Model Context Protocol vem ao resgate! O padrão proposto pela Anthropic, assim como o protocolo Agent2Agent (A2A) proposto pelo Google, ajudam a viabilizar, respectivamente, a comunicação entre modelos e recursos e entre agentes, mas nenhum deles atende a todos os requisitos de interoperabilidade para a IA agêntica.
O MCP e o A2A representam grandes avanços em termos de padronização e interoperabilidade, mas e quanto à segurança? Seus controles de segurança atuais estão preparados para o MCP?
A proliferação de ferramentas e aplicações está levando à IA paralela, e os agentes de IA não conseguem detectar prompts de ataque emergentes — o que os torna vulneráveis por concepção e suscetíveis ao vazamento de dados confidenciais.
“Os defensores devem agir para garantir a governança, adaptando os controles existentes e implementando novos controles.”
As equipes de segurança e riscos devem agir para garantir a governança, adaptando os controles existentes e implementando novos controles para gerenciar os riscos relacionados a agentes de IA. Em particular, os firewalls de aplicações web e as soluções de segurança de APIs devem oferecer suporte ao MCP. Além disso, as ferramentas de gerenciamento de bots devem ser capazes de manter a resiliência à medida que os kits de ferramentas de automação são aprimorados com IA e os invasores conseguem transformar rapidamente seus ataques em armas. Por exemplo, para impedir a extração de dados de treinamento de LLMs e de conteúdo em pipelines de geração aumentada por recuperação (RAG), as ferramentas de gerenciamento de bots precisam identificar novas técnicas de invasores usando modelos de ML que detectem padrões maliciosos, além de empregar criptografia e ofuscação para impedir que as proteções sejam contornadas.
Os defensores também precisam realizar testes de vulnerabilidade em modelos e aplicativos de IA em conjunto com a inspeção em tempo de execução. Esses aprimoramentos são essenciais para garantir a rastreabilidade e fornecer os insights necessários para a supervisão humana (HITL).
A estrela-guia: Veja. Defina. Sintetize. Salve.
A fórmula para a segurança agêntica consiste em reduzir o tempo de detecção, acelerar a correção e aliviar a carga das equipes de segurança.
A escolha dos modelos de IA pode comprometer todo o seu sistema de IA e, por isso, eles precisam ser protegidos antes da implantação e durante a execução. F5 AI Red Team em conjunto com o F5 AI Guardrails oferecem testes constantes e linhas de base comportamentais contínuas capazes de detectar possíveis atividades maliciosas.
“A gestão de riscos da IA agêntica exige identificar o que pode dar errado, estabelecer salvaguardas adequadas e sintetizar padrões para automatizar a resposta a incidentes.”
Em vez de mitigar ataques específicos e identificados que foram divulgados publicamente, deixando margem para que a mesma vulnerabilidade fundamental seja explorada, uma abordagem proativa voltada à descoberta de vulnerabilidades fundamentais por meio de testes contínuos proporcionará uma proteção superior.
Red teaming pode simular ataques adversariais para testar os sistemas de IA sob pressão, garantindo que os riscos sejam tratados antes da implantação. Quando combinados com monitoramento em tempo real e sistemas de proteção em tempo de execução, os controles de segurança podem detectar continuamente e responder automaticamente a comportamentos anômalos e ataques como exfiltração de dados.
Com regulamentações como a Lei de IA da UE e estruturas do NIST se tornando obrigatórias, será necessário demonstrar as posturas de segurança de IA.
Ao identificar o que pode dar errado, estabelecer as proteções adequadas e sintetizar padrões para automatizar a resposta a incidentes, os varejistas economizarão tempo e, em última análise, dinheiro.
O futuro é agora
Os riscos da IA agêntica não podem ser totalmente mitigados por ferramentas tradicionais, que deixam lacunas na proteção e na governança.
Para lidar com isso, os provedores de comércio eletrônico precisam proteger os fluxos de trabalho de IA em todos os estágios de maturidade da tecnologia. Isso inclui testes proativos de ataques, inspeção e aplicação de políticas em tempo de execução, além de observabilidade centralizada e conformidade para atender aos padrões regulatórios emergentes.
Ao incorporar recursos de red teaming e proteções em tempo de execução à F5 Application Delivery and Security Platform (ADSP) , os varejistas podem proteger continuamente as implementações de IA agêntica — desde o projeto-piloto até a produção.
Para saber mais, acesse Soluções da F5 para eCommerce.
Sobre o autor
Publicações relacionadas no blog
IA agêntica em cibersegurança: promessas e riscos
Saiba por que o uso de IA agêntica na cibersegurança é essencial para combater ameaças impulsionadas por IA e por que os agentes também criam novos riscos para as empresas.
Como os clientes da F5 no setor financeiro lidam com a soberania digital sem desacelerar a inovação
Como é a soberania digital na prática? Dois projetos recentes da F5 com clientes mostram como diferentes empresas estão enfrentando esses desafios.
Soberania operacional: construindo resiliência em um mundo imprevisível
Para muitas organizações, a questão já não se resume apenas a controlar os dados. Trata-se de manter a capacidade de operar, adaptar-se e se recuperar à medida que as leis e as condições evoluem.
Segurança de IA com evidências: o que levaremos ao Gartner SRM
Antes de sua sessão no Gartner SRM, o vice-presidente sênior de Marketing de Produtos da F5 explica como a F5 ajuda as organizações a proteger a IA em três etapas práticas.
Gestão de riscos de IA: como as proteções podem ajudar a mitigá-los
O risco da IA é impulsionado por comportamentos probabilísticos e pela explicabilidade limitada, não apenas por falhas de segurança. Uma gestão eficaz exige controle operacional contínuo.
Lei de IA do Colorado (SB 205): o que as empresas precisam saber antes de 2026
A SB 205 do Colorado, a lei pioneira do estado sobre inteligência artificial, foi sancionada pelo governador Jared Polis em 17 de maio de 2024. O projeto de lei estabelece requisitos para que as empresas que utilizam IA implementem controles destinados a proteger os cidadãos do Colorado.