A ascensão da IA agêntica está transformando o cenário da segurança empresarial. Esses agentes de IA autodirigidos operam de forma autônoma, tomam decisões em tempo real e podem interagir entre sistemas de maneiras para as quais as arquiteturas tradicionais de segurança cibernética não foram projetadas. Embora isso abra novas possibilidades, também introduz riscos sistêmicos: falhas em cascata, desvio de objetivos e superfícies de ataque antes invisíveis.
O relatório recente da Forrester, “Apresentando o framework AEGIS: Guardrails empresariais de IA agêntica para segurança da informação”, apresenta um framework abrangente para proteger a IA agêntica nas empresas. Vale destacar que a CalypsoAI (agora F5) é citada entre os possíveis fornecedores no domínio de Segurança de Aplicações e DevSecOps que incorporam proteção em todo o ciclo de vida da IA.
Acreditamos que esta pesquisa valida uma mudança que defendemos desde o primeiro dia: uma abordagem proativa à segurança de IA, priorizando a inferência (ou o tempo de execução), é essencial.
Por que a IA agêntica muda o jogo
Segundo a Forrester, a IA agêntica apresenta cinco desafios críticos de segurança para os CISOs:
- Comportamentos emergentes são incentivados: os agentes podem se adaptar a obstáculos, possivelmente elevando privilégios ou contornando controles.
- A superfície de detecção ainda não existe: à medida que os ecossistemas de agentes se expandem, os recursos de observabilidade e resposta ficam para trás.
- A intenção se torna tão importante quanto os resultados: uma intenção comprometida, seja por injeção de prompt ou sequestro de objetivos, pode levar a violações críticas.
- Falhas em cascata ampliam o risco: dados corrompidos ou alucinações podem se propagar entre os agentes, provocando falhas sistêmicas.
- Agentes autônomos e infinitamente escaláveis aumentam a sobrecarga operacional: os humanos envolvidos no processo enfrentam novos desafios, como a fadiga decisória em larga escala.
Essas dinâmicas exigem mecanismos de proteção contínuos e adaptáveis, exatamente como preconiza a Estrutura AEGIS da Forrester.
Visão geral do framework AEGIS
O Framework AEGIS da Forrester identifica seis domínios principais para a segurança de IA agêntica:
- Governança, Risco e Conformidade (GRC): modernização das políticas por meio de uma aplicação contextualizada e executável por máquina.
- Gerenciamento de Identidades e Acessos (IAM): tratando os agentes como identidades híbridas, com privilégios concedidos no momento necessário e supervisão humana.
- Segurança e privacidade de dados: garantindo a integridade dos dados, a governança unificada e operações de IA que preservam a privacidade.
- Segurança de Aplicações e DevSecOps: incorporação da segurança em todo o ciclo de vida da IA, incluindo engenharia de prompts e validação da cadeia de suprimentos.
- Gerenciamento de Ameaças e Operações de Segurança: implementação de monitoramento em tempo real, registro de logs e engenharia de detecção para riscos específicos de IA.
- Princípios de Confiança Zero: aplicação do “privilégio mínimo para agentes”, em que um agente tem apenas as permissões mínimas necessárias para atingir seus objetivos.
Recomenda-se uma abordagem em fases, começando por GRC, avançando por IAM, segurança de dados e segurança de aplicações e, em seguida, expandindo para operações de segurança (SecOps) completas e plena maturidade em Zero Trust.
Como a F5 se alinha ao AEGIS
A F5 oferece soluções de segurança para ambientes de execução de IA desenvolvidas especificamente para atender às capacidades exigidas pelo AEGIS:
Red Teaming proativo (Segurança de Aplicações e Gerenciamento de Ameaças)
Nossa solução de Red Team de IA identifica vulnerabilidades ao simular comportamentos adversariais reais em múltiplas interações. Isso está alinhado à ênfase do AEGIS em testes contínuos, validação da cadeia de suprimentos e exercícios de purple team.
Defesa em tempo real (GRC e confiança zero)
F5 AI Guardrails bloqueia injeções de prompt, jailbreaks e tentativas de exfiltração de dados em tempo real, aplicando o princípio de agência mínima e políticas como código em modelos e aplicações. Nosso Pacote de Guardrails para a Lei de IA da UE e o Versionamento de Guardrails possibilitam uma segurança dinâmica e alinhada às regulamentações, essencial para atender à demanda do AEGIS por uma governança executável e sensível ao contexto.
Observabilidade e registro contínuos (Gerenciamento de ameaças e SecOps)
F5 AI Guardrails também oferece visibilidade unificada, logs prontos para auditoria e detecção de anomalias em todas as interações de IA.
Com nossa nova integração com o Splunk, as equipes de segurança podem importar os logs do AI Guardrails diretamente para seus fluxos de trabalho de SIEM/SOAR, atendendo ao requisito do AEGIS de registro abrangente, monitoramento e prontidão para resposta a incidentes. Essa integração acelera a engenharia de detecção e simplifica a conformidade ao alinhar a telemetria de IA aos padrões corporativos de registro.
Resultados explicáveis e garantia contínua (todos os domínios)
Com a Análise de Resultados e a pontuação de segurança, a F5 torna a segurança de IA transparente e prática. As equipes podem entender exatamente por que uma barreira de proteção sinalizou um evento, acompanhar possíveis ameaças e priorizar a resposta, cumprindo o princípio do AEGIS de que as barreiras de proteção para agentes devem ser explicáveis tanto para pessoas quanto para sistemas.
Em conjunto, esses recursos estão diretamente alinhados à visão do AEGIS de uma segurança de IA pronta para uso empresarial, contínua e adaptativa.
Em resumo
O Framework AEGIS da Forrester reforça uma realidade que os líderes de segurança não podem mais ignorar: a IA agêntica já chegou, e controles estáticos não são suficientes.
As organizações que implementarem segurança baseada prioritariamente em inferência e potencializada por agentes poderão:
- Reduza o risco sistêmico decorrente de comportamentos autônomos da IA.
- Obtenha visibilidade e controle em tempo real sobre os fluxos de trabalho de agentes de IA.
- Acelere a adoção segura e em conformidade da IA agêntica em escala empresarial.
A F5 está preparada para este momento. Nossas soluções de segurança de IA em tempo de execução unificam testes de intrusão, defesa em tempo real, observabilidade e conformidade em uma única plataforma, proporcionando às empresas a confiança necessária para implantar IA agêntica com segurança e responsabilidade.
Pronto para se alinhar ao AEGIS e proteger o futuro da sua IA? Fale com nossa equipe hoje mesmo.
Sobre o autor
Publicações relacionadas no blog
Segurança de APIs sem concessões: apresentamos novas opções flexíveis de descoberta com F5 API security
As opções ampliadas de descoberta de APIs da F5 foram desenvolvidas para oferecer o máximo de flexibilidade e atender às organizações onde quer que estejam.
Governe sua IA no presente e antecipe o futuro da sua IA
Aprenda com nosso CISO de campo, Chuck Herrin, como se preparar para o novo desafio de proteger modelos e agentes de IA.
Segurança de IA para a cadeia de suprimentos
As cadeias de suprimentos são cada vez mais impulsionadas pela IA — desde a previsão de demanda e o planejamento logístico até a análise de riscos de fornecedores e a gestão de estoque em tempo real. Essas ferramentas ajudam as empresas a reduzir custos, aumentar a resiliência e se adaptar a disrupções globais. No entanto, elas também criam novos riscos em um vasto ecossistema: nossas soluções de segurança de IA em tempo de execução protegem o setor de Cadeia de Suprimentos […]
Segurança de IA para Recursos Humanos
A IA está revolucionando o RH. As empresas estão implementando copilotos de recrutamento com IA, assistentes de integração, chatbots de suporte aos funcionários e ferramentas de análise da força de trabalho para reduzir custos e melhorar a experiência dos colaboradores. No entanto, as aplicações de RH também apresentam riscos específicos que podem expor as organizações a falhas de conformidade, alegações de viés e danos à reputação: nossas soluções de segurança de IA em tempo de execução protegem o setor de RH com […]
Equilibrando o desempenho da IA e a gestão de recursos
As organizações dependem cada vez mais de ferramentas e iniciativas de IA para impulsionar a inovação e a transformação. Cada avanço incremental na sofisticação das ferramentas de IA torna o equilíbrio entre desempenho e gestão de recursos um desafio maior e mais relevante para as equipes de TI e segurança. No entanto, esse equilíbrio é essencial para maximizar o ROI, garantir a segurança e manter a eficiência em toda a […]
Integração de APIs em IA: a base técnica
A integração de APIs é um canal essencial no ecossistema de IA, por meio do qual diferentes sistemas, plataformas e aplicações interagem. Analisamos as nuances técnicas da integração de APIs em IA, com ênfase em sua importância para aprimorar a eficiência e os recursos dos sistemas de IA. As APIs permitem a troca fluida de dados e funcionalidades entre diferentes soluções de IA […]