As empresas estão descobrindo que proteger a IA exige soluções desenvolvidas especificamente para essa finalidade. Os controles tradicionais enfrentam dificuldades quando os modelos se comportam de forma dinâmica, os agentes atuam de maneira autônoma e os riscos evoluem rapidamente após a implantação. Agora que a IA generativa está sendo usada ativamente em ambientes de produção, líderes de segurança, riscos e governança precisam gerenciar ameaças que surgem em tempo real, muitas vezes fora do alcance das abordagens tradicionais de segurança de aplicações.
As pesquisas de analistas refletem essa mudança, oferecendo diferentes perspectivas sobre como as organizações devem adaptar suas estratégias de segurança para sistemas habilitados por IA. Em vez de apresentar essas perspectivas como um único ponto de consenso, este artigo analisa como diferentes estruturas de análise da Gartner, Forrester e KuppingerCole abordam os riscos de IA e como as organizações podem traduzir essas perspectivas em mecanismos de proteção em tempo de execução e exercícios de red teaming específicos para IA.
Risco de IA em tempo de execução
Em diversos estudos de analistas, uma realidade está cada vez mais clara: o risco associado à IA é dinâmico. Diferentemente das aplicações tradicionais, os sistemas de IA podem mudar de comportamento com base em prompts, contexto e integrações com sistemas subsequentes, o que cria novos vetores de ataque muito tempo após a implantação.
Embora diferentes analistas abordem o desafio de maneiras distintas, suas pesquisas destacam aspectos recorrentes que devem ser considerados pelas empresas ao implementar IA em larga escala:
- Muitas ameaças de IA se concretizam durante o uso em produção
- As salvaguardas dos provedores de modelos, por si só, são insuficientes para a governança empresarial
- A supervisão exige visibilidade, rastreabilidade e aplicação contínuas
- Os testes devem evoluir para refletir ataques agênticos, adaptativos e em várias etapas
Essas condições levaram as principais pesquisas a abranger controles de segurança que operam em tempo de execução, quando os sistemas de IA interagem com usuários, dados e fluxos de trabalho empresariais. É também por isso que estamos apresentando oficialmente F5 AI Guardrails e F5 AI Red Team como duas novas soluções da F5 Application Delivery and Security Platform (ADSP) desenvolvidas para proteger sistemas corporativos de IA em tempo de execução.
Guia de Mercado Gartner® para Gestão de Confiança, Riscos e Segurança em IA
Em seu Guia de Mercado para Gestão de Confiança, Riscos e Segurança em IA, a Gartner afirma: “Os líderes de IA devem trabalhar com as partes interessadas de toda a organização para gerenciar a confiança, os riscos e a segurança da IA. Eles devem estabelecer uma estrutura organizacional para criar e atualizar políticas de governança de IA generativa (gAI), bem como avaliar e implementar tecnologias de gestão de confiança, riscos e segurança em IA (AI TRiSM) que viabilizem e apliquem essas políticas. Isso ajudará a organização a garantir sistematicamente um uso da IA mais seguro, confiável e protegido.”
Nossa visão sobre isso, e o motivo pelo qual consideramos o TRiSM uma das principais referências para programas de segurança de IA, deve-se à forma como ele trata os sistemas de IA como ativos operacionais contínuos que exigem supervisão constante, e não uma validação pontual. Além disso, um componente central da estrutura TRiSM é a inspeção e a aplicação de políticas em tempo de execução, que o Gartner define como:
"Aplicado a modelos, aplicações e interações de agentes para promover o alinhamento transacional com as políticas de governança organizacional. As conexões, os processos, as comunicações, as entradas e as saídas pertinentes são inspecionados em busca de violações de políticas e de comportamentos esperados. As anomalias são sinalizadas e bloqueadas, corrigidas automaticamente ou encaminhadas a pessoas ou sistemas de resposta a incidentes para investigação, triagem, resposta e correção cabível."
Acreditamos que essa descrição está bastante alinhada à abordagem da F5 para a segurança de IA em tempo de execução. Por meio do F5 AI Guardrails, a F5 se concentra em inspecionar e aplicar políticas durante interações de IA em tempo real — em modelos, aplicações e fluxos de trabalho de agentes — ajudando as organizações a implementar controles de governança onde os sistemas de IA realmente operam.*
Forrester: Definição de red teaming e proteções de IA em um modelo de garantia contínua
Diversas pesquisas da Forrester analisam a segurança da IA sob uma perspectiva operacional, com foco em sistemas que se comportam de forma autônoma e evoluem ao longo do tempo. Em vez de enfatizar avaliações pontuais, entendemos que o trabalho da Forrester explora como as organizações mantêm a supervisão e a garantia à medida que os sistemas de IA operam em ambientes dinâmicos.
Em sua pesquisa Use o red teaming de IA para avaliar a postura de segurança de aplicações habilitadas por IA,[i] a Forrester define as avaliações de red teaming de IA da seguinte forma:
"Uma avaliação de red team de IA combina conceitos tradicionais de red team de segurança cibernética com aspectos de segurança, toxicidade e danos específicos da inteligência artificial. As iniciativas de red team de IA devem combinar participantes humanos realizando testes de segurança cibernética na pilha tecnológica que dá suporte à IA — incluindo infraestrutura, aplicações, APIs, modificações na IA, como a geração aumentada por recuperação (RAG), e um modelo de linguagem de grande escala subjacente — com testes automatizados que utilizem IA para avaliar a segurança e a proteção dos prompts."
Essa definição reflete o tipo de teste adversarial específico para IA realizado pela F5 AI Red Team. Ao estruturar as iniciativas de red team dessa forma, constatamos que esta pesquisa enfatiza a necessidade de testes eficazes que levem em conta como a IA é incorporada e operada em sistemas reais, em vez de ser avaliada isoladamente.
Paralelamente, Apresentação do framework AEGIS da Forrester: Guardrails empresariais de IA agêntica para segurança da informação,[ii] afirma que “estabelecer Guardrails empresariais é fundamental para uma implantação segura”. A F5 apoia essa abordagem, permitindo que as organizações utilizem Guardrails de IA como mecanismos aplicados durante a operação do sistema para viabilizar a supervisão e a aplicação de políticas, especialmente quando os sistemas de IA interagem diretamente com usuários, dados confidenciais e aplicações conectadas.
Nessas áreas de pesquisa, nossa conclusão é clara: a Forrester apresenta as proteções e o red teaming como práticas distintas, porém relacionadas, que podem ser usadas em uma abordagem de garantia contínua da segurança da IA, enfatizando a supervisão contínua em vez de uma validação pontual.**
KuppingerCole: Reconhecendo a defesa de IA generativa como uma categoria de mercado distinta
Em seu Generative AI Defense Leadership Compass, a KuppingerCole analisa a defesa de IA generativa como uma disciplina emergente, com requisitos que vão além dos controles tradicionais de segurança de aplicações e dados. Para isso, avalia como as organizações estão lidando com os riscos introduzidos por grandes modelos de linguagem e aplicações baseadas em IA em ambientes de produção.
Uma das principais recomendações do relatório é a necessidade de controles de segurança que atuem onde os sistemas de IA são efetivamente utilizados, a fim de viabilizar proteção em tempo real, aplicação de políticas e auditabilidade em diferentes modelos de implantação. Em vez de se concentrar apenas no desenvolvimento de modelos ou nas salvaguardas oferecidas pelos provedores, essa análise reflete a crescente atenção à proteção das interações com a IA após a implantação dos sistemas e sua conexão com usuários, aplicações e dados confidenciais.
Como este Leadership Compass serve como um guia de mercado para ajudar as organizações a encontrar as melhores soluções, após avaliar nossos produtos AI Guardrails e AI Red Team, a KuppingerCole posicionou a F5 como líder nas categorias Produto, Inovação e Mercado. Conforme definido no relatório, esse posicionamento destaca os “produtos de ponta da F5, desenvolvidos não apenas em resposta às solicitações dos clientes, mas também por impulsionarem mudanças técnicas no mercado ao antecipar o que será necessário nos próximos meses e anos”.***
Transformando as perspectivas dos analistas em prática
Embora Gartner, Forrester e KuppingerCole abordem a segurança de IA sob diferentes perspectivas analíticas, suas pesquisas revelam desafios práticos que as empresas estão trabalhando ativamente para solucionar, incluindo:
- Aplicar políticas de forma consistente durante as interações com IA
- Compreender a exposição à IA no mundo real antes que ocorram incidentes
- Manter a supervisão à medida que os sistemas de IA evoluem e ganham escala
É nesse ponto que F5 AI Guardrails e F5 AI Red Team se inserem no cenário mais amplo. O AI Guardrails aplica controles em tempo de execução para ajudar a gerenciar o comportamento da IA em produção, enquanto o AI Red Team permite realizar testes adversariais desenvolvidos para refletir padrões de uso e de ataque do mundo real.
(Observação: esse alinhamento não deve ser interpretado como um endosso por parte dos analistas. Na verdade, ele reflete como os recursos de segurança de IA em tempo de execução da F5 correspondem aos tipos de controle e aos modelos operacionais descritos em pesquisas de analistas.)
Protegendo e otimizando investimentos em IA
À medida que os sistemas de IA se tornam mais autônomos e essenciais para os negócios, os riscos associados à segurança inadequada vão além de violações e passam a incluir exposição a problemas de conformidade, danos à reputação e estagnação da inovação. Estruturas de analistas — do Gartner TRiSM ao trabalho da Forrester sobre o AEGIS e às pesquisas da KuppingerCole sobre defesa de IA generativa — demonstram por que as proteções em tempo de execução e os testes de intrusão em IA estão se tornando cada vez mais centrais para as estratégias corporativas de segurança de IA.
Em termos simples, as soluções de segurança de IA em tempo de execução da F5 ajudam as organizações a aplicar esses insights na prática, promovendo a adoção segura da IA e preservando a flexibilidade necessária para inovar.
Para saber mais, confira nossas páginas sobre F5 AI Guardrails e F5 AI Red Team .
Isenções de responsabilidade dos analistas
*Fonte: Relatório da Gartner, Guia de Mercado para Confiança, Risco e Gestão de Segurança em IA, por Avivah Litan, Max Goss et al., fevereiro de 2025. GARTNER é uma marca comercial e marca de serviço registrada da Gartner, Inc. e/ou de suas afiliadas nos EUA e internacionalmente, e é usada neste documento com permissão. Todos os direitos reservados.
**A Forrester Research não endossa nenhuma empresa, produto ou serviço. Esta discussão reflete uma interpretação de pesquisas da Forrester disponíveis publicamente e é fornecida apenas para fins informativos.
***A KuppingerCole não endossa nenhum fornecedor, produto ou serviço. Esta discussão reflete pesquisas licenciadas da KuppingerCole e é fornecida apenas para fins informativos.
[i] Use o red teaming de IA para avaliar a postura de segurança de aplicações habilitadas por IA, Forrester Research Inc., 29 de setembro de 2025
[ii] Apresentando o framework AEGIS da Forrester: Guardrails empresariais de IA agêntica para segurança da informação, Forrester Research, Inc., 3 de agosto de 2025
Sobre o autor
Publicações relacionadas no blog
Segurança de APIs sem concessões: apresentamos novas opções flexíveis de descoberta com F5 API security
As opções ampliadas de descoberta de APIs da F5 foram desenvolvidas para oferecer o máximo de flexibilidade e atender às organizações onde quer que estejam.
Governe sua IA no presente e antecipe o futuro da sua IA
Aprenda com nosso CISO de campo, Chuck Herrin, como se preparar para o novo desafio de proteger modelos e agentes de IA.
Segurança de IA para a cadeia de suprimentos
As cadeias de suprimentos são cada vez mais impulsionadas pela IA — desde a previsão de demanda e o planejamento logístico até a análise de riscos de fornecedores e a gestão de estoque em tempo real. Essas ferramentas ajudam as empresas a reduzir custos, aumentar a resiliência e se adaptar a disrupções globais. No entanto, elas também criam novos riscos em um vasto ecossistema: nossas soluções de segurança de IA em tempo de execução protegem o setor de Cadeia de Suprimentos […]
Segurança de IA para Recursos Humanos
A IA está revolucionando o RH. As empresas estão implementando copilotos de recrutamento com IA, assistentes de integração, chatbots de suporte aos funcionários e ferramentas de análise da força de trabalho para reduzir custos e melhorar a experiência dos colaboradores. No entanto, as aplicações de RH também apresentam riscos específicos que podem expor as organizações a falhas de conformidade, alegações de viés e danos à reputação: nossas soluções de segurança de IA em tempo de execução protegem o setor de RH com […]
Equilibrando o desempenho da IA e a gestão de recursos
As organizações dependem cada vez mais de ferramentas e iniciativas de IA para impulsionar a inovação e a transformação. Cada avanço incremental na sofisticação das ferramentas de IA torna o equilíbrio entre desempenho e gestão de recursos um desafio maior e mais relevante para as equipes de TI e segurança. No entanto, esse equilíbrio é essencial para maximizar o ROI, garantir a segurança e manter a eficiência em toda a […]
Integração de APIs em IA: a base técnica
A integração de APIs é um canal essencial no ecossistema de IA, por meio do qual diferentes sistemas, plataformas e aplicações interagem. Analisamos as nuances técnicas da integração de APIs em IA, com ênfase em sua importância para aprimorar a eficiência e os recursos dos sistemas de IA. As APIs permitem a troca fluida de dados e funcionalidades entre diferentes soluções de IA […]