Expandindo a IA responsável com F5 AI Guardrails e F5 Red Team

F5 ADSP | 04 de dezembro de 2025

A F5 anunciou recentemente dois novos produtos de segurança de IA, F5 AI Guardrails e F5 AI Red Team. Esse anúncio ocorre em um momento crucial, em que os órgãos reguladores do setor estão fiscalizando cada vez mais o uso da IA na prestação de serviços aos consumidores.

Embora existam algumas regulamentações específicas para IA, como a amplamente divulgada Lei de IA da União Europeia, os órgãos reguladores de muitas jurisdições estão usando os marcos regulatórios existentes para garantir que as empresas utilizem a IA de forma responsável. Assim, mesmo em jurisdições onde não há regulamentações específicas para IA, as empresas ainda costumam enfrentar uma carga elevada de exigências de conformidade para colocar em operação inovações em IA em suas pilhas de tecnologia. Além disso, muitos modelos, incluindo os grandes modelos de linguagem (LLMs), funcionam como caixas-pretas, o que torna seu uso mais desafiador diante das obrigações das empresas de cumprir requisitos de equidade, transparência e explicabilidade.

F5 AI Guardrails e AI Red Team, as mais recentes adições à F5 Application Delivery and Security Platform (ADSP), oferecem controles robustos de conformidade que ajudam as empresas a compreender e correlacionar melhor as entradas e saídas dos modelos de IA, eliminar vieses e fortalecer a supervisão humana.

Tudo isso pode acontecer em poucos cliques, transformando esses insights em defesas ativas que mantêm os modelos alinhados às obrigações de conformidade da organização e aos padrões internos para o uso responsável e ético da IA. Para as empresas que estão adiando suas implantações de IA devido a fatores de risco jurídico ou regulatório, isso representa um avanço revolucionário.

Simplifique e mitigue os fatores de risco dos modelos de IA em qualquer caso de uso

Os recursos do F5 AI Guardrails são fundamentais para ajudar as organizações a aprimorar suas estratégias de governança de IA, essenciais sempre que a IA tem impacto direto na vida das pessoas. Considere, por exemplo, instituições financeiras que desejam usar IA para processar solicitações de empréstimo. Essas instituições podem ficar expostas a riscos sempre que a IA negar um empréstimo que um avaliador humano teria aprovado; o desafio, porém, é que existem pouquíssimas ferramentas adequadas para entender por que um modelo negaria um empréstimo. Mesmo com testes rigorosos do modelo antes de seu uso, a falta de explicabilidade impede o atendimento às exigências regulatórias e aos requisitos de transparência da própria organização.

“Para as empresas que estão adiando a implantação de IA devido a fatores de risco jurídico ou regulatório, este é um avanço revolucionário.”

Inicialmente, ao implantar um modelo de IA, as organizações buscam testá-lo e validá-lo rigorosamente para garantir que ele não saia do controle, divulgando informações confidenciais, reproduzindo vieses ou gerando decisões injustas pelas quais a empresa possa ser responsabilizada legalmente.

O F5 AI Red Team oferece testes abrangentes e estratégicos de sistemas de IA: testes adversariais automatizados de sistemas em escala para identificar comportamentos e vulnerabilidades tanto evidentes quanto difíceis de detectar, proporcionando às equipes uma visão completa de todos os riscos. Esses recursos de simulação de ataques são alimentados por um banco de dados líder do setor, ao qual são adicionados mais de 10.000 novos prompts de ataque por mês. As empresas também podem criar seus próprios testes para garantir a consistência dos comportamentos à medida que os modelos são atualizados. Esse trabalho ajuda as equipes a garantir que os modelos se comportem conforme o esperado e fornece subsídios para aprimorar e adaptar suas estratégias de segurança de dados, gestão de ameaças e governança, mantendo-se à frente dos riscos emergentes.

Com o F5 AI Guardrails, as organizações podem correlacionar prompts e respostas, configurar alertas para determinados volumes de prompts com base no assunto e encaminhar prompts críticos para avaliação e correção. A solução fornece as ferramentas de supervisão humana e manutenção de registros de que as equipes de governança de IA precisam.

O F5 AI Red Team oferece tanto uma visão geral dos motivos pelos quais um modelo se comporta de determinada maneira quanto uma visão detalhada que ajuda a explicar quais características ou tokens de um prompt tiveram maior influência na obtenção de uma determinada inferência. Retomando o exemplo dos serviços financeiros, uma empresa pode usar os recursos do AI Red Team para identificar quais dados de uma solicitação de empréstimo tiveram maior impacto na inferência ou no resultado de um modelo e em quais fontes de dados específicas ele mais se baseou para tomar decisões. Com isso, as organizações terão mais pontos de dados para mapear o funcionamento de um modelo, identificar características com peso excessivo ou insuficiente e fornecer feedback para novos treinamentos ou ajustes finos. Elas também podem gerar rapidamente documentação para apoiar as iniciativas de auditoria e conformidade.

Elimine as barreiras à adoção da IA e acelere a conformidade

A simplicidade é um diferencial importante. Esta solução de apontar e clicar elimina a necessidade de criar ferramentas personalizadas internamente e complementa os demais recursos do F5 ADSP para oferecer testes, monitoramento e ajustes finos ágeis que vão além do mero alinhamento com as normas. As organizações podem acelerar suas iniciativas de IA e a implantação de múltiplos modelos complexos de IA diante dos desafios regulatórios, estabelecendo a privacidade do consumidor e a equidade como pilares de suas próprias ofertas de serviços.

É importante observar que, mesmo em ambientes onde ainda não foram desenvolvidas regulamentações explícitas sobre o uso de IA, os órgãos reguladores estão reinterpretando os marcos legais existentes para aplicá-los aos processos de IA. Retomando o exemplo dos serviços financeiros, os órgãos reguladores estão atualmente avaliando o uso de IA pelas empresas à luz da Lei de Relatórios de Crédito Justos (Fair Credit Reporting Act, FCRA), aprovada originalmente em 1970. O AI Guardrails ajuda as organizações a atender aos requisitos atuais e, ao mesmo tempo, a se preparar melhor para novas regulamentações que possam surgir no futuro.

Acelere a adoção de uma IA em conformidade, transparente e com riscos reduzidos

Com essa aquisição e a ampliação dos recursos da F5 ADSP, as organizações terão o que precisam para superar o problema da caixa-preta da IA e, ao mesmo tempo, demonstrar aos órgãos reguladores sua postura de gestão de riscos e sua governança de dados. Alguns dos casos de uso de IA mais valiosos, antes considerados de alto risco, agora podem ser implementados com as devidas salvaguardas, supervisão humana e ferramentas de explicabilidade. A F5 pode ajudar as organizações a chegar lá mais rapidamente, com uma plataforma abrangente e ferramentas simples projetadas para qualquer ambiente.

Para saber mais, leia nossa publicação anterior no blog.

Compartilhar

Sobre o autor

Tom Johnson
Tom JohnsonConsultor Jurídico Global de Produtos e Privacidade | F5

Mais publicações de Tom Johnson

Publicações relacionadas no blog

Segurança de APIs sem concessões: apresentamos novas opções flexíveis de descoberta com F5 API security
F5 ADSP | 11/03/2026

Segurança de APIs sem concessões: apresentamos novas opções flexíveis de descoberta com F5 API security

As opções ampliadas de descoberta de APIs da F5 foram desenvolvidas para oferecer o máximo de flexibilidade e atender às organizações onde quer que estejam.

Governe sua IA no presente e antecipe o futuro da sua IA
F5 ADSP | 18/12/2025

Governe sua IA no presente e antecipe o futuro da sua IA

Aprenda com nosso CISO de campo, Chuck Herrin, como se preparar para o novo desafio de proteger modelos e agentes de IA.

Segurança de IA para a cadeia de suprimentos
F5 ADSP | 01/01/2025

Segurança de IA para a cadeia de suprimentos

As cadeias de suprimentos são cada vez mais impulsionadas pela IA — desde a previsão de demanda e o planejamento logístico até a análise de riscos de fornecedores e a gestão de estoque em tempo real. Essas ferramentas ajudam as empresas a reduzir custos, aumentar a resiliência e se adaptar a disrupções globais. No entanto, elas também criam novos riscos em um vasto ecossistema: nossas soluções de segurança de IA em tempo de execução protegem o setor de Cadeia de Suprimentos […]

Segurança de IA para Recursos Humanos
F5 ADSP | 01/01/2025

Segurança de IA para Recursos Humanos

A IA está revolucionando o RH. As empresas estão implementando copilotos de recrutamento com IA, assistentes de integração, chatbots de suporte aos funcionários e ferramentas de análise da força de trabalho para reduzir custos e melhorar a experiência dos colaboradores. No entanto, as aplicações de RH também apresentam riscos específicos que podem expor as organizações a falhas de conformidade, alegações de viés e danos à reputação: nossas soluções de segurança de IA em tempo de execução protegem o setor de RH com […]

Equilibrando o desempenho da IA e a gestão de recursos
F5 ADSP | 29/05/2024

Equilibrando o desempenho da IA e a gestão de recursos

As organizações dependem cada vez mais de ferramentas e iniciativas de IA para impulsionar a inovação e a transformação. Cada avanço incremental na sofisticação das ferramentas de IA torna o equilíbrio entre desempenho e gestão de recursos um desafio maior e mais relevante para as equipes de TI e segurança. No entanto, esse equilíbrio é essencial para maximizar o ROI, garantir a segurança e manter a eficiência em toda a […]

Integração de APIs em IA: a base técnica
F5 ADSP | 10/04/2024

Integração de APIs em IA: a base técnica

A integração de APIs é um canal essencial no ecossistema de IA, por meio do qual diferentes sistemas, plataformas e aplicações interagem. Analisamos as nuances técnicas da integração de APIs em IA, com ênfase em sua importância para aprimorar a eficiência e os recursos dos sistemas de IA. As APIs permitem a troca fluida de dados e funcionalidades entre diferentes soluções de IA […]