Líder em tecnologia para gestão da força de trabalho protege a IA em escala com a F5

Um provedor global de tecnologia para gestão da força de trabalho precisava de uma governança de IA rigorosa em dezenas de equipes internas de produtos antes de poder ampliar com segurança os serviços habilitados por IA. O F5 AI Guardrails proporcionou à área de segurança da empresa a visibilidade e o controle necessários para avançar de alguns poucos casos de uso em produção rumo à adoção em toda a organização.

Desafio de negócios

Grandes fornecedores de tecnologia empresarial enfrentam uma versão mais complexa de um problema conhecido: precisam avançar rapidamente com a IA, mas uma única exposição de dados tratada de forma inadequada pode acarretar consequências regulatórias e reputacionais catastróficas. Isso é especialmente relevante para empresas que gerenciam dados confidenciais da força de trabalho em nome de centenas de milhares de organizações clientes.

Um dos maiores fornecedores mundiais de soluções de gestão de capital humano e tecnologia para a força de trabalho se viu exatamente nessa situação. O programa interno de IA havia crescido rapidamente, com mais de 50 equipes de produto desenvolvendo ferramentas e serviços habilitados por IA. Com dezenas de aplicações de IA já em produção, o planejamento previa centenas de outras. O ritmo de crescimento pressionava a governança: uma única equipe era responsável por analisar e aprovar cada aplicação de IA antes que ela entrasse em produção para uso em toda a empresa. Era necessário um método consistente para comprovar que todas as aplicações eram seguras para operar em escala.

Um líder sênior de segurança tinha a responsabilidade de governar a IA em todas as equipes de produto, respondendo aos principais executivos de tecnologia e privacidade da empresa. Esse modelo de governança conferiu rigor ao programa, mas também significava que qualquer solução de segurança de IA precisaria atender a uma ampla gama de partes interessadas e resistir ao escrutínio da alta liderança.

A empresa precisava de uma forma de proteger tanto o tráfego de entrada quanto o de saída de IA, incluindo informações e prompts enviados por funcionários e sistemas aos modelos de IA, bem como os resultados retornados pelos modelos. Essa proteção precisava ser implementada sem prejudicar o desempenho das dezenas de equipes de produto que já desenvolviam soluções com base na infraestrutura e nos aplicativos de IA existentes. A solução precisava operar de forma confiável, ser executada na infraestrutura existente da empresa, integrar-se a outras ferramentas de segurança e ser escalável para lidar com o volume de tráfego de uma empresa global.

Soluções

A empresa escolheu o F5 AI Guardrails, hospedado internamente no próprio ambiente de nuvem da empresa e integrado diretamente à camada interna de middleware que direciona todo o tráfego de IA entre as equipes de produto. Mediante solicitação, a F5 também desenvolveu recursos de detecção personalizados para adequar a solução ao ambiente de implantação. Esses recursos incluíam a detecção de tentativas de extrair prompts, manipular o modelo ou ofuscar ou alterar dados para evitar a verificação padrão. Com a solução implementada, cada prompt enviado a um modelo de IA e cada resposta retornada são verificados em linha e bidirecionalmente.

Resultados

Proteja dados confidenciais em todas as interações com IA

O AI Guardrails verifica prompts e respostas em linha e em tempo real em todo o tráfego encaminhado por cada equipe de produto por meio da camada de middleware de IA da empresa. Isso proporciona à equipe de segurança visibilidade sobre os dois lados de cada interação com a IA.

Cada equipe de produto pode configurar a segurança de forma independente, bloqueando violações de políticas em tempo real, auditando atividades sem bloqueá-las ou ignorando as verificações quando apropriado. Um “botão de emergência” para toda a plataforma oferece à equipe de segurança um ponto único de controle em caso de incidente. Os resultados são enviados automaticamente para o sistema de gerenciamento de eventos e informações de segurança (SIEM) já utilizado pela empresa, proporcionando à equipe de segurança visibilidade total das atividades de IA juntamente com todos os outros sinais de segurança que ela já monitora, sem exigir a adoção de uma ferramenta separada e desconectada.

Amplie facilmente a adoção de IA com confiança

A empresa começou com cerca de 10 aplicações de IA em produção. As dúvidas iniciais sobre o desempenho foram rapidamente esclarecidas, e a solução permaneceu estável sob cargas reais de produção e o acompanhamento atento da alta liderança. Todos os prazos foram cumpridos sem interromper os fluxos de trabalho em andamento.

A empresa agora está trabalhando para viabilizar centenas de casos de uso em mais de 50 grupos de produtos. Com uma arquitetura de segurança já comprovada em escala, a equipe de governança da empresa pode analisar e aprovar novos casos de uso de IA com mais rapidez, oferecendo às equipes globais de produtos um caminho mais claro e consistente até a produção. O AI Guardrails impulsiona esse crescimento dentro de um cronograma agressivo, definido pela liderança executiva, ampliando a capacidade à medida que a adoção acelera.

Fortaleça a governança e simplifique a conformidade

Os relatórios centralizados fornecem à empresa uma trilha de auditoria robusta para atender aos padrões de conformidade. Ao longo de uma série de análises executivas e de governança, o AI Guardrails forneceu as evidências necessárias para demonstrar que os sistemas estavam sendo monitorados e controlados de forma consistente. Essa visibilidade ajudou a transformar a governança, antes um obstáculo, em um processo replicável e defensável, que contava com o respaldo da liderança em todos os níveis.

Garanta confiabilidade e resiliência operacional

Depois que as dúvidas iniciais sobre o desempenho foram resolvidas por meio de uma colaboração direta e prática com especialistas da F5, o AI Guardrails se tornou um dos componentes mais confiáveis da estrutura de segurança da empresa.

O líder da plataforma de IA da empresa afirma: “A solução da F5 é tão confiável e estável que meio que esquecemos que vocês existem… e esse é o cenário ideal para nós quando se trata de fornecedores de segurança.”

Com o desempenho do AI Guardrails comprovado em escala, a empresa agora está avaliando outros recursos da F5 AI Security Platform, incluindo red teaming e remediação, para estender essa mesma confiança a um conjunto mais amplo de riscos de IA.