Quando as organizações começam a integrar a inteligência artificial generativa (GenAI) aos seus fluxos de trabalho, é natural que surjam preocupações com o conteúdo gerado pelos modelos de IA, bem como com os riscos reais e potenciais associados ao uso dessa tecnologia ainda recente. Alguns fornecedores lidam com essas preocupações promovendo ferramentas de segurança que bloqueiam de forma agressiva absolutamente tudo o que possa ser minimamente questionável em um prompt enviado a um modelo ou em uma resposta gerada por ele. Mas a realidade é a seguinte: Essa é uma péssima ideia.
Bloquear todo o conteúdo que não atenda a um padrão rígido e universal pode parecer uma boa ideia na teoria, mas, na prática, é extremamente inviável — e muitas vezes prejudicial. Por quê? Porque as organizações são diferentes. O que uma empresa considera “arriscado” ou “inaceitável” pode ser conteúdo rotineiro, dados valiosos ou informações essenciais para outra. Depender de fornecedores para determinar o que seus funcionários podem acessar ou com que podem interagir gera atritos e frustrações desnecessários.
O problema da filtragem excessiva
Pense no seguinte: alguns filtros de conteúdo bloqueiam assuntos que identificaram como “estranhos” ou “inadequados” porque se concentram apenas em palavras-chave, em vez de incluir contexto ou expressões regulares (RegEx) em seus algoritmos. Isso significa que um prompt de IA será bloqueado desnecessariamente quando contiver informações relevantes, mas mal formuladas, ou até mesmo abordar um assunto totalmente seguro que não se encaixe nos parâmetros restritos definidos pelo fornecedor terceirizado. É como tentar assistir a um filme não recomendado para menores de 13 anos depois que as crianças já foram dormir e descobrir que você não consegue passar pelo controle parental porque não tem a senha.
Frustrante, não é? Portanto, quando o prompt de um funcionário é bloqueado, a equipe de TI precisa voltar ao fornecedor e, de chapéu na mão, pedir que o filtro seja adaptado ou flexibilizado. No entanto, muitas dessas ferramentas não foram desenvolvidas para permitir ajustes e exigem uma solução alternativa improvisada. E, se isso acontecer várias vezes por dia ou por semana, todas essas correções improvisadas podem facilmente acabar criando um problema muito maior para a empresa cliente, como costuma ocorrer com soluções feitas às pressas. Por exemplo, funcionários de uma organização da área da saúde provavelmente criarão com frequência prompts relacionados a partes do corpo, o que não é apenas aceitável, mas necessário. Bloquear esses termos seria um grande problema. (Mas, se um funcionário de uma empresa de contabilidade for bloqueado após incluir os mesmos termos em um prompt, o filtro estará funcionando como deveria.)
Agora, pense em como essa dor de cabeça constante com prompts bloqueados e ligações para o fornecedor afeta o ambiente empresarial: os recursos de TI são desviados das atividades planejadas, e pessoas e projetos são obrigados a lidar com atrasos desnecessários. Talvez um projeto fique paralisado em um momento crítico, a produtividade seja interrompida e esse atraso se transforme em perda de receita enquanto você aguarda uma alteração não prevista no escopo por parte do fornecedor. E o que o fornecedor costuma sugerir? Normalmente, ele quer desativar completamente o filtro enquanto busca uma solução rápida. Mas isso é arriscado, pois, ao remover o filtro, você permite a passagem de todo o conteúdo indesejado que o sistema deveria bloquear. Tudo porque ele gera falsos positivos em excesso. Este é um caso clássico de buscar a perfeição em detrimento do progresso.
A importância da flexibilidade e da precisão
Cada empresa tem seu próprio apetite ao risco, sua própria cultura e suas próprias necessidades de informação. Então, por que um fornecedor terceirizado deveria impor regras genéricas que restrinjam seu acesso a dados críticos? Pior ainda, por que ele deveria decidir o que sua equipe pode ou não visualizar — especialmente sem conhecer as particularidades do seu negócio ou os motivos pelos quais você precisa de determinadas informações? Francamente, isso não é apenas presunçoso, mas também uma violação da sua autonomia operacional.
Na F5, adotamos uma estratégia diferente, talvez até controversa: Ajudamos nossos clientes a avançar rumo à precisão. Em vez de buscar a perfeição por meio de uma filtragem excessivamente rigorosa, adotamos uma abordagem mais equilibrada. Nossa solução foi projetada para identificar 80% do conteúdo que a maioria das empresas concordaria que não deveria entrar nem sair de seus sistemas. Esse é o ponto de partida: proteção robusta, atrito mínimo. Mas é aqui que as coisas ficam interessantes: O cliente decide o que acontece com os outros 20%. Isso mesmo. Deixamos que você defina o que deve ou não ser bloqueado com base em suas necessidades específicas, casos de uso e tolerância a riscos. Nada de filtros rígidos impostos por terceiros. Nada de implorar aos fornecedores por ajustes pontuais. Você está no controle.
Sob medida para o seu negócio
Cada organização é diferente. À medida que sua empresa evolui, seja por meio de fusões, aquisições, desinvestimentos ou simplesmente pelo avanço natural dos projetos, seus filtros de conteúdo também precisarão mudar. O F5 AI Guardrails oferece essa flexibilidade. Você pode criar e modificar verificadores personalizados a qualquer momento. Seja para atualizar um filtro a fim de contemplar uma nova linha de produtos, ampliar as permissões de conteúdo à medida que sua base de clientes cresce ou ajustar as restrições de acordo com as mudanças na cultura da empresa, nossa plataforma se adapta às suas necessidades. No fim das contas, não há motivo para ficar preso a filtros estáticos e imutáveis que não refletem sua realidade atual. Você não precisa que um fornecedor decida o que é melhor para sua organização. Você precisa de uma solução que permita à sua equipe obter as informações necessárias sem colocá-la em risco nem censurar dados valiosos.
O desafio
Então, lançamos um desafio a você: Não se deixe levar pelo entusiasmo exagerado nem pelas limitações que alguns fornecedores apresentam como “recursos”. Os filtros rígidos e excessivamente sensíveis desses fornecedores estão impedindo seu avanço. Em vez disso, experimente a F5. Crie seus próprios scanners personalizados, adaptados às suas necessidades. Nossas soluções de segurança de IA em tempo de execução não censuram, não bloqueiam em excesso nem deixam você esperando pela aprovação do fornecedor. Elas dão a você o poder de obter exatamente o que precisa — nem mais, nem menos. Isso significa que sua segurança estará à altura das ameaças que você enfrenta. Quando você estiver pronto para assumir o controle de suas soluções de GenAI, estaremos prontos para ajudar.
Publicações relacionadas no blog
Segurança de APIs sem concessões: apresentamos novas opções flexíveis de descoberta com F5 API security
As opções ampliadas de descoberta de APIs da F5 foram desenvolvidas para oferecer o máximo de flexibilidade e atender às organizações onde quer que estejam.
Governe sua IA no presente e antecipe o futuro da sua IA
Aprenda com nosso CISO de campo, Chuck Herrin, como se preparar para o novo desafio de proteger modelos e agentes de IA.
Segurança de IA para a cadeia de suprimentos
As cadeias de suprimentos são cada vez mais impulsionadas pela IA — desde a previsão de demanda e o planejamento logístico até a análise de riscos de fornecedores e a gestão de estoque em tempo real. Essas ferramentas ajudam as empresas a reduzir custos, aumentar a resiliência e se adaptar a disrupções globais. No entanto, elas também criam novos riscos em um vasto ecossistema: nossas soluções de segurança de IA em tempo de execução protegem o setor de Cadeia de Suprimentos […]
Segurança de IA para Recursos Humanos
A IA está revolucionando o RH. As empresas estão implementando copilotos de recrutamento com IA, assistentes de integração, chatbots de suporte aos funcionários e ferramentas de análise da força de trabalho para reduzir custos e melhorar a experiência dos colaboradores. No entanto, as aplicações de RH também apresentam riscos específicos que podem expor as organizações a falhas de conformidade, alegações de viés e danos à reputação: nossas soluções de segurança de IA em tempo de execução protegem o setor de RH com […]
Equilibrando o desempenho da IA e a gestão de recursos
As organizações dependem cada vez mais de ferramentas e iniciativas de IA para impulsionar a inovação e a transformação. Cada avanço incremental na sofisticação das ferramentas de IA torna o equilíbrio entre desempenho e gestão de recursos um desafio maior e mais relevante para as equipes de TI e segurança. No entanto, esse equilíbrio é essencial para maximizar o ROI, garantir a segurança e manter a eficiência em toda a […]
Integração de APIs em IA: a base técnica
A integração de APIs é um canal essencial no ecossistema de IA, por meio do qual diferentes sistemas, plataformas e aplicações interagem. Analisamos as nuances técnicas da integração de APIs em IA, com ênfase em sua importância para aprimorar a eficiência e os recursos dos sistemas de IA. As APIs permitem a troca fluida de dados e funcionalidades entre diferentes soluções de IA […]