Nos últimos dois anos, vimos centenas de milhões de pessoas adotarem tecnologias de IA. Do ChatGPT ao Gemini, essas ferramentas passaram a fazer parte do fluxo de trabalho diário de muitos profissionais, inclusive do meu. Como engenheiro, pude vivenciar em primeira mão o aumento significativo de produtividade proporcionado pelo uso de Grandes Modelos de Linguagem (LLMs) em tarefas como compreender novas bibliotecas, decifrar declarações complexas de Typescript e resumir as melhores práticas de diversas tecnologias.
Embora eu sinta muita falta do StackOverflow, não consigo deixar de adorar o fato de agora ter um assistente prestativo e simpático, que sempre parece me indicar o caminho certo, independentemente das diversas imperfeições ou ambiguidades nas minhas perguntas ou solicitações. Os LLMs parecem seguir magicamente a regra fundamental de começar tentando responder à pergunta feita e, em seguida, acrescentar comentários ou orientações adicionais.
O desafio da adoção da IA
Aqui na F5 Workforce AI Security, anteriormente chamada SurepathAI, assim como em outras empresas com forte domínio de tecnologia, integramos profundamente a IA a diversos fluxos de trabalho. Temos um interesse genuíno em entender melhor o que a IA acerta, erra e afirma incorretamente com confiança. No entanto, muitas empresas estão apenas começando a considerar o possível alcance e impacto da IA em suas próprias redes. Profissionais e gestores de TI sabem que os funcionários estão usando essas ferramentas, mas não sabem quais delas estão realmente em uso. Em resumo, eles não têm uma visibilidade significativa sobre:
- Quem usa IA, com que frequência e para quais tarefas
- Quais informações eles compartilham e com quais LLMs
- Os possíveis riscos que essas interações representam
Abordagens comuns que não funcionam
Em resposta às preocupações com esse tipo específico de vazamento de dados, uma primeira medida comum para muitas empresas é redigir um comunicado solicitando gentilmente que os funcionários tenham cuidado com o que enviam aos LLMs e descrevendo, em tópicos bem-intencionados, quais informações são consideradas confidenciais, constituem propriedade intelectual ou, por outros motivos, não devem ser compartilhadas.
No outro extremo, algumas empresas temem a natureza de caixa-preta da IA e decidem começar com uma política de tolerância zero, proibindo rigorosamente qualquer uso.
Ambas as abordagens fracassam devido à falta de visibilidade real sobre os padrões efetivos de uso. Sem dados concretos de telemetria, não há como saber se os funcionários estão seguindo as diretrizes nem em que medida a produtividade é afetada. Muitas vezes, os funcionários ignoram ou interpretam mal as diretrizes e, por vezes, concluem que os benefícios superam os riscos percebidos. A natureza aparentemente privada das interações com a IA agrava esse problema, pois os usuários podem compartilhar informações confidenciais sem perceber. É muito fácil enviar algo pessoal ou sigiloso quando se tem a impressão de que há pouco ou nenhum risco envolvido.
Por que a visibilidade é importante
Em vez de adotar uma abordagem permissiva ou rigorosa demais, dar visibilidade ao uso da IA permite que as empresas tomem decisões fundamentadas e aplicáveis. A visibilidade é fundamental porque permite:
- Avalie os riscos identificando quais serviços de IA estão sendo usados tanto por funcionários individualmente quanto pelos diversos departamentos da sua empresa
- Gere perfis de risco que combinem a definição de funcionários e grupos com o conteúdo, a ação e a intenção das tarefas
- Identifique e localize possíveis vazamentos de dados confidenciais e de propriedade intelectual
- Obtenha insights sobre produtividade identificando casos de uso benéficos e oportunidades para uma adoção mais ampla
- Aprimore as políticas com base nos padrões reais de uso
Na F5 Workforce AI Security, anteriormente chamada SurepathAI, fazemos isso por meio de:
- Integração perfeita com a rede da sua empresa
- Fornecendo insights detalhados sobre o uso de IA em toda a sua organização
- Identificação de serviços, usuários e departamentos específicos que utilizam IA
- Análise da intenção, do conteúdo e do risco de cada tarefa
- Geração de perfis de risco bem fundamentados com base no seu uso real e em nosso catálogo de centenas de LLMs e serviços de IA disponíveis publicamente
Rumo à visibilidade e além
Uma rápida análise do nosso catálogo público de serviços revela que 6 em cada 10 serviços usam dados dos usuários para treinamento, incluindo ChatGPT e Gemini, e 4 em cada 10 permitem o uso sem moderação, o que significa que não contam com mecanismos de proteção integrados para impedir que o modelo responda ao receber um prompt considerado perigoso ou mal-intencionado.
Não há dúvida de que desenvolver uma política de uso aceitável de IA é um excelente primeiro passo. À medida que você investe e amplia sua visibilidade, pode fortalecer ainda mais sua postura de segurança tomando decisões bem fundamentadas sobre:
- Quais serviços de IA permitir ou bloquear para cada funcionário e departamento
- Quais tipos de dados confidenciais, tarefas e intenções devem ser classificados por níveis de risco
- Como responder ao detectar interações potencialmente arriscadas
É aí que entra o F5 Workforce AI Security, anteriormente chamado SurepathAI. Em apenas cerca de 20 minutos, podemos conectar a rede da sua empresa à nossa plataforma, oferecendo visibilidade imediata sobre o uso de IA na sua organização. Você verá quais serviços estão sendo usados, por quem e até mesmo o conteúdo dessas interações. Permitimos que você colete informações valiosas sem interromper os fluxos de trabalho nem o acesso dos seus funcionários. É uma maneira não intrusiva de entender o cenário atual de IA da sua empresa e os possíveis riscos.
Oportunidade geral versus risco
Independentemente da sua posição no debate “Se você não consegue medir, não consegue gerenciar”, não há dúvida de que bloquear o acesso à IA implica um alto custo de oportunidade, e pedir à sua equipe que gerencie por conta própria suas interações com a IA é ineficaz e demorado.
Comece pela visibilidade, e a política se encaixará naturalmente.
Sobre o autor

Publicações relacionadas no blog

IA agêntica em cibersegurança: promessas e riscos
Saiba por que o uso de IA agêntica na cibersegurança é essencial para combater ameaças impulsionadas por IA e por que os agentes também criam novos riscos para as empresas.

Como os clientes da F5 no setor financeiro lidam com a soberania digital sem desacelerar a inovação
Como é a soberania digital na prática? Dois projetos recentes da F5 com clientes mostram como diferentes empresas estão enfrentando esses desafios.

Soberania operacional: construindo resiliência em um mundo imprevisível
Para muitas organizações, a questão já não se resume apenas a controlar os dados. Trata-se de manter a capacidade de operar, adaptar-se e se recuperar à medida que as leis e as condições evoluem.

Segurança de IA com evidências: o que levaremos ao Gartner SRM
Antes de sua sessão no Gartner SRM, o vice-presidente sênior de Marketing de Produtos da F5 explica como a F5 ajuda as organizações a proteger a IA em três etapas práticas.

Gestão de riscos de IA: como as proteções podem ajudar a mitigá-los
O risco da IA é impulsionado por comportamentos probabilísticos e pela explicabilidade limitada, não apenas por falhas de segurança. Uma gestão eficaz exige controle operacional contínuo.
Lei de IA do Colorado (SB 205): o que as empresas precisam saber antes de 2026
A SB 205 do Colorado, a lei pioneira do estado sobre inteligência artificial, foi sancionada pelo governador Jared Polis em 17 de maio de 2024. O projeto de lei estabelece requisitos para que as empresas que utilizam IA implementem controles destinados a proteger os cidadãos do Colorado.