Entendendo o uso da IA: por que as empresas precisam de visibilidade

Tendências do setor | 06 de janeiro de 2025

Nos últimos dois anos, vimos centenas de milhões de pessoas adotarem tecnologias de IA. Do ChatGPT ao Gemini, essas ferramentas passaram a fazer parte do fluxo de trabalho diário de muitos profissionais, inclusive do meu. Como engenheiro, pude vivenciar em primeira mão o aumento significativo de produtividade proporcionado pelo uso de Grandes Modelos de Linguagem (LLMs) em tarefas como compreender novas bibliotecas, decifrar declarações complexas de Typescript e resumir as melhores práticas de diversas tecnologias.

Embora eu sinta muita falta do StackOverflow, não consigo deixar de adorar o fato de agora ter um assistente prestativo e simpático, que sempre parece me indicar o caminho certo, independentemente das diversas imperfeições ou ambiguidades nas minhas perguntas ou solicitações. Os LLMs parecem seguir magicamente a regra fundamental de começar tentando responder à pergunta feita e, em seguida, acrescentar comentários ou orientações adicionais.

O desafio da adoção da IA

Aqui na F5 Workforce AI Security, anteriormente chamada SurepathAI, assim como em outras empresas com forte domínio de tecnologia, integramos profundamente a IA a diversos fluxos de trabalho. Temos um interesse genuíno em entender melhor o que a IA acerta, erra e afirma incorretamente com confiança. No entanto, muitas empresas estão apenas começando a considerar o possível alcance e impacto da IA em suas próprias redes. Profissionais e gestores de TI sabem que os funcionários estão usando essas ferramentas, mas não sabem quais delas estão realmente em uso. Em resumo, eles não têm uma visibilidade significativa sobre:

  • Quem usa IA, com que frequência e para quais tarefas
  • Quais informações eles compartilham e com quais LLMs
  • Os possíveis riscos que essas interações representam

Abordagens comuns que não funcionam

Em resposta às preocupações com esse tipo específico de vazamento de dados, uma primeira medida comum para muitas empresas é redigir um comunicado solicitando gentilmente que os funcionários tenham cuidado com o que enviam aos LLMs e descrevendo, em tópicos bem-intencionados, quais informações são consideradas confidenciais, constituem propriedade intelectual ou, por outros motivos, não devem ser compartilhadas.

No outro extremo, algumas empresas temem a natureza de caixa-preta da IA e decidem começar com uma política de tolerância zero, proibindo rigorosamente qualquer uso.

Ambas as abordagens fracassam devido à falta de visibilidade real sobre os padrões efetivos de uso. Sem dados concretos de telemetria, não há como saber se os funcionários estão seguindo as diretrizes nem em que medida a produtividade é afetada. Muitas vezes, os funcionários ignoram ou interpretam mal as diretrizes e, por vezes, concluem que os benefícios superam os riscos percebidos. A natureza aparentemente privada das interações com a IA agrava esse problema, pois os usuários podem compartilhar informações confidenciais sem perceber. É muito fácil enviar algo pessoal ou sigiloso quando se tem a impressão de que há pouco ou nenhum risco envolvido.

Por que a visibilidade é importante

Em vez de adotar uma abordagem permissiva ou rigorosa demais, dar visibilidade ao uso da IA permite que as empresas tomem decisões fundamentadas e aplicáveis. A visibilidade é fundamental porque permite:

  • Avalie os riscos identificando quais serviços de IA estão sendo usados tanto por funcionários individualmente quanto pelos diversos departamentos da sua empresa
  • Gere perfis de risco que combinem a definição de funcionários e grupos com o conteúdo, a ação e a intenção das tarefas
  • Identifique e localize possíveis vazamentos de dados confidenciais e de propriedade intelectual
  • Obtenha insights sobre produtividade identificando casos de uso benéficos e oportunidades para uma adoção mais ampla
  • Aprimore as políticas com base nos padrões reais de uso

Na F5 Workforce AI Security, anteriormente chamada SurepathAI, fazemos isso por meio de:

  • Integração perfeita com a rede da sua empresa
  • Fornecendo insights detalhados sobre o uso de IA em toda a sua organização
  • Identificação de serviços, usuários e departamentos específicos que utilizam IA
  • Análise da intenção, do conteúdo e do risco de cada tarefa
  • Geração de perfis de risco bem fundamentados com base no seu uso real e em nosso catálogo de centenas de LLMs e serviços de IA disponíveis publicamente

Rumo à visibilidade e além

Uma rápida análise do nosso catálogo público de serviços revela que 6 em cada 10 serviços usam dados dos usuários para treinamento, incluindo ChatGPT e Gemini, e 4 em cada 10 permitem o uso sem moderação, o que significa que não contam com mecanismos de proteção integrados para impedir que o modelo responda ao receber um prompt considerado perigoso ou mal-intencionado.

Não há dúvida de que desenvolver uma política de uso aceitável de IA é um excelente primeiro passo. À medida que você investe e amplia sua visibilidade, pode fortalecer ainda mais sua postura de segurança tomando decisões bem fundamentadas sobre:

  • Quais serviços de IA permitir ou bloquear para cada funcionário e departamento
  • Quais tipos de dados confidenciais, tarefas e intenções devem ser classificados por níveis de risco
  • Como responder ao detectar interações potencialmente arriscadas

É aí que entra o F5 Workforce AI Security, anteriormente chamado SurepathAI. Em apenas cerca de 20 minutos, podemos conectar a rede da sua empresa à nossa plataforma, oferecendo visibilidade imediata sobre o uso de IA na sua organização. Você verá quais serviços estão sendo usados, por quem e até mesmo o conteúdo dessas interações. Permitimos que você colete informações valiosas sem interromper os fluxos de trabalho nem o acesso dos seus funcionários. É uma maneira não intrusiva de entender o cenário atual de IA da sua empresa e os possíveis riscos.

Oportunidade geral versus risco

Independentemente da sua posição no debate “Se você não consegue medir, não consegue gerenciar”, não há dúvida de que bloquear o acesso à IA implica um alto custo de oportunidade, e pedir à sua equipe que gerencie por conta própria suas interações com a IA é ineficaz e demorado.

Comece pela visibilidade, e a política se encaixará naturalmente.

Compartilhar

Sobre o autor

Oliver Gould
Oliver GouldEngenheiro Sênior de Desenvolvimento de Software | F5

Mais publicações de Oliver Gould

Publicações relacionadas no blog

IA agêntica em cibersegurança: promessas e riscos
Tendências do setor | 16/10/2026

IA agêntica em cibersegurança: promessas e riscos

Saiba por que o uso de IA agêntica na cibersegurança é essencial para combater ameaças impulsionadas por IA e por que os agentes também criam novos riscos para as empresas.

Como os clientes da F5 no setor financeiro lidam com a soberania digital sem desacelerar a inovação
Tendências do setor | 20/08/2026

Como os clientes da F5 no setor financeiro lidam com a soberania digital sem desacelerar a inovação

Como é a soberania digital na prática? Dois projetos recentes da F5 com clientes mostram como diferentes empresas estão enfrentando esses desafios.

Soberania operacional: construindo resiliência em um mundo imprevisível
Tendências do setor | 01/06/2026

Soberania operacional: construindo resiliência em um mundo imprevisível

Para muitas organizações, a questão já não se resume apenas a controlar os dados. Trata-se de manter a capacidade de operar, adaptar-se e se recuperar à medida que as leis e as condições evoluem.

Segurança de IA com evidências: o que levaremos ao Gartner SRM
Tendências do setor | 26/05/2026

Segurança de IA com evidências: o que levaremos ao Gartner SRM

Antes de sua sessão no Gartner SRM, o vice-presidente sênior de Marketing de Produtos da F5 explica como a F5 ajuda as organizações a proteger a IA em três etapas práticas.

Gestão de riscos de IA: como as proteções podem ajudar a mitigá-los
Tendências do setor | 15/01/2026

Gestão de riscos de IA: como as proteções podem ajudar a mitigá-los

O risco da IA é impulsionado por comportamentos probabilísticos e pela explicabilidade limitada, não apenas por falhas de segurança. Uma gestão eficaz exige controle operacional contínuo.

Lei de IA do Colorado (SB 205): o que as empresas precisam saber antes de 2026
Tendências do setor | 02/06/2025

Lei de IA do Colorado (SB 205): o que as empresas precisam saber antes de 2026

A SB 205 do Colorado, a lei pioneira do estado sobre inteligência artificial, foi sancionada pelo governador Jared Polis em 17 de maio de 2024. O projeto de lei estabelece requisitos para que as empresas que utilizam IA implementem controles destinados a proteger os cidadãos do Colorado.