A IA generativa é como aquele objeto superbrilhante do qual ninguém consegue tirar os olhos.
Quase todas as empresas do mundo estão de olho no potencial das ferramentas de IA generativa para transformar seus negócios — e não é para menos.
A IA generativa, uma forma de aprendizado de máquina que cria conteúdos como textos e imagens em resposta a solicitações em linguagem natural, é uma tecnologia revolucionária. Do aumento da produtividade ao aprimoramento da personalização, as ferramentas de IA generativa oferecem uma série de benefícios.
Por exemplo, em uma pesquisa recente da Gartner, mais de 2.500 executivos apontaram a experiência e a retenção de clientes (38%) como o principal objetivo de seus investimentos em IA generativa. Em seguida, aparecem outras áreas, como crescimento da receita (26%), otimização de custos (17%) e continuidade dos negócios (7%).
Além disso, em uma pesquisa separada realizada com 3.000 CEOs pela IBM, 69% dos CEOs entrevistados reconhecem os amplos benefícios da IA generativa em suas organizações. No entanto, apenas 30% dos altos executivos que não são CEOs afirmam que sua organização está pronta para adotar a IA generativa de forma responsável.
“Com a rápida evolução da IA generativa, as organizações podem acabar enfrentando sérios problemas em pouco tempo.”
Sejamos francos: isso é alarmante. Menos de um terço dos altos executivos afirma que sua organização está pronta para adotar a IA generativa de forma responsável?
É fácil se deixar levar por todos os benefícios que você pode obter com o uso de ferramentas de IA generativa. Mas não podemos nos esquecer de que o uso dessas ferramentas pode trazer grandes riscos e desafios.
Com a rápida evolução da IA generativa, as organizações podem se ver em apuros rapidamente se não tiverem cuidado com a forma como seus colaboradores utilizam as ferramentas de IA generativa e não estiverem atentas aos dados inseridos nas interfaces de IA generativa.
Estas são apenas algumas das muitas maneiras pelas quais a IA generativa pode transformar repentinamente uma experiência positiva e benéfica em um problema de segurança oneroso e prejudicial:
- Vazamento de dados corporativos confidenciais.
Talvez você já tenha ouvido falar ou lido sobre funcionários da Samsung que enviaram acidentalmente códigos para o chatbot da OpenAI, o ChatGPT. Isso não apenas expôs dados proprietários, como também gerou uma enorme crise global de relações públicas para a Samsung. E é provável que a Samsung não seja a única organização que já passou ou poderá passar por isso. A próxima pode ser a sua empresa. - Disseminação de desinformação e vieses.
Ferramentas de IA generativa como o ChatGPT são baseadas em grandes modelos de linguagem (LLMs). E os LLMs são treinados com conjuntos de dados provenientes de artigos, sites e tudo o que há entre eles — incluindo informações falsas e incorretas. É fácil ser enganado e acreditar que as ferramentas de IA generativa não produzirão informações incorretas nem propagarão vieses e acabar usando esse conteúdo em suas campanhas ou como base para suas suposições. Quando você menos espera, a linha entre o que é verdade e o que não é fica nebulosa — assim como a sua reputação. Além disso, os vieses e as informações incorretas produzidos por chatbots de IA generativa nem sequer se comparam ao problema representado pelas alucinações de IA! - Tratamento inadequado de informações de identificação pessoal (PII).
As PII podem ser coletadas durante interações com ferramentas de IA generativa. Cabe às empresas responsáveis por essas ferramentas adotar medidas rigorosas de privacidade de dados. Caso não adotem, você pode acabar tendo que lidar com invasões de conta. Ou enfrentar graves problemas jurídicos e prejudicar a relação com seus clientes caso agentes mal-intencionados obtenham as PII deles.
Felizmente, muitas organizações estão tomando medidas para manter práticas seguras. Várias empresas oferecem treinamentos sobre os aspectos positivos e negativos da IA generativa ou incentivam os funcionários a explorar e experimentar essa tecnologia de forma responsável. Outras elaboraram políticas de IA generativa que devem ser reconhecidas pelos funcionários e estabelecem orientações obrigatórias.
Embora essas medidas certamente tenham seu mérito, a popularidade, a complexidade e a rápida evolução das ferramentas de IA generativa exigem mais segurança. Além disso, o erro humano sempre fará parte da equação.
Agora, tenho certeza de que você já ouviu isso uma vez — ou talvez muitas: o que você não vê pode prejudicar você. E, quando se trata do uso de ferramentas de IA generativa no ambiente de trabalho, isso não poderia ser mais verdadeiro. A falta de conscientização pode colocar sua empresa em desvantagem.
“Uma estratégia fundamental de segurança de confiança zero que você deve priorizar é a detecção do acesso a ferramentas de IA generativa.”
Para se proteger contra as ameaças decorrentes do uso de IA generativa no ambiente de trabalho, as empresas devem adotar uma abordagem de confiança zero . Lembre-se de que o princípio fundamental da confiança zero é: “Nunca confie. Sempre verifique.” E uma das principais estratégias de segurança de confiança zero que você deve priorizar hoje é detectar o acesso a ferramentas de IA generativa.
Ao proporcionar maior visibilidade e controle granular sobre como os funcionários utilizam ferramentas de IA generativa no trabalho, as equipes de segurança conseguem identificar e gerenciar possíveis riscos. Isso ajuda as organizações a:
- Proteja dados, informações de identificação pessoal (PII), códigos, propriedade intelectual (PI) e muito mais.
- Habilite e aplique políticas que estejam alinhadas às diretrizes da empresa.
- Manter a segurança contra o uso indevido, intencional ou acidental, de ferramentas de IA generativa.
À medida que o cenário da IA generativa continua a evoluir rapidamente, as empresas podem ficar mais tranquilas com uma estrutura de segurança de confiança zero que oferece detecção de ferramentas de IA generativa.
Para saber mais sobre como a F5 pode ajudar você a mitigar possíveis riscos do uso de ferramentas de IA generativa no ambiente de trabalho, confira este artigo do DevCentral sobre o F5 BIG-IP SSL Orchestrator.
Sobre o autor
Publicações relacionadas no blog
Entrega e proteção de agentes de IA em fábricas de IA: F5 para a arquitetura de referência NVIDIA OpenShell para agentes de IA seguros
As soluções da F5 ampliam a Arquitetura de Referência NVIDIA OpenShell para agentes de IA seguros.
Como medir – e minimizar – o custo total de propriedade do seu Kubernetes
O Kubernetes pode ser baixado e executado gratuitamente, mas sua manutenção está longe de não ter custos. Assim como outras grandes plataformas de código aberto que são “gratuitas” apenas em um sentido simplista, o Kubernetes quase certamente exigirá investimentos para ser implantado e operado.
As-Code: a pilha de TI contínua
Infraestrutura, configuração, pipeline, operações. De repente, tudo é “como código”. Lori MacVittie busca esclarecer a terminologia e identificar os diferentes componentes de uma stack contínua de TI.
O estado da entrega de aplicações em 2017: automação, APIs e DevOps
Explore o relatório State of Application Delivery de 2017. Leia o blog retrospectivo da F5 sobre o início da ascensão das redes declarativas e dos pipelines de DevOps.
DevOps Summit: onde a rede foi convidada para a festa
No DevOps Summit NY, falou-se muito não apenas sobre DevOps, mas também sobre contêineres, IoT e microsserviços. As sessões se concentraram não só na mudança cultural necessária para crescer em escala com uma abordagem DevOps, mas também fizeram questão de incluir...
F5 e Nutanix convergem em infraestrutura no .NEXT
Aplicações empresariais como Microsoft SharePoint e Exchange, juntamente com a VDI, continuam sendo a espinha dorsal da sua empresa. A produtividade, embora não seja tão atraente quanto o lucro, é um fator essencial para o sucesso das operações empresariais atuais. Deixar de...