Boas-vindas à série de podcasts The Global CISO

Chuck Herrin

É com grande entusiasmo que apresento minha nova série de podcasts, “O CISO Global: de defensores para defensores”. Atuo como CISO há mais de 20 anos e, atualmente, sou CISO de Campo na F5. A experiência é a melhor professora, mas o aprendizado pode custar caro. É por isso que estou lançando esta série de podcasts para discutir como CISOs e CIOs podem acompanhar melhor o ritmo impressionante das mudanças tecnológicas em nosso mundo e se preparar para os desafios de segurança da informação do futuro.

A F5 atende mais de 23 mil clientes corporativos em mais de 170 países, incluindo os maiores bancos, fabricantes de automóveis e provedores de telecomunicações do mundo. No ano passado, percorri cerca de 300 mil milhas, trabalhando com algumas das organizações mais complexas do mundo, e é a partir dessa perspectiva que esta série de podcasts analisa as tendências atuais mais importantes em segurança da informação, conformidade e gestão de riscos. Vou falar sobre o que funciona e o que não funciona, além de como CISOs e CIOs podem aproveitar o poder da revolução da IA para prosperar em um mundo em rápida transformação.

Ouça agora

• Episódio 1: “Dominando APIs, segurança de IA e PQC”
• Episódio 2: “Automatize primeiro: o guia do CTO para APIs, observabilidade e responsabilização de fornecedores”

Aqui estão alguns dos principais aprendizados do meu primeiro episódio:

Fique atento à ideologia nos modelos nacionais de IA

No que diz respeito à liderança global em IA, os EUA e a China disputam o domínio mundial e a influência no Sul Global. No entanto, ambos os países estão incorporando restrições ideológicas às suas pilhas de IA. O Plano de Ação de IA dos EUA tem uma orientação geopolítica que norteia seu modelo e pressiona o Instituto Nacional de Padrões e Tecnologia dos EUA (NIST) a retirar do seu framework de gestão de riscos temas como mudanças climáticas, diversidade, equidade e inclusão (DEI) e desinformação. A pilha oficial de IA da China, divulgada como sendo de código aberto (na verdade, de pesos abertos) e prontamente disponível para o Sul Global, foi desenvolvida para preservar a fidelidade aos princípios socialistas.

Acredito que os elementos ideológicos presentes nesses modelos de IA e nas pilhas tecnológicas que os promovem podem dificultar a adoção de ambos. Por exemplo, será que os atuários do setor de seguros vão querer confiar nos modelos de IA dos EUA para avaliar e prever riscos patrimoniais se eles não incorporarem dados sobre as mudanças climáticas? De que forma a adesão a princípios socialistas agrega valor ao uso de modelos chineses de IA para realizar análises dos mercados financeiros? Creio que muitas organizações globais vão preferir evitar modelos de IA fundamentados em tendências de pureza ideológica.

Considere a UE como uma possível azarã capaz de se beneficiar da rivalidade ideológica em torno da IA entre os EUA e a China. A UE não é necessariamente a maior inovadora em IA do mundo, mas as empresas europeias de tecnologia realizam um excelente trabalho, e a França conta com alguns dos melhores matemáticos do planeta. A abordagem da UE para a IA busca evitar vieses ideológicos, concentrando-se na gestão e na aceitação de riscos, além de impor penalidades severas às empresas que implementam IA de maneiras consideradas irresponsáveis. Portanto, ainda não descarte a UE.

Principal conclusão: Os líderes de tecnologia devem ter muito cuidado e ponderar bem quais modelos de IA e pilhas de tecnologia adotar, pois essas decisões iniciais terão consequências de longo alcance e poderão resultar em altos custos de saída. De qualquer forma, espera-se que continue o movimento em prol da adoção generalizada de modelos abertos.

Espere um aumento acentuado nas fraudes

Sam Altman, CEO da OpenAI, falou recentemente em um evento sobre o aumento drástico das fraudes cometidas por sistemas de IA. Isso também está de acordo com nossa experiência na F5. Há muito tempo afirmamos que a maioria dos testes de Turing automatizados e desafios CAPTCHA são irrelevantes, além de serem especialmente ineficazes contra bots avançados. Mas acredito que os responsáveis pela defesa foram pegos de surpresa ao ver a facilidade com que um agente do ChatGPT consegue contornar as restrições de CAPTCHA.

Também estamos observando muitos casos de fraude por voz, em que agentes de IA agora usam sotaques locais muito convincentes e parecem morar logo ali. Observamos um aumento de aproximadamente 2.400% nas fraudes cometidas por IA por meio de phishing via correio de voz e SMS, engenharia social, deepfakes e e-mails de spam cada vez mais convincentes, que exploram a credulidade humana.

Preparem-se, porque veremos muito mais fraudes viabilizadas por IA. É aí que está o dinheiro, e é para lá que os criminosos estão indo.

Principal conclusão: A IA está potencializando as fraudes, e as defesas tradicionais, como os CAPTCHAs, estão obsoletas. Os CISOs devem priorizar o treinamento dos funcionários e estratégias de segurança adaptativas e orientadas por IA para combater golpes aprimorados por IA cada vez mais convincentes em canais de voz, texto e redes sociais.

Adicione “Proteção da inferência” à descrição do seu cargo

Os CISOs já têm muitas responsabilidades. Somos responsáveis por proteger e manter seguros dados, e-mails, aplicações, perímetros, a borda da rede, redes e dispositivos. Agora, também precisaremos assumir a responsabilidade pela segurança da inferência.

Isso ocorre porque a inferência é a nova superfície de ataque. Agora, ela está diretamente ligada a decisões que afetam os negócios, as finanças, a conformidade e a reputação, e agentes mal-intencionados podem explorar mecanismos de inferência por meio de diversos ataques, incluindo injeção de prompts e manipulação de modelos. Agora, os CISOs precisam proteger não apenas a infraestrutura em torno da IA, mas também o próprio processo decisório da IA, pois a inferência é tanto um novo vetor de ataque quanto uma função crítica para os negócios.

Um novo método de manipulação de inferência é um ataque de “câmara de eco”. Trata-se de uma forma de injeção de prompt que consiste em elaborar uma série de prompts que, gradualmente, induzem uma resposta não autorizada sem solicitar diretamente a geração de conteúdo não autorizado. É como manipular psicologicamente o modelo de linguagem de grande escala (LLM) por meio de pequenas sugestões ao longo de uma sequência de prompts com várias interações, levando os modelos a desbloquearem a si mesmos ou contornarem seus próprios controles.

Esses ataques de “câmara de eco” têm uma taxa de eficácia de cerca de 80% a 90%. Então, agora cabe ao CISO garantir a segurança da inferência? Se não, quem mais na organização assumirá essa responsabilidade?

Principal conclusão: A inferência está surgindo como uma nova e crítica superfície de ataque, e os CISOs precisam ampliar seu escopo de atuação para proteger o próprio processo de tomada de decisões da IA. Na minha opinião, se o seu cargo inclui “Chief” e “Security”, isso vai acabar se tornando um problema seu, quer isso seja reconhecido hoje ou não. Então, é melhor começar a agir.

A China tem vantagem na IA?

Acho que eles podem, de fato, estar à frente em IA, embora tudo dependa do que se mede. Passo muito tempo na Ásia e conversei com muitas pessoas que vivem e trabalham lá. Parece-me que a China tem uma vantagem inicial na aplicação efetiva da IA de maneiras relevantes. Talvez a China não tenha os maiores modelos já desenvolvidos, mas os modelos que possui estão realmente em uso, solucionando problemas da cadeia de suprimentos, redirecionando remessas e desempenhando outras funções úteis no mundo real.

Acho que não há problema em ter o melhor modelo com 200 quatrilhões de parâmetros, se é isso que você quer desenvolver. Mas, neste momento, nos EUA e na Europa, vejo uma lacuna bastante significativa — para usar uma analogia com arrancadas — entre gerar toda essa potência e conseguir transmiti-la ao chão.

O Plano de Ação dos EUA para a IA prioriza fortemente o desenvolvimento energético e a construção de fábricas de IA e data centers voltados à IA. Os investidores desse setor estão despejando dinheiro a rodo, mas não parecemos estar gerando valor no mundo real. Mencione estudos recentes que ganharam destaque nas manchetes sobre como poucos programas de IA estão gerando valor para os negócios neste estágio da adoção da tecnologia, o que serve como uma transição natural para a fase do Vale da Desilusão na adoção de novas tecnologias.

Parte do problema é que o simples fato de os EUA terem os maiores e mais poderosos modelos de IA não significa que estejam usando esses modelos para gerar resultados empresariais relevantes, e há pouquíssimas barreiras competitivas em IA. Ter o maior modelo cria uma vantagem competitiva temporária, que não durará para sempre.

Principal conclusão: De modo geral, a China pode ter uma vantagem em IA, não por desenvolver os maiores modelos, mas por aplicá-los rapidamente a problemas do mundo real — enquanto os EUA e a Europa correm o risco de ficar para trás ao se concentrarem mais na escala do que no impacto prático. A China também dispõe de uma capacidade energética muito maior do que os EUA, e esse não é um problema que os americanos possam resolver rapidamente. Não há outra opção senão “perfurar, perfurar, perfurar”, algo que todos sabemos não ser sustentável, mas essa é a “lógica” das condições de uma corrida global.

Sua fonte de referência para se antecipar às ameaças

Queremos que The Global CISO seja sua principal fonte para se antecipar às ameaças e tendências que estão moldando nosso setor e nosso futuro. Portanto, se houver algum tema que você acha que eu deveria abordar, envie-me uma mensagem ou conecte-se comigo no LinkedIn.

Assine agora para acompanhar todos os episódios de The Global CISO: For defenders by defenders na sua plataforma de podcasts preferida — e compartilhá-los com sua equipe, seus colegas e sua rede de contatos.

Confira meu primeiro episódio, “Dominando APIs, segurança de IA e PQC”.

Além disso, não deixe de ouvir meu segundo episódio, “Automatize primeiro: o manual do CTO para APIs, observabilidade e responsabilização de fornecedores.”

Sobre o autor

Chuck Herrin

Mais publicações de Chuck Herrin