Há alguns anos, a maioria de nós associava a “IA generativa” a atividades artísticas — pintar retratos surreais, compor músicas ou até mesmo escrever contos. Avançando até os dias de hoje, vemos essas mesmas técnicas generativas se transformarem em ferramentas poderosas para a segurança cibernética. É um tanto irônico que a tecnologia antes usada para criar imagens divertidas de gatos agora esteja nos ajudando a identificar vetores de ameaças sofisticados e a responder a incidentes reais.
Mas será que essa convergência entre IA generativa e cibersegurança é apenas exagero? Ou estamos prestes a entrar em uma nova era na modelagem de ameaças e na resposta a incidentes — uma era que poderia reduzir drasticamente o tempo médio para detectar e mitigar ataques? Vou defender a ideia de que a IA generativa está prestes a revolucionar tanto a identificação de novas ameaças quanto a coordenação de respostas eficientes e orientadas por dados. No entanto, como qualquer tecnologia emergente, ela também tem suas armadilhas. Vamos nos aprofundar.
Tese: A capacidade única da IA generativa de sintetizar padrões, prever novos vetores de ataque e automatizar estratégias de resposta aprimorará significativamente nossas capacidades de modelagem de ameaças e resposta a incidentes — mas somente se enfrentarmos de forma direta os desafios relacionados à confiabilidade, à ética e à governança de dados.
As ameaças cibernéticas evoluem em um ritmo vertiginoso, e os sistemas tradicionais baseados em regras ou assinaturas muitas vezes não conseguem acompanhar essa evolução. Modelos generativos (como modelos avançados de linguagem de grande escala) podem detectar anomalias e formular hipóteses sobre possíveis padrões de ataque futuros muito além do alcance das heurísticas convencionais. No entanto, eles também introduzem novas vulnerabilidades, como a possibilidade de “alucinar” falsos positivos ou gerar código malicioso inadvertidamente. Devemos abordar esses recursos com entusiasmo e cautela na mesma medida.
Modelagem de ameaças além das assinaturas conhecidas
Por que usar IA generativa na modelagem de ameaças?
Tradicionalmente, a modelagem de ameaças tem se baseado em assinaturas de ataques conhecidas, padrões históricos e conhecimento especializado humano. No entanto, o aumento de malwares polimórficos, vulnerabilidades na cadeia de suprimentos e explorações de dia zero torna inadequados os métodos puramente reativos.
É aí que entra a IA generativa. Embora, na linguagem atual, “generativa” muitas vezes remeta a grandes modelos de linguagem (LLMs), o termo também pode abranger outros algoritmos capazes de produzir novos padrões de dados. Esses modelos identificam correlações sutis em enormes conjuntos de dados de telemetria — como sequências de comandos suspeitas, tentativas de movimentação lateral ou padrões de exfiltração. É importante destacar que eles não se limitam a rótulos explícitos do que é considerado “malicioso”. Em vez disso, aprendem a distribuição subjacente dos comportamentos “normais” e conseguem sinalizar anomalias que não foram explicitamente classificadas como ameaças.
No entanto, detectar anomalias é apenas o primeiro passo. Se ninguém tiver classificado determinados comportamentos como maliciosos ou benignos, um LLM (ou qualquer abordagem generativa) talvez precise ser combinado com classificadores adicionais ou verificações heurísticas para confirmar se algo é realmente mal-intencionado ou apenas incomum. Por exemplo, ele pode levantar a hipótese de que um novo padrão de movimentação lateral é suspeito, mas algumas organizações usam legitimamente um host de salto que raramente é acessado, tornando a anomalia inofensiva naquele contexto. Em última análise, a IA generativa se destaca por revelar possibilidades que vão além das assinaturas convencionais, mas precisa ser combinada com uma lógica de decisão robusta — automatizada ou conduzida por humanos — para determinar quais anomalias representam ameaças reais.
Um teste no mundo real: ambiente sandbox da F5
Na F5, realizamos uma simulação controlada no final de 2024 para avaliar como um modelo de IA generativa poderia se comportar em um cenário de ameaças em constante evolução. Fornecemos ao ambiente interno de testes da F5 dados de logs anonimizados de um ambiente multilocatário, injetando propositalmente padrões de ataque novos e nunca vistos antes. Inicialmente, o modelo gerou alguns “falsos alarmes” (esses modelos podem ser excessivamente zelosos), mas, com o treinamento iterativo, começou a detectar anomalias com mais precisão do que nosso sistema de referência baseado em assinaturas. O que realmente impressionou? Ele também sinalizou explorações em potencial que nem mesmo os analistas da nossa equipe de defesa haviam considerado — como certas tentativas de movimentação lateral disfarçadas em protocolos comuns de compartilhamento de arquivos.
Reduzindo o “tempo médio de remediação”
Playbooks de resposta adaptativa
Os modelos generativos não servem apenas para detecção — eles podem criar rapidamente sugestões de playbooks quando ocorrem incidentes. Pense neles como colaboradores de IA que monitoram logs em tempo real, combinam informações de diversas fontes de dados e propõem um plano de resposta coordenado.
Por exemplo, se o sistema detectar uma anomalia de alto risco, ele poderá recomendar políticas dinâmicas de firewall ou colocar máquinas virtuais (VMs) suspeitas em quarentena. Como aprende com incidentes anteriores, essas sugestões são aprimoradas ao longo do tempo. Isso representa um grande avanço em relação aos runbooks estáticos, que raramente são atualizados após a configuração inicial.
Orquestrando ferramentas em escala
Recentemente, temos visto uma onda de integrações de IA generativa nas principais conferências de segurança (como a Black Hat 2024 e o AI-SecOps Summit, lançado este ano). Elas se concentram em respostas “autônomas” ou “agênticas”, nas quais uma camada de IA orquestra várias ferramentas de segurança — SIEMs, proteção de endpoints e WAFs — em tempo real. Se a multicloud é a norma hoje em dia, um único modelo generativo que coordene as respostas a ameaças em ambientes AWS, Azure e locais começa a parecer muito atraente.
Mas há um porém: Se estivermos apenas automatizando processos ultrapassados ou ineficientes, corremos o risco de “falhar mais rápido” em vez de melhorar nossa postura geral de segurança. Ao adotar a IA sem repensar os fluxos de trabalho fundamentais, podemos acelerar a execução de procedimentos falhos. É por isso que a IA deve ser vista como um catalisador para repensarmos nossa abordagem à segurança e à entrega, em vez de apenas acelerar o que já estamos fazendo.
Também vale observar que o fato de um modelo generativo poder automatizar uma resposta não significa que ele deva fazê-lo. Precisamos de mecanismos de proteção e caminhos de escalonamento para garantir que os seres humanos continuem participando de decisões críticas (como isolar segmentos inteiros do ambiente de produção). Em suma, a IA generativa oferece uma oportunidade empolgante de questionar antigas premissas e criar estruturas de resposta a incidentes mais eficientes e adaptáveis — desde que estejamos dispostos a atualizar os próprios fundamentos de nossos processos, e não apenas sua velocidade.
Assuntos em alta em 2025
- A guerra dos LLMs continua: Os principais provedores de nuvem estão disputando o lançamento do modelo de linguagem de grande escala (LLM) mais “seguro”, cada um alegando usar técnicas avançadas de ajuste fino para reduzir alucinações e melhorar a conformidade.
- Projetos de código aberto: Iniciativas conduzidas pela comunidade (como AI-SIGS ou ThreatGen) estão surgindo e oferecendo aos pesquisadores de segurança frameworks de código aberto para criar modelos generativos de ameaças personalizados.
- Destaque regulatório: As novas propostas de regulamentação de IA da UE classificam as aplicações de IA generativa em cibersegurança como tecnologias de “alto risco”, exigindo transparência e informações explícitas sobre a procedência dos dados.
É um momento empolgante: vemos uma adoção cada vez maior por grandes empresas e organizações de médio porte, ansiosas para superar as soluções legadas. No entanto, a pressa para implementar a IA generativa pode causar problemas se as organizações ignorarem etapas fundamentais, como uma governança de dados robusta, a explicabilidade dos modelos e estruturas de responsabilização.
Alucinações, privacidade e dilemas éticos
Embora os modelos generativos possam impressionar com inferências criativas, eles também podem “alucinar” ameaças aparentemente plausíveis que não existem. Uma onda de falsos positivos pode soterrar sua equipe de operações de segurança sob uma avalanche de alertas sem relevância. Com o tempo, isso pode minar a confiança em sistemas baseados em IA.
Treinar modelos robustos exige dados — muitos dados. Dependendo da região, as leis de privacidade podem restringir quais logs ou dados de telemetria podem ser usados. Remover ou anonimizar dados confidenciais dos usuários é essencial para evitar problemas de conformidade e garantir o uso ético dos dados.
Não podemos ignorar o lado mais sombrio: agentes mal-intencionados podem usar (e já usaram) a IA generativa para redigir e-mails de phishing convincentes, desenvolver novas formas de malware ou descobrir vulnerabilidades de dia zero mais rapidamente. À medida que desenvolvemos esses recursos de defesa, devemos partir do princípio de que os invasores estão fazendo o mesmo no ataque.
Abraçando o futuro
Olhando para o futuro, a IA generativa poderá se tornar uma camada padrão em todas as ferramentas de SecOps, com uma integração tão estreita quanto a dos scanners de vulnerabilidades ou sistemas de detecção de intrusões atuais. Com avanços na explicabilidade — ou seja, mais transparência sobre como a IA chega às suas conclusões —, as equipes de segurança se sentirão mais confiantes para deixar que a IA assuma partes maiores do ciclo de vida da modelagem de ameaças.
Também poderemos ver coalizões globais de inteligência contra ameaças, nas quais modelos generativos treinados em diferentes organizações compartilham informações parciais, preservando a privacidade. Isso poderia levar a respostas mais rápidas e coordenadas a ataques de dia zero em diversos setores.
Ainda assim, vale reiterar que estamos apenas no início. As organizações precisam investir em boas práticas de dados, pipelines de treinamento robustos e uma governança bem definida antes de confiar na IA generativa em cenários de missão crítica.
Pronto para repensar a segurança?
A IA generativa tem o potencial de transformar radicalmente as abordagens tradicionais de modelagem de ameaças e resposta a incidentes. Ao analisar padrões de forma criativa e automatizar estratégias de resposta, ela pode oferecer velocidade e precisão incomparáveis — desde que enfrentemos desafios inerentes, como alucinações, conformidade regulatória e salvaguardas éticas.
Publicações relacionadas no blog
O estado da maturidade digital empresarial: a transformação digital ainda não terminou
Explore como a IA impacta as empresas, as aplicações da IA generativa, as estratégias para modernizar as operações de TI e os benefícios da maturidade digital com a F5.
Como a IA generativa acelera a transformação digital
Veja como a IA generativa impulsiona a transformação digital nas empresas, acelerando tendências como a integração de APIs, os desafios dos modelos operacionais de TI híbrida e a adoção de AIOps.
Seis capacidades técnicas para acelerar a transformação digital
As arquiteturas empresariais atuais carecem dos fatores necessários de agilidade, escalabilidade, segurança e observabilidade, essenciais para impulsionar a mudança tecnológica. No entanto, estas seis capacidades fundamentais ajudarão as empresas a gerenciar riscos e desafios ao longo de sua transformação digital.
Inverter a API é a transformação digital de que as empresas precisam para participar e competir em uma economia de APIs
As organizações detêm um valor latente — na forma de APIs internas — que precisam explorar para competir em uma economia de APIs. Embora os desafios técnicos e de segurança possam desestimular algumas delas, as empresas precisam reconhecer que inverter suas APIs permitirá liberar o valor da organização como plataforma.
A modernização da TI começa pela infraestrutura
O hardware e o software evoluíram rapidamente desde os primórdios da internet, mas, para aproveitar ao máximo os benefícios resultantes dessa evolução, as organizações precisam avaliar e modernizar sua infraestrutura e a entrega de aplicativos. Acelere os esforços de modernização com a nova F5 rSeries.