Pela primeira vez, um sistema de descoberta de vulnerabilidades baseado em IA identificou uma vulnerabilidade de dia zero em um software amplamente utilizado, segundo a equipe de segurança do Google. O avanço do Google em IA evidencia uma mudança inevitável rumo a riscos — e soluções — baseados em IA. Pesquisadores do Google usaram um modelo de IA, o Big Sleep, para identificar uma vulnerabilidade de segurança de memória — um estouro negativo do buffer de pilha — no mecanismo de banco de dados SQLite. O SQLite é um dos mecanismos de banco de dados mais amplamente utilizados, incorporado a milhões de dispositivos e aplicativos. Ele é de código aberto e ocupa uma posição importante na cadeia de suprimentos de software para pipelines de dados e bancos de dados. O Big Sleep identificou em seu código uma vulnerabilidade crítica de estouro negativo do buffer de pilha, uma falha que não havia sido detectada pelos métodos convencionais.
Para os CISOs, as implicações são importantes. A IA pode e será usada para detectar vulnerabilidades de dia zero, tanto por agentes bem-intencionados quanto mal-intencionados. O ritmo da segurança aumentará, e a IA será necessária para acompanhá-lo. Ao mesmo tempo, será ainda mais importante garantir que os principais controles de segurança estejam implementados e devidamente ajustados. Este momento evidencia a necessidade de enfrentar as ameaças impulsionadas por IA em duas frentes. Primeiro, implantando defesas baseadas em IA para acompanhar a rápida evolução dos riscos de segurança. Segundo, garantindo que as estruturas de segurança existentes sejam reforçadas e capazes de se integrar a esses novos recursos.
“O aumento das ameaças de IA não exige apenas ferramentas mais inteligentes, mas também cobertura abrangente e automação para minimizar erros humanos.”
A iminente onda de vulnerabilidades de dia zero impulsionadas por IA
Os grandes modelos de linguagem (LLMs) voltados à programação e à análise de código estão evoluindo rapidamente. Eles também estão disponíveis gratuitamente e, muitas vezes, são de código aberto. Os invasores perceberam isso e estão buscando ativamente usar a IA para encontrar vulnerabilidades em sistemas. Os CISOs devem esperar um aumento nas vulnerabilidades de dia zero descobertas por IA, impulsionado por vários fatores importantes:
Recursos avançados de IA: Os modelos modernos de IA, especialmente os LLMs, demonstraram capacidade de analisar bases de código complexas para identificar vulnerabilidades até então desconhecidas. O uso de IA pelo Google no Project Big Sleep para descobrir uma vulnerabilidade de dia zero amplamente disseminada é um bom exemplo do potencial da IA em medidas proativas de segurança.
Automação e eficiência: Ferramentas baseadas em IA podem automatizar o processo de descoberta de vulnerabilidades, acelerando significativamente a identificação de falhas de segurança. Essa eficiência permite detectar vulnerabilidades em um ritmo impossível de alcançar apenas com métodos manuais. O uso de IA pela GreyNoise Intelligence para descobrir vulnerabilidades de dia zero em câmeras de transmissão ao vivo exemplifica essa capacidade.
Maior compreensão semântica: Os modelos de IA podem analisar códigos com uma compreensão mais profunda do contexto, da intenção e da funcionalidade, revelando vulnerabilidades que os métodos tradicionais poderiam não detectar. Essa percepção semântica permite que a IA identifique não apenas erros de programação evidentes, mas também falhas sutis de lógica, problemas de configuração e brechas de segurança que poderiam ser exploradas. Por exemplo, o OpenAI Codex demonstrou a capacidade de encontrar vulnerabilidades de segurança sutis ao comparar o comportamento esperado de um programa com sua implementação real.
A convergência desses avanços significa que os CISOs e as equipes de segurança precisam se preparar para uma onda de vulnerabilidades de dia zero descobertas por IA. Para se manterem à frente, as organizações devem priorizar a adoção de ferramentas de defesa baseadas em IA, ampliar a colaboração entre as equipes de desenvolvimento e segurança para corrigir vulnerabilidades mais cedo e capacitar continuamente os funcionários sobre novas ameaças de IA. Estratégias proativas serão fundamentais para mitigar os riscos desta nova era de ataques cibernéticos viabilizados por IA. Isso exigirá o uso de IA para combater ameaças de IA, além do reforço da abordagem de confiança zero e de outras estratégias proativas para reduzir a superfície de ataque.
Uma defesa em profundidade ainda maior está se tornando imprescindível
Para os CISOs, o novo cenário de ameaças de IA reforça ainda mais a importância de proteger a maior parte possível da superfície de ataque. Isso significa abranger uma variedade maior de códigos, dados de configuração e protocolos. Também significa distribuir mecanismos de segurança por mais pontos de detecção no ciclo de vida da entrega de aplicações e fornecer ferramentas e automação para eliminar mais tarefas manuais.
Por exemplo, o F5 NGINX App Protect provavelmente bloquearia muitas vulnerabilidades de dia zero identificadas por IA ao impedir classes de comportamentos anômalos em uma ampla variedade de protocolos (HTTP/S, HTTP/2, gRPC, MQTT e WebSocket). O NGINX App Protect pode ser implantado em qualquer lugar, inclusive junto a qualquer produto NGINX e no pipeline de CI/CD. Como outro aspecto da defesa em profundidade, o console SaaS do NGINX One funciona como um mecanismo automatizado de recomendação de configurações, permitindo que as equipes apliquem rapidamente alterações de configuração para bloquear vulnerabilidades de dia zero em toda a sua frota NGINX (incluindo NGINX Plus, NGINX Open Source, produtos Kubernetes e opções de Azure como serviço).
Expandindo os limites da defesa em profundidade para uma era impulsionada pela IA
As vulnerabilidades de dia zero descobertas por IA não representam apenas uma mudança no cenário de ameaças — elas oferecem um vislumbre do futuro da segurança cibernética. A descoberta de vulnerabilidades por IA não é um evento isolado; é um sinal de que as ferramentas que usamos para nos proteger precisam evoluir no mesmo ritmo daquelas usadas para nos atacar. As vulnerabilidades impulsionadas por IA marcam um ponto de virada para a segurança cibernética, exigindo uma estratégia de defesa mais ampla e profunda.
À medida que os invasores usam a IA para descobrir e explorar pontos fracos, os CISOs devem se concentrar na defesa em profundidade, ampliando a cobertura de toda a superfície de ataque. Isso significa expandir a proteção para abranger mais protocolos, bases de código e dados de configuração, além de implementar mecanismos de segurança em todas as etapas do ciclo de vida das aplicações. O aumento das ameaças de IA não exige apenas ferramentas mais inteligentes, mas também cobertura abrangente e automação para minimizar erros humanos. Nesta nova era, a sobrevivência depende de fortalecer todas as camadas e não deixar nenhuma vulnerabilidade desprotegida.
Para saber mais, acesse a página do F5 NGINX App Protect.
Sobre o autor
Publicações relacionadas no blog
Como o F5 NGINX One aprimora o gerenciamento e a observabilidade
Descubra como o F5 NGINX One aprimora o gerenciamento e a observabilidade de ambientes híbridos e multicloud ao oferecer um console web centralizado baseado em SaaS, com insights em tempo real, conformidade automatizada e gerenciamento simplificado de configurações.
Do OpenAPI ao NGINX como gateway de API usando uma API declarativa
Descubra como transformar uma definição de esquema OpenAPI em uma configuração NGINX totalmente funcional, operando como um API Gateway com a segurança de um Web Application Firewall e um Portal do Desenvolvedor, usando uma abordagem declarativa de API.
Como gerenciar picos repentinos de tráfego e sobrecarga do servidor
Picos de tráfego e sobrecarga de servidores são preocupações sérias para varejistas online em qualquer época, mas especialmente durante a “Cyber Season” de compras de fim de ano. Detalhamos como você pode aproveitar as soluções de entrega de aplicações de nível de produção da NGINX para se preparar para aumentos repentinos de tráfego.
Distribuição segura de chaves privadas SSL com o NGINX
Descrevemos três maneiras progressivamente mais seguras de proteger chaves privadas SSL ao configurar o NGINX para processar tráfego HTTPS: permitir acesso de leitura apenas ao usuário root, criptografar as chaves com senhas armazenadas separadamente e distribuir as senhas a partir de um repositório central.
Agrupando solicitações de API em lotes com NGINX Plus e o módulo JavaScript do NGINX
O módulo JavaScript do NGINX lançado com o NGINX Plus R15 oferece suporte a subsolicitações, possibilitando uma classe totalmente nova de casos de uso para o NGINX Plus. Este exemplo completo também usa a API do NGINX Plus e os módulos de chave-valor para converter solicitações de API dos clientes em solicitações separadas para as APIs dos microsserviços que compõem um aplicativo.
Como superar o esgotamento de portas efêmeras no NGINX e no NGINX Plus
Confira dicas para evitar o esgotamento de portas efêmeras com ajustes no kernel do Linux, conexões keepalive e conexões vinculadas dinamicamente a endereços IP locais.