Por primera vez, un sistema de detección de vulnerabilidades basado en IA ha identificado una vulnerabilidad de día cero en un software de uso habitual, según el equipo de seguridad de Google. El avance de Google en IA pone de relieve una transición inevitable hacia riesgos —y soluciones— basados en IA. Los investigadores de Google utilizaron un modelo de IA, Big Sleep, para identificar una vulnerabilidad de seguridad de la memoria —un desbordamiento inferior del búfer de pila— en el motor de bases de datos SQLite. SQLite es uno de los motores de bases de datos más utilizados y está integrado en millones de dispositivos y aplicaciones. Es de código abierto y ocupa un lugar importante en la cadena de suministro de software para canalizaciones de datos y bases de datos. Big Sleep identificó en su código una vulnerabilidad crítica de desbordamiento inferior del búfer de pila, un fallo que los métodos convencionales no habían detectado.
Para los CISO, las implicaciones son importantes. La IA puede utilizarse, y se utilizará, para detectar vulnerabilidades de día cero, tanto por parte de actores bienintencionados como malintencionados. La seguridad avanzará a un ritmo más rápido y será necesario recurrir a la IA para mantenerse al día. Al mismo tiempo, será aún más importante garantizar que los controles de seguridad fundamentales estén implantados y correctamente configurados. Este momento pone de relieve la necesidad de abordar las amenazas impulsadas por la IA desde dos frentes. En primer lugar, mediante el despliegue de defensas basadas en IA para contrarrestar la rápida evolución de los riesgos de seguridad. En segundo lugar, garantizando que los marcos de seguridad existentes estén reforzados y puedan integrarse con estas nuevas capacidades.
“El auge de las amenazas basadas en IA no solo exige herramientas más inteligentes, sino también una cobertura integral y automatización para minimizar los errores humanos.”
El inminente auge de las vulnerabilidades de día cero impulsadas por la IA
Los grandes modelos de lenguaje (LLM) capaces de programar y analizar código están mejorando rápidamente. Además, están disponibles de forma gratuita y, a menudo, son de código abierto. Los atacantes se han percatado de ello y buscan activamente aprovechar la IA para detectar vulnerabilidades en los sistemas. Los CISO deben prever un aumento de las vulnerabilidades de día cero descubiertas mediante IA debido a varios factores clave:
Capacidades avanzadas de la IA: Los modelos de IA modernos, especialmente los LLM, han demostrado su eficacia a la hora de analizar bases de código complejas para identificar vulnerabilidades hasta entonces desconocidas. El uso de la IA por parte de Google en el Proyecto Big Sleep para descubrir una vulnerabilidad de día cero generalizada es un buen ejemplo del potencial de la IA en las medidas de seguridad proactivas.
Automatización y eficiencia: Las herramientas basadas en IA pueden automatizar el proceso de detección de vulnerabilidades, lo que acelera considerablemente la identificación de fallos de seguridad. Esta eficiencia permite detectar vulnerabilidades a un ritmo inalcanzable únicamente mediante métodos manuales. El uso de la IA por parte de GreyNoise Intelligence para descubrir vulnerabilidades de día cero en cámaras de transmisión en directo ejemplifica esta capacidad.
Mayor comprensión semántica: Los modelos de IA pueden analizar el código con una comprensión más profunda del contexto, la intención y la funcionalidad, lo que les permite descubrir vulnerabilidades que los métodos tradicionales podrían pasar por alto. Esta comprensión semántica permite a la IA identificar no solo errores de programación evidentes, sino también fallos sutiles de lógica, problemas de configuración y brechas de seguridad que podrían aprovecharse. Por ejemplo, OpenAI Codex ha demostrado su capacidad para detectar vulnerabilidades de seguridad sutiles al comparar el comportamiento previsto de un programa con su implementación real.
La convergencia de estos avances implica que los CISO y los equipos de seguridad deben prepararse para una oleada de vulnerabilidades de día cero descubiertas mediante IA. Para mantenerse a la vanguardia, las organizaciones deben dar prioridad a la adopción de herramientas defensivas basadas en IA, reforzar la colaboración entre los equipos de desarrollo y seguridad para abordar las vulnerabilidades en fases más tempranas y formar continuamente al personal sobre las nuevas amenazas relacionadas con la IA. Las estrategias proactivas serán fundamentales para mitigar los riesgos que plantea esta nueva era de ciberataques facilitados por la IA. Esto implicará utilizar la IA para combatir las amenazas basadas en IA, así como redoblar la apuesta por la confianza cero y otras estrategias proactivas para reducir la superficie de ataque.
Una defensa en profundidad aún mayor se está volviendo imprescindible
Para los CISO, el nuevo panorama de amenazas de la IA pone aún más de relieve la importancia de proteger la mayor parte posible de la superficie de ataque. Esto implica abarcar una gama más amplia de código, datos de configuración y protocolos. También supone distribuir los mecanismos de seguridad entre más puntos de detección a lo largo del ciclo de vida de entrega de aplicaciones, así como proporcionar herramientas y automatización para eliminar más tareas manuales.
Por ejemplo, F5 NGINX App Protect probablemente bloquearía muchas vulnerabilidades de día cero identificadas mediante IA al impedir comportamientos anómalos en una amplia variedad de protocolos (HTTP/S, HTTP/2, gRPC, MQTT y WebSocket). NGINX App Protect puede implementarse en cualquier lugar, incluso junto con cualquier producto de NGINX y en el pipeline de CI/CD. Como otro componente de la defensa en profundidad, la consola SaaS de NGINX One funciona como un motor automatizado de recomendaciones de configuración, lo que permite a los equipos aplicar rápidamente cambios de configuración para bloquear vulnerabilidades de día cero en toda su flota de NGINX (incluidos NGINX Plus, NGINX Open Source, productos de Kubernetes y opciones de Azure como servicio).
Ampliando los límites de la defensa en profundidad para una era impulsada por la IA
Las vulnerabilidades de día cero descubiertas por la IA no solo suponen un cambio en el panorama de las amenazas, sino que ofrecen una visión del futuro de la ciberseguridad. El descubrimiento de vulnerabilidades mediante IA no es un hecho aislado, sino una señal de que las herramientas que utilizamos para protegernos deben evolucionar al mismo ritmo que las empleadas para atacarnos. Las vulnerabilidades impulsadas por la IA marcan un punto de inflexión para la ciberseguridad y exigen una estrategia de defensa más amplia y profunda.
A medida que los atacantes aprovechan la IA para descubrir y explotar puntos débiles, los CISO deben centrarse en una defensa en profundidad que abarque una mayor parte de la superficie de ataque. Esto implica ampliar la protección para incluir más protocolos, bases de código y datos de configuración, al tiempo que se implementan mecanismos de seguridad en cada etapa del ciclo de vida de las aplicaciones. El auge de las amenazas basadas en IA no solo exige herramientas más inteligentes, sino también una cobertura integral y automatización para minimizar los errores humanos. En esta nueva era, la supervivencia depende de reforzar todas las capas y no dejar ninguna vulnerabilidad sin proteger.
Para obtener más información, visite la página web de F5 NGINX App Protect.
Sobre el autor
Artículos relacionados del blog
Únete a F5 NGINX en AppWorld 2024
Descubre las numerosas razones para asistir al evento insignia de F5, que incluirá un emocionante anuncio sobre la cartera de productos NGINX.
Rotación de certificados SSL/TLS sin reinicios en NGINX Open Source
La función de diccionario compartido permite configurar NGINX sin necesidad de reiniciarlo al renovar los certificados SSL/TLS.
Exposición de APIs en Kubernetes
La unidad 2 de Microservices March 2022 se centra en cómo exponer tus API en Kubernetes. Aquí tienes enlaces a los recursos que necesitas: la retransmisión en directo del 14 de marzo, artículos de blog y otros recursos de preparación, y el laboratorio práctico «Protege las API de Kubernetes mediante la limitación de solicitudes».
NGINX Sprint 2.0: visión clara, código renovado y nuevos compromisos con el código abierto
Hoy, en NGINX Sprint 2.0, anunciamos cómo respaldaremos nuestra visión del futuro de las aplicaciones modernas con una mayor presencia en la comunidad de código abierto, incluida la participación en el proyecto comunitario Kubernetes, nuevos proyectos de software de código abierto y la arquitectura de referencia para aplicaciones modernas.
Presentamos NGINX Plus R22
NGINX Plus R22 incorpora nuevas funcionalidades, como la compatibilidad con OCSP para verificar la revocación de certificados en TLS mutuo, el uso de varios proveedores de identidad OIDC en una configuración, el seguimiento en tiempo real de la limitación de solicitudes y conexiones en el panel de NGINX Plus y mejoras en NGINX JavaScript.
Presentamos NGINX Plus R17
NGINX Plus R17 incorpora compatibilidad con la limitación de velocidad en dos fases y con TLS 1.3, la versión más reciente del protocolo Transport Layer Security. La configuración de OpenID Connect es más sencilla y NGINX ModSecurity WAF es el doble de rápido que antes. También se ha actualizado el módulo JavaScript de NGINX.