La historia del envenenamiento de pozos en tiempos de conflicto está ampliamente documentada. Ya sea impidiendo el acceso a los pozos o utilizándolos para potenciar la propagación de enfermedades, el pozo de la localidad siempre ha sido un importante vector de ataque.
En la actualidad, podemos comparar un pozo con un script o un endpoint de API que inicia una automatización que introduce cambios en la infraestructura, las aplicaciones y los servicios digitales. La mayoría de las organizaciones —el 78 %, según nuestro próximo informe Estado de la estrategia de aplicaciones 2023— emplean un amplio conjunto de automatizaciones en todo el ámbito de TI precisamente para eso. No debería sorprendernos, dada la prevalencia de la automatización para introducir cambios en sistemas complejos y a hiperescala operados por Facebook, Twitter y Amazon, entre otros.
Esto se debe a que, al igual que el pozo comunitario de antaño, un solo script puede afectar a miles de sistemas en cuestión de minutos. Antes, los cambios manuales que afectaban al mismo número de sistemas podían tardar días o incluso semanas. La automatización tiene un efecto multiplicador, ya que permite escalar todo tipo de operaciones de formas que los seres humanos jamás podrían lograr. Es la piedra angular para escalar los procesos, las prácticas y el negocio. De hecho, se puede argumentar —como hicimos en Arquitectura empresarial para el negocio digital— que una organización no puede convertirse en un negocio digital sin automatización. Es una de las seis capacidades clave que las organizaciones deben desarrollar para aprovechar los datos con éxito, adoptar operaciones de SRE y dotar a los servicios digitales de la capacidad de adaptarse mediante la entrega moderna de aplicaciones.
Pero la cuestión con la automatización es que, bueno, es automática. Una vez iniciada, resulta difícil detener los cambios en cascada que se propagan por esos sistemas. Al fin y al cabo, la velocidad del cambio es uno de los motivos para automatizar y, una vez iniciados, esos cambios son difíciles —si no imposibles— de detener.
Tendrías que vivir completamente aislado para no haberte enterado de casos en los que la automatización propagó cambios no deseados que, en última instancia, afectaron a amplias zonas de Internet. Una vez que se pulsa la tecla Intro o se invoca un endpoint de una API, es prácticamente imposible retirar un parámetro incorrecto introducido en un script. Una vez ejecutado, el daño ya está hecho.
No es la primera vez que doy la voz de alarma sobre la seguridad de la automatización de TI. Se trata de un vector de ataque ignorado y poco estudiado que, tarde o temprano, será explotado. E incluso si ese «tarde o temprano» tarda décadas en llegar, la amenaza más inmediata del error humano sigue estando presente. Según el último estudio del Uptime Institute, «casi el 40 % de las organizaciones han sufrido una interrupción grave causada por un error humano en los últimos tres años».
Aquí es donde entra en escena la IA o, más correctamente, el aprendizaje automático.
El uso del aprendizaje automático para proteger la automatización de TI
El aprendizaje automático es especialmente eficaz a la hora de descubrir patrones y relaciones entre puntos de datos. En la actualidad, la mayor parte del mercado se centra en aplicar el aprendizaje automático para resolver retos operativos y de seguridad. Esto incluye determinar si un usuario es un bot o una persona, detectar ataques e incluso predecir interrupciones inminentes.
Un ámbito que a menudo queda sin explorar es el uso de la IA y el aprendizaje automático para proteger la infraestructura de las aplicaciones. Por ejemplo, se puede utilizar el aprendizaje automático para comprender cómo interactúan los operadores y administradores con los sistemas críticos y detectar de inmediato cuándo una interacción se desvía de la norma. Esto resulta útil para detectar a atacantes que intentan acceder a directorios a los que no deberían tener acceso o ejecutar comandos con parámetros fuera de los patrones de uso habituales.
Vuelve a leer esa última parte. Ejecutar comandos con parámetros fuera del uso habitual.
Ah, ahí está. La capacidad de la IA y del aprendizaje automático en general para detectar parámetros anómalos o un intento de ejecutar un comando inusual no es algo exclusivo de la seguridad. Esto significa que esta tecnología podría aplicarse con la misma facilidad a la automatización de TI para detectar tanto errores humanos como comandos maliciosos ejecutados de forma intencionada.
Suponiendo que se disponga del nivel de acceso adecuado a los sistemas de destino, una solución de aprendizaje automático de este tipo podría ofrecer sin duda una vía para proteger los sistemas frente a parámetros incorrectos ocasionales, intentos de comunicación lateral o cualquier otro ataque. ¿Ransomware, por ejemplo?
La infraestructura —para las aplicaciones, su entrega y la automatización— sigue siendo un vector de ataque atractivo. A medida que las organizaciones adoptan una mayor automatización —y así lo están haciendo—, deben considerar al mismo tiempo las consecuencias —accidentales o intencionadas— de su uso. A partir de ahí, es necesario plantearse cómo protegerla frente al inevitable error humano o una pulsación maliciosa.
La automatización es un multiplicador de fuerza. Y punto. Eso significa que resulta útil tanto para los usos previstos como para los maliciosos. Lo que implica la necesidad de protegerla. El aprendizaje automático puede ser una forma de integrar la IA con las operaciones para proteger la infraestructura, que sigue siendo un componente esencial de cualquier empresa digital.
Sobre el autor
Lori MacVittie es ingeniera distinguida y evangelista jefe en la Oficina del CTO de F5, y cuenta con una amplia experiencia en entrega de aplicaciones, estrategia de automatización e infraestructura. Es conocida por convertir la complejidad en claridad, ya sea definiendo mecanismos de protección para agentes de IA, analizando arquitecturas multinube frágiles o explorando los límites de los sistemas escalables. Aporta más de treinta años de experiencia en el sector en desarrollo de aplicaciones, arquitectura de TI y operaciones de redes y sistemas. Antes de incorporarse a F5, fue una galardonada editora de tecnología. MacVittie posee un máster en Informática y es una autora prolífica cuyas publicaciones abarcan la seguridad, la nube y la arquitectura empresarial. También es una apasionada de los juegos de mesa y los videojuegos, y expresa sin complejos sus firmes opiniones sobre el queso.
Más artículos de Lori Mac VittieArtículos relacionados del blog
Proteger los endpoints de las API dificulta la seguridad de las API
Descubre las complejidades de la seguridad de las API, los retos a los que se enfrentan las organizaciones, la evolución de los ataques contra endpoints de API y la necesidad de políticas de seguridad adaptadas.
¿Qué es el sesgo de la IA y por qué es importante para TI?
Descubre los fundamentos del aprendizaje de la IA. Aprende cómo pueden surgir sesgos en la IA y qué riesgos plantean para las TI y la transformación digital.
Redefiniendo la ciberseguridad en el extremo de la nube distribuida con IA y telemetría en tiempo real
La transformación digital y la adopción de tecnologías en la nube están provocando cambios en las arquitecturas de las aplicaciones. Estos cambios introducen nuevas superficies de ataque, que son el objetivo de métodos de ataque avanzados, altamente organizados y con motivaciones económicas. Mediante el uso del framework Morpheus de NVIDIA, F5 está investigando técnicas para detectar estas amenazas avanzadas con telemetría en tiempo real y análisis basados en IA.
El papel de la nube en las aplicaciones nativas del edge
No debería sorprender que, al igual que la aparición de la nube dio lugar a las aplicaciones nativas de la nube, el edge esté impulsando un conjunto de aplicaciones nativas del edge. Sin embargo, estas aplicaciones no residirán únicamente en el edge. Al mismo tiempo, están surgiendo nuevos patrones arquitectónicos que aprovechan las aplicaciones alojadas en la nube y en el centro de datos.
La creciente diversidad de ubicaciones y usuarios está impulsando a las empresas hacia el edge
En el contexto del ámbito de las aplicaciones, el término «usuario» siempre se ha referido a la entidad que interactúa con una aplicación. Del mismo modo que los cambios en las arquitecturas de las aplicaciones impulsan cambios en las tecnologías que permiten ofrecerlas y protegerlas, los cambios en la definición de usuario han provocado cambios en los lugares donde se despliegan las aplicaciones.
El edge está impulsando un renacimiento de las infraestructuras
A medida que las organizaciones aumentan la generación de datos y tratan de extraer valor empresarial de ellos, sin duda recurrirán a la analítica y la automatización basadas en la IA y el aprendizaje automático. Precisamente este tipo de cargas de trabajo son las que más se beneficiarían de una infraestructura optimizada y, sin embargo, hoy en día son las que menos probabilidades tienen de poder aprovecharla.