Como usar a IA na segurança da automação de TI
A história de envenenamento de poços em tempos de conflito é bem conhecida. Seja cortando o acesso aos poços ou usando-os como um multiplicador de força para espalhar doenças, o poço da cidade sempre foi um vetor de ataque significativo.
Nos tempos modernos, podemos fazer a analogia de um poço com um script ou ponto de extremidade de API que inicia uma automação que impulsiona mudanças em infraestrutura, aplicativos e serviços digitais. A maioria das organizações — 78% de acordo com nosso próximo relatório State of Application Strategy 2023 — emprega um rico conjunto de automações em TI para fazer exatamente isso. Isso não deveria ser nenhuma surpresa, dada a prevalência da automação para impulsionar mudanças em sistemas complexos e de hiperescala operados pelo Facebook, Twitter e Amazon, entre outros.
Isso ocorre porque, assim como o poço compartilhado de antigamente, um único script pode afetar milhares de sistemas em questão de minutos. Antigamente, alterações manuais que afetavam o mesmo número de sistemas podiam levar dias ou até semanas. A automação é um multiplicador de força, permitindo que operações de todos os tipos sejam escalonadas de maneiras que os seres humanos nunca conseguiriam. É a base dos processos de escalonamento, das práticas e dos negócios. De fato, pode-se argumentar — como fizemos em Arquitetura Empresarial para Negócios Digitais — que uma organização não pode se tornar um negócio digital sem automação. É uma das seis principais capacidades que as organizações precisam desenvolver para capitalizar dados com sucesso, adotar operações de SRE e infundir serviços digitais com a capacidade de adaptação por meio da entrega de aplicativos modernos .
Mas a questão sobre automação é que, bem, ela é automática. Uma vez iniciado, é difícil interceptar as mudanças em cascata impulsionadas por esses sistemas. Afinal, a velocidade da mudança é um dos impulsionadores da automação e, uma vez iniciadas, essas mudanças são difíceis — se não impossíveis — de interromper.
Você teria que viver fora da rede para não ter ouvido falar sobre a automação propagando mudanças não intencionais que, no final das contas, impactaram grandes áreas da Internet. Um parâmetro incorreto inserido em um script é quase impossível de ser recuperado depois que o botão Enter é pressionado ou o endpoint da API é invocado. Uma vez executado, o poço foi envenenado.
Esta não é a primeira vez que alerto sobre a segurança da automação de TI. É um vetor de ataque negligenciado e pouco explorado que, eventualmente, será explorado. E mesmo que "eventualmente" esteja a décadas de distância, a ameaça mais imediata de erro humano continua presente. De acordo com a última pesquisa do Uptime Institute , “quase 40% das organizações sofreram uma grande interrupção causada por erro humano nos últimos três anos”.
É aqui que a IA — mais corretamente, ML — entra em cena.
O uso de Machine Learning para proteger a automação de TI
O aprendizado de máquina é particularmente hábil em descobrir padrões e relacionamentos entre pontos de dados. Hoje, a maior parte do mercado está se concentrando na aplicação de aprendizado de máquina para resolver desafios operacionais e de segurança. Isso inclui identificar se um usuário é um bot ou um humano, reconhecer ataques e até mesmo prever interrupções iminentes.
Uma área frequentemente inexplorada é o uso de IA e ML para proteger a infraestrutura de aplicativos. Por exemplo, usar o aprendizado de máquina para entender como operadores e administradores interagem com sistemas críticos e perceber imediatamente quando uma interação se desvia da norma. Isso é útil para detectar invasores tentando acessar diretórios que não deveriam ou invocar comandos com parâmetros fora do uso normal.
Leia a última parte novamente. Invoque comandos com parâmetros fora do uso normal.
Ah, aí está. Não há nada de peculiar à segurança na capacidade da IA e do aprendizado de máquina em geral — de detectar parâmetros anômalos ou uma tentativa de executar um comando incomum. O que significa que essa tecnologia poderia ser facilmente aplicada à automação de TI para detectar erros humanos ou comandos intencionalmente maliciosos.
Assumindo o nível certo de acesso aos sistemas de destino, tal solução de aprendizado de máquina certamente poderia oferecer um caminho para proteger sistemas contra parâmetros ruins ocasionais, tentativas de comunicação lateral ou qualquer outro ataque. Alguém quer ransomware?
A infraestrutura — para aplicativos, entrega de aplicativos e automação — ainda é um vetor de ataque atraente . À medida que as organizações passam a adotar mais automação — e estão adotando — elas precisam considerar simultaneamente as ramificações — acidentais ou intencionais — do uso dessa automação. A partir daí, é necessário considerar como protegê-lo contra o inevitável dedo gordo ou pressionamento de tecla malicioso.
A automação é um multiplicador de força. Ponto final. Isso significa que é útil tanto para casos de uso intencional quanto malicioso. O que implica a necessidade de protegê-lo. O aprendizado de máquina pode ser uma maneira de integrar IA com operações para proteger a infraestrutura que continua sendo um componente vital de um negócio digital.