Utiliser l’IA pour sécuriser l’automatisation informatique

Lori Mac VittieIngénieur émérite et évangéliste en chef | F5

L’histoire de l’empoisonnement des puits en période de conflit est bien établie. Qu’il s’agisse de couper l’accès aux puits ou de s’en servir comme multiplicateur de force pour propager des maladies, le puits communal a toujours constitué un vecteur d’attaque majeur.

À l’époque moderne, on peut comparer un puits à un script ou à un point de terminaison d’API qui déclenche une automatisation apportant des changements à l’infrastructure, aux applications et aux services numériques. La plupart des organisations — 78 % selon notre prochain rapport État de la stratégie applicative 2023 — utilisent un large éventail d’automatisations dans l’ensemble de leur environnement informatique à cette fin. Cela n’a rien de surprenant compte tenu du recours généralisé à l’automatisation pour apporter des changements à des systèmes complexes à très grande échelle, exploités notamment par Facebook, Twitter et Amazon.

En effet, à l’instar du puits commun d’autrefois, un seul script peut affecter des milliers de systèmes en quelques minutes. Auparavant, apporter manuellement des modifications au même nombre de systèmes aurait pu prendre des jours, voire des semaines. L’automatisation est un puissant levier qui permet à toutes sortes d’opérations de changer d’échelle comme aucun être humain ne pourrait le faire. Elle est la pierre angulaire du passage à l’échelle des processus, des pratiques et de l’entreprise. On peut même affirmer, comme nous l’avons fait dans Architecture d’entreprise pour le numérique, qu’une organisation ne peut devenir une entreprise numérique sans automatisation. Celle-ci fait partie des six capacités clés que les organisations doivent développer pour exploiter efficacement les données, adopter les pratiques SRE et doter les services numériques de la capacité à s’adapter grâce à la mise à disposition moderne des applications.

Mais le propre de l’automatisation, c’est que, justement, elle est automatique. Une fois lancée, il est difficile d’interrompre la cascade de changements qu’elle entraîne dans ces systèmes. Après tout, la rapidité des changements est l’un des moteurs de l’automatisation et, une fois amorcés, ces changements sont difficiles, voire impossibles, à arrêter.

Il faudrait vivre coupé du monde pour ne pas avoir entendu parler de systèmes automatisés ayant propagé des modifications involontaires qui ont fini par toucher de vastes pans d’Internet. Une fois la touche Entrée enfoncée ou le point de terminaison d’une API appelé, il est quasiment impossible d’annuler un paramètre erroné transmis à un script. Une fois le script exécuté, le mal est fait.

Ce n’est pas la première fois que je tire la sonnette d’alarme concernant la sécurité de l’automatisation informatique. Il s’agit d’un vecteur d’attaque négligé et encore peu étudié qui finira par être exploité. Et même si cela ne devait arriver que dans plusieurs décennies, la menace plus immédiate que représente l’erreur humaine reste bien réelle. Selon la dernière étude de l’Uptime Institute, « près de 40 % des organisations ont subi une panne majeure causée par une erreur humaine au cours des trois dernières années. »

C’est là que l’IA — ou, plus exactement, l’apprentissage automatique — entre en scène.

L’utilisation du machine learning pour protéger l’automatisation informatique

L’apprentissage automatique est particulièrement efficace pour mettre au jour des tendances et des relations entre les points de données. Aujourd’hui, la majeure partie du marché se concentre sur son application à la résolution des enjeux de sécurité et d’exploitation. Il permet notamment de déterminer si un utilisateur est un robot ou un humain, de détecter les attaques et même de prévoir les pannes imminentes.

Un domaine souvent peu exploré est l’utilisation de l’IA et du machine learning pour protéger l’infrastructure des applications. Il est par exemple possible d’utiliser le machine learning pour comprendre comment les opérateurs et les administrateurs interagissent avec les systèmes critiques et détecter immédiatement toute interaction qui s’écarte de la norme. Cette approche permet de repérer les attaquants qui tentent d’accéder à des répertoires auxquels ils ne devraient pas avoir accès ou d’exécuter des commandes avec des paramètres inhabituels.

Relisez cette dernière partie. Exécuter des commandes avec des paramètres sortant de l’usage habituel.

Ah, voilà. La capacité de l’IA et, plus généralement, de l’apprentissage automatique à détecter des paramètres anormaux ou une tentative d’exécution d’une commande inhabituelle n’est en rien propre à la sécurité. Cela signifie que cette technologie pourrait tout aussi bien être appliquée à l’automatisation informatique afin de détecter aussi bien les erreurs humaines que les commandes délibérément malveillantes.

À condition de disposer du niveau d’accès approprié aux systèmes cibles, une telle solution d’apprentissage automatique pourrait certainement permettre de protéger les systèmes contre des paramètres incorrects occasionnels, des tentatives de communication latérale ou toute autre attaque. Et pourquoi pas les rançongiciels ?

L’infrastructure — pour les applications, leur mise à disposition et l’automatisation — reste un vecteur d’attaque attrayant. À mesure que les entreprises adoptent davantage l’automatisation — et c’est bien le cas —, elles doivent également prendre en compte les conséquences, accidentelles ou intentionnelles, de son utilisation. Il convient ensuite de réfléchir à la manière de la protéger contre l’inévitable erreur de manipulation ou la frappe malveillante.

L’automatisation est un multiplicateur de force. Un point, c’est tout. Cela signifie qu’elle est utile aussi bien pour les usages prévus que malveillants. D’où la nécessité de la protéger. Le machine learning pourrait être un moyen d’intégrer l’IA aux opérations afin de protéger l’infrastructure, qui reste une composante essentielle de toute entreprise numérique.

À propos de l’auteur

Lori Mac VittieIngénieur émérite et évangéliste en chef | F5

Lori MacVittie est ingénieure émérite et évangéliste en chef au sein du bureau du directeur technique de F5. Elle possède une expertise approfondie dans la fourniture d’applications, les stratégies d’automatisation et les infrastructures. Elle est réputée pour sa capacité à rendre la complexité intelligible, qu’elle définisse des garde-fous pour les agents d’IA, analyse des architectures multicloud fragiles ou explore les limites des systèmes évolutifs. Elle cumule plus de trente ans d’expérience dans le secteur, couvrant le développement d’applications, l’architecture informatique ainsi que l’exploitation des réseaux et des systèmes. Avant de rejoindre F5, elle a été rédactrice spécialisée dans les technologies et a reçu plusieurs distinctions. MacVittie est titulaire d’un master en informatique et est une autrice prolifique dont les publications couvrent la sécurité, le cloud et l’architecture d’entreprise. Elle est également une passionnée de jeux de société et de jeux vidéo, et assume pleinement ses avis bien tranchés sur le fromage.

Autres articles de Lori Mac Vittie