ITセキュリティ オートメーションへのAIの活用

紛争時、井戸に毒を入れるというのは古くからの卑劣な手法ですが、井戸を利用できなくするにせよ、戦力を強化する手段として井戸を利用して病気を広めるにせよ、町の井戸は常に重要な攻撃ベクトルでした。

現代では、インフラストラクチャ、アプリケーション、デジタル サービスに変更を加えるための自動化を開始するスクリプトまたはAPIエンドポイントを井戸に例えることができます。ほとんどの組織（近日公開予定の2023年版アプリケーション戦略状況レポートによると78％）が、まさにそれを行うために、IT全体で豊富な自動化セットを導入しています。Facebook、Twitter、Amazonなどが運営する複雑なハイパースケール システムでも、変更を加えるための自動化が導入されていることを考えると、これは当然のことです。

その理由は、昔の共有井戸のように、1つのスクリプトが数分で数千のシステムに影響を与えることができるからです。以前は、同じ数のシステムを手動で変更しようとしたら、数日から数週間もかかったでしょう。自動化は、あらゆる種類の操作を人間では不可能な方法で拡張できる、戦力を強化する手段なのです。自動化は、プロセス、プラクティス、そしてビジネスを拡張するための基盤です。実際、『デジタル ビジネスのためのエンタープライズ アーキテクチャ』で私たちが行ったように、組織は自動化なしではデジタル ビジネスを運用できないと主張する人もいます。自動化は、組織がデータをうまく活用し、SRE運用を採用し、最新のアプリケーション デリバリを通じて適応する能力をデジタル サービスに組み込むために構築する必要がある6つの重要な機能の1つです。

しかし、自動化で問題なのは、それが自動的に行われることです。いったん始まると、そうした複数のシステムにわたって連鎖的に発生する変更を途中で止めることは困難です。変更の速度が自動化の原動力の1つであり、一度始まった変更を止めることは、不可能ではありませんが非常に難しいのです。

インターネットを利用しているなら、自動化によって意図しない変更が伝播され、最終的にはインターネットの大部分に影響が及んだという話を聞いたことがあるはずです。スクリプトに不正なパラメータが組み込まれていた場合、Enterキーが押されるか、APIエンドポイントが呼び出されたら、そのスクリプトを撤回することはほぼ不可能です。いったん実行されたら、井戸に毒を入れられたのと同じです。

IT自動化のセキュリティに関して私が警鐘を鳴らすのはこれが初めてではありません。これは見過ごされ、十分に調査されていない攻撃ベクトルであり、いずれは悪用されることになるでしょう。その「いずれ」が数十年先だとしても、より差し迫った脅威であるヒューマン エラーは依然として存在します。Uptime Instituteの最新の調査によると、「組織の40％近くが、過去3年間にヒューマン エラーが原因で大規模なサービス停止に見舞われています。」

そこで、AI（より正確にはML）の出番です。