紛争時における「井戸への毒物混入の歴史」は古くから知られています。井戸へのアクセスを遮断するにせよ、病気の拡散を増幅する手段として利用するにせよ、町の井戸は常に重大な攻撃経路となってきました。
現代においては、井戸を、インフラ、アプリケーション、デジタルサービスに変更を加える自動化を開始するスクリプトやAPIエンドポイントになぞらえることができます。近日公開予定のF5の「State of Application Strategy 2023」レポートによると、組織の大半にあたる78%が、まさにその目的でIT全体にわたり多様な自動化を活用しています。Facebook、Twitter、Amazonなどが運用する複雑なハイパースケールシステムへの変更に、自動化が広く利用されていることを考えれば、これは驚くことではありません。
その理由は、かつて共同で使われていた井戸と同じように、1つのスクリプトがわずか数分で数千ものシステムに影響を及ぼす可能性があるためです。以前なら、同じ数のシステムに手作業で変更を加えるには、数日、場合によっては数週間かかっていたでしょう。自動化は効果を増幅し、人の力だけでは決して実現できない規模にまで、あらゆる運用を拡張できるようにします。自動化は、プロセス、プラクティス、ビジネスを拡張するための基盤です。実際、デジタルビジネスのためのエンタープライズアーキテクチャでも述べたように、自動化なしに組織がデジタルビジネスへ移行することはできないと言えるでしょう。自動化は、データを有効活用し、SRE運用を導入し、モダンなアプリケーションデリバリを通じてデジタルサービスに適応力を組み込むために、組織が構築すべき6つの主要な能力の1つです。
しかし、自動化は文字どおり自動で進みます。いったん開始すると、こうしたシステム全体に連鎖的に広がる変更を途中で止めるのは困難です。そもそも、変化のスピードは自動化を推進する要因の1つであり、いったん始まった変更を止めることは、不可能ではないにしても容易ではありません。
自動化によって意図しない変更が波及し、最終的にインターネットの広範囲に影響を及ぼした事例は、世間から隔絶して暮らしていない限り、耳にしたことがあるでしょう。不適切なパラメーターをスクリプトに渡してしまうと、Enterキーを押すかAPIエンドポイントを呼び出した後に取り消すことは、ほぼ不可能です。ひとたび実行されれば、取り返しがつきません。
IT自動化のセキュリティについて警鐘を鳴らすのは、今回が初めてではありません。これは見過ごされ、十分に研究されていない攻撃ベクトルであり、いずれ悪用されるでしょう。たとえその「いずれ」が数十年先だとしても、より差し迫った脅威である人為的ミスは依然として存在します。Uptime Instituteの最新調査によると、「過去3年間に、人為的ミスが原因で大規模な障害を経験した組織は約40%に上ります」。
ここでAI、より正確にはMLの出番となります。
IT自動化を保護するための機械学習の活用
機械学習は、データポイント間のパターンや関係性を明らかにすることに特に優れています。現在、市場の大半は、セキュリティや運用上の課題を解決するための機械学習の活用に注目しています。たとえば、ユーザーがボットか人間かの識別、攻撃の認識、さらには差し迫ったシステム停止の予測などが挙げられます。
十分に検討されていないことが多い領域の1つに、AIとMLを活用したアプリインフラストラクチャの保護があります。たとえば、機械学習を使用して、オペレーターや管理者が重要なシステムをどのように操作しているかを把握し、通常とは異なる操作を即座に検知できます。これは、アクセス権限のないディレクトリにアクセスしようとしたり、通常の使用範囲外のパラメーターでコマンドを実行しようとしたりする攻撃者の検知に役立ちます。
最後の部分をもう一度お読みください。通常の使用範囲外のパラメーターを指定してコマンドを実行する。
なるほど、ここがポイントです。異常なパラメーターや通常とは異なるコマンドの実行試行を検出するというAIや機械学習全般の能力は、セキュリティに特有のものではありません。つまり、このテクノロジーはIT自動化にも同様に適用でき、人為的ミスによるコマンドや意図的な悪意のあるコマンドを検出できます。
対象システムに対する適切なレベルのアクセス権があることを前提とすれば、このような機械学習ソリューションは、不適切なパラメーターの偶発的な指定、ラテラル通信の試み、その他の攻撃からシステムを保護する手段となり得ます。たとえば、ランサムウェア対策にも活用できるのではないでしょうか。
アプリ、アプリケーションデリバリ、自動化を支えるインフラストラクチャは、依然として攻撃者にとって魅力的な攻撃経路です。組織が自動化の導入を進めるなかで（実際に導入は進んでいます）、その利用が偶発的または意図的にもたらす影響も同時に考慮する必要があります。そのうえで、避けられない操作ミスや悪意あるキー入力から自動化を保護する方法を検討しなければなりません。
自動化は、力を何倍にも増幅します。これは紛れもない事実です。つまり、本来の目的にも悪意のある目的にも利用できるということです。そのため、自動化を保護する必要があります。機械学習は、AIと運用を統合し、デジタルビジネスに不可欠な要素であり続けるインフラストラクチャを保護する方法の1つとなる可能性があります。
著者について
Lori MacVittieは、F5のOffice of the CTOに所属するDistinguished Engineer兼Chief Evangelistであり、アプリケーションデリバリ、自動化戦略、インフラストラクチャに関する深い専門知識を有しています。AIエージェントのガードレール策定、脆弱なマルチクラウドアーキテクチャの分析、スケーラブルなシステムの限界の検証など、複雑な事柄を明快にすることで知られています。アプリケーション開発、ITアーキテクチャ、ネットワークおよびシステム運用の分野で、30年以上にわたる業界経験を有しています。F5入社前は、受賞歴のあるテクノロジー編集者として活躍していました。 MacVittieはコンピューターサイエンスの修士号を取得しており、セキュリティ、クラウド、エンタープライズアーキテクチャにわたる分野で多数の著作を発表しています。また、テーブルトークゲームとビデオゲームをこよなく愛し、チーズについては遠慮なく強いこだわりを語ります。
Lori Mac Vittieのその他のブログ記事関連するブログ記事
SOAS 2025：足並みの乱れが凡庸さを招く
AI導入における方針の不一致は、非効率を招きます。セキュリティ、自動化、導入の各戦略を整合させ、AIの可能性を最大限に引き出す方法をご紹介します。
WebAssemblyが重要な理由
WebAssembly（Wasm）は、あらゆるプラットフォームで高性能なアプリケーションを実現する、ポータブルで高速かつセキュアなバイナリ命令セットです。
インフラストラクチャは依然として格好の攻撃経路
クラウドコンピューティングでは、APIやドラッグ＆ドロップ式の設定ツールを活用し、ネットワークやインフラストラクチャを敬遠する人がそれらを直接扱わずに済むようにすることで、インフラストラクチャへの対応を不要にすることが長年追求されてきました。しかし、インフラストラクチャを無視することも、攻撃の主要な標的であるという事実を見過ごすこともできません。
堅牢なデータアーキテクチャがもたらす戦略的メリット
適切に構築されたデータアーキテクチャがもたらす効果は、業務プロセスの改善にとどまりません。戦略的な業務効率の向上、より深いビジネスインサイトの獲得、隣接するビジネス機会への展開にもつながり、これらすべてをより俊敏に実行できるようになります。
デジタルワークフローにおける不正検知には、データだけでは不十分
2019年には、業界全体でクレジットカード詐欺の試みが約25万件確認されました。これは約2分に1件の割合です。今日、不正を検知するには、デジタルワークフロー上のできるだけ多くのポイントから収集したデータを相互に関連付け、手作業によるデータ処理をはるかに上回る速度で分析する能力が求められます。