数年前まで、「生成AI」と聞いて多くの人が思い浮かべたのは、シュールな肖像画を描いたり、音楽を作曲したり、短編小説を書いたりといった芸術的な創作活動でした。ところが現在では、同じ生成技術がサイバーセキュリティの強力なツールへと進化しています。かつて風変わりな猫の画像を作るために使われていた技術が、今では高度な脅威ベクトルの特定や、現実に発生するインシデントへの対応に役立っているのは、少し皮肉なことです。
しかし、生成AIとサイバーセキュリティの融合は、単なる誇大宣伝にすぎないのでしょうか。それとも、攻撃の検知と緩和にかかる平均時間を大幅に短縮し得る、脅威モデリングとインシデント対応の新時代が目前に迫っているのでしょうか。ここでは、生成AIが、新たな脅威の特定と、効率的でデータに基づく対応のオーケストレーションの両面で、大きな変革をもたらす存在になろうとしていることを論じます。とはいえ、ほかの新興テクノロジーと同様、落とし穴がないわけではありません。詳しく見ていきましょう。
主張： 生成AIには、パターンを統合し、新たな攻撃ベクトルを予測し、対応戦略を自動化する独自の能力があります。これにより、脅威モデリングとインシデント対応の能力は大幅に向上します。ただし、そのためには、信頼性、倫理、データガバナンスをめぐる課題に正面から取り組む必要があります。
サイバー脅威は猛烈なスピードで進化しており、従来のルールベースまたはシグネチャベースのシステムでは対応が後手に回ることが少なくありません。高度な大規模言語モデルなどの生成モデルは、従来のヒューリスティック手法の範囲をはるかに超えて、異常を検知し、将来起こり得る攻撃パターンについて仮説を立てることができます。しかし、誤検知を「ハルシネーション」によって生み出したり、意図せず悪意のあるコードを生成したりする可能性など、新たな脆弱性ももたらします。こうした機能には、期待と慎重さの両方を持って向き合う必要があります。
既知のシグネチャを超える脅威モデリング
脅威モデリングに生成AIを活用する理由
従来、脅威モデリングは、既知の攻撃シグネチャ、過去のパターン、人間の専門知識に依存してきました。しかし、ポリモーフィック型マルウェア、サプライチェーンの脆弱性、ゼロデイエクスプロイトが急増する中、事後対応に終始する手法では不十分です。
そこで登場するのが生成AIです。今日、「生成」という言葉は大規模言語モデル（LLM）を指すことが多いものの、新たなデータパターンを生成できるその他のアルゴリズムも含まれます。これらのモデルは、膨大なテレメトリデータセットから、不審なコマンドシーケンス、ラテラルムーブメントの試み、データ流出パターンなどの微妙な相関関係を見つけ出します。重要なのは、「悪意がある」と明示的にラベル付けされたものだけに限定されない点です。代わりに、「正常」な動作の基礎となる分布を学習し、脅威として明示的に列挙されていない異常も検出できます。
しかし、異常の検出は最初の一歩にすぎません。特定の挙動が悪意のあるものか無害なものかを示すラベルが付けられていない場合、それが本当に悪意のあるものなのか、単に通常とは異なるだけなのかを確認するために、LLM（またはその他の生成アプローチ）を追加の分類器やヒューリスティックなチェックと組み合わせる必要が生じることがあります。たとえば、新たなラテラルムーブメントのパターンを不審と推定しても、組織によってはアクセス頻度の低いジャンプホストを正当な目的で使用しているため、その状況では異常であっても無害な場合があります。生成AIは、従来のシグネチャでは捉えられない可能性を明らかにすることに優れていますが、どの異常が実際の脅威に該当するかを判断するには、自動化されたものか人間主導かを問わず、堅牢な意思決定ロジックと組み合わせる必要があります。
実環境での検証：F5サンドボックス環境
F5では、進化し続ける脅威環境において生成AIモデルがどのような性能を発揮し得るかを検証するため、2024年後半に制御されたシミュレーションを実施しました。社内のF5テスト環境にマルチテナント環境の匿名化されたログデータを入力し、これまで確認されていなかった新たな攻撃パターンを意図的に注入しました。当初、モデルはいくつかの「誤検知」を発生させました（この種のモデルは過剰に反応することがあります）が、反復的なトレーニングを重ねることで、ベースラインのシグネチャベースシステムよりも高い精度で異常を検知し始めました。特に注目すべき点は、ブルーチームのアナリストも想定していなかった潜在的なエクスプロイトにもフラグを付けたことです。たとえば、通常のファイル共有プロトコルに偽装した特定のラテラルムーブの試みなどです。
「平均修復時間」の短縮
適応型対応プレイブック
生成モデルは検知だけに使われるものではありません。インシデント発生時には、推奨プレイブックを迅速に作成できます。リアルタイムのログを監視し、複数のデータソースから得たインテリジェンスを統合して、連携の取れた対応計画を提案するAIコラボレーターと考えることができます。
たとえば、システムが高リスクの異常を検出した場合、動的なファイアウォールポリシーの適用や、不審な仮想マシン（VM）の隔離を推奨できます。過去のインシデントから学習するため、こうした提案は時間の経過とともに改善されます。これは、初期設定後にはほとんど更新されない静的なランブックからの大きな進歩です。
大規模環境でのツールのオーケストレーション
最近、主要なセキュリティカンファレンス（Black Hat 2024や今年新たに開催されたAI-SecOps Summitなど）では、生成AIの統合が相次いでいます。注目されているのは「自律型」または「エージェント型」の対応です。これは、AIレイヤーがSIEM、エンドポイント保護、WAFなど複数のセキュリティツールをリアルタイムでオーケストレーションするものです。マルチクラウドが一般的になった今、AWS、Azure、オンプレミス環境全体の脅威対応を単一の生成モデルで連携させるアプローチは、非常に魅力的に映ります。
ただし、注意すべき点があります。時代遅れのプロセスや非効率なプロセスをそのまま自動化するだけでは、全体的なセキュリティ態勢を改善するどころか、「失敗を加速させる」おそれがあります。基本的なワークフローを見直さずにAIを導入すると、問題のある手順の実行を加速させかねません。だからこそ、AIは、セキュリティとデリバリーへの取り組み方を再構想するための触媒として捉えるべきです。単に現在の取り組みを高速化するだけでは不十分です。
また、生成モデルで対応を自動化できるからといって、自動化すべきとは限らない点にも注意が必要です。重要な意思決定（本番環境のセグメント全体を隔離する場合など）に人間が関与し続けられるよう、ガードレールとエスカレーション経路が必要です。つまり、単に処理速度を上げるだけでなく、プロセスの根幹そのものを見直す意思があれば、生成AIは従来の前提を問い直し、より効率的で適応性の高いインシデント対応フレームワークを設計する絶好の機会となります。
2025年の注目トピック
- LLM競争は続く：大手クラウドプロバイダー各社は、最も「セキュア」な大規模言語モデル（LLM）のリリースを競い合い、ハルシネーションの低減とコンプライアンスの向上に向けて高度なファインチューニングを施していると主張しています。
- オープンソースプロジェクト：コミュニティ主導の取り組み（AI-SIGSやThreatGenなど）が登場し、セキュリティ研究者がカスタムの生成型脅威モデルを構築するためのオープンソースフレームワークを提供しています。
- 規制当局の注目：EUの新たなAI規制案では、生成AIを活用したサイバーセキュリティアプリケーションが「高リスク」技術に分類され、透明性と明示的なデータ来歴が求められています。
期待が高まる時期を迎えています。レガシーソリューションを一気に追い越そうとする大企業や中堅企業の間で、導入が広がっています。しかし、生成AIの導入を急ぐあまり、堅牢なデータガバナンス、モデルの説明可能性、アカウンタビリティの枠組みといった基本的な手順を省略すると、問題が生じる可能性があります。
ハルシネーション、プライバシー、倫理的ジレンマ
生成モデルは創造的な推論で目を見張る成果を示す一方、もっともらしく聞こえるものの実際には存在しない脅威を「ハルシネーション」として生成することもあります。誤検知が相次ぐと、セキュリティ運用チームが無意味なアラートの洪水に埋もれかねません。こうした状況が続けば、AI駆動型システムへの信頼が損なわれる可能性があります。
堅牢なモデルのトレーニングには、大量のデータが必要です。地域によっては、プライバシー法により、使用できるログやテレメトリが制限される場合があります。コンプライアンス上の深刻な問題を回避し、データを倫理的に利用するには、機密性の高いユーザーデータの除去または匿名化が不可欠です。
その一方で、看過できない負の側面もあります。脅威アクターは生成AIを利用して、巧妙なフィッシングメールを作成したり、新たな形態のマルウェアを開発したり、ゼロデイ脆弱性をより迅速に発見したりすることが可能であり、実際にそうした事例もあります。防御能力を構築するにあたっては、攻撃者も攻撃のために同様の取り組みを進めていると想定しなければなりません。
未来を受け入れる
今後、生成AIは、あらゆるSecOpsツールキットの標準レイヤーへと進化する可能性があります。現在の脆弱性スキャナーや侵入検知システムと同じように、緊密に統合されるでしょう。AIがどのように結論に至ったかをより明確に示すなど、説明可能性が向上すれば、セキュリティチームは脅威モデリングのライフサイクルのより多くの部分を、これまで以上に安心してAIに任せられるようになります。
また、さまざまな組織でトレーニングされた生成モデルが、プライバシーを維持しながら知見の一部を共有する「グローバル脅威インテリジェンス連合」が登場する可能性もあります。これにより、業界を横断してゼロデイ攻撃に対し、より迅速かつ連携の取れた対応が可能になるかもしれません。
とはいえ、まだ初期段階にあることは改めて強調しておく必要があります。組織がミッションクリティカルな場面で生成AIを活用するには、まずデータのベストプラクティス、堅牢なトレーニングパイプライン、明確に定義されたガバナンスに投資する必要があります。
セキュリティを見直す準備はできていますか？
生成AIは、脅威モデリングとインシデント対応に対する従来のアプローチを根本から変える可能性を秘めています。パターンを柔軟に分析し、対応戦略を自動化することで、これまでにないスピードと精度を実現できます。ただし、そのためには、ハルシネーション、コンプライアンス、倫理的な保護策といった固有の課題に対処する必要があります。
関連するブログ記事
SOAS 2025：足並みの乱れが凡庸さを招く
AI導入における方針の不一致は、非効率を招きます。セキュリティ、自動化、導入の各戦略を整合させ、AIの可能性を最大限に引き出す方法をご紹介します。
WebAssemblyが重要な理由
WebAssembly（Wasm）は、あらゆるプラットフォームで高性能なアプリケーションを実現する、ポータブルで高速かつセキュアなバイナリ命令セットです。
インフラストラクチャは依然として格好の攻撃経路
クラウドコンピューティングでは、APIやドラッグ＆ドロップ式の設定ツールを活用し、ネットワークやインフラストラクチャを敬遠する人がそれらを直接扱わずに済むようにすることで、インフラストラクチャへの対応を不要にすることが長年追求されてきました。しかし、インフラストラクチャを無視することも、攻撃の主要な標的であるという事実を見過ごすこともできません。
堅牢なデータアーキテクチャがもたらす戦略的メリット
適切に構築されたデータアーキテクチャがもたらす効果は、業務プロセスの改善にとどまりません。戦略的な業務効率の向上、より深いビジネスインサイトの獲得、隣接するビジネス機会への展開にもつながり、これらすべてをより俊敏に実行できるようになります。
デジタルワークフローにおける不正検知には、データだけでは不十分
2019年には、業界全体でクレジットカード詐欺の試みが約25万件確認されました。これは約2分に1件の割合です。今日、不正を検知するには、デジタルワークフロー上のできるだけ多くのポイントから収集したデータを相互に関連付け、手作業によるデータ処理をはるかに上回る速度で分析する能力が求められます。