数年前まで、「生成AI」といえば、超現実的な肖像画の制作や作曲、さらには短編小説の執筆といった芸術的な活動を思い浮かべる方がほとんどでした。それが今では、同じ生成技術がサイバーセキュリティの強力なツールへと進化しています。かつてはユーモラスな猫の画像を作るために使われていた技術が、今や高度な脅威ベクトルの発見や、現実に起きているインシデントへの対応に役立っているのは、少し皮肉なことです。
しかし、生成AIとサイバーセキュリティの融合は、単なる話題先行なのでしょうか。それとも、攻撃の検知と緩和にかかる平均時間を大幅に短縮できる、脅威モデリングとインシデント対応の新時代が目前に迫っているのでしょうか。本稿では、生成AIが、新たな脅威の特定と、データに基づく効率的な対応のオーケストレーションの両方に変革をもたらす存在になろうとしていることを論じます。ただし、どの新興技術にも言えるように、落とし穴がないわけではありません。詳しく見ていきましょう。
論旨: 生成AIに特有の、パターンを統合し、新たな攻撃ベクトルを予測し、対応戦略を自動化する能力は、脅威モデリングとインシデント対応の能力を大幅に向上させます。ただし、そのためには、信頼性、倫理、データガバナンスに関する課題に正面から取り組む必要があります。
サイバー脅威は猛烈なスピードで進化しており、従来のルールベースまたはシグネチャベースのシステムでは対応が追いつかないことが少なくありません。高度な大規模言語モデルなどの生成モデルは、従来のヒューリスティックの範囲をはるかに超えて、異常を検知し、将来起こり得る攻撃パターンの仮説を立てることができます。一方で、ハルシネーションによって誤検知を引き起こしたり、意図せず悪意のあるコードを生成したりする可能性など、新たな脆弱性ももたらします。こうした能力には、期待と慎重さを等しく持って向き合う必要があります。
既知のシグネチャにとどまらない脅威モデリング
脅威モデリングに生成AIを活用する理由
従来、脅威モデリングは、既知の攻撃シグネチャ、過去のパターン、専門家の知見に依存してきました。しかし、ポリモーフィック型マルウェア、サプライチェーンの脆弱性、ゼロデイエクスプロイトの急増により、事後対応だけでは不十分になっています。
そこで登場するのが生成AIです。現在、「生成」という言葉は大規模言語モデル(LLM)を指すことが多いものの、新しいデータパターンを生成できる他のアルゴリズムも含まれます。これらのモデルは、膨大なテレメトリデータセットから、不審なコマンドの連続、ラテラルムーブメントの試み、データの不正持ち出しのパターンなどに見られる微妙な相関関係を見つけ出します。重要なのは、これらのモデルが「悪意のある」ものとして明示的に付けられたラベルに制約されないことです。代わりに、「正常」な振る舞いの背後にある分布を学習し、脅威として明示的にリスト化されていない異常も検知できます。
しかし、異常の検知は最初の一歩にすぎません。ある挙動に悪意があるか無害かのラベルが付けられていない場合、それが本当に悪意のあるものなのか、単に通常と異なるだけなのかを確認するために、LLM(またはその他の生成型アプローチ)に追加の分類器やヒューリスティックなチェックを連携させる必要があるかもしれません。たとえば、新たなラテラルムーブメントのパターンを不審だと推測することがあります。しかし、アクセス頻度の低い踏み台ホストを正当な目的で使用している組織もあり、その場合、この異常は文脈上、無害です。生成AIは、従来のシグネチャでは捉えられない可能性を浮かび上がらせることに優れています。ただし、どの異常が実際の脅威なのかを判断するには、自動化されたものであれ人が主導するものであれ、堅牢な判断ロジックと組み合わせる必要があります。
実環境での試行:F5サンドボックス環境
F5では、進化する脅威環境で生成AIモデルがどのような性能を発揮するかを検証するため、2024年後半に条件を管理したシミュレーションを実施しました。F5の社内テスト環境に、マルチテナント環境から取得した匿名化済みのログデータを入力し、これまでに見られなかった新たな攻撃パターンを意図的に混入させました。当初、モデルはいくつかの「誤検知」を起こしました(こうしたモデルは過剰に反応することがあります)。しかし、トレーニングを繰り返すことで、比較基準となるシグネチャベースのシステムよりも高い適合率で異常を検知するようになりました。特に印象的だったのは、通常のファイル共有プロトコルを装ったラテラルムーブメントの試みなど、ブルーチームのアナリストさえ想定していなかった潜在的なエクスプロイトも検知したことです。
「平均修復時間」の短縮
適応型対応プレイブック
生成モデルは検知だけでなく、インシデント発生時に対応手順の案を迅速に作成することもできます。リアルタイムのログを監視し、複数のデータソースから得たインテリジェンスを統合して、連携の取れた対応計画を提案するAIの協力者と考えてください。
たとえば、システムがリスクの高い異常を検知した場合、動的なファイアウォールポリシーや、不審な仮想マシン(VM)の隔離を推奨できます。過去のインシデントから学習するため、こうした提案は時間とともに改善されます。これは、初期設定後はほとんど更新されない静的なランブックからの大きな進歩です。
大規模なツールのオーケストレーション
最近、主要なセキュリティカンファレンス(Black Hat 2024や今年新たに開催されたAI-SecOps Summitなど)で、生成AIを統合する動きが相次いでいます。焦点となっているのは、AIレイヤーがSIEM、エンドポイント保護、WAFなどの複数のセキュリティツールをリアルタイムで連携させる「自律型」や「エージェント型」の対応です。マルチクラウドが当たり前となった今、AWS、Azure、オンプレミス環境を横断して脅威への対応を調整する単一の生成モデルは、非常に魅力的に映ります。
ただし、注意すべき点があります。時代遅れのプロセスや非効率なプロセスを単に自動化するだけでは、全体的なセキュリティ態勢を改善するどころか、「失敗を早める」リスクがあります。根本的なワークフローを見直さずにAIを導入すると、欠陥のある手順の実行を加速させてしまう可能性があります。だからこそ、AIは、セキュリティとデリバリーへのアプローチを再構想するための触媒として捉えるべきであり、既存の取り組みを単に高速化するためのものではありません。
また、生成モデルが対応を自動化できるからといって、必ずしも自動化すべきとは限りません。本番環境のセグメント全体を隔離するといった重要な判断に、人間が引き続き関与できるようにするには、ガードレールとエスカレーション経路が必要です。つまり、生成AIは、従来の前提を問い直し、より効率的で適応力のあるインシデント対応の枠組みを設計する魅力的な機会をもたらします。ただし、そのためには、単に処理速度を上げるだけでなく、プロセスの根幹から見直す姿勢が求められます。
2025年現在の注目トピック
- LLM競争は続く:大手クラウドプロバイダーは、最も「セキュア」な大規模言語モデル(LLM)のリリースを競い合っています。各社とも、高度なファインチューニングによってハルシネーションを低減し、コンプライアンスを向上させると主張しています。
- オープンソースプロジェクト:コミュニティ主導の取り組み(AI-SIGSやThreatGenなど)が登場し、セキュリティ研究者が独自の生成型脅威モデルを構築するためのオープンソースフレームワークを提供しています。
- 規制上の注目点: EUの新たなAI規制案では、生成AIを活用したサイバーセキュリティアプリケーションを「高リスク」技術に分類し、透明性の確保とデータの来歴の明示を求めています。
今は期待が高まる時期です。従来のソリューションから一気に飛躍しようとする大企業や中堅企業で、導入が進んでいます。ただし、生成AIの導入を急ぐあまり、堅牢なデータガバナンス、モデルの説明可能性、説明責任の枠組みといった基本的な取り組みを省略すると、問題につながる可能性があります。
ハルシネーション、プライバシー、倫理的ジレンマ
生成モデルは創造的な推論で驚かせる一方で、実在しない脅威をもっともらしく作り出す「ハルシネーション」を起こすこともあります。誤検知が相次ぐと、セキュリティ運用チームは大量の無意味なアラートへの対応に追われる可能性があります。こうした状況が続くと、AIを活用したシステムへの信頼が損なわれるおそれがあります。
堅牢なモデルのトレーニングには、大量のデータが必要です。地域によっては、プライバシー関連法により、使用できるログやテレメトリが制限される場合があります。コンプライアンス上の深刻な問題を回避し、倫理に沿ったデータ利用を維持するには、機密性の高いユーザーデータのスクラビングや匿名化が不可欠です。
負の側面も無視できません。脅威アクターは生成AIを使って、巧妙なフィッシングメールを作成したり、新種のマルウェアを開発したり、ゼロデイ脆弱性をより迅速に発見したりすることが可能で、実際にそうした事例もあります。こうした防御能力を構築するにあたっては、攻撃者も攻撃のために同様の取り組みを進めていると想定する必要があります。
未来を見据えて
今後、生成AIは、あらゆるSecOpsツールキットの標準的なレイヤーへと進化する可能性があり、現在の脆弱性スキャナーや侵入検知システムと同じように緊密に統合されるかもしれません。説明可能性、つまりAIが結論に至る過程の透明性が向上すれば、セキュリティチームは、脅威モデリングのライフサイクルのより広い範囲を、より安心してAIに任せられるようになります。
また、グローバルな脅威インテリジェンス連合が登場する可能性もあります。そこでは、異なる組織で学習した生成モデルが、プライバシーを維持しながら知見の一部を共有します。これにより、業界を横断して、ゼロデイ攻撃への対応をより迅速に、より緊密に連携して進められる可能性があります。
ただし、まだ初期段階にあることを改めて強調しておく必要があります。組織は、ミッションクリティカルな場面で生成AIに依存する前に、データに関するベストプラクティス、堅牢なトレーニングパイプライン、明確に定義されたガバナンスに投資しなければなりません。
セキュリティを見直す準備はできていますか?
生成AIは、脅威モデリングやインシデント対応の従来の手法を根本から変える可能性を秘めています。パターンを創造的に分析し、対応戦略を自動化することで、比類のない速度と精度を実現できます。ただし、その前提として、ハルシネーション、コンプライアンス、倫理面の保護措置といった、生成AIに内在する課題に対処する必要があります。
関連するブログ記事

SOAS 2025:足並みの乱れが凡庸さを招く
AI導入における方針の不一致は、非効率を招きます。セキュリティ、自動化、導入の各戦略を整合させ、AIの可能性を最大限に引き出す方法をご紹介します。

WebAssemblyが重要な理由
WebAssembly(Wasm)は、あらゆるプラットフォームで高性能なアプリケーションを実現する、ポータブルで高速かつセキュアなバイナリ命令セットです。
インフラストラクチャは依然として格好の攻撃経路
クラウドコンピューティングでは、APIやドラッグ&ドロップ式の設定ツールを活用し、ネットワークやインフラストラクチャを敬遠する人がそれらを直接扱わずに済むようにすることで、インフラストラクチャへの対応を不要にすることが長年追求されてきました。しかし、インフラストラクチャを無視することも、攻撃の主要な標的であるという事実を見過ごすこともできません。
堅牢なデータアーキテクチャがもたらす戦略的メリット
適切に構築されたデータアーキテクチャがもたらす効果は、業務プロセスの改善にとどまりません。戦略的な業務効率の向上、より深いビジネスインサイトの獲得、隣接するビジネス機会への展開にもつながり、これらすべてをより俊敏に実行できるようになります。
デジタルワークフローにおける不正検知には、データだけでは不十分
2019年には、業界全体でクレジットカード詐欺の試みが約25万件確認されました。これは約2分に1件の割合です。今日、不正を検知するには、デジタルワークフロー上のできるだけ多くのポイントから収集したデータを相互に関連付け、手作業によるデータ処理をはるかに上回る速度で分析する能力が求められます。