ループを閉じる：AIセキュリティにおける修復が重要な理由

Jessica BrennanAIセキュリティ担当シニアプロダクトマーケティングマネージャー | F5

AIセキュリティの修復は、企業のサイバーセキュリティにおいて最も重要な分野の1つです。組織がGenAIを大規模に導入するにつれ、直面するのは、新たな脆弱性の急増です。しかし、AIの進化の速さに対応できる効果的な修復策がなければ、こうした脆弱性は未解決のまま放置されがちになり、長期にわたる露出期間とコンプライアンスリスクが生じます。

AIセキュリティ修復とは

サイバーセキュリティにおいて、修復は決して新しい概念ではありません。本質的には、脆弱性や脅威に対処するプロセスです。NISTでは、修復を、脆弱性またはそれが悪用される可能性の無力化または排除と定義しています。実際には通常、ソフトウェアへのパッチ適用、システムの再構成、悪意のあるコードの削除などを指し、多くの場合、これに伴うダウンタイムが発生します

企業環境における修復は、インシデント対応の中核をなす体系的なサイクルです。問題を特定して封じ込め、是正措置を講じ、復旧した後、再発がないか監視します。数十年にわたり、修復作業の大部分は手作業で行われ、多くの時間を要してきました。セキュリティチームはアラートを受け取り、チケットを作成し、リスクを評価したうえで、防御策をどの程度厳格にするかを判断します。

しかし、このサイクルでは常にバランスを取る必要があります。セキュリティ責任者は、これをダイヤルに例え、左に回すと制御が厳しくなり、右に回すと緩くなると説明します。制限が厳しすぎれば正当な活動を妨げ、緩すぎれば組織をリスクにさらすことになります。

現在の課題は、AIによって、そのダイヤルが制御するよう設計されていたシステムそのものが書き換えられたことです。

従来の修復ではAIに対応しきれない理由

AIモデル、アプリケーション、エージェントのセキュリティ確保は、オペレーティングシステムやネットワークのセキュリティ確保とは根本的に異なります。生成モデルは確率的に動作し、その仕組みは不透明です。99回は安全に動作しても、100回目に問題が生じる可能性があります。AIエージェントはタスクを正しく達成できても、その方法が安全でなかったり、コンプライアンスに準拠していなかったりする場合があります。進化を続けるセキュリティシステムにも限界があります。

• レッドチーミングでは、チームが現実的に修正できる数を上回る脆弱性が明らかになります
• 防御的なガードレールはその場で脅威をブロックしますが、根本的な弱点には対処しません
• 検出から解決までの期間（修復ギャップ）が数週間から数か月に及ぶ

つまり、現在のAIセキュリティは問題の発見には優れていますが、十分な速さで修正することには苦戦しています。

MTTR：価値を生み出す中核要因

AIを導入する企業にとって、レジリエンスは不可欠です。レジリエンスは従来、平均修復時間（MTTR）で測定されてきました。これは、脆弱性を検出してから解消するまでの速さを示す指標です。MTTRが短いほど、脅威にさらされる時間が短くなり、攻撃者に狙われる機会が減少し、顧客、規制当局、経営陣からの信頼が高まります。

従来のITセキュリティでは、MTTRの短縮は、コンプライアンスリスクを低減し、運用のレジリエンスを高めるうえで重要な目標です。AIセキュリティでは、その重要性がさらに高まります。

新しいモデルやアップデートによって新たな脆弱性が生じるため、攻撃対象領域は絶えず変化しています。攻撃者はマシン並みの速度で行動し、防御側が脆弱性をテストするのと同じくらいの速さで弱点を発見し、悪用することも少なくありません。また、EU AI Actのような新たな規制が登場する中、企業にはリスクを検出するだけでなく、迅速かつ追跡可能な形でリスクを軽減できることを証明するよう求められています。

このような環境では、MTTRは単なる運用効率の指標ではありません。MTTRが短いかどうかで、安全なテスト環境で脆弱性を発見できるか、本番環境ですでに悪用された後に対処することになるかが分かれます。MTTRは、AIセキュリティプログラムが保護対象のシステムに実際に追随できているかを最も直接的に示す指標です。

MTTRから自動修復へ

重要なのは、組織がAIベースの脆弱性を可視化できていないことが問題なのではない、という点です。AIに特化した「レッドチーミング」および「リアルタイム防御」ソリューションは、かつてない速さで弱点を発見できます。問題は、その後の対応です。発見事項がバックログに残ったまま解決されなければ、MTTRが増加し、企業はリスクにさらされ続けます。

従来のセキュリティ運用では、修復作業のほぼすべてを手動で行うため、対応に時間がかかります。セキュリティチームは、アラートを精査し、担当者を割り当て、修正方法を策定しなければなりません。しかし、新たな脆弱性が人間のチームで現実的に修復できる速度を上回るペースで発生するため、このプロセスではAIの進化の速さに到底追いつけません。

そのため、AIセキュリティにおけるMTTRの短縮には、新たなアプローチが必要です。自動修復は、発見された脆弱性を分析し、実環境でのリスクに基づいて優先順位を付け、迅速にテストしてデプロイできる修正を生成することで、検出から防御までのサイクルを完結させます。

実質的に、自動修復は、MTTRが測定する目標を運用に落とし込みます。つまり、発見から解決までの時間を短縮し、イノベーションを妨げることなくAIシステムのセキュリティを維持できるようにします。重要なのは、自動化による過剰な修正や新たな問題の発生を防ぐため、人による監督をプロセスに組み込み続けることです。

ループを閉じる

AIセキュリティのサイクルを完結させるのが修復です。レッドチーミングと防御制御により、AIがもたらすリスクを特定して封じ込めることはできますが、解決に至る明確な道筋がなければ、組織はリスクにさらされたままです。自動修復は、検出結果をテスト済みで導入可能な修正策に変換することで、その道筋を提供します。これにより、脆弱性を発見するだけでなく、確実に修復できます。

セキュリティチームにとって、この変化は、未処理の課題への対応に追われる時間を減らし、より価値の高い優先事項に注力できることを意味します。セキュリティ責任者は、AIに求められるスピードでリスクが管理されているという確信を得られます。また、組織全体では、自動修復によってセキュリティ態勢がより強固でレジリエントになり、リスクを増大させることなくイノベーションを拡大できます。

最終的に、修復は単なる技術的なプロセスではありません。AIセキュリティを、継続的に適応し、自己改善するシステムへと変えるための規律です。だからこそ修復は重要であり、あらゆるAIセキュリティ戦略の中核に据える必要があります。

著者について

Jessica BrennanAIセキュリティ担当シニアプロダクトマーケティングマネージャー | F5

Jessica Brennanのその他のブログ記事