シャドーAI：企業に潜む見えないセキュリティリスク

Rachael Shahシニアプロダクトマーケティングマネージャー | F5

人工知能は今後も定着し続け、2010年代以前に戻ることはありません。生産性、イノベーション、経済効果にもたらす向上は、あまりにも大きな変革をもたらすものだからです。

しかし、こうした大きなメリットを得られる一方で、AIを導入する組織は深刻なリスクにも直面します。なかでも喫緊の課題の1つが「シャドーAI」です。これは、IT部門の責任者が把握または承認していない状況で、従業員によるAIツールの利用が拡大することを指します。シャドーAIは比較的新しく、今なお変化を続けていますが、セキュリティとコンプライアンスに対する重大な脅威として急速に顕在化しています。

シャドーAIは、シャドーITから急速に派生している新たな問題です。シャドーITとは、従業員が承認されていないソフトウェア、クラウドサービス、システムを企業内に導入するという、以前から続く課題です。シャドーITだけでもガバナンスとセキュリティに負担をかけていますが、シャドーAIはそこに危険な新たな複雑性をもたらします。

Shadow AIの例：

• ソフトウェアエンジニアが個人のChatGPT、Gemini、またはCopilotアカウントを使用して、定型コードの生成、言語の翻訳、レガシーコードのリファクタリング、テストケースの作成を行い、意図せず独自コードを公開モデルに貼り付けてしまうケースがあります。そのコードは保存、記録、または外部に公開される可能性があります。さらに、AIが生成した出力には、安全でないロジック、実在しないAPI、またはライセンス条件に違反するコードが含まれている可能性もあります。
• コミュニケーション担当者が、要約や顧客向けメッセージの作成にAIツールを利用するため、機密の戦略メモをアップロードします。その結果、機密情報がIT部門の監督が及ばないサードパーティのサーバーに保存されることになります。
• 営業担当者が、メールシステムとCRMシステムの両方に接続し、AIを使用して見込み客向けのメールを自動生成するChrome拡張機能をインストールします。考えられるリスクは、データ漏えい、社内ポリシー違反、GDPRやカリフォルニア州消費者プライバシー法などの規制への違反です。

これらの例は、ほんの始まりにすぎません。業界を問わず、ほかにも数え切れないほどのShadow AIの事例が日々発生しています。この問題は非常に広範に及んでおり、Gartner®は次のように予測しています。「2027年までに、従業員の75%がIT部門の把握できないところでテクノロジーを調達、変更、または作成するようになります。これは2022年の41%からの増加です。その結果、トップダウン型で高度に一元化されたサイバーセキュリティ運用モデルは機能しなくなります。代わりに、CISOはサイバーセキュリティを、企業全体に配置された幅広い分散型の専門家集団とフュージョンチームを支援する、スリムで一元化された機能へと再構築する必要があります。これにより、テクノロジーとリスクに関する意思決定が行われ、実施される現場により近い企業のエッジまで、サイバーセキュリティを拡張できます。」¹

プロンプトインジェクションとデータ漏えい：最大の懸念事項

Shadow AIによる正確な金銭的損失は現在も算定中ですが、被害が生じる可能性は明らかであり、さらに高まっています。今すぐ対策を講じなければ、重大なインシデント、規制上のリスク、顧客からの信頼低下につながるおそれがあります。

特に懸念される脆弱性の1つがプロンプトインジェクションです。これは、悪意のあるユーザーがAIへの入力を操作し、制限を回避したり、機密データを漏えいさせたり、意図しない処理を実行させたりする攻撃です。AIモデルはデフォルトで入力を信頼する傾向があるため、このような攻撃を受けやすくなります。プロンプトインジェクションが成功すると、AIが内部データを開示したり、自動化されたプロセスを破損させたり、意思決定システムの信頼性を損なったりする可能性があります。

もう1つの大きな懸念はデータ漏えいです。特に、個人を特定できる情報（PII）、保護対象保健情報（PHI）、銀行口座情報や財務記録、ソースコードや専有知的財産（IP）、認証情報やアクセスキー、顧客記録などの漏えいが問題となります。

問題をさらに深刻化させるのが、規制違反につながる可能性です。許可されていないAIの使用は、GDPR、HIPAA、PCI DSS、Sarbanes-Oxley Actなどの基準に容易に違反し、企業が罰則や評判の低下にさらされるおそれがあります。

禁止措置を講じる企業もありますが、果たして効果はあるのでしょうか？

こうしたリスクへの対応として、一部の組織では、承認されていない生成AIツールを従業員が使用することを禁止しています。例えばSamsungは2023年、社内の機密情報が漏えいする懸念を理由に、ChatGPTや同様のAI搭載チャットボットの使用をいち早く禁止した企業の1社です。その後、複数の銀行やその他の企業も、同様の制限や警告を発表しています。

しかし、業界の専門家の圧倒的多数は、一律の禁止措置を推奨していません。

禁止ではなくガバナンスがより良い道である理由

正当なリスクがあるにもかかわらず、業界アナリストは全面禁止ではなく、予防的なポリシーとガバナンスの枠組みを推奨しています。

禁止措置は逆効果になりがちです。実施を徹底するのが難しいうえ、イノベーションや士気を損なうことが多く、AIの利用がさらに潜在化し、検知や管理が一層困難になる可能性があります。

あるITリーダーは、AIツールの禁止に関するGartner Peer Communityのディスカッションで次のように述べています。「禁止しても、まったく効果はありません。ポリシーがなくても、この措置はイノベーションを阻害し、従業員や世間に対して、当組織について誤ったメッセージを発信することになります」

組織が代わりに取るべき対応

組織が今すぐ実践できるガバナンス対策をいくつかご紹介します。

1. 明確なAI利用ポリシーを策定する
   承認済みのツール、データの管理方法、許容されるユースケース、ガードレールを適用する範囲を定めます。何が許可されているのか、またその理由を明確に示します。
2. 審査済みAIツールのリストを管理する
   データプライバシー、セキュリティ、規制遵守の観点からツールを評価します。未審査のプラットフォームではなく、審査済みのツールを使用するよう従業員に促します。たとえば、ログ記録機能とデータ損失防止機能を備えたChatGPTなどのエンタープライズ版を使用し、社内プラットフォームに統合された社内AIアシスタントを導入します。
3. 従業員を教育し、意識を高める
   データ漏えいやハルシネーションによるコンテンツからコンプライアンス違反まで、さまざまなリスクについて従業員の理解を促します。誤用の多くは意図的なものではありません。
4. 監視し、適応する
   不正利用を検知するため、倫理および法令に準拠した監視の導入を検討してください。罰するのではなく、教育によって対処します。AIの機能の変化に合わせて、ポリシーを継続的に見直してください。

近日提供予定：シャドーAIの管理を支援するF5テクノロジー

テクノロジーでスケーラブルなソリューションを実現できるでしょうか。もちろん可能です。

F5は本日、AIワークロードを保護するためのデータ漏えいの検知と防止を発表しました。また今後数か月以内に、組織がShadow AIのリスクを包括的に軽減できるよう設計された強力な新機能を提供する予定です。特に、暗号化チャネル（ほとんどのAI APIおよびSaaSプラットフォームでデフォルト）を介したAIツールの不正使用への対策を支援します。

今後の発表にご期待ください。それまでの間、F5のAIに関する最新ニュースは、Accelerate AI Webページでご覧いただけます。

GARTNERは、米国およびその他の国におけるGartner, Inc.および／またはその関連会社の登録商標およびサービスマークであり、許可を得て本書で使用しています。無断転載を禁じます。

_{¹Gartner、Maverick Research：CISOは役割を変革しなければ時代遅れになる、2025年6月19日}

著者について

Rachael Shahシニアプロダクトマーケティングマネージャー | F5

Rachael Shahのその他のブログ記事