シャドーAI:企業内にひそむ静かなセキュリティリスク

F5エコシステム | 2025年7月16日

人工知能は今後も定着していきます。生産性の向上、イノベーションの促進、経済的な効果によって、あらゆるチームの業務のあり方が大きく変わりつつあります。しかし、AIを導入する組織にとって、こうしたメリットには深刻なリスクも伴います。中でも緊急性の高いリスクの1つが、シャドーAIです。

シャドーAIとは、ITチームやセキュリティチームが把握も承認もしていないAIツールを、従業員が無断で使用することです。こうした利用は比較的新しく、今も変化し続けていますが、セキュリティとコンプライアンスに対する重大な脅威として急速に顕在化しています。

“シャドーAIによる正確な経済的損失はまだ算定中ですが、被害が生じる可能性は明らかであり、さらに高まっています。”

シャドーAIは、従業員が未承認のソフトウェア、クラウドサービス、システムを企業内に導入するという長年の課題であるシャドーITから派生し、急速に拡大しています。シャドーITはすでにガバナンスとセキュリティに負担をかけていますが、シャドーAIはさらに危険な複雑さをもたらします。未承認のソフトウェアはIT部門が把握できない場所にデータを置きますが、AIツールの影響はそれにとどまりません。公開モデルは、従業員が入力した情報を学習に取り込む可能性があるため、独自の情報がいったん露出すると、事実上取り返しがつかなくなります。

シャドーAIの例:

  • ソフトウェアエンジニアが個人のChatGPT、Gemini、Copilotアカウントを使用して、定型コードの生成、言語の翻訳、レガシーコードのリファクタリング、テストケースの作成を行う際に、誤ってプロプライエタリコードを公開モデルに貼り付けてしまいます。そのコードは保存、ログ記録、または外部に露出する可能性があります。さらに悪いことに、AIが生成した出力には、セキュリティ上の問題があるロジック、架空のAPI、ライセンス条項に違反するコードが含まれる可能性もあります。
  • コミュニケーション担当者が、要約や顧客向けメッセージの下書きを作成するために、機密の戦略メモをAIツールにアップロードします。その結果、その専有情報はIT部門の監督が及ばないサードパーティーのサーバー上に置かれることになります。
  • 営業担当者が、AIで見込み客向けの営業メールを自動生成し、メールシステムとCRMシステムの両方に接続するChrome拡張機能をインストールします。これにより、データ漏洩、社内ポリシー違反、GDPRやカリフォルニア州消費者プライバシー法などの規制への違反が生じるおそれがあります。

これらの例は、ほんの始まりにすぎません。業界を問わず、ほかにも無数のシャドーAIの利用が日々行われています。この問題の規模は非常に大きく、Gartner®は次のように予測しています。「2027年までに、従業員の75%がIT部門の把握していないところでテクノロジーを取得、変更、作成するようになります。これは2022年の41%からの増加です。その結果、トップダウン型で高度に中央集権化されたサイバーセキュリティの運用モデルは機能しなくなります。そのため、CISOはサイバーセキュリティを、企業全体に配置された幅広い専門家やフュージョンチームの連合体を支援する、スリムな中央集約型の機能へと再編しなければなりません。これにより、サイバーセキュリティを企業の末端にまで拡張し、テクノロジーやリスクに関する意思決定と実行の現場に近づけることができます。」1

プロンプトインジェクションとデータ漏洩:主な懸念事項

シャドーAIによる正確な経済的損失はまだ算定中ですが、被害が生じる可能性は明らかであり、さらに高まっています。今対策を講じなければ、組織は重大なインシデントや規制上のリスク、顧客の信頼低下に直面するおそれがあります。

特に懸念される脆弱性の1つが、プロンプトインジェクションです。これは、攻撃者が直接与える悪意のある指示や、AIが処理するコンテンツに隠された悪意のある指示によって、モデルに制限を回避させたり、機密データを漏えいさせたり、意図しない動作を実行させたりする攻撃です。AIモデルはデフォルトで入力を信頼する傾向があるため、こうした攻撃に対して脆弱です。プロンプトインジェクションが成功すると、AIがだまされて内部データを開示したり、自動化されたプロセスを破損させたり、意思決定システムを損なったりするおそれがあります。

もう1つの大きな懸念はデータ漏洩です。特に、個人を特定できる情報(PII)、保護対象保健情報(PHI)、銀行口座情報や財務記録、ソースコードや独自の知的財産、認証情報やアクセスキー、顧客記録などの漏洩が懸念されます。

さらに問題を深刻にするのが、規制違反の可能性です。許可されていないAIの使用は、GDPR、HIPAA、PCI DSS、サーベンス・オクスリー法などの規制や基準への違反に容易につながり、企業に罰則や評判の低下をもたらすおそれがあります。

暗号化された通信経路が未承認のAI利用を見えにくくする理由

シャドーAIの管理が非常に難しい理由の1つは、正規のトラフィックと同様に、通信が暗号化されていることです。現在、ほぼすべてのWebトラフィックはTLS/SSL接続を介してやり取りされており、AIツールも例外ではありません。ブラウザーのタブで使うチャットボットも、自動化の裏で実行されるAPI呼び出しも、暗号化されたセッションを利用しています。

この暗号化はプライバシーを保護する一方で、従来のネットワークセキュリティツールに死角を生みます。暗号化されたセッションを検査できないファイアウォールでは、従業員がAIサービスに接続したことしか把握できません。その従業員がランチのおすすめを尋ねたのか、顧客データベースをプロンプトに貼り付けたのかは判別できません。従来のデータ損失防止ツールにも同じ制約があります。機密情報が、ツールでは内容を読み取れないセッションに包まれたまま、組織の外へ流出するのです。

その結果、組織のセキュリティ体制に隙が生じます。セキュリティチームは、シャドーAIの利用を確実に検知できず、ましてや阻止することもできません。この隙を埋めるには、暗号化されたトラフィック自体を可視化し、プロンプトやデータが実際に流れるポイントで検査する必要があります。その際、プライバシーとパフォーマンスを損なわないよう、検査を選択的に適用する必要があります。

規制動向への対応(EU AI法とコンプライアンスコスト)

規制も厳しさを増しています。EU AI Act[he3.1]は段階的に施行されており、禁止事項は2025 年初頭から、汎用AIモデルに関する義務は2025 年 8 月から、透明性要件を含むその他の規定は2026 年 8 月から適用されています。高リスクAIシステムに関する義務は、2027 年と2028 年に順次適用されます。最も重大な違反に対する制裁金の上限は、3,500万ユーロまたは全世界の年間売上高の7%のいずれか高い方です。従業員が十分な審査を経ていないツールを業務プロセスに組み込んだ場合も、法律が適用されると認識していたかどうかにかかわらず、同じ規則の対象となります。

米国では、NIST AIリスクマネジメントフレームワークが、責任あるAIガバナンスを実践していることを示すための標準的な指針になりつつあります。採用は任意ですが、監査人、保険会社、企業顧客の間では、このフレームワークへの対応を期待する声が高まっています。インシデントが発生すると、規制当局はシンプルな問いを投げかけます。組織はどのようなAIが使われているかを把握し、その利用を管理していたのか、という問いです。シャドーAIが存在すれば、正直な答えは「いいえ」になります。

そのコストは数値で把握できます。IBMの『2026年データ侵害のコストに関する調査レポート』によると、セキュリティインシデントの43%にシャドーAIが関与しており、前年の20%から増加しています。これらの侵害によるコストは平均539万米ドルで、約5件に1件で規制当局による制裁金が科されました。

禁止措置で対応する企業もありますが、それは効果的なのでしょうか?

こうしたリスクを受け、一部の組織では、未承認の生成AIツールを従業員が使用することを禁止しています。例えばSamsungは、社内の機密情報が漏えいする懸念から、2023年にいち早くChatGPTや同様のAIチャットボットの使用を禁止した企業の1つです。その後、複数の銀行やその他の企業も、同様の制限や警告を出しています。

しかし、業界の専門家の大多数は、一律の禁止を推奨していません。

禁止ではなくガバナンスがより良い選択である理由

現実的なリスクはあるものの、業界アナリストは全面的な禁止よりも、予防的なポリシーとガバナンスの枠組みを推奨しています。しかし、ほとんどの組織では、まだその整備が進んでいません。IBMの2026年の調査[he5.1]では、侵害を受けた組織の68%で、AIの管理やシャドーAIの検出に必要なAIガバナンスが欠けていました。ガバナンスポリシーを導入している組織でも、未承認のAIの利用について定期的に監査していたのは、わずか29%でした。

禁止は逆効果になりがちです。徹底するのが難しく、イノベーションや意欲を妨げることも多いうえ、AIの利用をさらに潜在化させ、セキュリティチームによる検知や管理を一層困難にする可能性があります。

あるITリーダーは、Gartner Peer Communityのディスカッションで、AIツールの禁止について次のように述べています。「禁止はまったく効果がありません。ポリシーがなくても、こうした措置はイノベーションを妨げ、私たちの組織について、従業員や社会に誤ったメッセージを送ることになります。」

組織が代わりに取り組むべきこと

組織が今すぐ実施できる、実践的なガバナンスの取り組みをいくつかご紹介します。

  1. 明確なAI利用ポリシーを策定する
    承認済みのツール、データの管理方法、許容されるユースケース、ガードレールの適用範囲を定めます。何が許可されるのか、そしてその理由を明確にしてください。
  2. 審査済みAIツールのリストを維持する
    データプライバシー、セキュリティ、規制遵守の観点からツールを評価します。未審査のプラットフォームではなく、これらのツールを使用するよう従業員に促します。たとえば、ログ記録機能とデータ損失防止機能を備えたChatGPTなどのツールのエンタープライズ版を使用し、社内プラットフォームに統合された社内向けAIアシスタントを導入します。
  3. 従業員の研修と意識向上
    データ漏洩やハルシネーションによるコンテンツからコンプライアンス違反まで、さまざまなリスクについて従業員の理解を促します。誤った利用の多くは、意図せずに起こるものです。
  4. 監視し、状況に応じて対応
    許可されていない利用を検出するため、倫理と法令に沿った監視の導入を検討してください。処罰ではなく教育で対応しましょう。AIの能力の変化に合わせて、ポリシーを継続的に見直してください。

AIワークロードのセキュリティを確保し、シャドーAIを軽減するF5の取り組み

テクノロジーは、拡張性のある解決策を提供できるのでしょうか。答えは、もちろん「はい」です。

F5 AI Gatewayは、ユーザーやエージェントと、それらが利用するAIサービスの間に配置されます。通過するすべてのプロンプトと応答に対してデータ漏えいの検知と防止を行い、機密データ(ソースコード、認証情報、顧客情報)が外部モデルに到達する前にブロックします。AI宛てのトラフィックを検査のためにゲートウェイへ誘導できるF5の暗号化トラフィック可視化ソリューションと組み合わせることで、暗号化チャネル(ほとんどのAI APIやSaaSプラットフォームで標準的に使用)に隠れたシャドーAIツールにも、その保護が及びます。

AI Gatewayは、承認済みのツール内で動作する未審査のエージェント、プラグイン、MCPサーバーという、シャドーAIの新たな形態にも対応します。ユーザーやエージェントがアクセスできるモデルとツールを制御し、すべてのやり取りについて完全な監査証跡を保持します。上述のガバナンス対策と組み合わせることで、AI利用ポリシーを実際に適用できるようになります。

よくあるご質問

シャドーITとシャドーAIの違いは何ですか?

シャドーITとは、未承認のアプリから個人用のクラウドドライブまで、従業員がIT部門の承認を得ずに使用するあらゆるテクノロジーを指します。シャドーAIは、シャドーITから派生した形態の中で最も急速に拡大しているもので、承認を得ずにAIツールを使用することを指します。決定的な違いは、データがどのように扱われるかにあります。通常のシャドーITでは、IT部門が把握できない場所にデータが置かれます。一方、AIツールはプロンプトや学習のためにデータを取り込むこともあるため、一度データが露出すると、事実上元に戻せなくなります。

ITチームは暗号化されたトラフィック内の未承認AIの利用をどのように検出するのでしょうか?

ITチームは、暗号化されたトラフィック自体の可視性を確保することで、その中にある未承認のAI利用を検知します。具体的には、ネットワークのトラフィックが集中する箇所でTLSセッションを選択的に復号・検査し、既知のAIサービスへの接続を監視するとともに、転送中のプロンプトにデータ損失防止を適用します。この可視性がなければ、セキュリティチームは従業員がAIサービスに接続したことを把握できても、どのようなデータが共有されたかまでは把握できない場合があります。また、他のSaaSアプリに組み込まれたAI機能は、まったく見えない可能性もあります。

AIの一律禁止が効果的でないのはなぜですか?

AIの一律禁止が効果を発揮しないことが多いのは、禁止しても利用が止まることはほとんどないためです。実際に生産性の向上を実感している従業員は、個人のデバイスやアカウントでAIを使い続けますが、セキュリティチームはその利用状況をまったく把握できません。承認済みツールを基盤とするガバナンスにより、AIの利用を可視化し、管理できる環境に保ちます。

F5 AI Gatewayは、プロンプトのペイロード内のデータ漏洩をどのように防ぎますか?

F5 AI Gatewayは、プロンプトと応答をリアルタイムで検査し、ペイロード内の機密データ(アクセスキー、顧客レコード、独自のコードなど)を検出して、外部モデルに届く前にブロックまたはマスキングすることで、プロンプトペイロードからのデータ漏洩を防ぎます。また、ポリシー制御により、ユーザーやエージェントがアクセスできるAIモデルやツールをあらかじめ制限します。

GARTNERは、米国およびその他の国におけるGartner, Inc.およびその関連会社またはそのいずれかの登録商標およびサービスマークであり、許可を得て使用しています。無断複製・転載を禁じます。

1Gartner、Maverick Research:CISOは自らの役割を変革しなければ時代遅れになる、2025 年 6 月 19 日

共有

著者について

Rachael Shah
Rachael Shahシニアプロダクトマーケティングマネージャー | F5

Rachael Shahのその他のブログ記事

関連するブログ記事

F5 Application Study Tool:OpenTelemetryによるF5 BIG-IP環境の監視
F5エコシステム | 2025/04/15

F5 Application Study Tool:OpenTelemetryによるF5 BIG-IP環境の監視

F5の新しいオープンソースツールは、BIG-IP環境を詳細に可視化し、データを追跡するとともに、強力でカスタマイズ可能なインサイトを得るための基盤を提供します。

F5 BIG-IPでAI防御を実現
F5エコシステム | 2024/11/13

F5 BIG-IPでAI防御を実現

F5 BIG-IP Advanced WAF、BIG-IP APM、BIG-IP SSL Orchestratorが、生成AIアプリ向けに包括的なセキュリティソリューションを提供する仕組みをご覧ください。

F5 Advanced WAFによるGraphQL APIの保護
F5エコシステム | 2021/08/31

F5 Advanced WAFによるGraphQL APIの保護

ここ数年、多くの組織がデジタルトランスフォーメーションを進めており、COVID-19のパンデミックによってその動きは加速しています。

アプリケーションサービスの現状 通信業界版:リーダーとしての台頭
F5エコシステム | 2019/02/19

アプリケーションサービスの現状 通信業界版:リーダーとしての台頭

通信ネットワークが進化し、さまざまな業界の幅広いユースケースに対応するなか、通信業界の回答者がテクノロジーリーダーとしての存在感を高めていることがわかります。

デジタルトランスフォーメーションは、単なるペーパーレス化ではない
F5エコシステム | 2017/07/10

デジタルトランスフォーメーションは、単なるペーパーレス化ではない

デジタルトランスフォーメーションは、単なるペーパーレス化ではありません。真のモダナイゼーションにアプリケーションアーキテクチャとセキュリティの再構築が必要な理由を、F5ブログでご覧ください。

やめましょう。もう本当にやめましょう。HTTPSはHTTPより高速ではありません。
F5エコシステム | 2016/09/19

やめましょう。もう本当にやめましょう。HTTPSはHTTPより高速ではありません。

もうやめましょう。HTTPSはHTTPより高速ではありません。プロトコルのパフォーマンスに関する微妙な違いと、暗号化トラフィックを適切に最適化する方法については、F5ブログをご覧ください。