主要なAIとデータプライバシーの懸念点

人工知能がついに実用化されました： 96%の組織がF5 2025年 アプリケーション戦略レポートで調査した結果、現在AIモデルを導入しています。

AIは、組織がより賢く、迅速かつ効率的に働く手助けを約束しますが、その反面、懸念やリスクも伴います。 特に機械学習や大規模言語モデル（LLM）に基づくAIシステムは、モデルの学習や調整、AIエンジンの動力となる膨大な量のデータによって動いています。 その中には、個人識別子、行動パターン、位置情報、財務・健康記録などの機密性の高い情報が含まれていることもあります。 AIが日常的なアプリケーションにますます組み込まれるにつれて、あなたの個人データが漏えいしたり誤用されたりするリスクも高まっています。 AIのデータプライバシーは今や非常に重要な課題です。

このブログでは、AIプライバシーの概念を解説し、AIがどのようにデータプライバシーのリスクや懸念を引き起こすかを探ります。 また、AIプライバシー法を取り上げ、AIアプリケーションでデータのプライバシーを守る方法を詳しく説明します。

多くの人がプライバシーを強く気にしていますが、自分を守る方法については十分に知られていません。 Pew Researchによると、アメリカ人の70%が企業にAIを責任を持って扱う信頼を寄せておらず、81%が組織が自分の個人情報を不快に感じるような方法で使うと考えています。 調査では、78%の人が個人情報を守る正しい判断ができると信じている一方で、56%はオンラインのプライバシーポリシーを読むことなく、常にかほぼ常に、または頻繁に同意していることもわかりました。

AIが個人データを利用することに対する世間の受け止め方は、状況によって大きく異なります。 同じピュー・リサーチの調査では、公的支援の受給資格をAIで判断することに賛成なのはわずか28％ですが、スマートスピーカーが音声を分析して利用者を識別することには42％が抵抗を感じていません。

組織は、AIとデータプライバシーに関する規制要件と、個人情報の利用に対する社会の意識や安心感の双方に配慮する必要があります。

AI システムは、ライフサイクルの全段階でデータのプライバシーリスクにさらされています。倫理的かつ安全に AI データを活用するためには、開発から導入までの各フェーズでこれらのリスクを正しく把握し対策を講じることが欠かせません。

• データの取り込み。  AIモデルのトレーニングには膨大なデータセットが必要です。特に医療情報、個人の財務データ、生体認証などの機密性の高い個人情報が含まれる場合、データ収集の段階がプライバシーリスクの最大のポイントになります。 個人データが適切な同意を得ず、利用者に対して十分に透明な説明もなく収集されていることがあります。
• AIモデルのトレーニング。 トレーニング段階で、AIモデルは取り込んだデータからパターンを学びます。  個人データを同意のもとで収集しても、AIモデルはそれを元の目的を超えて利用することがあります。 トレーニング段階では、AIシステムによるデータの使われ方に対して誤解や情報不足を感じる人がいれば、信頼性や透明性の問題が生じます。 たとえば、アカウント管理のためのデータ利用には納得していても、そのデータがAIシステムのトレーニングに使われると知っていれば、共有に同意しなかったかもしれません。
• 推論エンジン。 推論段階では、トレーニング済みの AI モデルを使用して、新しいデータから洞察や予測を生成します。 ここでプライバシーリスクが発生するのは AI システムは、一見無害な匿名化された入力に基づいて個人について非常に正確な推論を行うことができますが、トレーニング データに存在していたバイアスを明らかにしたり増幅したりする場合もあります。 この状況は、公開されている情報源から情報を収集する実践であるオープンソースインテリジェンス (OSINT) に似ています。 OSINT は、オープン データを戦略的な洞察に変換することで、サイバー セキュリティ、脅威の検出、調査、競合調査において重要な役割を果たします。 しかし、OSINTは不正アクセスやハッキングを伴うものではなく、 合法的に公開されているデータの収集。
• アプリケーション層。 AIアプリケーションはAIシステムの中で最も目に付きやすくアクセスもしやすいため、ハッカーにとって狙いやすい入り口です。 攻撃者はAPIやWebサービスを使って大量の機密データにアクセスすることができます。 また、不十分なアクセス制御や過剰に露出したエラーメッセージ、冗長なAIの応答によって、正当なユーザーに機密データを誤って公開してしまうこともあります。

生成AIシステムは、テキスト、画像、コード、音声を生成するために使われる大規模言語モデル（LLM）など、特に高いデータプライバシーのリスクをもたらします。 多くのAIモデルは、情報源やコンテンツ作成者の明確な許可や同意を得ずに、公開されているインターネット上のデータセットを使って学習しています。 さらに、収集したデータには個人を特定できる情報が含まれていることがあり、生成AIシステムは推論時にそれを漏らす可能性があります。

特に一般向けのライティングアシスタント、チャットボット、画像生成ツールなどの生成AIアプリケーションは、インタラクティブでウェブ経由で利用できます。 そのため、攻撃者がモデルの動作を操作したり、制御を回避したり、AIを騙して制限されたコンテンツや不適切、機密情報を作成させる目的で入力を仕込むプロンプトインジェクションに弱くなります。 また、ユーザーが個人情報や機密情報を知らずにAIツールに貼り付けると、その内容がAIシステム内に保存され、将来的なAIモデルの訓練や調整に使われてしまい、結果的に情報の漏洩リスクが発生します。

これらの要素が組み合わさることで、同意なく使用されたコンテンツや機密情報で訓練されたLLMがその内容を再生成して個人情報を露呈させるリスクが高まります。また、ユーザーが誤って機密データをプロンプトへ入力し、不正アクセスや無断利用の危険にさらすこともあります。

AIの導入が進む中、多くの国が個人情報や機密情報を利用または保存するAIシステムに関わるデータプライバシーのリスクに対応するため、法律を新設または改正しています。 現在、144カ国が国家レベルのデータプライバシー法を制定しており、米国のように地域ごとに異なるデータプライバシー法を持つ国もあります。 すべてのデータプライバシー規制がAI専用ではありませんが、多くの場合、AIシステムはこれらの規制を遵守しなければなりません。

データプライバシー法には、以下のような例があります。

• 欧州連合一般データ保護規則（GDPR）
  GDPRは、個人データを収集時に明確に定めた目的のために、公正かつ透明に使用することを求めています。 組織はデータ収集を必要最低限に限定し、目的の達成に必要な期間だけデータを保持し、厳重に保護・機密保持に努める必要があります。 GDPRは人工知能について直接言及していませんが、個人データを扱うAIシステムは、AIのライフサイクル全体を通じて責任あるデータ管理を徹底し、必ずGDPRに準拠させなければなりません。
• 欧州連合人工知能法
  EU AI法は、主要な統治機関が導入した世界初の包括的な人工知能規制枠組みです。 政府による社会評価や監視カメラ映像からの無差別な顔画像収集など、「容認できないリスク」とされるAIの利用を禁止しています。 また、採用過程での履歴書スクリーニングに使われるツールを含む「高リスク」AIシステムには厳格な法的責任を課しています。 高リスクAIシステムの開発者は、堅牢なデータガバナンスを実施し、すべての訓練・検証・試験データが定められた品質基準を満たすように管理しなければなりません。
• 米国の州規制
  カリフォルニア州消費者プライバシー法（CCPA）とテキサス州データプライバシーおよびセキュリティ法は、あなたが個人情報をより強く管理できる権利を保証します。 これらの法律は、組織があなたのデータをどのように収集・利用・共有しているか知る権利、個人情報の削除を求める権利、そのデータの販売や共有からのオプトアウト権を明確に定めています。
  
  ユタ州人工知能政策法は、特にリスクの高い生成AIのアプリケーションに焦点を当てています。 この法律は、あなたが生成AIとやり取りするときAIシステムが明確な開示を行い、AIによる体験の透明性と理解を促すことを義務づけています。

法律事務所ホワイト＆ケースはAIウォッチを発行しています。 グローバル規制トラッカーは、AI プライバシー規制の最新情報を把握するのに役立つリソースです。

AIシステムが高度化し範囲が広がる中で、AIライフサイクル全体のデータプライバシーを確実に守ることが欠かせません。 以下のベストプラクティスを実践することで、法令遵守を確実にし、ユーザーの信頼を守り、リスクを軽減できます。

• 強固なデータ ガバナンス方針を確立しましょう。 包括的なガイドラインに は、データの分類、役割に基づくアクセス管理、暗号化や仮名化といったデータ セキュリティ戦略、定期的な監査、そしてGDPRやCCPAといった関連するデータ保護規制への適合を含める必要があります。
• データ収集を最小限に抑えましょう。 AIシステムの目的に必要なデータだけを収集してください。 データを絞ることでリスクを低減し、多くの個人情報保護法にも準拠できます。
• 明確な同意を得てください。 データの収集、使用、保存方法をユーザーにわかりやすく伝えます。 個人データを収集・使用する前に、必ずユーザーから明確で十分な同意を取得してください。 この透明性は多くの法域で法的義務であると同時に、ユーザーの信頼構築にも欠かせません。
• トレーニングデータのサプライチェーンを検証しましょう。 AIモデルのトレーニングに使うサードパーティのデータセットが信頼でき、堅牢なデータプライバシー対策を実施していることを確かめてください。
• 一般的なアプリケーション セキュリティのベストプラクティスに従ってください。 強力なIDとアクセス管理、転送中および保存中のデータ暗号化、個人情報保護のためのデータ匿名化といった実績のあるデータ セキュリティ対策を実施して、AIシステムの基盤を確実に強化しましょう。
• 継続的にリスク評価を行いましょう。 リスク管理は一度きりでは終わりません。特に急速に進化するAIでは、プライバシーリスクを定期的に再評価することが重要です。 常に評価を続けることで、新たな脅威の検出やコンプライアンスの維持、必要に応じたガバナンス方針の見直しを行いましょう。
• ソフトウェアを活用してデータ保護を強化しましょう。 F5 Application Delivery and Security Platformなどの高度なツールを使い、可観測性を高め、プライバシー規制への対応を強化し、AIアプリケーションによる機密データの流れをリアルタイムで監視できます。
• ベンダーやパートナーのプライバシーポリシーを評価してください。 すべてのテクノロジーパートナーやサービスプロバイダーが強固なデータプライバシーとセキュリティ対策を実施していることを確かめましょう。 AIデータは共有エコシステムを通じて流れることが多いため、リスクを抑えるには外部の統治が欠かせません。こちらがF5のデータプライバシー宣言です。

AIに関する規制で共通しているのは、リスクレベルに応じてAIアプリケーションを分類する必要がある点です。 このリスクベースの手法によって、組織はAIシステムの影響度に応じて適切な対策と監視を行えます。

高リスクのAIアプリケーションには以下が含まれます。

• 安全性が最優先のシステムで、生命や財産に影響を及ぼす恐れがある重要なインフラ、交通機関、医療機器にAI機能を組み込み、確実に動作させています。
• 雇用や教育のシステムでは、採用や入学、業績評価、教育機会のアクセスにAIツールを活用し、偏見や誤りが個人の権利や将来に大きな影響を与えることがあります。
• 公共の安全や法執行の分野では、顔認識、予測警察活動、監視、リスク評価に用いるシステムが、公民権や差別の問題を引き起こす可能性があります。
• テキスト、画像、または動画を生成する公共向けの生成AIとは、出力結果が行動に影響を与えたり、誤情報の拡散や機密情報の意図しない開示につながる可能性がある状況で、ユーザーが直接利用できるアプリケーションを指します。

アメリカ合衆国 アメリカ国立標準技術研究所（NIST）は2023年に、複数の業界や用途向けに実践的な指針を提供する 人工知能リスク管理フレームワーク（AI RMF） を発表しました。 このフレームワークは、高リスクアプリケーションの広範な分類ではなく、リスクの特定方法とその軽減策を示すため、AIアプリケーションの開発者にとって有益です。

AI RMF コアは、AI のリスク管理に継続的かつ循環的に取り組むための、4つの主要な機能で構成されています。

1. 統治する。 責任あるAI開発を支える組織の方針やプロセス、手順、運用を整備し、透明性と確実な実行をあなたと共に推進します。
2. マップ。 AIシステムが動作する環境を把握し、AI開発の各段階で生じるリスクや影響を全体のライフサイクルを通じて評価しましょう。
3. 測定する。 適切なツールや指標、評価手法を使って、AIのリスクと影響をしっかり評価・監視・定量化しましょう。
4. 管理してください。 リスクに優先順位を付けてあなたが対応し、軽減策と制御を適用して被害を減らし、最良の結果を実現しましょう。 AIシステムの監視やインシデントへの対応、復旧、情報共有に必要なリソースを割り当ててください。