AIデータガバナンス：AIライフサイクル全体でデータを管理

F5 Newsroom Staff

エンタープライズAIは、すでにパイロット段階を大きく超えています。F5 2026 State of Application Strategy Reportによると、組織の78%がすでにAI推論を運用していると回答し、98%がエージェント型AIの導入に向けて準備を進めていると回答しています。

企業がAIシステムの導入を急速に進める中、データガバナンスが重要な課題として浮上しています。AIシステムは、ライフサイクルのあらゆる段階でデータに依存します。組織は、トレーニングや改良のためにAIモデルへデータを入力します。AIツールは、プロンプトとしてデータを受け取り、ベクトルデータベースからデータを取得し、文章形式の応答としてデータを出力します。また、自律型エージェントは、タスクを遂行するためにデータへアクセスします。

各段階で、データガバナンスに関する判断が必要です。データフローを監視し、データへのアクセスを制御しなければなりません。しかし、最新ツールの導入や新たなエージェントの開発に先立ってガバナンスを整備している組織は、あまりにも少ないのが現状です。その結果、データと事業が複数の脅威にさらされています。

AIデータガバナンスを導入する第一歩は、従来のデータガバナンスやAIモデルガバナンスとの違いを理解することです。これにより、リスクが最も高い領域に注力し、AI導入の妨げになることなく機密データを管理するためのプラクティスを確立できます。

AIデータガバナンスとは

AIデータガバナンスとは、AIのライフサイクル全体を通じて、データの収集、分類、使用、送信、保持、削除を管理する一連のポリシーと技術的統制です。データガバナンスでは、以下を含む幅広いデータを対象とする必要があります。

• モデルのトレーニングとファインチューニングに使用されるデータ。
• 推論時にやり取りされるプロンプトと応答。
• モデルからの応答を補強するデータ。
• エージェントによるツールおよびAPIの呼び出し。
• AI処理中に生成されるテレメトリデータ。

従来のデータガバナンス手法は、AIシステムには通用しません。こうした手法は主に、企業のリポジトリに格納されている構造化データを対象としています。このような保存データには予測可能なクエリを通じてアクセスし、そのアクセスを定期的にレビューします。

AIシステムのデータは、これとは異なる属性と挙動を持ちます。具体的には、AIデータには次のような特徴があります。

• 非構造化された対話形式：自由形式のプロンプトやAIが生成した応答は、データベース内の構造化データ向けに設計されたポリシーではガバナンスできません。
• 移動中：AIシステムでは、モデルにプロンプトが入力され、応答が返される過程で、データが絶えず移動します。AIエージェントは、わずか数秒でAPIやモデルを数千回呼び出す可能性があります。従来のデータガバナンスモデルで四半期ごとに実施するアクセスレビューでは、この移動中のデータを制御するには不十分です。AIシステムの機械的な処理速度に対応するには、AIデータガバナンスを自動化する必要があります。
• 非決定論的：AIモデルは、同じ質問に対して毎回異なる回答を返す可能性があります。出力制御では、意味とコンテキストを評価する必要があります。従来のデータガバナンスで用いられるパターンマッチングには依存できません。

AIシステムのデータについては、インタラクションが発生する時点で、インラインにガバナンスを適用する必要があります。

AIデータガバナンスとAIモデルガバナンスの違い

AIデータガバナンスとAIモデルガバナンスは連携して機能する必要がありますが、それぞれ異なる戦略です。多くの場合、別々のチームが担当します。

AIモデルガバナンスは、モデルとエージェントの管理に重点を置きます。モデルガバナンス戦略では、使用を承認するモデル、モデルの所有者、トレーニング方法、本番環境で稼働するバージョン、動作の監視方法、モデルを廃止する時期を管理します。

AIデータガバナンスでは、AIがアクセスできるデータと、そのデータがたどる経路を重視します。こうした戦略により、データの分類方法、企業外への移動を防止するデータ、データを処理する場所、データの保持期間を管理します。

AIデータガバナンスとAIモデルガバナンスは連携させる必要があります。そうしなければ、どちらも機能しなくなるためです。モデルのプロンプトとレスポンスを検査しなければ、十分に文書化され、適切に評価されたモデルであっても、規制対象データが漏えいする可能性があります。同様に、未承認のエージェントが顧客データベースにアクセスできる場合、強力なデータ制御を導入していても、データの露出を防げない可能性があります。

この相互依存関係は、確立されたAIガバナンスのフレームワークや標準にも反映されています。米国国立標準技術研究所のAIリスクマネジメントフレームワーク（NIST AI RMF）では、Govern、Map、Measure、Manageの各機能を通じて、AIリスクにライフサイクル全体で取り組みます。ISO/IEC 42001も同様に、AIを統制するための組織全体のマネジメントシステムを確立しています。一方、Cloud Security Alliance AI Controls Matrix（AICM）は、AIガバナンスを実行可能なセキュリティ制御へと落とし込みます。これらのアプローチでは、データガバナンスとモデルガバナンスを個別に扱うのではなく、いずれもライフサイクル全体にわたるAIリスク管理の一環として位置付けています。

AIデータに関する主なリスクの特定

AIシステム内を流れるデータは、偶発的または意図的に露出する可能性があります。その経路はいくつか考えられます。AIガバナンスは、こうした脆弱性を解消または軽減するためのものです。

• シャドーAI：従業員は、セキュリティ部門やIT部門が把握しないままAIツールを導入することが少なくありません。全社規模のセキュリティソリューションやデータガバナンスポリシーを導入していても、承認されていないAIシステムを流れるデータはガバナンスの対象外のままです。
• 入力：承認済みのツールを使用している場合でも、質問への回答を得る最も手早い方法だからという理由で、従業員が顧客データや健康情報などの機密情報を誤って入力してしまう可能性があります。そのデータは外部に流出するおそれがあります。
• 出力： 特定の方法でプロンプトを入力すると、生成AIモデルが、個人情報の一部を含むトレーニングデータの断片を再現する場合があります（「記憶漏洩」と呼ばれることもあります）。攻撃者はAIを使用してそれらの断片をつなぎ合わせ、不正な目的で機密情報を復元できます。
• 検索パイプライン：検索拡張生成（RAG）は、ベクトルデータベースに保存されたデータを利用します。元のアクセス制御を適用せずに文書をこれらのデータベースへ埋め込むと、元のファイルを開く権限がないユーザーに対して、モデルがその内容を表示する可能性があります。
• 常時権限を持つエージェント：エージェントに対する脅威は、そのエージェントが接続しているツール、データベース、サーバーにも及びます。エージェントに広範な権限が付与されている場合、エージェントがアクセスするデータが漏えいする可能性があります。
• サードパーティモデル： 外部モデルにプロンプトを送信すると、機密データが組織の管理下を離れ、地理的境界を越える可能性があります。その結果、保持期間の管理、処理場所の制御、データローカライゼーション要件への対応、機密情報がモデルのトレーニングに使用されないことの確保が難しくなります。
• データの永続性：一定期間の経過後やお客さまからの要請に応じたデータの削除は、多くの場合、データガバナンスポリシーで求められます。データベースからレコードを削除することは比較的容易ですが、モデルの重みにすでに取り込まれた情報を除去することはより困難です。そのため、トレーニングに使用するデータは慎重に選定してください。

セキュリティツールではAIシステムに保護の隙間が生じる理由

データ損失防止（DLP）およびデータセキュリティ態勢管理（DSPM）ツールは、企業データの保護に非常に役立ちます。しかし、AIシステムによって、次のような重要な制約が明らかになる場合があります。

• リアルタイムのデータ可視性の欠如：DSPMツールは、機密データの保存場所をマッピングします。しかし、AIシステムが使用するデータは移動し続けており、その移動中に脆弱になります。DSPMツールでは、そのデータのガバナンスに必要なリアルタイムの可視性を確保できません。
• 構造化データ向けに調整された分類：DLPおよびDSPMツールは、パターンマッチングを使用してデータを分類します。この手法は構造化データには有効ですが、ユーザーがプロンプトに含めたり、応答として受け取ったりする非構造化された文章コンテンツには、十分な効果を発揮しません。
• 不適切な場所での制御：DLPツールはエンドポイントからのアップロードをブロックできても、機密情報を含むプロンプトの送信は阻止できない可能性があります。データ交換が行われる推論レイヤーまで制御を及ぼす必要があります。
• 利用可能な記録がない：コンプライアンス担当チームは、AIシステムにどのような質問が行われ、どのように応答し、どのポリシーが適用されたかを示す必要がある場合が少なくありません。従来のDLPおよびDSPMツールでは、その証拠を提示できません。

これらのツールは、そもそもAIワークフロー内のデータを保護するようには設計されていません。AIに特化した戦略とソリューションで補完する必要があります。

AIデータガバナンスを強化するための実践策

AIガバナンス戦略はどれも同じというわけではありません。しかし、リスクの最小化に成功している戦略には、次の8つのベストプラクティスのうち、いくつかが共通していることがよくあります。

• AIの利用状況をすべて把握する：データをガバナンスするには、まず企業全体でAIがデータをどこでどのように使用しているかを把握する必要があります。承認済みのアプリケーションやエージェントだけでなく、未承認のツールも一覧化し、データが流れている可能性のある経路をすべて明らかにします。
• インタラクション中のデータを分類：保存データの分類に加えて、プロンプト、レスポンス、ツール呼び出しに含まれるデータも分類する必要があります。そのためには、構造化されたパターンだけでなく、会話のコンテキストを理解する機能が必要です。
• インラインでポリシーを適用：データガバナンスポリシーは、データが宛先に到達する前に、転送中に適用する必要があります。たとえば、プロンプトへの入力時に機密データを編集することで、そのデータが社内外のモデルのナレッジベースに取り込まれるのを防ぎながら、従業員は作業を継続できます。
• 最小権限の原則を適用する：モデル、エージェント、RAGツールが機密データにアクセスできないようにする必要があります。AIシステムにガードレールを設け、AIモデルとエージェントが必要最小限の情報にのみアクセスできるようにするとともに、人間のユーザーと同じ頻度でシステム権限を見直してください。
• 監査証跡を作成する：インシデント対応を改善し、規制に準拠するため、リクエスト、レスポンス、適用されたポリシー、適用判断を含む監査証跡を保持します。この情報は、ポリシーの微調整やコンプライアンスの証明に活用できます。
• 継続的にテストする：脅威は急速に進化します。現在は機密データを適切に保護できているポリシーでも、6か月後には同じ効果を発揮できない可能性があります。レッドチーミングと自動テストを導入することで、ギャップを特定し、ポリシーを更新しやすくなります。
• データサプライチェーンを管理する：包括的なガバナンスを実現するには、AIシステム内でデータに関与するすべての要素を可視化する必要があります。たとえば外部モデルを使用する場合は、トレーニングへのデータ利用をオプトアウトする条件、データ保持期間、処理場所、再委託先の利用に関するプロバイダーの規約を確認してください。
• 責任者を明確にする：AIデータガバナンスには、セキュリティ、プライバシー、法務、データサイエンス、アプリケーションの各チームが関与する場合があります。データガバナンスの責任者を明確にし、定期的なレビューを実施することで、導入済みのシステムが確立されたポリシーから逸脱しないようにします。

AIが稼働する環境へのガバナンスの適用

データガバナンスの取り組みの多くは、AIトラフィックが直接通過する経路に適用して初めて効果を発揮します。これが、AIデータガバナンスとセキュリティに対するF5のアプローチの基本原則です。

The F5 AI Security Platformは、企業全体のAIを対象に、検出、ガバナンス、テスト、ランタイム保護を統合します。F5 Workforce AI Securityは、従業員が使用しているモデル、ツール、プロンプト、データを含め、承認済みおよび未承認のAI利用を可視化します。F5 AI Gatewayは、AIモデル、エージェント、ツールへのアクセスを管理するための制御ポイントを提供します。F5 AI Red Teamは、敵対的テストを使用してAIシステムの脆弱性や弱点を特定します。一方、F5 AI Guardrailsは、AIとのやり取りの際にポリシーを適用し、機密データの漏えい、悪意のある活動、ポリシー違反の防止を支援します。

データを脆弱性にする必要はありません。適切なデータガバナンスを導入することで、安全かつ確信を持ってAIの導入を進められます。

よくあるご質問

AIデータガバナンスと従来のデータガバナンスの違いは何ですか？

従来のデータガバナンスでは、主にリポジトリに保存されている構造化データを管理します。一方、AIデータガバナンスでは、ユーザーがAIツールに入力するテキストや、AIが生成した応答として受け取るテキストなど、移動中の非構造化データも対象にする必要があります。このようなデータは移動中であるため、やり取りが発生するポイントでインラインにガバナンスを適用する必要があります。

AIデータガバナンスとAIモデルガバナンスにはどのような関係がありますか？

AIモデルガバナンスは、モデルとエージェントを監督します。たとえば、組織はモデルのインベントリを作成し、エージェントの権限を管理して、その動作を監視する必要があります。AIデータガバナンスは、これらのモデルやエージェントに入出力されるデータに重点を置きます。実際には、一方が機能しなければもう一方も機能しないため、データガバナンスとモデルガバナンスを連携させる必要があります。

DLPやDSPMツールなどの従来型セキュリティソリューションでは、AIデータガバナンスに不十分なのはなぜですか？

データ損失防止（DLP）ツールとデータセキュリティ態勢管理（DSPM）ツールは、データ保護に不可欠ですが、AIデータガバナンスにおける有用性は限定的です。ほとんどのツールは、データのリアルタイムな可視化、非構造化データの分類、推論時のガバナンス適用、AIシステムの監査証跡の生成には対応できません。

F5は、組織による効果的なデータガバナンス戦略の策定をどのように支援しますか？

F5 AI Security Platformにより、組織は企業全体のAI利用状況を把握し、データガバナンスポリシーを策定して、AIシステム内をデータが流れる際にポリシーを適用できます。また、F5の機能を使用して監査に対応可能な記録を生成し、データおよびAIシステムに関する法律、フレームワーク、標準に準拠することもできます。

Learn more about the F5 AI Security Platformの詳細をご覧ください。

著者について

F5 Newsroom Staff

F5 Newsroom Staffのその他のブログ記事