LLM時代のDLPとTMI

F5 Newsroom Staff

20年以上前にソーシャルメディアが登場して以来、世界中の人々は情報を共有することにますます、 さらに一層抵抗を感じなくなり、ときには必要な範囲を大きく超えて共有するようになりました。MySpaceやFacebookに過剰な情報（TMI）を投稿する段階から、InstagramやPinterestで日常のあらゆる瞬間を写真で共有し、さらに大規模言語モデル（LLM）とAIを活用した人間さながらの会話を交わすまで、私たちは急速に歩みを進めてきました。しかし、生成AI（GenAI）において、情報の過剰共有は単なる社会的な失態ではありません。特に組織にとって、重大なセキュリティリスクとなります。 

LLMなどのGenAIモデルは、正確で関連性の高いコンテンツを含め、あらゆる種類のコンテンツを生成する優れた能力を備えています。しかし、情報が極めて漏れやすく、詳細な情報、非公開情報、機密情報を入力すると、重大なリスクが生じます。LLMは簡単に利用できるため、ユーザーが誤った安心感を抱き、重要なデータを意図せず過剰に共有したり、LLMを通じてデータを不用意に漏えいしたりするおそれがあります。実際、経営幹部が企業の戦略文書を共有する、医師が患者の詳細情報を入力する、エンジニアが独自のソースコードをChatGPTなどの公開モデルにアップロードするといった事例が報告されても、もはや驚かれないほど一般化しています。

これらは、情報を送信した本人が、その情報がモデルの知識ベースの一部になることを認識していなかったために、機密情報が意図せず漏えいする例のほんの一部です。一度送信すれば、取り戻すことも、やり直すこともできません。情報は外部に残り続けます。永久に。

セキュリティを損なうことなくLLMの力を活用する鍵は、技術と知見に基づいてプロンプトを作成することにあります。望ましい回答を引き出せるだけの詳細さを備えながら、機密情報を保護できるよう慎重にプロンプトを作成することが不可欠です。そのためには、具体性と情報開示への配慮のバランスを取りながら、プロンプトを慎重に作成する必要があります。AIモデルやアプリケーションのユーザーに周知すべきポイントは次のとおりです。

• 簡潔かつ明確に：機密情報の漏えいにつながる可能性がある不要な詳細は、プロンプトに含めないでください。たとえば、個人名やプロジェクト名、日付、目的地などの具体的な情報が該当します。
• 仮定のシナリオを使用する：機密性の高いタスクについてAIの支援を求める場合は、仮定に基づいて依頼内容を記述してください。企業、人物、プロジェクト、場所の実名や実在する名称は使用しないでください。 
• 意識を維持する：従業員に提供する、過剰な情報共有のリスクに関するAIセキュリティのトレーニングと教育は、AIツール利用時のベストプラクティスについて、頻繁な注意喚起と有用なガイドラインを示すことで強化する必要があります。
• 監視メカニズムを導入する：AIツールの利用状況を監視し、潜在的なデータ漏えいを検知・防止するとともに、潜在的な内部脅威を特定します。

しかし、どれほど注意深い従業員が慎重にプロンプトを作成しても、セキュリティ上の問題を引き起こす可能性は残ります。そのため、カスタマイズ可能なコンテンツスキャナーを備えた自動化されたトラストレイヤーが、万全なデータ損失防止（DLP）を実現する鍵となり得ます。GenAI導入向けのF5のセキュリティおよびイネーブルメントプラットフォームは、送受信されるコンテンツを検査し、個人や企業の機密データが組織外に流出することや、悪意のあるコンテンツ、不審なコンテンツ、その他の許容できないコンテンツが組織内に侵入することを防ぎます。ほかのスキャナーは、企業に損害を与えるものではないものの、企業の価値観に合致しない、または業務利用に適さないコンテンツがプロンプトに含まれていないかを検査します。モデルに依存しないF5のプラットフォーム上で実行されるすべてのやり取りは、管理者による確認、監査可能性、説明責任の確保を目的として記録されます。

LLMが日々の業務に深く浸透するにつれ、LLMとのやり取りを適切に管理することがますます重要になっています。意図的か偶発的かを問わず、情報の過剰共有は広範かつ深刻な悪影響をもたらす可能性があります。従業員がこうした強力なツールを利用する際に適切な対策を講じることで、個人情報や業務情報を保護しながら、GenAIのメリットを活用できます。GenAIセキュリティおよび活用支援プラットフォームのデモをご希望の場合は、 こちらをクリックしてお申し込みください。

著者について

F5 Newsroom Staff

F5 Newsroom Staffのその他のブログ記事