組織固有のAIセキュリティポリシーを策定する方法

F5 ADSP | 2023年10月19日

はじめに

2022年11月にChatGPTがリリースされて以来、ブレーキをかけたりエンジンを停止したりするための安全策や監視体制が整わないまま、生成AI（GenAI）モデルが企業で急速に導入されてきました。

政府機関は、ユーザーとイノベーションの双方を保護しつつ、個々の脅威アクター、犯罪組織、非国家主体、国家、さらにはモデルを開発して利益を得る企業を含む各種企業による犯罪行為や単なる強欲な行為を防止する規制の策定に苦慮しています。

LLMのガバナンスという難題はCISOに委ねられています。組織向けのAIセキュリティポリシーとそれに対応するコントロールの策定は容易ではありません。AIに関するあらゆる事項に単一のポリシーで対応することは不可能だからです。たとえば、AI固有のポリシーによって、既存のIT調達、導入、セキュリティ、利用に関するポリシーを修正、拡張し、場合によっては置き換える必要があります。また、文書の保存、知的財産権の帰属、契約書の作成などに関する法務・コンプライアンスポリシーや、履歴書を自動スキャンするアプリケーションに対応する人事ポリシーにも影響が及び、さらには社内のあらゆる部門と事業部門で対応が必要になります。

このブログ記事では、AIを導入するエコシステムで特に差し迫った課題である、企業全体でのGenAIモデルの安全な導入とセキュアな利用に対応する基本ポリシーを策定するための出発点を示します。モデルに依存しないF5の「AI Guardrailsソリューション」は、以下に示すサンプルポリシーで特定された主要な課題の多くに対応します。

ポリシーの概要に加えて、独自のAIセキュリティポリシーを作成するための推奨テンプレートも用意しました。これらの例は法的助言を構成するものではありません。AIセキュリティポリシーを導入する前に、法律の専門家にご相談ください。

ポリシーのサンプル

モデル統合ポリシー

組織全体にAIモデルを導入する際の最初のステップは、導入方法を決定することです。その際に検討すべき事項は次のとおりです。

組織が現在必要としているモデルの数
- ユーザー数とモデル数を拡張できるよう、初期段階で追加のキャパシティを確保する
モデルをパブリック（ChatGPT、Claude、Bardなど）、プライベート（カスタム構築、またはSalesforceなどの他のアプリケーションに統合）、社内向けのいずれにするか、あるいはこれらを組み合わせるか
組織全体への導入に最適なプラットフォームの種類（SaaS、プライベートクラウド、パブリッククラウド、オンプレミス、エアギャップ環境、その他）
- 注：SaaSベンダーがすでに多数のモデルを使用しているため、モデルを使用してSaaSアプリケーションの利用を制限することは、あまり現実的ではありません
- どのプラットフォームにも、スケールアップおよびスケールダウンの機能があることを確認する
ネットワークセグメンテーション
既存のソフトウェアやシステムとの互換性を確保し、テクノロジーの乱立を抑制
冗長性
セキュリティ上のギャップ

ユーザーアクセスポリシー

どのユーザーに、どのモデルの使用を、どの程度の頻度で、どのような目的のために許可するかを明確にします。

利用対象は従業員と請負業者に限定されますか。それとも、ビジネスパートナーや顧客などにも、すべてまたは一部のアクセス権を付与しますか。
ネットワーク／システムへのアクセスによりモデルへのフルアクセスが許可されますか。それとも、モデルに対して権限の分割やポリシーベースのアクセス制御（PBAC）が適用されますか。
グループや部門ごとに、特定のモデル内で異なる機能が必要ですか。それとも、一部のグループによる特定機能の使用を禁止する必要がありますか。
管理作業を実行するためのアクセス権や権限は、どのように、またどのような理由で割り当てられていますか？

利用規定

モデルの利用について何を許容し、何を許容しないかは、組織によって大きく異なります。一般的な検討事項は次のとおりです。

モデルをどのように使用すべきか。たとえば、その他の関連ポリシーに従い、会社の業務に限って使用すること、個人的な使用、他の事業体のための使用（副業）、犯罪行為やその他の違法、非倫理的、または危険な目的での使用などを禁止すること。
禁止用語フィルターには、どのような用語を含めるべきでしょうか。たとえば、特定の解剖学用語は、土木会社では全社的に禁止される可能性がありますが、製薬会社や医療診断機器会社では禁止されない場合があります。
リソースの割り当ても利用方法に影響する可能性があります。導入と定着の初期段階でタスクの優先順位を定めておくと、ユースケースやビジネスニーズの変化に応じてタスクを追加できるよう、計画的に利用範囲を拡大しやすくなります。

プロンプトコンテンツポリシー

プロンプトの内容は許容される使用に関する方針に沿っていますが、対象範囲は異なります。定義すべき事項は次のとおりです。

公開モデルを使用する際に許容されるコンテンツ（特定の対象を示さない用語、一般的な質問など）
すべてのモデルで禁止されるコンテンツ（冒とく的、偏見を含む、侮辱的、有害な表現やその他の同様の用語、および個人を特定できる情報（PII）など）
パブリックモデルの使用時に禁止されるコンテンツ。たとえば、会社固有の用語（ブランド名、プロジェクト名など）、会社名、競合他社名、社内文書（契約書、メール、議題、カレンダー、議事録、生データ、ソースコード、ポリシー、手順、ガイドラインなど）
プライベートモデルまたは社内モデルの使用時に禁止されるコンテンツ（給与や事業戦略など、少人数の社内ユーザーに関係するトピック）

モデル出力利用ポリシー

一般公開されているモデルの多くは内部統制が不十分なため、モデル出力の取り扱いは難しい課題です。そのため、組織はユーザー向けの指針となる強固な社内ポリシーを策定し、徹底する必要があります。検討すべき事項は次のとおりです。

人による検証
- モデルが生成したコンテンツを、あらゆる種類の社内文書への組み込みを含むいかなる目的にも使用する前に、モデルのすべての出力について、該当する場合は正確で、事実に基づき、真正であること、または虚偽、想像上のもの、根拠のないものではないことを、人が検証する必要があります。
- 検証記録には、検証者の氏名とタイムスタンプを含める必要があります。
変更されていないコンテンツの使用
- 会社の文書に含める前に大幅な修正を加えていないモデル出力については、脚注、文末注、プロンプトへのリンクなどを使用して、その旨を明示する必要があります。
- モデルが提供したコードは、そのコードで使用されている特定の言語に精通した上級スタッフ［2名］によるレビューと検証を受けずに使用してはなりません。
- 検証記録には、検証者の氏名とタイムスタンプを含める必要があります。

監視および監査ポリシーの使用

モデルの導入が広がるにつれ、可観測性の重要性はますます高まっています。ユーザーの利用状況を把握し、モデルのパフォーマンスを理解することが、効率と有効性を高める鍵となります。

州の電子監視法で認められている場合は、組織のメールプライバシーポリシー（例：プライバシーは期待できない旨）を参考にして、このポリシーを策定します。
個人所有か会社所有かを問わず、デバイスからのモデルの利用は自動化されたアプリケーションによって監視・追跡され、場合によってはユーザーまたは管理者にリアルタイムのアラートが生成されることを、従業員に周知してください。
- 一部の法域では、ユーザーの感情など、特定の情報を追跡することは認められていません。
- 特定の法域または状況によっては、ユーザーデータの消去が求められる場合があります。
追跡する情報とその目的を明確にします。たとえば、モデルの使用状況に関するパラメーター（コスト、精度など）、コンテンツ（プロンプト／レスポンス）、検証結果、ユーザーエンゲージメントなどです。