企業のコンプライアンスとセキュリティ強化におけるAIガバナンスの役割

F5 Newsroom Staff

企業における大規模言語モデル（LLM）やその他のAIツールの急速な導入は、業務を大きく変革し、生産性を向上させています。一方で、これらのツールは組織の攻撃対象領域を拡大し、セキュリティとコンプライアンスに重大な課題をもたらします。これまで組織は、堅牢なガバナンスや統制措置よりも有用性や市場投入までのスピードを優先する傾向があり、AIガバナンスの進展も例外ではありません。企業がAIと機械学習（ML）の機能をより多くの業務に組み込む中、社内外のコンプライアンスとセキュリティを確保するには、こうした新たなリスクに対処する包括的なAIガバナンスフレームワークの確立が不可欠です。

AIガバナンスの必要性

AI/MLツールが、オペレーション、営業、法務、人事などの各部門で普及する中、CISO、CIO、CTO、CSO、CDO、コンプライアンス責任者、法務責任者など、組織のセキュリティリーダーは、全社的なAIガバナンスフレームワークの策定と導入に取り組む必要があります。このプロセスは、AIツールに対する需要の高まりと、拡大する攻撃対象領域を保護する必要性とのバランスを取るうえで極めて重要です。

この取り組みでは、主要な全部門の代表者で構成される部門横断チームを編成し、ガバナンス原則について合意を形成するとともに、経営幹部を含むステークホルダーの賛同を得る必要があります。チームを6～8名に絞ることで、意思決定と導入のプロセスを効率化できます。テクノロジーへの関与が最も深いセキュリティ責任者がチームを主導します。ただし、その役割は専門家としてではなく、中立性を保ち、偏りを避けるファシリテーターとしての役割です。

現状と課題

LLMやその他の生成AI（GenAI）製品の急増により、企業には、ビジネスプロセスの強化、顧客体験の向上、業務の生産性向上につながる多様な機会が生まれています。こうした機会には、業界や企業に固有のユースケースに対応するため、独自データを活用した自社開発の社内モデルを導入することも含まれます。一方、これらのツールが急速に普及し、多種多様なモデルやそのカスタマイズが登場したことで、これまでこのような高度なデジタルツールを使用したことがないユーザーには、認知的な負担が生じています。

セキュリティリーダーは、従業員、請負業者、顧客、取引先をはじめとするすべてのステークホルダーに対し、こうした革新的なソリューションを利用する際のリスク、責任、成果、メリットについて周知する必要があります。

AIガバナンスのフレームワーク

AIガバナンスのフレームワークを確立する際、セキュリティリーダーは、以下を含むいくつかの重要な領域に注力する必要があります。

• 人材：セキュリティリーダーは、合意形成に基づくAIガバナンスの重要性について、部門、チーム、各専門領域のリーダーに周知する必要があります。
• 原則：ガバナンス原則は、組織の価値観やブランドの評判と整合させ、明確なビジネス価値の基盤を築くとともに、許容される利用方法や不正利用の結果といった問題に対処するAI固有のポリシーを支える強固な土台とする必要があります。原則の例としては、すべてのLLM出力に人によるレビューを義務付けることや、社内コミュニケーションでLLMを使用した場合にその旨を明示することなどが挙げられます。こうした原則を早期に策定することで、既存の社内ポリシーを改定し、新たなポリシーを策定できるようになります。 
• 規制：AIガバナンスでは、欧州連合の一般データ保護規則（GDPR）やカリフォルニア州消費者プライバシー法（CCPA）など、既存のプライバシー法の影響を受ける地域、国、世界各レベルの規制を考慮する必要があります。プライバシーとコンプライアンスを担当する経営幹部をガバナンスフレームワークの中核に据え、AIに対応または依存するモデル、ツール、プラクティスが、同意、データの匿名化、データの削除に関する規制基準を満たすようにする必要があります。 
• 倫理：AIガバナンスには多くの人的作業が必要であり、使用するツールよりも、人々の働き方に重点を置きます。AI開発には倫理的配慮を組み込む必要があり、テクノロジーの設計における倫理的判断は人間が担います。
• 制御：AIガバナンスには、人間による関与を3つのレベルで組み込む必要があります。すなわち、ヒューマン・イン・ザ・ループ（HITL）、ヒューマン・オン・ザ・ループ（HOTL）、ヒューマン・イン・コントロール（HIC）です。これにより、AI運用全体にわたる人間の監督と説明責任を確保し、AIによる自律的な意思決定に伴うリスクを軽減できます。

AIガバナンス導入のビジネス上の意義

AIガバナンスの導入には、テクノロジーと人材への投資が必要です。しかし、主要な業務ワークフローでLLMを活用することで得られる生産性の向上と人件費の削減は、こうした投資を正当化できるほど大きなものになる可能性があります。AIの出力に対する責任を特定の従業員が負うアカウンタビリティモデルを確立することで、追加のサポート要員の必要性を最小限に抑えられます。このような枠組みを整備し、経営幹部と従業員の双方から賛同を得ることで、企業は拡大するリスクを効率的、効果的かつ安全に管理し、企業の価値観やポリシーに沿った測定可能なメリットを実現できます。

こちらをクリックして、F5のGenAIセキュリティおよび活用支援プラットフォームのデモをご予約ください。

著者について

F5 Newsroom Staff

F5 Newsroom Staffのその他のブログ記事