企業導入における大規模言語モデルの権限管理の重要性

F5 ADSP | 2023年11月16日

ChatGPTやClaudeなどの大規模言語モデル（LLM）は、2022年後半から2023年初頭に登場し、AIの力に対する認識を一気に高めました。多くの企業は、このテクノロジーがWorld Wide Webやクラウドの登場に匹敵する変革をもたらす可能性をすぐに認識し、安全性やセキュリティをほとんど考慮しないまま、その力を活用しようとしました。一方、適応方法が分からず、もどかしさから導入をためらう企業もあれば、まったく動けなくなる企業もありました。

登場以来、LLMは、組織による投資戦略やマーケティング施策の立案から、企業業務の刷新、法的文書の作成に至るまで、エコシステムを一変させました。モデル自体も変化を続けており、ChatGPTやBardのような大規模な公開基盤モデルから、HarveyやBloombergGPTのように特定の業界向けにファインチューニングされたモデルへと進化しました。さらに、組織が独自にファインチューニングしたモデルや、検索拡張生成（RAG）モデルを構築するケースが増え、最近では内部モデルへと発展しています。この最新の動向は、それ自体が注目すべき現象です。こうした内部モデルは、組織、部門、またはチーム内の特定のタスクを遂行するために、専有データを使用してトレーニングされています。

RAGのプロセスでは、法的文書、カスタマーサービスの記録、マーケティングキャンペーンなど、企業固有のデータをモデルに入力し、パターンやその他のコンテンツを特定・分析できるようモデルをトレーニングします。その後、パフォーマンスの基準値に達するまで反復調整を行い、モデルを本来の目的に使用します。社内RAGモデルやファインチューニング済みモデルでは、特定された担当者だけがモデルとそのデータを利用できるようにする、ポリシーベースのアクセス制御（PBAC）を使用できます。組織がActive Directoryなどの権限管理システムを使用してデータへのアクセスを分離・制御するのと同様に、情報やモデルへのアクセスも、企業ポリシー、ビジネス上の必要性、その他の企業固有の判断基準に基づき、チームまたは個人単位で分離できます。企業全体でAIモデルの利用が拡大し続ける中、権限管理は今後も事業運営の重要な要素であり、LLMセキュリティの重要な要因でもあります。

機密データの保護、知的財産、法的文書、個人を特定できる情報（PII）、その他の機密コンテンツは、アクセス権を適切に付与された従業員などにのみアクセスを許可することで、保護しやすくなります。セキュリティ層を増やすほど、データ窃取のリスクは低下します。
達成、追跡、維持が必要なコンプライアンスには、データプライバシーおよびセキュリティに関する規制、自動意思決定などに関する業界標準、企業の利用規定、その他のガイドラインがあります。対象を小規模なグループに絞り、個別または多様な要件に対応することで、これらを管理しやすくなります。
モデル利用の コスト構造は安定するまで変動が続くため、リソース割り当てはモデルのアクセス権限設定によって得られる主なメリットの1つです。モデルにアクセスできるチームや従業員の数を制限することで、コンピューティングリソースの使用を効率的に管理し、モデルのライセンス、サブスクリプション、シート数を組織の規模に合わせて適正化できます。これは、複数のモデルを使用する場合に特に重要です。
特定のユースケースやユーザーグループに基づいて、モデルのアクションやアクティビティを カスタマイズできるため、機能を効率化できます。また、フィルターやスキャナーの感度をカスタマイズすることで、組織のニーズに合わせた対応が可能になります。

必要なモデルやモデルの種類、さらにそれらを企業全体で導入し、セキュリティを確保する方法をまだ模索している組織にとって、生成AI（GenAI）モデルに堅牢なPBACを実装できることは、大きな支えとなります。組織のセキュリティインフラストラクチャにおいて重要かつ広く理解されているこの要素は、潜在的なセキュリティ脆弱性を抑えるため、機密データへの不要なアクセスを最小限に抑え、内部脅威のリスクを低減します。ユーザーの認証、認可、監査を一元管理するアイデンティティおよびアクセス管理（IAM）システムとロール管理ツールは、PBACを効果的に実装するうえで重要です。

ただし、テクノロジーの無秩序な拡大にも注意が必要です。これは、システム内のアプリケーションやデバイスが増えすぎて、十分に連携できない、またはまったく連携できない状態を指し、それまで存在しなかった脆弱性を生み出す可能性があります。F5 AI Runtime Securityのように、すべてを包み込む信頼レイヤーとして機能し、企業全体で使用されるあらゆるモデルを対象とする包括的なLLMセキュリティソリューションの導入は、一般的な複数LLMの展開に欠けている要素です。F5のソリューションは、単一かつモデルに依存しないスケーラブルなソリューションであり、インフラストラクチャに余分な「負荷」を加えることなく、既存のセキュリティ基盤とシームレスに統合できます。また、コンピューティングコストを増加させたり、モデルにレイテンシーを生じさせたりすることなく、組織全体のグループや個人に対してきめ細かな権限設定を提供します。

LLMなどの高度なGenAIモデルの利用が組織内でますます一般化し、多様化する中、導入の初期段階からセキュリティを組み込む必要があります。生産性、イノベーション、競争優位性を高めながらリスクを軽減するための重要な手段として、IAMとPBACによる権限管理を優先する必要があります。

注目のブログ記事

すべてのCISOが知っておくべきAPIセキュリティの3つのポイント

F5、CalypsoAIの買収を完了し、F5 AI GuardrailsとF5 AI Red Teamを発表

F5によるCalypsoAI買収の発表がTRiSMフレームワークの実現を後押し