SecOpsはAIをどう捉えているのでしょうか？ パート2： データ保護

これは最初の問題である機密情報の開示の核心に迫るものです。 ある実務家は簡潔にこう述べています。「現実的に考えれば、誰もが職場で LLM を使用しており、あらゆる種類の機密情報をプロンプトに入力しています。」 モデルのコンテキスト ウィンドウが大きくなり、検索拡張生成 (RAG) で使用できるファイル タイプが増えるにつれて、従業員は、情報に基づいた出力を得るための最も早い方法は、LLM に必要なすべての情報を提供することであると理解するようになりました。 これは、ゼロトラストの重要な柱である最小権限の原則に真っ向から反するものです。 簡単に言えば、「セキュリティと機能の間には常に緊張関係がある」ということです。

あるユーザーの言葉を借りれば、従来のツールであるWebアプリケーションファイアウォール（WAF）やDNSフィルタリングは、問題の先延ばしにすぎません。  「それらをブロックすれば、実質的にデータを無料のサービスに押し込めることになるのです。 ブラックリストの対応は、まるでモグラ叩きのように終わりがありません。」 ここで、昨年最も話題となった課題のひとつ「シャドーAI」が浮上します。新しいモデルは毎日リリースされ、そのラッパーは毎時間作られています。 ユーザーは、自分の優先事項の達成を妨げると感じるポリシーを必ず回避する方法を見つけ出します。

シャドーAIと機密データの漏洩という二大懸念が重なることで、セキュリティチームにとっては見えないままリスクが拡大する最悪の事態が生まれます。 ユーザーは主流のLLMを活用して読解時間を短縮しようとし、その過程で機密文書をアップロードしてしまうかもしれません。 しかしシャドーAIソリューションを使えば、SecOpsチームはそうしたやり取りを監視し、複数のリスク軽減策を講じられます。 将来的なやりとりにおいて特定の個人に注視したり、行動変化が確認できるまでその人の重要なリソースへのアクセスを制限したりも可能です。 シャドーAIソリューションがない場合、ファイアウォールやDNSブロッキングなどの従来の対策はユーザーを同じ基盤モデルを隠す巣へ押しやるだけで、リスクある行動の形状やスタイル、場所を見破ることはできません。

セキュリティの専門家は、セキュリティの重要性よりも熱意や競争力の維持が優先される技術を数多く見てきました。 クラウドコンピューティングは、現在のAIと同じ道を歩んでいます。すぐに広まった期待と可能性の高まりの後で、設定ミスや過剰なアクセス、共有責任モデルの失敗が問題となりました。 覚えがありますか？ 違いは、クラウドでは全体のリスクに関与できる関係者の数がずっと限られていたことです。 AIセキュリティの新たな課題は、クラウドのアーキテクトやエンジニアに加え、モデルを含め機密性の高いデータにアクセスできるすべての人が対象になります。