混沌から統合へ：デジタル環境の拡散とAIリスクを管理

F5 Newsroom Staff

デジタル環境の無秩序な拡大は、今に始まった現象ではありません。多くの組織、おそらく大半の組織が、成長に伴ってこの問題を経験しています。各グループや部門がIT部門に知らせず、特定の目的に特化したアプリケーション、ツール、ソリューションを導入し、それらが既存のシステムとうまく連携しないことがあります。ITチームが、一部の機能が重複するアプリケーションを導入する一方で、ほかの機能が使われないこともあります。また、使われなくなったアプリケーションがシステム上でゾンビ化する場合もあります。完全に停止してはいないものの、更新も削除もされず、多数の脆弱性を抱えたまま残ります。さらに、原因が組織やその内部グループではなく、より広範な環境にある場合もあります。コンピューティング、ストレージ、コラボレーションなど、さまざまな用途でクラウドが登場し、その後の新型コロナウイルス感染症のパンデミックによって在宅勤務へと大きく移行したこと、そしてその混乱期にシステムガバナンスが場当たり的に行われたことは、あらゆる組織でデジタル環境が爆発的かつ無秩序に拡大する一因となりました。特にセキュリティ面では、その影響が顕著でした。

一見すると、組織のサイバーセキュリティインフラストラクチャ全体に複数のツールを導入することは、合理的でリスクを抑えた包括的なアプローチに思えるかもしれません。しかし、個別のセキュリティツールやソリューションがインフラストラクチャ全体に増え続けると、次のような重大な課題やリスクが生じる可能性があります。

• 相互に通信したり情報を共有したりできず、孤立して動作するソリューション。そのため、組織のセキュリティ態勢を包括的に把握するうえで役立ちません。このような分断により、セキュリティイベントとアラートの関連付けや分析が妨げられ、インシデント対応の遅延、セキュリティインシデント管理の複雑化、さらには脅威の見落としにつながる可能性があります。
• 統合と可視性が不足しているため、データフローの監視と制御が難しくなり、機密データが漏えいしたり、適切な認可なしにアクセスされたりする可能性のある死角が生じます。
• 冗長性により、セキュリティ対策の競合や不整合、リソースの浪費、複雑性の増大が生じ、セキュリティシステムの保守や更新が困難になります。
• 一貫性のない認可ツールやプロトコルにより、重要なデータへのアクセス権が誤って不適切な人物に付与される可能性があります。

セキュリティインフラを合理化するには、慎重に見直したうえで徹底的に統合することが、明らかに1つの選択肢です。しかし、この方法にも落とし穴があります。生成AI（GenAI）のような新しいテクノロジーが組織のデジタルエコシステムに導入された場合、既存のセキュリティ対策では対応できません。セキュリティ対策を講じずにGenAIモデルや大規模言語モデル（LLM）を組織全体に導入するリスクは、広く知られています。たとえば、不適切なクエリによる知的財産や専有情報、機密情報、センシティブデータの意図しない漏えい、従業員が評価する能力を備えていないLLMの応答を介した不適切なコードや悪意のあるコードの混入、LLMの応答から得た未検証の虚偽または不正確な情報の意図しない拡散など、ほかにも数多くのリスクがあります。

新たなリスクに新たな対策が必要なのは当然です。こうした新しい対策には、少なくとも技術的なソリューション、ガバナンスフレームワーク、継続的な取り組みとして、以下を含める必要があります。

• プロンプト入力とモデル応答のコンテンツをモデレーションおよびフィルタリングし、悪意のあるコンテンツやその他の不適切なコンテンツを含むものを特定してブロックする専用スキャナー
• ユーザーによるモデルとのやり取りを、組織の価値観や基準に沿ったものにするための倫理ガイドライン
• 情報が企業コンテンツに組み込まれる前に、その内容を検証し、不正確な情報や誤情報を特定するファクトチェック機能
• ベンダーロックインやプロバイダーの制約に伴う問題を回避するためのモデル非依存性
• セキュリティ担当者が状況をリアルタイムで把握できる、システム全体の完全な可視性
• モデルの倫理的かつ責任ある利用を管理し、透明性と説明責任を確保するとともに、社内、業界、または規制上の要件への準拠を徹底するための包括的なポリシーと手順
• 権限を付与された担当者のみが、業務の遂行に必要なモデル、データ、機能にアクセスできるようにする、ロールまたはポリシーに基づくアクセス制御
• ユーザーとコンテンツの両面から利用状況を追跡・監査し、脆弱性の特定、リスクの評価、適切な保護対策の実施を可能にする機能。

おそらく最も重要なのは、こうした対策を組織固有のニーズ、リスクプロファイル、規制環境に合わせてカスタマイズできることです。F5のモデル非依存型AIランタイムセキュリティソリューションは、LLM、マルチモーダル、検索拡張生成（RAG）、ファインチューニング済み、社内、社外、プライベート、オープンソースなど、数や種類を問わずAIモデルを利用する組織に、包括的なセキュリティ機能を、導入も使用も容易な単一のソリューションとして提供します。F5のソリューションはシステム全体を完全に可視化し、管理者がすべてのモデルとそのアクティビティを把握できるようにします。

F5は、一般的な脅威と新たな脅威の両方から保護するため、強力な ガードレールを導入します。たとえば、ポリシーベースのアクセス制御により、管理者が指定した個人やグループだけがモデルにアクセスできるよう制限できます。また、管理者はレート制限を設定してモデルの使用状況を監視・制御し、モデルに対するサービス拒否（DoS）攻撃を防止できます。カスタマイズ可能なスキャナーが送受信コンテンツを検査し、個人や企業の機密データが組織外に流出することや、悪意のあるコンテンツ、不審なコンテンツ、その他の許容できないコンテンツが組織内に侵入することを防ぎます。さらに、別のスキャナーがAIプロンプトを検査し、企業に直接的な損害を与えるものではないものの、企業の価値観に合わないコンテンツや、業務用途に適さないコンテンツを確認します。 

すべてのクエリと応答はスキャナーによって検査され、組織が定めたしきい値に基づいて編集、ブロック、または承認されます。また、プラットフォーム上で実行されたすべてのやり取りは、管理者による確認、監査可能性、説明責任の確保を目的として記録されます。F5のModel-Agnostic Botは、SlackやMicrosoft Teamsなどの業務ツールとシームレスに連携します。ユーザーはこれらのツール内から利用可能なすべてのモデルにアクセスでき、強固なセキュリティと妥協のないパフォーマンスを両立しながら、生産性の向上とコミュニケーションおよびイノベーションの促進を図れます。この単一のソリューションは、GenAIモデルの導入に伴うリスクを効果的に軽減できる、プロアクティブかつ包括的なセキュリティアプローチのための強固な基盤となります。 F5のGenAIランタイムセキュリティおよび活用支援ソリューションの詳細は、こちらをご覧ください。

著者について

F5 Newsroom Staff

F5 Newsroom Staffのその他のブログ記事