AIの最前線を守る：データ流出に対抗する戦略

F5 ADSP | 2024年7月30日

組織が生成AI（GenAI）モデルや大規模言語モデル（LLM）をデジタルシステムに導入する動きが進むにつれ、新たなリスクや深刻化したリスクに直面しています。当然ながら、セキュリティチームが最も優先的に懸念することが多いのは、データ流出、すなわち組織内のデータが外部に不正に転送されることに伴うリスクです。組織の機密情報とシステムの完全性を保護するため、こうしたリスクを把握して軽減することは、サイバーセキュリティの意思決定者にとって極めて重要です。

データ流出は、GenAIやLLMを利用する組織にとって重大な脅威です。これらの高度なモデルは大量の機密データを扱うことが多いため、サイバー犯罪者の格好の標的となります。攻撃を受けた場合、金銭的損失や評判の低下から、法的責任や規制上の制裁に至るまで、深刻な影響が生じる可能性があります。医療機関や金融サービス企業でのデータ侵害など、社会的に注目を集めたインシデントは、堅牢なセキュリティ対策が不可欠であることを浮き彫りにしています。データ流出につながる経路には、組織内外の人的脅威やシステム上の脅威に加え、サプライチェーン内の脅威や脆弱性などがあります。例：

内部脅威：機密データにアクセスできる従業員は、意図的または意図せずにデータ侵害を引き起こす可能性があります。内部脅威は、関係者が信頼されているため、特に軽減が困難です。
外部脅威：AIインフラストラクチャを標的とするサイバー攻撃は、ますます巧妙化しています。攻撃者は、AIモデル、ソフトウェア、ハードウェアの脆弱性を悪用し、データに不正アクセスする可能性があります。
サプライチェーンの脆弱性：サードパーティベンダーやパートナーに起因するリスクによって、AIシステムのセキュリティに弱点が生じる可能性があります。データの流出を防ぐには、サプライチェーン全体のセキュリティを確保することが不可欠です。

幸い、対策はあります。データ流出インシデントへの対応に有効な戦略には、次のようなものがあります。

アクセス制御と認証：導入することが、堅牢なアクセス制御および多要素認証（MFA）を導入することは、AIシステムやデータにアクセスできるユーザーを管理するうえで不可欠です。ポリシーベースのアクセス制御（PBAC）により、従業員の権限を各自の役割に必要な範囲に限定し、不正アクセスのリスクを軽減できます。
監視と異常検知：AIシステムに異常なアクティビティがないか継続的に監視することが不可欠です。AIと機械学習を活用してリアルタイムで異常を検知することで、データ流出の可能性がある試みを、重大な被害が生じる前に特定し、対応しやすくなります。
定期的な監査とペネトレーションテスト：定期的なセキュリティ監査は、AIシステム内の脆弱性の特定に役立ちます。倫理的なハッカーがシステムへの侵入を試みるペネトレーションテストを実施することで、潜在的な弱点や改善すべき領域について有益な知見を得られます。
サプライチェーンセキュリティ：AIシステムのセキュリティを維持するには、サードパーティベンダーに起因するリスクの評価と軽減が不可欠です。組織は、ベンダーを厳格に審査し、そのセキュリティ対策を継続的に監視するなど、サプライチェーン全体でセキュリティ対策を実施する必要があります。
従業員のトレーニングと意識向上：セキュリティ意識の高い文化を醸成するには、従業員向けのサイバーセキュリティトレーニングが不可欠です。データ流出のリスクとその防止に向けたベストプラクティスについて従業員を教育することで、内部脅威や人的ミスが発生する可能性を大幅に低減できます。

F5の AI Runtime Security Solutionsは、こうした課題に対処し、これらの戦略を取り入れることで、組織が最高水準のセキュリティを維持しながらGenAIの力を活用できるようにします。モデルに依存しない「軽量な」trust layerは、組織のデジタルインフラストラクチャとモデルの間に配置され、レイテンシーを増加させることなく、360°の保護を提供します。カスタマイズ可能な多様なスキャナーがすべてのプロンプトを検査し、個人情報がシステム外に流出せず、埋め込みコードやリンクなどの悪意のあるコンテンツがシステム内に侵入しないようにします。PBACは個人、チーム、モデルに適用できるため、モデルへのアクセスを必要とする担当者だけにアクセス権を付与できます。

F5のソリューションはシステムの外部に配置されるため、セキュリティチームは使用中のすべてのAIツールを可視化でき、脅威や攻撃の兆候となり得る異常なアクティビティをリアルタイムで検出できます。すべてのモデルとのやり取り、および管理者によるF5ソリューションの操作は、確認と監査のために追跡され、ユーザーの行動やモデルの利用状況に関する詳細なインサイトが得られます。データセキュリティ、モデルのパフォーマンス、運用機能の適切なバランスを実現する鍵は、適切なツールの選定にあります。組織のAIセキュリティ体制にF5を加えることで、GenAIの導入環境の透明性、セキュリティ、安定性を継続的に確保できます。 8月6日～8日にラスベガスで開催される BlackHatカンファレンスに参加される方は、こちらからお問い合わせください。F5のAI Runtime Securityソリューションが組織のセキュリティ体制をどのように変革できるかをご紹介します。