企業では、デジタルワークプレイス全体にGenAIコパイロットやアシスタントを導入しています。その範囲は、コラボレーションハブやナレッジ管理システムから、生産性向上コパイロットや従業員サポート用チャットボットにまで及びます。これらのツールは効率性とエンゲージメントの向上に役立つ一方で、企業の攻撃対象領域も拡大させます。
- 漏えい：社内文書、知的財産、従業員データ
- プロンプトインジェクションにより業務アシスタントを操作し、アクセス制限されたコンテンツを開示させる
- 不正確または有害な出力による従業員の信頼低下
- 部門や地域をまたいでAIツールがどのように運用されているかを監督できていない
F5のAIランタイムセキュリティソリューションは、デジタルワークプレイス分野を保護します。そのために、Red Teamで検証し、Guardrailsで保護し、組み込みのオブザーバビリティでAI導入環境をガバナンスします。
Red Team：導入前に職場向けAIを検証
F5 AI Red Team（旧称Inference Red-Team）は、従業員が利用を開始する前に、各種ワークプレイスプラットフォーム（Slack、Teams、ナレッジハブ、イントラネット）上のAIコパイロットやAIアシスタントをプロアクティブにテストします。
- エージェント型AIへの耐性：複数ターンにわたる敵対的シミュレーションにより、アシスタントがだまされて機密コンテンツを漏えいする可能性のある仕組みを明らかにします。
- シグネチャ攻撃と運用上の攻撃：進化し続ける50,000件以上のエクスプロイトを使用し、プロンプトインジェクション、サービス拒否のリスク、権限昇格の試行に対する耐性をテストします。
- 職場環境に特化した検証：コラボレーションツールや従業員向けチャットボットに存在し、セキュリティやコンプライアンスを損なう可能性のある脆弱性を特定します。
デジタルワークプレイス責任者にもたらす成果： AIアシスタントやコパイロットをより安全に導入し、企業全体のリスクを軽減します。
Guardrails：生産性向上AIをリアルタイムで保護
導入後は、AI Guardrails（旧称Inference Defend）が、ワークフローの速度を低下させることなく、推論レイヤーで職場におけるAIとのやり取りを保護します。
- データ漏えいの防止：AIを利用したクエリの実行時に、社内文書、ソースコード、個人を特定できる情報（PII）が共有されるのをブロックします。
- 敵対的な攻撃を阻止：アクセス制御の回避を狙ったプロンプトインジェクションを検知し、防止します。
- 柔軟な制御： セキュリティポリシーは、生産性を維持しながら、人事、IT、各部門の状況に適応します。
デジタルワークプレイスのリーダーが得られる成果：機密データを漏えいさせることなく、従業員の能力を引き出す、安全でコンプライアンスに準拠したAIコパイロット。
オブザーバビリティ：デジタルワークプレイス全体の可視化
日常のワークフローにAIアシスタントが組み込まれる中、可視性は不可欠です。ガバナンスとコンプライアンスを確保するには、組み込みのオブザーバビリティ機能により、企業全体を監視できます。
- グローバルダッシュボード：AIの利用状況とセキュリティイベントを一元的に可視化し、企業全体のコンプライアンス対応を可能にします。
- 監査対応ログ：すべてのやり取りを記録し、コンプライアンス監査や内部調査を可能にします。
- ポリシーの適用：職場でのAI利用について、コンプライアンス違反やリスクのある使用を、評判の低下や法的問題につながる前に検知します。
デジタルワークプレイスのリーダーが得られる成果：セキュアなAI導入を信頼性の高い監督体制で支え、イノベーションがガバナンスを先行しないようにします。
デジタルワークプレイスのための包括的なAIセキュリティ
企業は、Red Team、Guardrails、Observabilityにより、以下を実現できます。
- データ保護：社内および従業員の機密データの漏えいを防止します。
- 運用上の信頼性：従業員が日常的に利用するAIコパイロットとチャットボットを保護します。
- コンプライアンスとガバナンス：プライバシーおよび職場のデータに関する規制への準拠を容易にします。
- 従業員からの信頼：職場で利用するAIの正確性と安全性を確保し、企業ポリシーに準拠させます。
要点
F5のAIランタイムセキュリティソリューションスイートは、デジタルワークプレイス分野におけるコラボレーションプラットフォーム、生産性向上コパイロット、従業員向けアシスタントの検証、保護、可観測性を確保します。これにより、企業はセキュリティや信頼を損なうことなく、社内でイノベーションを推進できます。
関連するブログ記事
F5 Distributed Cloud CDN：アプリを高速化、ワンクリックで有効化、コストを削減
F5 Distributed Cloud CDNなら、既存のセキュリティポリシーを変更することなく、ワンクリックでアプリを高速化し、オリジンの負荷とエグレスコストを削減して、コンバージョンを向上できます。
F5 BIG-IP v21.1を先行紹介：AIセキュリティ、PQC、ソフトウェアの機能強化
F5のBIG-IP v21.1がAIセキュリティとPQC対応への準備をどのように実現するかをご紹介します。
新しいAI AssistantでGuardrailsを高度化し、セキュリティを強化
F5の新しいAI Assistantは、AI Guardrailのカスタムスキャナー機能に直接組み込まれています。この機能により、企業はGenAIを活用して、自社固有のユースケースや独自のリスクプロファイルに沿ったポリシーを作成し、標準搭載の保護機能を超える対策を実現できます。
EU AI Actへの準拠がより容易に
AIシステム全体でEU AI Act、特に最も重大な禁止事項を運用に落とし込むには、どうすればよいのでしょうか。GenAIを導入するチームにとって、Article 5の「禁止されるリスク」に関する規定への対応には特有の課題があります。操作的な行為、生体認証による監視、ソーシャルスコアリングなど、最も重大な違反の多くは、従来のセキュリティツールでは容易に検出できないためです。F5のAI […]
AIレッドチームに欠けているものと、その改善方法
レッドチーミングは長年にわたり、企業セキュリティの要となってきました。しかし生成AIに関しては、多くの組織が新たな脅威環境に旧来の手法を適用しています。静的なプロンプトテスト、単発の監査、CLIベースのツールでは明らかな不具合を発見できる場合もありますが、導入後の生成AIシステムの挙動が持つ現実世界の複雑さを捉えられることはほとんどありません。 […]
欧州連合の人工知能法
AIが国際ビジネスのあり方を変える中、欧州連合の人工知能法（EU AI Act）は、AI技術の進化における重要な節目となっています。27か国で法制化されたこの重要な規制枠組みは、AIの利用を予定するあらゆる企業や組織に影響を及ぼし、AIシステムのあり方を形作ることになります。[…]