F5 Distributed Cloud Web App Scanning：AI対応Webアプリケーションを保護

Ian Dinnoシニアプロダクトマーケティングマネージャー | F5

人工知能（AI）がビジネスのあり方を変革し続けるなか、AI対応サービスを支える大規模言語モデル（LLM）を通じて、AIをWebアプリケーションに統合する動きが広がっています。一方、こうしたイノベーションには、新たなAI対応サービスや脆弱性に起因する追加のリスクも伴います。その結果、新たに重要となるサービス、より機密性の高いデータ、アプリケーションとビジネス全体の信頼性、さらにはユーザーからの信頼までが脅かされています。

セキュリティ対策の拡充が不可欠となる中、F5 Distributed Cloud Web App Scanningはこのニーズに応えます。インテリジェントなWebアプリケーションセキュリティソリューションであるDistributed Cloud Web App Scanningは、最新のAI対応Webアプリを保護するうえで変化し続ける課題への対応を支援するよう設計されています。組織のドメインに対する外部攻撃対象領域のマッピングと動的アプリケーションセキュリティテスト（DAST）機能の組み合わせや、大規模言語モデル（LLM）のOWASP Top 10リスクに照らしてAIコンポーネントをテストする包括的なスイートなど、最先端の機能を備えた本サービスは、最新のWebアプリの脆弱性を継続的かつ強力に検出します。

本ブログでは、WebアプリケーションにAIとLLMを統合する組織にとって、このサービスの導入が不可欠である理由、Distributed Cloud Web App Scanningが特定する脆弱性、そしてサービスの仕組みについて解説します。

次世代アプリケーションのセキュリティ

組織が機能の強化とより充実したユーザー体験の提供を目的にAIの導入を進めるなか、こうしたシステムのセキュリティ、信頼性、コンプライアンスの確保は不可欠です。AIを取り巻く脅威は絶えず変化しており、本番環境で実際の脆弱性が顕在化する可能性もあるため、継続的かつ堅牢なテストが必要です。

AIを導入する組織にとって、Distributed Cloud Web App Scanningが不可欠である理由は次のとおりです。

• 広範囲をカバーする継続的なテスト：従来のソフトウェアとは異なり、AIシステムは学習、適応、進化を続ける動的なシステムです。継続的なテストにより、実環境でのLLM利用に起因するものを含め、OWASP LLM Top 10の幅広い脅威カテゴリーにわたる脆弱性を特定し、緩和できます。
• AI対応サービスに対するユーザーの信頼を守る：プロンプトインジェクションやモデルのハルシネーションなどの問題は、ユーザーの信頼を損なう可能性があります。特に、AI対応のチャットボットやアシスタント、翻訳サービス、コンテンツ生成、検索など、顧客向けアプリケーションではその傾向が顕著です。プロアクティブなテストは、脆弱性が悪用され、こうした新しいAI体験に影響を及ぼす前に特定して解決することで、信頼の維持に役立ちます。
• 規制および倫理基準への対応：AIシステムへの監視が強まる中、AIを活用した最新のデジタル体験を導入する組織には、関連する規制の枠組みへの準拠を実証する手段が必要です。Distributed Cloud Web App Scanningは、統合されたLLMベースのサービスに影響するものを含め、Webアプリの脆弱性の特定と追跡を支援します。これにより、コンプライアンスプロセスでの報告に不可欠な監査証跡を提供します。

脆弱性を理解する

AIシステム、特にLLMは強力である一方、本質的に複雑です。Webアプリケーションに導入すると、次のような新たな脆弱性や攻撃という形で、新たなリスクが加わります。

• プロンプトインジェクション攻撃：悪意のある攻撃者は、LLMを操作して、不正な出力の生成など、意図しないアクションを実行させる入力を作成します。
• データ漏えい：LLMは多くの場合、動作するために膨大なデータセットを利用します。適切な保護対策が講じられていないと、トレーニング時ややり取りの際に提供された機密データが意図せず漏えいする可能性があります。
• クロスサイトスクリプティング（XSS）：攻撃者がAI対応の入力に悪意のあるスクリプトを挿入し、アプリケーションや出力に被害を与え、場合によってはユーザーにも影響を及ぼします。
• モデルのハルシネーション：LLMは、文脈にそぐわない結果や不正確な結果を生成する可能性があり、ユーザーの信頼を損ない、法的問題やコンプライアンス上の問題を引き起こすおそれがあります。

Distributed Cloud Web App Scanningは、こうした問題を検出するだけでなく、修復のためのガイダンスも提供します。AIアシスタントが各脆弱性への理解を深め、実行可能な推奨事項を提示することで、組織はWebアプリの保護と可用性を確保し、ユーザーの信頼を維持できます。

Distributed Cloud Web App Scanningの仕組み

最新のAI対応Webアプリケーション内のLLMを検出してテストするプロセスは、包括的なカバレッジを確保する自動化された4段階のプロセスから始まります。

1. 偵察： Web App Scanningサービスは、まず外部公開されている各ドメインと通信し、Webアプリ全体、そのサブドメイン、および公開されているLLM統合サービスを含むサポートインフラストラクチャを検出してマッピングします。
2. 特定：LLMの存在が検出されると、サービスはフィンガープリンティングアルゴリズムを実行し、使用されている具体的なモデルを特定します。たとえば、Mistral 7B Instructのほか、業界で広く採用されている150以上の主要なLLMが対象です。
3. テスト：初期マッピングの後、OWASP Web AppおよびLLM Top 10に固有の脅威を幅広く検証する自動ペネトレーションテストを実施します。NVIDIAのgarakやMicrosoftのPyRITなど、業界をリードするテストフレームワークを活用して敵対的攻撃をシミュレーションし、プロンプトインジェクション攻撃、リレーおよびリピートリレーの脆弱性を介したデータ漏えい、クロスサイトスクリプティング（XSS）、キーワードプローブ、モデルのハルシネーション、誤解を招く主張など、重大なセキュリティ上の問題を明らかにします。
4. レポート：スキャンとテストにより、LLMおよびWebアプリケーションのTop 10リスト全体で検出された脆弱性を明示する、包括的かつ詳細なペネトレーションテストレポートが生成されます。このレポートには、実行可能な修復ガイダンスに加え、テスト全体と脆弱性に関する動画やスクリーンショット、状況に応じたインサイトが含まれます。これにより、組織は検出された脆弱性に容易に対処し、最新のAI対応Webアプリを保護できます。

セキュリティを確保し、未来を切り拓く

AIを活用したイノベーションにより、Webアプリケーションと最新のデジタル体験に大きな可能性がもたらされた一方で、新たな高度なセキュリティ脅威も生じています。LLMテストスイートを統合したDistributed Cloud Web App Scanningは、この変化し続ける環境に組織が安全に対応するために必要な拡張性とカバレッジを提供し、アプリケーションの進化に伴う脆弱性を継続的に把握できるよう支援します。

このインテリジェントかつ継続的なWebアプリケーションセキュリティテストを企業のセキュリティ対策に組み込むことで、WebアプリとAPIを保護できるだけでなく、責任ある安全なAIの開発と導入に対する組織の取り組みも強化できます。

お問い合わせください。Distributed Cloud Web App Scanningが防御の強化と、安心してAIを導入するためにどのように役立つか、詳しくご案内します。

また、サンフランシスコで開催されるRSA Conferenceに参加予定の方は、4月29日のF5セッション「より強固な連携へ：アプリケーションのセキュリティとデリバリーを統合するアプローチ」にぜひご参加いただき、ブースN-4335にもお立ち寄りください。

著者について

Ian Dinnoシニアプロダクトマーケティングマネージャー | F5

Ian Dinnoのその他のブログ記事