未来を守る：CalypsoAIがOWASP Top 10 for LLMsに準拠する仕組み

Louise Scullyシニアマネージャー（プロダクトマーケティング、AIセキュリティおよび脅威インテリジェンス担当） | F5

OWASPが2025年版「大規模言語モデルのトップ10」（LLM）を公開したことで、業界が強く必要としていたセキュリティのベンチマークが示されました。しかし、行動に移さなければ、ベンチマークに意味はありません。

CalypsoAIは、現実世界で特に差し迫ったリスクを優先し、OWASP Top 10の80%に対応します。このプラットフォームは、リアルタイムのランタイム保護と高度な敵対的テストを組み合わせ、現在最も重大なLLMリスクを他に類を見ない範囲でカバーします。プロンプトインジェクションやデータ漏えいから、過剰なエージェンシー、無制限のリソース消費に至るまで、企業におけるAIの実際の利用形態に対応する「推論境界」を構築しました。

他のベンダーが表面的な対策やスタックの一部の保護にとどまる一方、CalypsoAIはさらに踏み込み、レッドチームと防御の両レイヤーでOWASPリスクに対応します。これは、単に要件を満たすためのものではありません。セキュリティチームがGenAIシステムを大規模に保護するために必要な可視性、制御、ポリシー適用機能を提供するものです。

OWASPの主要なリスクにどのように対応し、さらに一歩先を行くのかをご紹介します。

LLM01：プロンプトインジェクション

ブロック、テスト、緩和済み。

CalypsoAIは、20,000件を超える評価用プロンプトを使用して、プロンプトインジェクションの脆弱性を幅広くテストします。このプラットフォームには、不正なプロンプト操作を防止するための保護機能が組み込まれています。

LLM02：機密情報の漏えい

機密データのプライバシーを維持します。

CalypsoAIは、機密データが開示される可能性のある脆弱性を特定します。このプラットフォームには、すぐに使用できる（OOTB）PIIスキャナーが搭載されており、キーワード、正規表現、生成AIモデルを使用したカスタムスキャンにも対応しています。

LLM03：サプライチェーン

F5がリスクを軽減するため、お客さまが対応する必要はありません。

このプラットフォームは、レッドチーミングと継続的な監視を通じて、古くなったモデル、脆弱な事前学習済みモデル、モデルの来歴の信頼性不足といったリスクを軽減します。

LLM04：データおよびモデルのポイズニング

上流工程のミスがあっても、推論を保護します。

これは主にトレーニング時のリスクですが、CalypsoAIは、トレーニングが不十分なモデルやポイズニングされたモデルの特定を支援し、推論時の検索拡張生成（RAG）アプリケーションを保護します。

LLM05：不適切な出力処理

設計段階から、より安全なインタラクションを実現。
CalypsoAIは、LLMの応答に含まれるXSSやコードインジェクションの試みを検出してブロックし、より安全なインタラクションを実現します。

LLM06：過剰なエージェンシー

説明責任を伴う自律性。

このプラットフォームは、入力と出力をスキャンすることでインラインのエージェント保護を提供し、Multi-Agent Collaboration Platforms（MCPs）に関連するリスクを軽減します。

LLM07：システムプロンプトの漏えい

お客さまのシステムを安全に保ちます。

CalypsoAIには、システムプロンプトの漏えいを防ぐ保護メカニズムが組み込まれており、今後さらに強化するための機能もロードマップで計画されています。

LLM08：ベクトルと埋め込みの脆弱性

設計上、該当しません。

CalypsoAIは推論レイヤーで動作するため、ベクトルストレージの脆弱性には直接対処しません。

LLM09：誤情報

該当なし — 推論前の上流工程で処理されます。

ハルシネーションへの対応はOpenAIなどの上流プロバイダーがモデルレベルで行っているため、CalypsoAIでは現在、ハルシネーション検出機能を提供していません。CalypsoAIは、安全で信頼性の高いAI出力を実現するため、引き続き推論のセキュリティ確保に注力しています。

LLM10：無制限の消費

効率性と強制適用を両立。

CalypsoAIは、APIの過剰な消費や不正利用を防ぎ、LLMリソースの効率的かつセキュアな利用を実現します。

実環境のAI向けに設計

単にチェック項目を満たすだけのコンプライアンス対策ではありません。CalypsoAIは、リスクが現実のものとなり、その影響が重大となる本番環境のAIを保護するために設計されています。30,000件を超えるエージェント型攻撃に対するレッドチーミングから、リアルタイムのランタイム保護まで、CalypsoAIのプラットフォームは、新たな脅威がお客さまのビジネスに影響を及ぼす前に適応します。

著者について

Louise Scullyシニアマネージャー（プロダクトマーケティング、AIセキュリティおよび脅威インテリジェンス担当） | F5

Louise Scullyは、F5でAIセキュリティおよび脅威インテリジェンスのプロダクトマーケティング担当シニアマネージャーを務めています。AIセキュリティとエンタープライズテクノロジーの分野で、プロダクトマーケティング、プロダクト管理、市場投入戦略、コミュニケーション、ソートリーダーシップ、カテゴリー開発に携わってきました。F5入社以前は、CalypsoAIとArtomatixでマーケティングを統括し、AI技術と研究成果の市場展開に貢献しました。

Louise Scullyのその他のブログ記事