人工知能セキュリティの学習リソース

AIセキュリティは、組織のサイバーセキュリティにおける重要課題となっています。AI技術が進化し続ける中、組織は堅牢なリスク管理と、ライフサイクル全体を通じた機密データの保護を優先する必要があります。アプリケーションが侵害される前に、脆弱性を特定して緩和しなければなりません。以下のF5の豊富なリソースを活用して、セキュリティリスクを管理し、サイバー脅威に対するAIアプリケーションのレジリエンスを強化する方法をご確認ください。

AIセキュリティとは

AIセキュリティとは、AIモデル、アプリケーション、エージェント、APIを悪意のある攻撃、データ漏えい、その他の不正な動作から保護する取り組みです。AIセキュリティに多層的なアプローチを採用する場合、一般に、AIシステムの入力と出力のフィルタリング、ガードレールの実装、攻撃が発生する前の脆弱性の発見と修正が含まれます。

組織は、AIシステムのセキュリティ確保に取り組む一方で、サイバーセキュリティにAI機能を組み込むこともできます。たとえば、AIの一種である機械学習（ML）を使用するサイバーセキュリティツールは、異常な動作の特定と対応の自動化により、脅威検知を強化できます。

AIについて学ぶ

AIインフラストラクチャ ›

AIガバナンスと管理 ›

よくあるご質問

従来のWebアプリケーションセキュリティと生成AIセキュリティの違いは何ですか？
従来のWebセキュリティは、決定論的なアプリケーションコード、固定されたAPIエンドポイント、構造化データベースを保護します。生成AIセキュリティは、自然言語を入力と実行コードの両方として解釈する確率的モデルを保護します。一般的なWebアプリケーションへの脅威とは異なり、ユーザー入力と悪意のある命令が混在する可能性があるため、生成AIのセキュリティ確保は困難な場合があります。

企業向けLLMに対するプロンプトインジェクション攻撃を防ぐにはどうすればよいですか？
プロンプトインジェクションは、攻撃者がユーザー入力やサードパーティの情報源に悪意のある指示を挿入することで発生します。企業は、ガードレールの実装、レッドチーミング（脆弱性を早期に発見して修正するため）、入力と出力の両方のフィルタリングを含む、多層防御による予防策を講じる必要があります。

自律型AIやエージェント型AIに関連する主なセキュリティリスクは何ですか？
Open Web Application Security Project（OWASP）によると、AIエージェントのセキュリティリスクの上位3つは、目標の乗っ取り、ツールの悪用、アイデンティティの悪用です。目標の乗っ取りとは、攻撃者がエージェントを操作し、許可されていない目標に注力させることです。ツールの悪用は、攻撃者がエージェントに誤ったツールを選択させたり、意図しない方法でツールを使用させたりすることで発生します。アイデンティティの悪用では、攻撃者が正規の権限を悪用して不正な操作を実行します。

組織がAIのセキュリティ脆弱性を管理するには、どのフレームワークを使用すべきですか？
米国国立標準技術研究所（NIST）のAIリスクマネジメントフレームワーク（AI RMF）は、組織が責任ある安全な方法でAIシステムを設計、導入、ガバナンスするうえで役立ちます。これは、AIのガバナンス、脆弱性のマッピング、安全性の測定、AIリスクの管理に重点を置いた、体系的かつ任意の指針です。

シャドーAIとは何ですか。また、組織はどのように管理できますか？
シャドーAIとは、従業員がIT部門やセキュリティ部門の承認や監督を受けずに、未承認のAIツールを使用することです。シャドーAIを管理するには、暗号化されたトラフィックも可視化し、トラフィックを検査ツールに転送するとともに、特定のツールやサイトへのトラフィックを許可またはブロックするきめ細かなポリシーを適用できるソリューションが必要です。