AIランタイムセキュリティソリューション

AIランタイムセキュリティは、モデルが本番データやユーザーリクエストを実際に処理している間、モデルを保護します。ランタイムガードレール、API保護、モデル動作の監視、ポリシー適用により、プロンプトインジェクション、データ漏えい、モデル回避、APIの不正利用などのリスク軽減を支援します。これらの制御は、クラウドホスト型とセルフホスト型のAI環境全体に適用でき、安全な推論を支援するとともに、ランタイム運用をNIST AI Risk Management Framework（AI RMF）などのフレームワークに整合させることができます。

AIエージェントのランタイムセキュリティでは、実行中にエージェントがアクセスできる対象、使用できるツールやAPI、実行できるアクションを制御します。効果的な制御策には、権限の制限、認証情報とAPIキーの保護、エージェントの異常な動作の監視、ツール使用へのガードレールの適用などがあります。エージェントにコードの生成または実行を許可する場合、サンドボックス化により、リスクの高いワークロードに対して追加の分離レイヤーを設けることができます。

プロンプトインジェクション攻撃は、悪意のある指示を用いて大規模言語モデル（LLM）の動作を操作します。間接プロンプトインジェクションは、文書、Webサイト、取得したデータ、ツールの応答などの外部コンテンツを介して侵入し、エージェントがそのコンテンツを処理する際の動作に影響を与える可能性があります。「OWASP Top 10 for LLM Applications 2026」では、プロンプトインジェクションをLLMアプリケーションにとって重大なリスクと位置付けています。AIランタイムセキュリティは、本番環境でプロンプト、コンテキスト、ツール呼び出し、出力を検査し、安全でないやり取りが接続先システムや機密データに到達する前にポリシーを適用できます。

手動のAIレッドチーミングでは、専門家主導の敵対的テストを通じて、これまでにないコンテキスト固有の攻撃経路を探ります。自動化されたレッドチーミングでは、より大規模な敵対的手法のライブラリを対象にテストを拡張でき、モデル、アプリケーション、エージェントの変更に応じて繰り返し実施できます。ランタイムAIセキュリティは、実稼働環境でのやり取りに制御を適用し、動作や新たな脅威を継続的に可視化します。従来のランタイムアプリケーション自己保護（RASP）、Webアプリケーションファイアウォール（WAF）、APIセキュリティは引き続き重要な防御レイヤーです。一方、AI固有のランタイム制御は、プロンプトインジェクション、有害な出力、データ漏えい、エージェントによるツールの不正使用などのリスクに対処します。

組織が未承認のAI利用を特定するには、AI向けトラフィック、AI APIエンドポイント、モデル、エージェント、機密データのフローを可視化する必要があります。ランタイム監視とポリシーベースの制御により、セキュリティチームはシャドーAIの検出、モデルの異常な挙動の監視、データ漏えいの低減、承認済みサービスへのユーザーの誘導を行いやすくなります。規制対象の組織では、こうした制御は、NIST AI RMFなどのフレームワークやGDPRを含む要件に沿った、より広範なAIガバナンスおよびコンプライアンスプログラムの推進にも役立ちます。