モデルのGuardrailsだけでは不十分：AIセキュリティにランタイムGuardrailsが不可欠な理由

Jessica BrennanAIセキュリティ担当シニアプロダクトマーケティングマネージャー | F5

モデルガードレールだけでは、AIシステムの安全を確保できません。これは、F5の研究チームがフロンティアモデルをテストする中で毎月確認している事実です（結果は「AI Security Leaderboards」で公開しています）。モデルガードレールは動作上の境界を設定するうえで有用ですが、攻撃者は執拗に攻撃を続けます。プロンプトインジェクション、ジェイルブレイクの試み、新たなエクスプロイトが絶え間なく押し寄せる中、組織は、ガードレールが阻止するよう設計されていないデータ漏えい、コンプライアンス違反、敵対的操作のリスクにさらされています。AIアプリケーションとエージェントを確実に保護するには、脅威の発生時に検知してブロックすることでリアルタイムに防御するランタイムガードレールが必要です。

企業がモデルのGuardrailsだけに頼れない理由

AIモデルのガードレールは、通常、トレーニング、強化学習、プロンプトルールに組み込まれる予防的なツールです。AIシステムが意図したとおりに動作するよう方向付けます。つまり、モデルが実行すべきことと、すべきでないことを制限します。しかし、モデルを本番環境に導入すると、実際の利用において、次のような要因によりその限界が明らかになります。

• 攻撃者が、ガードレールの制限を回避する新たなプロンプトやエクスプロイトを考案すること
• 出力が安全に見える場合でも、PIIやソースコードなどの機密情報が漏えいする
• 適応に時間がかかり、モデルのガードレールが新たな脅威に対応するには、再トレーニングや再構成が必要になることが多い

つまり、モデルのガードレールは指針として機能しますが、セキュリティを保証するものではありません。

ランタイムGuardrailsがモデルGuardrailsの見落としを検出

F5 AI Guardrailsは、モデルのGuardrailsでは対応できない領域を補います。ランタイムで動作し、ランタイムGuardrailsはプロンプトと出力の両方をリアルタイムで検査し、問題が発生する前にリスクのあるやり取りをブロックまたはフラグ付けします。たとえば、プロンプトインジェクションおよびジェイルブレイク対策のGuardrailsは、ポリシーを無効化しようとする不正なプロンプトを検出できます。同様に、データ損失防止のGuardrailsは、機密データが組織外に流出するのを防ぎます。

ランタイムガードレールは、ブロックモード（違反を防止）または監査モード（監視のためにイベントを記録）で動作できます。モデルガードレールとは異なり、ランタイムガードレールは継続的に更新されるため、進化する攻撃に対応した防御を維持できます。

簡単に言えば、モデル ガードレールは、建物の周囲で人が立ち入れる範囲を定めるフェンスのようなものです。ランタイムガードレールは、入口に設けられたセキュリティチェックポイントに相当します。境界を越えるものをすべて検査します。一方が境界を定め、もう一方が有害なものの侵入を防ぎます。

主な違い

ランタイムガードレールとモデルガードレールは、どちらもAIセキュリティに寄与しますが、その仕組みは根本的に異なります。次の表で、両者の違いを一目で確認できます。

この対比から、1つのことが明確になります。モデルガードレールはAIを適切に導くのに役立ちますが、本番環境でAIを確実に保護するのはランタイムガードレールです。

企業がAIを保護するためにRuntime Guardrailsを必要とする理由

ランタイムガードレールは推論時により強力な保護レイヤーを提供しますが、その真価は、モデルガードレールと組み合わせ、両者を連携させて多層防御戦略を構築することで発揮されます。

モデルガードレールは、モデルの動作に関する基本的な境界を設定します。ランタイムガードレールはその保護を拡張し、モデルガードレールでは予測できない新たな脅威や回避の試みを検出します。たとえば、モデルガードレールでモデルによる医療上の助言を禁止し、ランタイムガードレールで間接的な表現や誘導的なプロンプトを通じてそのルールを回避しようとする試みを検出してブロックできます。

この多層的なアプローチにより、AIセキュリティにおいて最も強固な態勢を構築でき、企業は絶えず変化するリスクへのレジリエンスを維持しながら、安心してイノベーションを推進できます。

著者について

Jessica BrennanAIセキュリティ担当シニアプロダクトマーケティングマネージャー | F5

Jessica Brennanのその他のブログ記事