AIのセキュリティ確保：未来を担うのはランタイム

James WhiteAIセキュリティ担当CTO | F5

AIが企業にもたらす可能性は無限に広がっており、医療、金融機関、政府機関をはじめ、あらゆる業界がその活用に意欲を示しています。明らかなのは、この需要が当面衰える気配はないということです。AIの導入にはセキュリティの確保が不可欠であり、現在、その取り組みはピラミッド型を成しています。

AIピラミッドの頂点

AIエコシステムの頂点に位置するのが、限られた組織だけが参入できる基盤モデルのトレーニングです。この領域では、ごく一部の組織が膨大なコンピューティングリソースを駆使し、大規模なデータセットに伴う複雑な課題に取り組んでいます。必要となる資金投資は莫大です。そのため、業界をリードする企業でさえ、長期的に事業を継続できるのかという妥当な疑問が生じています。この段階ではセキュリティが最優先であり、データの取得と前処理から、モデルのトレーニング、テスト、デプロイに至るまで、あらゆる工程が対象となります。AIの世界におけるこうした最重要資産の保護は、技術上の必要性にとどまらず、ビジネス上の必須要件でもあります。これらの企業は、トレーニングプロセス全体を通じてあらゆる側面を管理しているため、この取り組みを遂行するうえで独自の優位性を備えています。

中間層：ランタイムを保護し、多くのユーザーを守る

頂点の下では、実行時に事前学習済み基盤モデルの力を活用しようとする、企業や組織の多様なユースケースが広がりつつあります。ここでAIの真の民主化が実現します。こうした組織にとって、セキュリティの重点は、自らのインフラストラクチャとデータ、そして最終的には顧客とユーザーを保護することにあります。内部の仕組みが見えない基盤モデルを、不透明なブラックボックスとして扱うことが、最も慎重なセキュリティ態勢です。このアプローチにより、モデル内部の複雑さにかかわらず、攻撃対象領域を最小限に抑え、モデルとアプリケーションの周囲に堅牢なセキュリティ対策を実装できます。

基盤層：裾野は広く、深さは浅い

GenAIブームを受け、多くの企業が、従来の機械学習モデルのトレーニング保護から、ランタイムを含む生成AIライフサイクル全体の保護へと軸足を移そうとしています。こうした広範なアプローチは、意図はよくても、広く浅いセキュリティソリューションになりがちです。これほど広大で複雑な領域を保護しようとすると焦点がぼやけ、最終的には各段階に固有の細かな要件、特に重要なランタイムレイヤーに十分対応できません。

AIランタイムの包括的なセキュリティ

AIイノベーションが急速に進化するなか、セキュリティソリューションには、対峙する脅威と同等の適応力と高度な機能が求められています。このようにAIを保護できるのはランタイムレイヤーだけであり、そこでは次の3つの中核領域を網羅する包括的なアプローチが必要です。

• 防御： 堅牢な防御メカニズムが不可欠です。これには、プロンプトインジェクション攻撃を防ぐための入力検証とサニタイズ、有害なコンテンツの生成を軽減するための出力フィルタリング、異常な動作を検出するためのランタイム監視が含まれます。アプリケーションごとに固有のセキュリティ要件があるため、具体的なユースケースを理解することが極めて重要です。さらに、AIパイプライン全体を標的とする横断的な攻撃を考慮することも不可欠です。
• 攻撃：効果的なレッドチーミングは、内部構造が不透明な基盤モデルと、その上に構築されたアプリケーションの脆弱性を特定するうえで不可欠です。これには、敵対的テスト、潜在的な攻撃ベクトルの調査、緩和策の策定が含まれます。このプロアクティブなアプローチは、新たな脅威に先手を打ち、AI導入環境の堅牢性を確保するうえで組織に役立ちます。
• ガバナンス、規制、コンプライアンス（GRC）：変化し続ける規制環境に対応することは、AIセキュリティの重要な要素です。法域や業種ごとに、それぞれ異なる規則や規制が定められます。「書面上の防御」を遵守する必要がある一方で、こうした要件を実効性のある保護へとつなげる実践的なセキュリティ制御を導入することも同様に重要です。
  

組織におけるAIランタイムのセキュリティ確保

AIランタイムの将来にわたるセキュリティを効果的に確保するため、組織は以下の具体的な対策を講じる必要があります。

1. AIレビューグループを設置する：この部門横断型グループには、AIガバナンスとリスク管理に包括的に取り組めるよう、テクノロジー、法務、セキュリティの各チームの代表者を含める必要があります。
2. AIアプリケーション提案プロセスを導入する：このプロセスでは、各AIアプリケーションについて、想定されるユースケース、データソース、対象地域を各チームが明確に定義することを必須とします。これにより、リスクを詳細に評価し、適切なセキュリティ対策を実施できます。 
3. セキュリティの最低要件を定義する：AIアプリケーション開発チームが遵守し、アプリケーションセキュリティチームが検証すべき明確なセキュリティ基準を策定します。これにより、すべてのAI導入環境で基準となるセキュリティレベルを確保できます。

取り組みを始める際に役立つ重要なリソースをご紹介します。

AIの未来は、AIを保護できるかどうかにかかっています。ランタイムレイヤーのセキュリティに包括的に取り組むことで、企業はリスクを軽減しながら、AIがもたらす変革の可能性を引き出せます。

組織全体で包括的なAIセキュリティ制御を導入する方法について、詳しく知りたい方は、こちらから今すぐデモをご予約ください。

著者について

James WhiteAIセキュリティ担当CTO | F5

James Whiteは、エンタープライズソフトウェア業界で約20年の経験を持つ、優れたエンジニアでありビジネスリーダーです。

James Whiteのその他のブログ記事