AIシステムを守る：イノベーションに追いつくべきセキュリティ

F5エコシステム | 2025年8月04日

人工知能は、私たちの生活を一変させる可能性を秘めており、すでにさまざまな面で大きな変化をもたらしています。医療や教育における画期的な進歩を加速させ、仕事や日常生活のあり方を変えるなど、AIは私たちの暮らし方や活動の仕方を変革しています。しかし、こうした進歩と同時に、AIはサイバー犯罪者に大きな機会をもたらします。

現在、AIシステムは攻撃者の標的となっており、データポイズニング、出力の改ざん、蒸留による不正なモデル窃取、個人データの漏えいといった脆弱性が悪用されています。これらは憶測上のリスクではありません。現実に存在し、急速に進化しており、甚大な経済的損失をもたらす可能性があります。また、モデルはメール攻撃やSMS／音声詐欺を大幅に高度化するためにも利用されています。ディープフェイクの検出もますます困難になっており、数百万ドル規模の損失につながった事例も複数あります。

“「AIのメリットを今後も享受するには、組織はネットワーク、データベース、アプリケーションと同様に、AIのセキュリティにも緊急性をもって取り組む必要があります」”

2025 Stanford AI Index Reportによると、2024年にAI関連のセキュリティインシデントは56.4%急増し、報告件数は233件に達しました。これらは単なる不具合や技術的な問題ではありません。プライバシー侵害や誤情報の拡散、アルゴリズムの操作、機能不全など、機密性の高い意思決定を危険にさらす深刻な侵害が発生していました。

しかし、いつも注目している指標の1つが、侵害の発生から検知までの時間を示す滞留時間です。IBMの2025年第1四半期レポートによると、AIに特有の侵害を検知して封じ込めるまでには平均290日を要し、従来のデータ侵害の平均207日を大幅に上回ります。これは約10か月にわたって侵害にさらされることを意味し、AIを活用する攻撃者に深刻な被害をもたらす十分な時間を与えることになります。

多くの企業で準備が整っていない理由

AIのメリットを引き続き享受するには、組織はネットワーク、データベース、アプリケーションと同様に、AIのセキュリティにも緊急性をもって取り組む必要があります。しかし、導入と保護の間にある現在の不均衡からは、実態がそうではないことがうかがえます。

F5の2025 State of AI Application Reportは、この点を裏付けています。調査対象組織のうち、セキュリティが非常に高く、AIを安全に拡張できる準備が整っていると評価されたのは、わずか2%でした。一方、77%はAIのセキュリティとガバナンスに関する深刻な課題に直面していました。

また、このレポートでは、AIへの準備が中程度に整っている企業のうち、基盤となる安全対策を導入している企業はごく一部にとどまることも明らかになりました。AIファイアウォールを導入していた企業はわずか18%で、敵対的な挙動を検知するための重要な手法である継続的なデータラベリングを実施していた企業も24%にすぎません。さらに、無許可または未承認のAIツールであるシャドーAIの利用が拡大し、企業環境に危険な可視性の欠如をもたらしていることが、問題を一層深刻にしています。

競争優位を得るためにAIの導入を急ぐなか、多くの組織が意図せず攻撃対象領域を拡大しています。

AIが脆弱になる要因

AI固有の特性により、これまでにない形態の攻撃にさらされる可能性があります。特に早急な対応が求められる脆弱性には、次のようなものがあります。

データポイズニング：攻撃者は、破損したデータや誤解を招くデータを訓練データセットに巧妙に混入させ、AIモデルの動作を損ないます。2024年には、テキサス大学の研究者が、参照文書に埋め込まれた悪意のあるコンテンツがモデルの出力に影響を及ぼし、その文書を削除した後も影響が残る可能性があることを実証しました。
モデルインバージョンと抽出：これらの攻撃により、攻撃者は機密性の高いトレーニングデータを復元したり、独自モデルを複製したりできます。実際の事例として、診断システムからの患者画像の復元や、言語モデルからの非公開の音声録音および内部テキストの復元が挙げられます。
回避攻撃：攻撃者は、入力データにごくわずかで、多くの場合は知覚できない変更を加えることで、AIモデルを欺き、誤った出力を生成させることができます。ある事例では、研究者が一見無害なステッカーを貼ることで、自動運転車の視覚システムに一時停止標識を速度制限標識と誤認識させました。
プロンプトインジェクション：大規模言語モデル（LLM）は、巧妙に細工された入力によって動作を操作される可能性があります。ある事例では、Chevroletの販売店が使用していたChatGPT搭載チャットボットがだまされ、1ドルで自動車を販売することに同意しました。この結果、評判上および法的なリスクが明らかになりました。

これらの脅威は理論上のものではありません。すでに現実のものとなっており、さまざまな業界でAIの安全性と信頼性を損ないつつあります。

強固なAI防御戦略の構築

こうした課題に対応するには、一般的なサイバーセキュリティとAI固有のリスクの両方を考慮した、包括的な防御戦略を採用する必要があります。以下の5つのステップは、企業がAIシステムのセキュリティを確保するうえで役立ちます。

データガバナンスの強化
モデル、API、トレーニングデータセットなどのAI資産を明確に把握できるインベントリを作成し、厳格なアクセス制御ポリシーを適用します。データはAIの基盤であり、あらゆるレベルでその完全性を保護する必要があります。
継続的にテストする
従来のコードレビューにとどまらず、敵対的テストとレッドチーム演習を実施します。これらの手法は、攻撃者に悪用される前に、モデル反転やプロンプトインジェクションなどの弱点を発見するのに役立ちます。
プライバシーを最優先に設計する
暗号化、データ最小化、差分プライバシーの手法を取り入れます。これらのアプローチにより、侵害が発生した場合でも、機密データが漏えいするリスクを抑えられます。
ゼロトラストアーキテクチャの採用
すべてのAIシステムに「決して信頼せず、常に検証する」という考え方を適用します。各コンポーネントとユーザーには必要最小限のアクセス権のみを付与し、すべてのアクティビティを厳格に検証します。
AIの動作をリアルタイムで監視
モデルの動作や入力パターンの異常を監視するツールとシステムを導入します。過剰なAPI呼び出し、不審なプロンプト、異常な出力などを監視してください。これらはいずれも、進行中の脅威を示している可能性があります。

AIセキュリティに対するF5のアプローチ

ハイブリッド環境やマルチクラウド環境を採用する組織が増える中、F5はApplication Delivery and Security Platform（ADSP）を通じて、最新のインフラストラクチャを保護するために設計されたAIネイティブのセキュリティ機能を提供しています。

このプラットフォームの一部であるF5 AI Gatewayは、LLMリクエストをインテリジェントに検査してルーティングすることで、プロンプトインジェクションやデータ漏えいに対する防御を提供します。F5 Distributed Cloud API SecurityおよびNGINX App Protectで利用できる高度なAPIセキュリティソリューションは、不正利用、データ流出、悪用からAPIを保護します。

F5 ADSPの一部であるF5 Distributed Cloud Bot Defenseは、機械学習を使用して、誤検知を最小限に抑えながら、クレデンシャルスタッフィングなどの自動化された脅威を検知してブロックします。また、F5 BIG-IP Advanced WAFソリューションは、アプリケーションとAPIを保護するとともに、GPUからセキュリティタスクをオフロードし、AIを多用するワークロードのパフォーマンスを向上させます。

さらに、F5’s AI Reference Architectureは、ハイブリッド環境とマルチクラウド環境全体で、安全で信頼性の高いAIインフラストラクチャを構築するための設計指針を提供します。またF5は、Intel、Red Hat、MinIO、Google Cloud Platformをはじめとする主要なAIイノベーターと連携し、お客さまがセキュリティと効率性を確保しながら拡張できるよう支援します。

まとめ：AIのセキュリティが未来を守る

AIは、あらゆる業界に変革をもたらしています。しかし、その可能性には前例のないリスクも伴います。脅威が高度化する中、セキュリティリーダーには、先を見据えて迅速に行動し、プロアクティブなツール、よりスマートなアーキテクチャ、ポリシーに基づく保護を導入することが求められます。

AIセキュリティは、企業戦略の根幹に組み込む必要があります。米国国立標準技術研究所（NIST）のAIリスクマネジメントフレームワークのような実績ある枠組みを基盤とし、F5 ADSPなどのプラットフォームを活用しながら、規制、テクノロジー、文化を適切に組み合わせることで、組織はAIの負の側面から自らを守りつつ、その可能性を最大限に引き出すことができます。

AIの新時代はすでに到来しています。今こそ、そのセキュリティを確保するときです。