AIファクトリーのAPI保護：AIセキュリティへの第一歩

F5エコシステム | 2024年12月19日

Byron McNaughtシニアソリューションマーケティングマネージャー | F5

AIにも通じる古いことわざがあります。「千里の道も一歩から」です。

AIアプリケーションとそのエコシステムが世界を席巻する中、あらゆる組織にAI導入への準備状況の評価が求められています。F5では、AI活用に取り組む組織は2つのタイプに分かれると見ています。1つは、自動運転車や大規模言語モデル（LLM）などへの戦略的投資を通じて差別化されたソリューションを開発する組織、もう1つは、効率化と組織のイノベーションに向けてAIを導入し、最適化する企業です。ビジネスリーダーが生産性向上のために生成AIの機能やアプリの導入を急ぐ一方、セキュリティおよびリスク管理の責任者は、新たなAIアプリを安全に導入するためのガバナンス確保に追われています。さらに、これらのアプリを提供、最適化、保護するためのインフラストラクチャ、ツール、モデル、フレームワーク、関連サービスから成る急成長中のエコシステムにも対応する必要があります。AIファクトリーは、AIによって差別化された製品やサービスを実現するための設計指針として台頭しています。

では、AIは誇大宣伝なのでしょうか。熱狂でしょうか。革命でしょうか。それとも終末をもたらすのでしょうか。未来がどうなるかは、まだわかりません。

一歩引いて全体像を見ると、1つのことが明らかになります。AIアプリをつなぐ役割を果たしているのはAPIです。実際、世界中のお客さまと話し合う際に共通して取り上げるテーマの1つが、「AIの世界はAPIの世界である」ということです。APIは、AIモデルのトレーニングや利用に使用するインターフェースです。同時に、悪意のある攻撃者がモデルからデータを盗み出したり、AIモデルのジェイルブレイクや悪用を試みたり、さらにはモデルを逆解析してモデル自体を盗み出したりする際にも使われます。クラウドやマイクロサービスベースのモダンアプリへの移行において、防御側がAPIの可視性とセキュリティの重要性を見落としていたのと同様に、ここで重要なのは、AIモデルを提供するインターフェースを保護しなければ、AIモデルを保護できないと認識することです。

AIを活用したアプリケーションの構築と提供においてAPIが中心的な役割を果たすことを踏まえると、AIの開発およびトレーニングプロセスの早い段階から、APIの可視性、セキュリティ、ガバナンスを組み込んで設計することが極めて重要です。また、通常の利用パターンや、レート制限、データサニタイズなどの制御を設計段階で組み込むことも欠かせません。このアプローチにより、安全なAI導入へのハードルを下げることができます。生成AIアプリは特にAPIへの依存度が高いため、AIアプリケーションを保護するにはAPIセキュリティが不可欠です。ここから、AI活用への第一歩が始まります。以下では、AIセキュリティとAIファクトリーの安全な導入にAPIセキュリティが必要な理由を、4つの重要なポイントに分けて説明します。

主張1：AIアプリは、モダンアプリの中でも最先端

AIファクトリーシリーズの以前の記事では、AIファクトリーを大規模かつ高性能なトレーニングと推論の要件に対応する、ストレージ、ネットワーク、コンピューティングへの大規模な投資と定義しました。従来の製造工場と同様に、AIファクトリーは事前トレーニング済みのAIモデルを活用し、生データをインテリジェンスへと変換します。AIアプリはまさに最新のモダンアプリであり、APIを介して緊密に接続され、高度に分散しています。

AIアプリはモダンアプリであり、デリバリー、セキュリティ、運用に関して従来と同様の課題を抱えていること、また、AIモデルによってデリバリーとセキュリティを必要とするAPIの数が飛躍的に増加することを前提とします。

では、これでミッション完了です！もう万全でしょうか？私たちは、モダンアプリを安全に配信する方法を把握しています。確立されたアプリケーションセキュリティのベストプラクティスがあり、API保護の複雑な仕組みも理解しています。また、分散環境全体で包括的な保護と一貫したセキュリティを提供するソリューションもあります。

そう急がないでください。GPTを手元に、もう少し詳しく見ていきましょう。

AIアプリには、モダンアプリと同様のリスクや課題があります（どちらも本質的にはAPIベースのシステムです）。一方で、AIアプリには、トレーニング、ファインチューニング、推論、検索拡張生成（RAG）、AIファクトリーへの組み込みポイントに関する固有の考慮事項があります。

このように、AIアプリはモダンアプリと同様に高度に分散しており、ツールの乱立を招きます。そのため、ハイブリッドおよびマルチクラウドアーキテクチャ全体で、一貫した可視性の確保、統一されたセキュリティポリシーの適用、脅威への包括的な対処を維持することが難しくなります。防御側は、リスクと複雑さが絡み合うこの「火の玉」に対処するだけでなく、人間によるリクエストの不規則性や、予測不能なAIの応答につながり得る、AIが取得したコンテンツの大きなばらつきにも対応する必要があります。さらに、データの正規化、トークン化、埋め込み、ベクトルデータベースへのデータ投入についても考慮が必要です。

データをAIファクトリーに集約することで、包括的かつ相互接続されたエンタープライズエコシステムが形成されます。また、これらすべての構成要素を統合し、相互に連携させるには、堅牢なAPIセキュリティ体制が必要です。

_{今日の企業は、複雑さを増すハイブリッド／マルチクラウド環境全体で、急増するアプリとAPIを管理しています。F5では、増大するリスクと複雑さを「ball of fire」と呼んでいます。}

主張2：AIアプリはAPIで相互接続されている

急速なモダナイゼーションの取り組みによってAPIベースのシステムが台頭し、データセンター、パブリッククラウド、エッジにまたがるアーキテクチャが急増しました。この状況は、F5の年次調査で継続的に報告されており、その中には「2024年版アプリケーション戦略の現状レポート：APIセキュリティ｜APIの知られざる実態」も含まれます。

AIアプリにより、ハイブリッドおよびマルチクラウドアーキテクチャの複雑さはさらに増しています。組織は、多数のAIアプリとその基盤となるAIモデルを対象に、ガバナンス戦略を迅速に評価し、慎重に適用しています。そして最終的には、AI-SaaS、クラウドホスティング、セルフホスティング、またはエッジホスティングのアプローチを選択します。ユースケースやアプリごとに選択する場合もあります。たとえば、本番環境でエッジ推論を実行する前に、データセンターでトレーニングを行うユースケースがあります。

これらのモデルや関連サービスへの接続は、主にAPIを介して行われます。たとえば、推論に利用する一般的なサービスへの接続です。AIアプリによってAPIの利用は飛躍的に増加します。1つのAPIが最終的に数千ものエンドポイントを持つ場合があるうえ、API呼び出しがビジネスロジックの奥深くに埋め込まれ、セキュリティチームの監視が及ばないこともあります。その結果、複雑さが許容できないレベルに達し、リスク管理に深刻な影響を及ぼします。

“現在、38%の組織が6つの環境にわたってアプリを展開しています。— 2024 State of Application Strategy Report”

世界を席巻したのはクラウドではなく、APIでした。そしてAIは、あらゆるものを席巻しようとしています。F5のブログ記事「ハイブリッド、マルチクラウドが企業の新たな標準となる6つの理由」で説明しているように、高度に分散された環境では、パフォーマンス、セキュリティ、効率性、精度を確保するAIアプリと関連サービスを柔軟に展開できます。これは特に、データグラビティに関する懸念への対応で重要です。組織の80%がパブリッククラウドで、54%がオンプレミスでAIアプリを実行しているのも不思議ではありません。どのようなアプローチでも、アーキテクチャのあらゆる側面を保護する必要があり、まずAPIの保護から始めることが重要です。

“「AIモデルの保護に向けて導入が最も多く計画されているセキュリティサービスは、APIセキュリティです」—『AIアプリケーションについて知っておくべき3つのこと』”

主張3：AIアプリには、既知のリスクと新たなリスクの両方が存在する

AIアプリケーションの機能やデータ交換へのゲートウェイとなるAPIをセキュリティリスクから保護することは極めて重要です。従来と同様に、脆弱性を悪用した攻撃、ビジネスロジック攻撃、ボットによる不正利用、サービス拒否（DoS）のリスクがある一方で、トレーニング、ファインチューニング、推論、RAGの各段階では、AIファクトリー内に新設または変更された挿入ポイントや、自然言語処理（NLP）インターフェース、プラグイン、データコネクター、ダウンストリームサービスを介したLLMへのリスクについても考慮する必要があります。さらに、DoSのような既知の攻撃にも追加の考慮事項があります。ボリューム型DDoSやL7アプリケーションDoSへの緩和策だけでは、モデルDoSのリスクを完全には軽減できません。また、AIアプリケーションには説明可能性のパラドックスがあるため、ハルシネーション、バイアス、偽情報の影響を軽減するうえで、トレーサビリティが重要になります。

攻撃者も手をこまねいているわけではありません。生成AIによって攻撃のハードルが下がり、サイバー犯罪者や国家主体による攻撃活動は高度化しています。LLMエージェントは、WebアプリやAPIを自律的にハッキングできるようになりました。たとえば、脆弱性を事前に把握していなくても、ブラインド手法によるデータベーススキーマの抽出やSQLインジェクションといった複雑なタスクを実行できます。

新たなAIリスクが大きな注目を集める一方で、AIファクトリーにおけるAPIセキュリティの重要性は、いくら強調してもしすぎることはありません。対応は急務です。AIアプリのAPIサーフェスは驚異的な規模で拡大しています。すべてのCISOは、AIガバナンスプログラムにAPIセキュリティを組み込む必要があります。あらゆるCISOサバイバルガイドの基本原則は、「見えないものは保護できない」であるべきです。AIアプリの背後にあるインターフェースを把握していなければ、脅威モデルは不完全であり、セキュリティ態勢にも不備が生じます。

主張4：防御側は適応しなければならない

AIアプリケーションは動的で変化しやすく、予測が困難です。AIアプリを安全に導入するには、有効性、堅牢なポリシーの策定、運用の自動化をこれまで以上に重視する必要があります。検査テクノロジーは、セキュリティにおいて重要かつ進化し続ける役割を担います。

特にAIアプリケーションやエコシステム内のAPIセキュリティでは、組織は、すでに広く導入されているインバウンドのセキュリティ制御に加え、アウトバウンドAPI呼び出しと関連するユースケースを保護するセキュリティアーキテクチャを構築し、サードパーティAPIが安全でない方法で使用される可能性の高まりに対処する必要があります。RAGワークフローなどにより、サービス間トラフィックやEast-Westトラフィックが増加しているため、ボット管理ソリューションは「人間」か「マシン」かの識別だけに依存することはできません。また、LLMアプリケーションのサプライチェーンには脆弱性が存在する可能性があり、トレーニングデータ、モデル、デプロイメントプラットフォームの完全性に影響を及ぼすおそれがあります。これらは多くの場合サードパーティから調達され、改ざん攻撃やポイズニング攻撃によって操作される可能性があります。そのため、データセンター、クラウド全体、エッジのあらゆる場所に加え、コードからテストを経て本番環境に至るまで、セキュリティ制御を実装する必要があります。

AI Gatewayテクノロジーは、セキュリティチームやリスク管理チームがプロンプトインジェクションや機密情報の漏えいなど、LLMに対するリスクを軽減するうえで重要な役割を果たします。しかし、AIセキュリティへの取り組みの第一歩は、AIアプリのライフサイクル全体にセキュリティを組み込み、AIアプリとAIエコシステムを接続するAPIを保護することから始まります。