AIアプリケーションのためのアプリケーション配信とセキュリティ:最新のAIアーキテクチャへの対応

F5エコシステム | 2024年8月22日

今年の上半期には、推論のデプロイパターンと、新たに登場したAIアプリケーションアーキテクチャの両方で標準化が進み始め、ネットワークからアプリケーション配信、セキュリティに至るまで、今後の影響をより明確に見通せるようになってきました。F5は、最近実施したAIに関する調査の結果を確かなものと考えています。この結果は、推論がオンプレミスとクラウドの両方にデプロイされる(自己管理型パターン)ほか、クラウドプロバイダーの提供機能を通じて利用される(クラウドホスト型パターン)、またサービスとして利用される(Inference as a Serviceパターン)ことを示しています。

しかし、新たなAIアーキテクチャは、データソース(ナレッジグラフやベクトルデータベース)をアプリケーションアーキテクチャに組み込む検索拡張生成(RAG)に大きく依存しています。調査によると、「生成AIを活用する企業の70%が、ツールやベクトルデータベースを使用してベースモデルを拡張している」とされています。(Databricks, 2024)

このアーキテクチャ パターンは、4つの影響をもたらします。

  1. モダンアプリケーションのワークロード数が企業内で増加します。
  2. セキュリティ対策が必要なAPIの数が大幅に増加します。
  3. E-Wデータパスの戦略的重要性をアプリケーション配信およびセキュリティ技術において高めます。
  4. 新たな階層を導入します。アプリケーションアーキテクチャに加わるのは、推論層です。これは初期のAI技術スタックで言及されていた「モデル」層に当たりますが、AIアプリケーションの運用時には、学習中のモデル(開発プロセス)と稼働中のモデル(実行プロセス)を区別すると役立ちます。

注目すべきは、組織がAIアーキテクチャに関して直面する課題の90%は、新しいものではないという点です。可視性、レート制限、ルーティングなどへの期待に応えるための変更は、ほとんどの企業がすでに備えている機能を段階的に拡張するものです。

AIアプリケーションの配信と保護に必要な機能のうち、まったく新しいものはわずか10%で、そのほぼすべてがプロンプトとAIアプリケーショントラフィックの非構造的な性質に関連していると考えています。この10%が、データセキュリティ関連の機能に加え、プロンプトセキュリティ、プロンプト管理、プロンプト最適化などの新しいアプリケーションサービスを生み出しています。F5はすでに、PortkeyおよびPrompt Securityとのパートナーシップを通じて、こうしたニーズに取り組む姿勢を示しています。

こうした領域では、AIゲートウェイも登場しています。AIゲートウェイの定義や市場に提供する機能は、その「製品」の提供元によって異なります。ただし、APIゲートウェイと同様に、AIゲートウェイはセキュリティ機能とアプリケーションルーティング機能を統合し、組織にとって単一の戦略的な制御ポイントとなる傾向があります。しかし、ここでも、その「製品」に含まれる新機能は主にAIトラフィックに特化した追加機能であり、それ以外は既存の機能です。

4つの挿入ポイントを示す図

私が本当に興味深いと感じるのは、新しい階層です。そこでは、既存の機能に加え、新たなアプリケーションデリバリー機能やセキュリティ機能が必要になるためです。

実際、新しい階層の導入に伴い、新しいデータセンターアーキテクチャが登場しています。このアーキテクチャは、AI推論を大規模に実行するために必要なコンピューティング、ストレージ、ネットワークのリソースを提供できるインフラストラクチャを備えています。この階層では、AIネットワークファブリックやAIファクトリーなど、今後どのような名称になるにせよ、新たな仕組みが登場しています。名称にかかわらず、この新しいインフラストラクチャ構成には、既存のインフラストラクチャ構成を新しいハードウェアシステム上で稼働させる機能が含まれています。これが、掲載したわかりやすい図の#4に当たります。

ただし、図の#2でも新たな機能が必要です。ここをつなぐのは比較的標準的なN-Sデータパスであり、APIトラフィックのスケーリング、セキュリティの確保、ルーティングが必要なのは明らかです(推論用とはいえ、APIであることに変わりはありません)。この接続部分では、新しい負荷分散アルゴリズムが登場するか、少なくとも既存のアルゴリズムに新しい判断基準が組み込まれる可能性が高いと考えられます。

たとえば、トークン数とコンテキストウィンドウは、パフォーマンスや、個々のリクエストが受信側システムにかける負荷を把握するうえで特に重要です。もちろん、トークン数はコストにも影響します。したがって、#2で負荷分散やトラフィックルーティングを判断する際に、これらの変数が判断材料になる可能性があると考えるのは自然です。

ポイント#4は、おそらく最も興味深いものです。ハードウェアを活用してサーバーからネットワークタスクをオフロードしていた時代への回帰だからです。そう、アーキテクチャにおける「サーバーは本来の処理に専念させる」というアプローチの復活です。現代では、アプリケーション配信とセキュリティを展開できる統合的なシステムとしてDPUを活用し、推論サーバーのCPUには、まさに推論に専念させることを意味します。これは以前にも見られたパターンであり、推論サービスのスケーリング、ひいてはパフォーマンスに関するあらゆる問題を解決するものです。

AIアーキテクチャがアプリケーション配信とセキュリティに与える影響には、ありふれた側面と極めて大きな側面があります。ありふれているのは、課題の大半が従来と変わらないためです。一方、極めて大きな影響があるのは、組織がこうした課題に戦略的に対処できる箇所が、アーキテクチャ内に新たに増えるためです。

業界が日常的な課題と大きな変革の両方にどう対応するかが、アプリケーション配信とセキュリティの未来を形作ります。

共有

著者について

Lori Mac Vittie
Lori Mac Vittie特別技術者兼チーフエバンジェリスト | F5

Lori MacVittieは、F5のOffice of the CTOに所属するDistinguished Engineer兼Chief Evangelistであり、アプリケーションデリバリ、自動化戦略、インフラストラクチャに関する深い専門知識を有しています。AIエージェントのガードレール策定、脆弱なマルチクラウドアーキテクチャの分析、スケーラブルなシステムの限界の検証など、複雑な事柄を明快にすることで知られています。アプリケーション開発、ITアーキテクチャ、ネットワークおよびシステム運用の分野で、30年以上にわたる業界経験を有しています。F5入社前は、受賞歴のあるテクノロジー編集者として活躍していました。 MacVittieはコンピューターサイエンスの修士号を取得しており、セキュリティ、クラウド、エンタープライズアーキテクチャにわたる分野で多数の著作を発表しています。また、テーブルトークゲームとビデオゲームをこよなく愛し、チーズについては遠慮なく強いこだわりを語ります。

Lori Mac Vittieのその他のブログ記事

関連するブログ記事

SOAS 2025:足並みの乱れが凡庸さを招く
F5エコシステム | 2025/05/13

SOAS 2025:足並みの乱れが凡庸さを招く

AI導入における方針の不一致は、非効率を招きます。セキュリティ、自動化、導入の各戦略を整合させ、AIの可能性を最大限に引き出す方法をご紹介します。

WebAssemblyが重要な理由
F5エコシステム | 2024/10/02

WebAssemblyが重要な理由

WebAssembly(Wasm)は、あらゆるプラットフォームで高性能なアプリケーションを実現する、ポータブルで高速かつセキュアなバイナリ命令セットです。

クラウドのコモディティ化
F5エコシステム | 2022/07/19

クラウドのコモディティ化

パブリッククラウドはもはや目新しい存在ではありませんが、XaaSやエッジ、そして新たなイノベーションサイクルへの道を切り開きました。

インフラストラクチャは依然として格好の攻撃経路
F5エコシステム | 2021/05/17

インフラストラクチャは依然として格好の攻撃経路

クラウドコンピューティングでは、APIやドラッグ&ドロップ式の設定ツールを活用し、ネットワークやインフラストラクチャを敬遠する人がそれらを直接扱わずに済むようにすることで、インフラストラクチャへの対応を不要にすることが長年追求されてきました。しかし、インフラストラクチャを無視することも、攻撃の主要な標的であるという事実を見過ごすこともできません。

堅牢なデータアーキテクチャがもたらす戦略的メリット
F5エコシステム | 2021/01/25

堅牢なデータアーキテクチャがもたらす戦略的メリット

適切に構築されたデータアーキテクチャがもたらす効果は、業務プロセスの改善にとどまりません。戦略的な業務効率の向上、より深いビジネスインサイトの獲得、隣接するビジネス機会への展開にもつながり、これらすべてをより俊敏に実行できるようになります。

デジタルワークフローにおける不正検知には、データだけでは不十分
F5エコシステム | 2020/09/21

デジタルワークフローにおける不正検知には、データだけでは不十分

2019年には、業界全体でクレジットカード詐欺の試みが約25万件確認されました。これは約2分に1件の割合です。今日、不正を検知するには、デジタルワークフロー上のできるだけ多くのポイントから収集したデータを相互に関連付け、手作業によるデータ処理をはるかに上回る速度で分析する能力が求められます。