今年上半期には、推論のデプロイパターンと、新たに登場したAIアプリケーションアーキテクチャの両方で標準化が進み始め、ネットワークからアプリケーションデリバリ、セキュリティに至るまで、今後どのような影響が及ぶかをより明確に見通せるようになりました。F5は、AIに焦点を当てた最近の調査の結果から、推論はオンプレミスとクラウドの両方にデプロイされる（自己管理型パターン）ほか、クラウドプロバイダーのサービスを通じて利用される（クラウドホスト型パターン）、またはサービスとして利用される（Inference as a Serviceパターン）と確信しています。
しかし、新たなAIアーキテクチャは、データソース（ナレッジグラフやベクトルデータベース）をアプリケーションアーキテクチャに組み込む検索拡張生成（RAG）に大きく依存しています。調査によると、「GenAIを活用している企業の70%が、基盤モデルを拡張するためにツールやベクトルデータベースを使用しています」。（Databricks、2024）
このアーキテクチャパターンは、4つの影響をもたらします。
- モダンアプリケーションのワークロード数が増加します。
- セキュリティ対策が必要なAPIの数が大幅に増加します。
- E-Wデータパスの戦略的重要性を高めます。これは、アプリケーションデリバリおよびセキュリティテクノロジーにとって重要です。
- 新たな階層を導入します。アプリケーションアーキテクチャに推論階層を追加します。これは初期のAI技術スタックで「モデル」階層と呼ばれていたものですが、AIアプリケーションを運用する際には、トレーニング中のモデル（開発プロセス）と稼働中のモデル（実行プロセス）を区別すると有用です。
AIアーキテクチャに関して組織が直面する課題の90%は、新しいものではない点が重要です。可視性、レート制限、ルーティングなどに対する要件を満たすための変更は、ほとんどの企業がすでに備えている既存機能を段階的に拡張するものです。
AIアプリケーションの提供とセキュリティ確保に必要な機能のうち、まったく新しいものはわずか10%にすぎず、そのほぼすべてがプロンプトと、AIアプリケーショントラフィックの非構造的な性質に関連していると考えられます。この10%が、データセキュリティ関連機能に加え、プロンプトセキュリティ、プロンプト管理、プロンプト最適化といった新たなアプリケーションサービスを生み出しています。F5は、PortkeyおよびPrompt Securityとのパートナーシップを通じて、こうしたニーズへの対応に取り組む姿勢をすでに示しています。
また、ここではAIゲートウェイの導入も進んでいます。AIゲートウェイの定義や市場に提供される機能は、その「製品」の提供元によって異なります。しかし、APIゲートウェイと同様に、AIゲートウェイはセキュリティ機能とアプリケーションルーティング機能を統合し、組織にとって戦略的な単一の制御ポイントとなる傾向があります。ただし、この「製品」に含まれる機能のうち、新たに追加されたものの大半はAIトラフィックに固有の機能であり、それ以外は既存の機能です。
私が特に興味深いと感じるのは、この新しい階層です。ここでは、既存および新規のアプリケーションデリバリ機能とセキュリティ機能が必要になるためです。
実際、新たな階層の導入により、AI推論を大規模に実行するために必要なコンピューティング、ストレージ、ネットワークリソースを提供できるインフラストラクチャを備えた新しいデータセンターアーキテクチャが登場しつつあります。この階層では、AIネットワークファブリックやAIファクトリーなど、今後どのような名称で呼ばれるにせよ、そうしたものが生まれつつあります。名称にかかわらず、この新しいインフラストラクチャ構成には、既存のインフラストラクチャ構成を新しいハードウェアシステム上で運用する機能が含まれます。掲載した分かりやすい図では、これが#4に当たります。
ただし、#2でもいくつかの新しい機能が必要です。ここでの橋渡しは、APIトラフィックのスケーリング、保護、ルーティングが明らかに必要となる、比較的標準的なN-Sデータパスです（推論用のAPIとはいえ、APIであることに変わりはありません）。この段階では、新しい負荷分散アルゴリズム、あるいは少なくとも既存のアルゴリズムに新たな判断基準が組み込まれる可能性があります。
たとえば、トークン数とコンテキストウィンドウは、パフォーマンスや、特定のリクエストが受信側システムにかける負荷を把握するうえで特に重要です。さらに、トークン数はコストにも影響します。したがって、これらの変数が#2で行われる負荷分散やトラフィックルーティングの判断基準に加わる可能性があると考えるのは、ごく自然なことです。
ポイント#4は、おそらく最も興味深いものです。ハードウェアを活用して、サーバーからネットワークタスクをオフロードしていた時代への回帰だからです。そう、これは「サーバーには本来の処理を」というアーキテクチャアプローチの復活です。現代では、アプリケーションデリバリとセキュリティを展開できる包括的なシステムとしてDPUを活用し、推論サーバーのCPUを推論処理に専念させることを意味します。これは以前にも見られたパターンであり、推論サービスのスケーリング（ひいてはパフォーマンス）に関するあらゆる問題を効果的に解決します。
AIアーキテクチャがアプリケーションデリバリとセキュリティに及ぼす影響は、ありふれたものであると同時に、極めて大きなものでもあります。課題の大半は従来と変わらないため、ありふれています。一方、組織がそうした課題に戦略的に対処できるポイントがアーキテクチャ内に新たに加わるため、その影響は極めて大きいと言えます。
業界が日常的な課題と重大な変化の双方にどう対応するかが、アプリケーションデリバリとセキュリティの未来を形作ります。
著者について
Lori MacVittieは、F5のOffice of the CTOに所属するDistinguished Engineer兼Chief Evangelistであり、アプリケーションデリバリ、自動化戦略、インフラストラクチャに関する深い専門知識を有しています。AIエージェントのガードレール策定、脆弱なマルチクラウドアーキテクチャの分析、スケーラブルなシステムの限界の検証など、複雑な事柄を明快にすることで知られています。アプリケーション開発、ITアーキテクチャ、ネットワークおよびシステム運用の分野で、30年以上にわたる業界経験を有しています。F5入社前は、受賞歴のあるテクノロジー編集者として活躍していました。 MacVittieはコンピューターサイエンスの修士号を取得しており、セキュリティ、クラウド、エンタープライズアーキテクチャにわたる分野で多数の著作を発表しています。また、テーブルトークゲームとビデオゲームをこよなく愛し、チーズについては遠慮なく強いこだわりを語ります。
Lori Mac Vittieのその他のブログ記事関連するブログ記事
SOAS 2025：足並みの乱れが凡庸さを招く
AI導入における方針の不一致は、非効率を招きます。セキュリティ、自動化、導入の各戦略を整合させ、AIの可能性を最大限に引き出す方法をご紹介します。
WebAssemblyが重要な理由
WebAssembly（Wasm）は、あらゆるプラットフォームで高性能なアプリケーションを実現する、ポータブルで高速かつセキュアなバイナリ命令セットです。
インフラストラクチャは依然として格好の攻撃経路
クラウドコンピューティングでは、APIやドラッグ＆ドロップ式の設定ツールを活用し、ネットワークやインフラストラクチャを敬遠する人がそれらを直接扱わずに済むようにすることで、インフラストラクチャへの対応を不要にすることが長年追求されてきました。しかし、インフラストラクチャを無視することも、攻撃の主要な標的であるという事実を見過ごすこともできません。
堅牢なデータアーキテクチャがもたらす戦略的メリット
適切に構築されたデータアーキテクチャがもたらす効果は、業務プロセスの改善にとどまりません。戦略的な業務効率の向上、より深いビジネスインサイトの獲得、隣接するビジネス機会への展開にもつながり、これらすべてをより俊敏に実行できるようになります。
デジタルワークフローにおける不正検知には、データだけでは不十分
2019年には、業界全体でクレジットカード詐欺の試みが約25万件確認されました。これは約2分に1件の割合です。今日、不正を検知するには、デジタルワークフロー上のできるだけ多くのポイントから収集したデータを相互に関連付け、手作業によるデータ処理をはるかに上回る速度で分析する能力が求められます。