推論が今、運用の中心に

Lori Mac Vittie特別技術者兼チーフエバンジェリスト | F5

2026年版アプリケーション戦略の現状レポートから得られた知見

これまで長年にわたり、AIを実際のシステムとは切り離されたものとして扱う余裕がありました。AIは、パイロット運用や概念実証、失敗しても影響が小さいよう慎重に管理された実験の中で利用されていました。推論が散発的に行われ、アプリケーションの中核フローから切り離されていた時代には、こうした捉え方にも合理性がありました。

もはや、その考え方は通用しません。

推論が本格的にリクエストパスに組み込まれたことで、状況は一変しました。今や推論は他の本番ワークロードと同様に動作し、レイテンシ、可用性、スケーラビリティ、セキュリティについて同等の要件が求められます。データもこれを裏付けています。すでに約4分の3の組織がAI対応アプリケーションを運用しており、80%以上が近い将来、ポートフォリオ全体にAIが組み込まれると見込んでいます。そうなれば、AIはもはや任意の選択肢ではなく、システムの一部となります。

オブザーバビリティは事後分析から入力へと変化

この移行を最も明確に示すものの1つが、オブザーバビリティの変化です。従来、オブザーバビリティは診断ツールとして機能していました。テレメトリを収集・分析し、すでに発生した事象を把握するために活用していたのです。

F5の「2026年版アプリケーション戦略の現状レポート」によると、その役割は変化しており、オブザーバビリティデータの利用に関する数値がその事実を明確に示しています。

• アラート通知の利用率は、2023年の41%から2026年には96%へと急増しました。
• 運用データに基づく自動化は、51%から97%に増加しました。
• インサイトの活用率は33%から97%に上昇しました。
• 根本原因分析は47%から95%に向上しました。
• SLOおよびSLIのレポート作成率は41%から96%に向上しました。

これは段階的な改善ではありません。ほぼ全面的に導入されており、さらに重要なのは、ほぼ全面的に依存しているということです。

オブザーバビリティは、もはやシステムの状態を報告するだけではなく、システムに情報を供給する役割も担っています。現在では、運用データがランタイムの意思決定を左右し、自動化のあり方を決め、ルーティングに影響を与え、ポリシー適用の判断材料となっています。推論駆動型アーキテクチャにおいて、これは単にあると便利なものではなく、前提条件です。

運用上の負荷は推論処理に集中

システムが真に重要となる領域を把握するには、運用上の負荷に注目してください。AIアーキテクチャでは、その負荷は推論を取り巻くレイヤーに集中します。

運用面では、回答者は次の点を挙げています。

• プロンプトレイヤー：29%
• トークンおよび制御レイヤー：23%
• モデルルーティング：17%
• 出力モデレーション：14%

セキュリティ担当者からも、ほぼ同じ優先事項が報告されました：

• プロンプト層：25%
• トークンおよび制御レイヤー：23%
• 出力モデレーション：19%
• モデルルーティング：17%

この認識の一致は重要です。運用チームとセキュリティチームの双方が、重要な処理は推論時に行われるという同じ認識を持っていることを示しています。

ここでレイテンシーが顕在化し、コストが積み上がり、リスク管理が必要になります。トレーニングパイプラインとデータ準備も依然として重要ですが、刻々と変化する運用において、同じほどの重みを持つわけではありません。推論時にシステムが正確かつ迅速に応答できるかどうかが問われます。

この文脈における推論は、ライフサイクルの一段階ではありません。推論そのものがワークロードです。

自動化はすでにAIを取り巻いている

成熟度を示すもう1つの指標は、ワークロードの制御方法です。AIの場合、その制御の大部分はプログラムによって行われます。

自動化の加速、ポリシーの調整、提案の生成といったユースケース全般で、API駆動型の自動化が一貫して最も好まれるアプローチとなっています。現在AIを自動化に利用していない回答者も、API駆動型の仕組みを選好しています。

この一貫した傾向は、こうしたシステムが人の介入を最小限に抑えて動作することへの期待を反映しています。これらのシステムは、リアルタイムで動作し、状況に反応して適応するよう設計されています。推論は、こうした自動化ループに組み込まれた時点で運用プロセスの一部となります。

私たちはすでにその一線を越えています。

マルチモデルという現実が、この移行をさらに加速

さらに、組織が運用しているのは単一のモデルではありません。複数のモデル（多くの場合5～7個）を並行して実行することが、今では一般的です。適応手法の多くは依然として軽量で、プロンプトエンジニアリング、検索拡張生成、埋め込み、限定的なチューニングなどが用いられています。

これにより、特定のリクエストに適したモデルの選択、フォールバックロジックの実装、バージョン管理、コストとパフォーマンスのバランス調整、異種エンドポイント全体でのポリシー適用といった、従来からある運用上の課題が生じます。

その段階になると、システムは他の分散アプリケーションと同様の性質を帯び始めます。ルーティング、オーケストレーション、ガバナンスが必要になります。推論は単に呼び出すだけのものではなく、提供、管理、保護すべきものになります。

推論が中心的な役割を担うようになった

総合すると、その傾向は明らかです。

1. 推論はリクエストパス上に直接配置されています。
2. オブザーバビリティにより、リアルタイムのコンテキストが提供されます。
3. 自動化により、APIを介してその動作を制御します。
4. マルチモデルアーキテクチャでは、ルーティングと制御の必要性が高まります。

この組み合わせにより、推論が運用の中核となります。これは将来を見据えた予測ではなく、現在すでに生じている状況です。

業界では、AIの運用化がまだ先の話であるかのように語られ続けています。しかし、データはそうではないことを示しています。組織はすでに推論を日常業務に組み込んでおり、アプリケーションスタックの他の重要なコンポーネントと同様に、真剣に取り扱っています。

真に問うべきは、AIが運用段階に入るかどうかではありません。すでに運用段階にあることを組織が認識し、これまで他のあらゆる運用対象に適用してきたのと同じ規律、厳密さ、アーキテクチャの観点を推論にも適用しているかどうかです。

詳細については、2026 State of Application Strategy Report全文をご覧ください。

著者について

Lori Mac Vittie特別技術者兼チーフエバンジェリスト | F5

Lori MacVittieは、F5のOffice of the CTOに所属するDistinguished Engineer兼Chief Evangelistであり、アプリケーションデリバリ、自動化戦略、インフラストラクチャに関する深い専門知識を有しています。AIエージェントのガードレール策定、脆弱なマルチクラウドアーキテクチャの分析、スケーラブルなシステムの限界の検証など、複雑な事柄を明快にすることで知られています。アプリケーション開発、ITアーキテクチャ、ネットワークおよびシステム運用の分野で、30年以上にわたる業界経験を有しています。F5入社前は、受賞歴のあるテクノロジー編集者として活躍していました。 MacVittieはコンピューターサイエンスの修士号を取得しており、セキュリティ、クラウド、エンタープライズアーキテクチャにわたる分野で多数の著作を発表しています。また、テーブルトークゲームとビデオゲームをこよなく愛し、チーズについては遠慮なく強いこだわりを語ります。

Lori Mac Vittieのその他のブログ記事