大規模AIインフラストラクチャを最適化するためのベストプラクティス

Mark Mengerソリューションアーキテクト | F5

このブログ記事は、AIデータデリバリーに関するシリーズの第5回です。

多くの組織がAIの活用に苦慮しているのは、モデルが不足しているからではありません。モデルは数も種類も増え続けています。課題は、既存のインフラストラクチャが、AI特有のデータの流れを想定して設計されていないことにあります。

トレーニング、ファインチューニング、検索拡張生成（RAG）はいずれも、ストレージシステム、ネットワーク、コンピューティング階層間で膨大な量のデータを確実かつセキュアに、繰り返し移動することに依存しています。AIの取り組みが拡大するにつれ、データアクセス、セキュリティポリシー、レジリエンスにおけるわずかな非効率性でも影響が波及し、パイプラインの遅延、ジョブの失敗、インフラストラクチャコストの増加につながる可能性があります。

この課題が特に難しいのは、AIワークロードが従来とは異なる未知の形でインフラストラクチャに負荷をかけるためです。データ転送には、従来のアプリケーションで想定されるよりも長い時間がかかります。ストレージシステムでは、スケーリングとリバランスがより頻繁に行われます。セキュリティおよび規制上の要件は、オンプレミス、クラウド、ハイブリッドの各環境にまたがります。また、短時間の切断や再試行など、Webアプリでは許容できる可能性がある障害でも、数時間から数日分のモデル処理が無駄になるおそれがあります。

その結果、多くの組織では、根本原因を解決するのではなく、表面化した問題への対処に追われています。根本原因としてよく見られるのは、メンテナンス時間帯に停止するトレーニングジョブ、環境ごとに挙動が異なるファインチューニングパイプライン、高負荷時や再インデックス作成時に低速化するRAGシステム、一貫性に欠ける、または大規模な管理が難しいセキュリティ制御です。

AIインフラストラクチャの最適化で重要なのは、最高性能のベンチマークを追い求めることではありません。データ、モデル、環境、チームのすべてが同時に拡大する中で、安定性、レジリエンス、セキュリティ、運用の明確性を確保できるよう設計することです。

スケーラブルでレジリエントなAIインフラストラクチャを構築するための8つの「すべきこと」と「避けるべきこと」

大規模モデルのトレーニング、特定のタスク向けのファインチューニング、あるいは企業データを検索して推論するRAGシステムの運用に取り組む際は、以下の推奨事項と避けるべき事項をご確認ください。スケーラビリティとレジリエンスに最も直接的な影響を与えるインフラストラクチャの選択肢を紹介します。

1. AIワークロードのストレージへのアクセス方法を標準化する。 各ジョブを個々のストレージノードに直接接続させない。

• トレーニング：大規模なデータセットを繰り返し読み取るには、安定性と予測可能性を備えたストレージエンドポイントが必要です。
• ファインチューニング：頻繁に実行される小規模なジョブでは、再構成せずに一貫したアクセスを利用できることが有効です。
• RAG: 埋め込みの生成および更新パイプラインには、信頼性の高いオブジェクトアクセスが不可欠です。

単一の一貫したアクセスレイヤーにより、ストレージの拡張やリバランス時にも、再試行、壊れやすいスクリプト、パイプライン障害を防止できます。

F5 BIG-IPがどのように役立つか： F5 BIG-IPは、バックエンドの変更からAIジョブを保護する安定したフロントドアを提供できます。

2. 長時間にわたる大容量データ転送を想定して設計する。短時間のWebトラフィックを前提にしない。

• トレーニング：数時間または数日間にわたるジョブは、一時的な速度低下が発生しても継続できる必要があります。
• ファインチューニング：バースト時の速度よりも、持続的なスループットが重要です。
• RAG: 大規模なドキュメントの取り込みと再インデックス作成には、信頼性の高いマルチパート転送が必要です。

AIデータの移動はアプリケーショントラフィックとは異なる特性を持つため、それに応じた対応が必要です。

F5 BIG-IPがどのように役立つか： AIのデータフローに適した、持続性の高い高スループット接続を実現するためのチューニングが可能です。

3. あらゆる環境で一貫した暗号化ポリシーとアクセスポリシーを確実に適用します。環境間でセキュリティルールにずれが生じないようにしてください。

• トレーニング：機密性の高いデータセットは、コンピューティング処理の実行場所を問わず保護されます。
• ファインチューニング：ポリシーの観点では、開発、テスト、本番の各環境が同じように動作します。
• RAG: 独自文書と埋め込みは、階層間を移動する際も暗号化された状態に保たれます。

一元的な適用により、リスクと運用負荷を軽減します。

F5 BIG-IPがどのように役立つか： 環境全体の暗号化とアクセスポリシーを一元的に制御できます。

4. 可能な限り、反復的なインフラ作業はオフロードしましょう。AIの成果につながらないタスクにCPUサイクルを費やさないでください。

• トレーニング： ホストリソースが解放され、前処理とモデル実行をサポートできます。
• ファインチューニング：多数のジョブを並列実行することで、所要時間が短縮されます。
• RAG: 暗号化されたトラフィック下でも、取り込みと検索の応答性が維持されます。

インフラストラクチャの運用は必要ですが、AIワークロードとリソースを奪い合うべきではありません。

F5 BIG-IPがどのように役立つか： AIホストの外部でトラフィック処理と暗号化を効率的に管理するアーキテクチャをサポートします。

5. 安定したクライアントエンドポイントを、変化するバックエンドから分離してください。インフラストラクチャの変更をAIパイプラインに波及させないでください。

• トレーニング：ストレージノードがスケールされたり置き換えられたりしても、ジョブは中断することなく継続します。
• ファインチューニング：バックエンドのメンテナンスによって反復作業が中断されることはありません。
• RAG: フェイルオーバー発生時も、検索エンドポイントは安定した状態を維持します。

この分離は、レジリエンスを確保するうえで極めて重要です。

F5 BIG-IPがどのように役立つか： クライアント接続を切断することなく、異常がある、または変更中のバックエンドを迂回してルーティングします。

6. レジリエンスを運用上の基本要件として位置付けてください。障害が発生してから弱点に気付くのでは遅すぎます。

• トレーニング：長時間実行されるジョブは、計画メンテナンス中も継続します。
• ファインチューニング： 実験を中断することなく、アップデートを展開できます。
• RAG: 常時稼働により、リアルタイムのクエリに対応できます。

レジリエンスは、例外的なものではなく、当たり前のものであるべきです。

F5 BIG-IPがどのように役立つか： データパスのサービスを中断しないメンテナンスと、制御されたフェイルオーバーを可能にします。

7. 高負荷時には、重要なAIデータフローを優先してください。バックグラウンドトラフィックによって、実行中のワークロードに必要なリソースが不足しないようにします。

• トレーニング：レプリケーションや同期ジョブの実行中も、アクティブな処理のパフォーマンスを維持できます。
• ファインチューニング：反復型パイプラインは、ピーク時でも予定どおりに完了します。
• RAG: クエリおよび検索トラフィックの応答性が維持されます。

すべてのトラフィックが同じように重要なわけではありません。

F5 BIG-IPがどのように役立つか：インテントに基づいてトラフィックを制御し、優先順位を設定するポリシーポイントとして機能します。

8. パフォーマンスだけでなく、分かりやすさと運用性も重視して最適化する。専門家しか運用できないAIスタックは構築しない。

• トレーニング：ジョブの処理速度が低下した場合や失敗した場合に、トラブルシューティングを迅速に行えます。
• ファインチューニング：チームがデータパスを理解することで、反復作業が迅速になります。
• RAG: システムの規模が拡大しても、関心事をより明確に分離できます。

最もスケーラブルなシステムとは、チームが理解し、運用し、進化させられるシステムです。

F5 BIG-IPがどのように役立つか：AIデータの移動に対して、明確で一貫性のある制御レイヤーを提供します。

AIインフラの拡張が最も効果を発揮する場面

データアクセスが安定し、一貫したセキュリティが確保され、インフラストラクチャの変更がモデルやパイプラインに影響することなくデリバリーレイヤーで吸収されると、AIインフラストラクチャを最も効果的に拡張できます。

F5のAIデータデリバリーソリューションの詳細については、「AI Data Delivery and Infrastructure Solutions」のWebページをご覧ください。

F5のAIへの取り組みは、データ配信にとどまりません。F5があらゆる環境でAIアプリを保護し、配信する仕組みをご覧ください。

AIデータ配信シリーズのほかのブログ記事もぜひご覧ください：

F5とS3互換ストレージでAIデータパイプラインを強化

モダンワークロードのボトルネックを解消し、AIを最適化

取り込みから配信までAIデータパイプラインを追跡

AIストレージに新たな負荷分散アプローチが必要な理由

AIアプリケーションを大規模に提供するためのADCの役割

パイプラインの速度を低下させずにAIデータパイプラインを保護

著者について

Mark Mengerソリューションアーキテクト | F5

Mark MengerはF5のソリューションアーキテクトで、AIおよびセキュリティ技術のパートナーシップを専門としています。F5のAIリファレンスアーキテクチャの開発を主導し、安全で拡張性の高いAIソリューションの推進に取り組んでいます。グローバルソリューションアーキテクトおよびソリューションエンジニアとしての経験を持ち、F5のセキュアクラウドアーキテクチャに貢献したほか、分散型4階層アーキテクチャを共同開発しました。『Solving IT Complexity』の共著者でもあり、IT課題への対応に関する専門知識を有しています。以前はアプリケーション開発者やエンタープライズアーキテクトを務め、モダンアプリケーション、自動化、AI投資から得られる価値の早期実現に注力していました。

Mark Mengerのその他のブログ記事