AIインフラストラクチャの解説

F5 Newsroom Staff

AIインフラストラクチャとは、人工知能（AI）および機械学習（ML）のワークロードを大規模に開発、トレーニング、デプロイ、管理するために必要な、専用のハードウェアとソフトウェアシステムの組み合わせを指します。堅牢なAIインフラストラクチャにより、開発者は、チャットボットやバーチャルアシスタント、自動運転車、医用画像解析、精密農業、銀行取引の不正防止に向けた異常検知など、多岐にわたるAIおよびMLアプリケーションを効率的に作成し、デプロイできます。

このブログ記事では、AIインフラストラクチャの事例を紹介し、その構成要素やAIワークロードを成り立たせる要素、従来のITインフラストラクチャとの違いについて解説します。また、AIインフラストラクチャを構築、最適化、保護する方法についても取り上げます。

AIインフラストラクチャとITインフラストラクチャの比較

そもそも、AIにはなぜ従来とは異なるコンピューティングインフラストラクチャが必要なのでしょうか。AIアプリケーションは、データの処理方法やコンピューティングリソースの使用方法が従来のアプリケーションとは根本的に異なります。また、従来のITシステムは、AIおよびMLワークロード特有の要件に対応するようには設計されていません。

AIの要件を満たすには、AIライフサイクルに合わせた専用インフラストラクチャが必要ですが、こうした要件がAIおよびMLへの投資拡大を妨げているわけではありません。F5 2025 State of Application Strategy Reportによると、回答した組織の96%が現在AIモデルを導入しています。さらに、McKinsey’s The State of AIの調査では、回答者の71%が、自組織の業務で生成AIを日常的に利用していると回答しています。

AIには膨大な計算能力が必要です。AIワークロードは、多くの場合リアルタイムで大量のデータを消費し、生成します。たとえば、生成AIアプリケーションを支える深層学習モデル（LLM）のトレーニングでは、数百万ものパラメーターと複雑な数学的演算を扱うことがあります。生成AIのインフラストラクチャには、専用の高スループットプロセッサ、拡張性に優れた高速アクセスストレージ、低レイテンシのメモリアクセス、高帯域幅ネットワークが求められます。

このインフラストラクチャは、AIパイプラインの各段階でAIアプリケーションのすべてのコアコンポーネントを機能させ、プロセスのあらゆるステップでパフォーマンス、スケーラビリティ、応答性を確保する必要があります。最初のステップは、AIモデルに入力するデータを収集するデータ取り込みです。高スループットのデータストリームを効率的に処理するには、この段階で堅牢なトラフィック管理と十分な帯域幅が必要です。

データ取り込みに続くモデル学習は、学習用データセットを使用して新しいAIモデルを作成する反復的なプロセスです。インフラストラクチャには、特定のタスクを実行する際に高い精度を実現できるようモデルを改良するための、強力なコンピューティング能力が必要です。推論は、フロントエンドアプリケーションが学習済みAIモデルとやり取りする実行時のフェーズです。アプリケーションがモデルに入力を送信すると、モデルはリクエストを処理してレスポンスを返します。

エージェント型システムは、AIをデータ処理やリクエスト／レスポンスのやり取りの枠を超えて進化させ、人の介入なしに自律的に行動できるようにします。エージェント型AIをサポートするには、高度なオーケストレーション機能とリアルタイムの意思決定機能が必要です。

多くのAIアプリケーションはエッジで動作し、センサー、カメラ、産業機械などのIoTデバイスで分析と自動化を実現します。こうしたリアルタイムのユースケースには、データソースの近くで低遅延の分散処理を行えるよう最適化されたインフラストラクチャが必要です。

AIインフラストラクチャとITインフラストラクチャには、どのような違いがあるのでしょうか。AIインフラストラクチャは、専用のハードウェアとデータプラットフォームを活用して、アクセラレーテッドコンピューティングを促進し、AIワークロードの膨大な計算処理ニーズに対応します。たとえば、汎用ワークロード向けの標準的なITシステムで一般に使用される従来の中央処理装置（CPU）ではなく、グラフィックスプロセッシングユニット（GPU）を利用します。GPUは並列処理に最適化されています。

AIインフラストラクチャソリューションには、機械学習ライブラリやフレームワークなど、AIモデルの開発、トレーニング、デプロイに不可欠な専用ソフトウェアも組み込まれています。こうしたツールは、エンタープライズアプリケーションとデータ管理を主眼とする従来のITスタックでは、一般的に使用されていません。

AIインフラストラクチャスタックは、多くの場合「AIファクトリー」と呼ばれます。これは、反復的で、多くの場合は自動化された一連のプロセスによって製品を生み出す従来の製造工場になぞらえたものです。ただし、AIファクトリーが生み出す製品はインテリジェンスです。NVIDIAの創業者兼CEOであるJensen Huang氏の言葉を引用すると、「AIは今やインフラストラクチャです。そしてこのインフラストラクチャには、インターネットや電気と同じように、工場が必要です。こうした工場こそ、まさに私たちが現在構築しているものです。過去のデータセンターとは異なります……エネルギーを投入すると、非常に価値のあるものが生み出されます……」

AIインフラストラクチャの構成要素

AIおよびMLのワークロードを効果的にサポートするため、組織は、専用のコンピューティング、ストレージ、ソフトウェア機能を備えた、目的特化型のAIファクトリーインフラストラクチャアーキテクチャを採用しています。

これらのコンピューティングリソースには、以下が含まれます。

• GPU。AIインフラストラクチャの中核を担うGPUは、並列処理を可能にし、複雑なAIモデルのトレーニングと実行に不可欠です。数千個のコアを備えたGPUは、複数のタスクを同時に実行でき、処理性能を大幅に向上させます。NVIDIAは、AIインフラストラクチャ向けGPUのサプライヤーとして最も広く利用されている企業の1つです。
• TPU（テンソル処理ユニット）。Googleが開発したTPUは、機械学習やディープラーニングの処理に最適化された専用AIアクセラレーターです。高スループットと低レイテンシを実現し、大規模AIアプリケーションのトレーニングと推論の両方に適しています。

データの保存および処理に使用するリソースには、以下が含まれます。

• スケーラブルなストレージソリューション。AIモデルには膨大な量のトレーニングデータが必要なため、データストレージはAIインフラストラクチャを実現するうえで不可欠です。クラウドベースまたはオンプレミスのデータベース、データレイク、分散ファイルシステムには、AIワークフローで使用されるデータの量、多様性、処理速度に対応できる高い拡張性が求められます。
• データ処理フレームワーク。AI向けのデータを準備するには、データセットのフィルタリングとクリーニングを自動化する必要があります。Pandas、NumPy、SciPyなどのツールは、一般的なデータ準備タスクを自動化し、このプロセスを効率化します。

機械学習ソフトウェアのリソースには、以下が含まれます。

• 機械学習ライブラリとフレームワーク。これらの構築済みツールキットにより、AIモデルの設計、トレーニング、デプロイが容易になります。TensorFlowやPyTorchなどのフレームワークは、再利用可能なコンポーネントと最適化されたアルゴリズムを提供し、開発を加速するとともに複雑さを軽減します。
• 機械学習オペレーション（MLOps）プラットフォーム。MLOpsツールは、機械学習タスクの自動化を支援し、データ収集からモデルのトレーニング、検証、デプロイ、トラブルシューティング、監視に至るまで、モデルのライフサイクル全体をサポートします。

上記のAIファクトリーインフラストラクチャソリューションは、AIアプリケーションの開発、デプロイ、管理を支援する統合システムおよびツールです。これにより、組織はAIモデルをより効率的かつセキュアに、大規模に構築・維持できます。

AIインフラストラクチャの構築方法

AIワークロードを支えるために必要なインフラストラクチャを構築する際、多くの組織がコストや複雑さなどの大きな課題に直面しています。F5 Digital Enterprise Maturity Index Reportの回答者の半数近くがAIワークロードの構築・運用コストを懸念しており、39%は自組織でスケーラブルなAIデータ活用の仕組みをまだ確立できていないと回答しています。

コストに関する懸念に対処するには、まず明確な目標を設定し、専用の予算を確保します。AIで解決したい具体的な課題を明確にすることで、予算を戦略的に配分することに注力でき、投資から測定可能な価値と最大限の効果を得られます。通常、目標によって使用するフレームワークが決まり、そのフレームワークによって使用するコンピューティングの種類が決まります。また、ユースケースは、AIファクトリー内のローカルネットワークアーキテクチャだけでなく、エッジ接続や処理にも影響します。さらに、クラウドベースのストレージソリューションの活用もご検討ください。AWS、Oracle、IBM、Microsoft Azureなどのクラウドプロバイダーは、オンプレミスインフラストラクチャに巨額の投資をすることなくストレージを拡張できる、より手頃な従量課金制のデータモデルを含むクラウドベースのAIインフラストラクチャを提供しています。

スケーラブルなAI環境の構築において、ネットワークソリューションは重要な役割を果たします。広帯域幅かつ低遅延のネットワークにより、ストレージシステムとコンピューティングリソース間で大量のデータを迅速に転送できます。さらに、データ処理ユニット（DPU）は、大量のデータ転送を処理し、マルチテナンシーをサポートするように特別に設計されています。単一のインフラストラクチャ上で複数のAIワークロードを実行できるため、データ処理のスケーラビリティを支えます。

AIインフラストラクチャに関するその他の考慮事項として、既存システムとの統合があります。互換性を確保し、業務への影響を最小限に抑え、AIファクトリーに取り込まれるデータの完全性を検証できるよう、従来のIT環境と新しいAIインフラストラクチャの間でデータがどのように流れるかを慎重に計画してください。また、AIインフラストラクチャの進化に伴い、機密データの漏えい、モデルの窃取、APIの脆弱性などのセキュリティリスクも変化します。強力なアクセス制御、暗号化、監視を実装し、AI環境が欧州連合の一般データ保護規則（GDPR）やHIPAAなどのデータプライバシー規制に準拠していることを確認してください。

AIインフラストラクチャを最適化し、セキュリティを確保する方法

明確な戦略と綿密な計画がなければ、AIワークロードやアプリケーションによって、ネットワークの輻輳、レイテンシの増大、パフォーマンスのボトルネック、セキュリティリスクの高まりなど、重大な課題が生じる可能性があります。

AIインフラストラクチャのパフォーマンスを最適化するには、トラフィック管理を改善して、高スループットかつ低レイテンシのデータパイプラインをサポートし、トレーニングデータと推論データを円滑に配信できるようにします。検索拡張生成（RAG）の手法を活用することで、AIモデルが独自のデータセットに動的にアクセスして参照できるようになり、応答の品質とコンテキストの関連性が向上します。AIクラスター対応のオーケストレーション型ネットワークセグメンテーションを実装して、GPUとコンピューティングリソースを動的にスケジューリングすることで、ネットワークの輻輳を軽減し、AIインフラストラクチャの自動化によってシステム全体の効率を向上させます。

AIインフラストラクチャを保護するには、APIセキュリティを優先してください。AIアプリケーションはAPIへの依存度が高いため、強力な認証、レート制限、アクセス制御ポリシーを確立し、攻撃や不正利用から防御します。AIモデルへのリアルタイムトラフィックを検査し、プロンプトインジェクション、データ漏えい、悪意のある入出力動作など、プロンプトレベルの脅威から保護します。さらに、Webアプリケーションスキャナーを使用して新たなリスクを継続的に監視し、新たな脅威や、環境内で稼働する未承認のAIツールおよびシャドーAIを検出して防御します。

F5がどのように支援できるか

F5は、AIパイプライン全体にわたり、AIインフラストラクチャとワークロードのパフォーマンス、信頼性、拡張性、セキュリティを強化します。F5のAIアプリケーションおよびデータ配信向けソリューションは、セキュアで高速なネットワーキングを通じて、高性能なAIネットワーキングとトラフィック管理を実現し、AI搭載アプリの高速性と可用性を維持しながら、適切な制御を可能にします。F5ソリューションはAIネットワーキングを最適化し、データをラインレートで転送し続けるとともに、トラフィックをシームレスに拡張することで、一貫性とコスト効率に優れたエンドツーエンドのパフォーマンスを実現します。

F5は、単一のプラットフォームであるAIアプリケーションとワークロード向けのセキュリティも提供し、完全な可視性、堅牢なセキュリティ、シームレスな拡張性によってAIアプリ、モデル、データを保護します。その基盤となるのが、F5 Application Delivery and Security Platform (ADSP)です。適応型の多層防御を備えたF5 ADSPは、特に負荷の高いワークロードに対して、一貫した包括的なセキュリティ、高可用性、低遅延の接続を提供します。信頼できる業界リーダーが提供する統合された強力なセキュリティにより、組織のAI投資を保護できます。

ハイブリッド環境とマルチクラウド環境全体で、安全性、信頼性、パフォーマンスに優れたAIインフラストラクチャを実現するためのベストプラクティスについては、F5 AI Reference Architectureをご覧ください。

著者について

F5 Newsroom Staff

F5 Newsroom Staffのその他のブログ記事