生成AIにより、AIがインフラストラクチャに及ぼす影響が加速しています。私たちはすでにインフラストラクチャのルネサンス期に入っていました。技術者の間では、それまで目立たなかったデータセンターのネットワーク、コンピューティング、ストレージの各レイヤーへの関心と評価が再び高まっていました。主にムーアの法則の「終焉」とエッジコンピューティングの台頭を背景に、特化型プロセッシングユニットであるxPUの普及は、数年前からすでに始まっていました。
今日では、生成AI（公平を期すならビデオゲームも含めて）の普及により、GPUは一般家庭にも知られる用語となり、GPUの最適化が新たに求められています。
その理由は、GPUの需要が高い一方で、供給が不足しているためです。組織はすでに、この高性能なハードウェアにIT予算全体のかなりの割合を投じているか、投じることを計画しています。その投資の一部は自社インフラストラクチャに、残りはパブリッククラウドインフラストラクチャの利用に充てられています。
しかし、こうした投資はすべて、AIアプリケーションの運用に必要なGPUリソースの可用性確保に充てられます。
しかし、周囲に目を向けると、インフラストラクチャに新たな種類のリソースを導入することには課題が伴うとわかります。組織は長年、インフラストラクチャをコモディティとして扱ってきました。つまり、どれも同じだと考えてきたのです。
実際、ほぼそのとおりでした。組織は、メモリとコンピューティング能力が同一のホワイトボックスサーバーまたは有名ブランドのサーバーに標準化しました。その結果、インフラストラクチャの運用が容易になりました。トラフィック管理では、ワークロードがserver8756とserver4389のどちらで実行されるかを気にする必要がなかったためです。両者の能力は同じでした。
しかし、今はどうでしょう。GPUによって状況は一変しました。今やインフラ運用では、GPUリソースがどこにあり、どのように利用されているかを把握する必要があります。そして、それがあまりうまくいっていない可能性を示す兆候もあります。
「State of AI Infrastructure at Scale 2024」によると、「15%が、利用可能で購入済みのGPUのうち、使用されているのは50%未満だと回答しています」。
もちろん、その15%の組織には、GPUリソースの50%超を使用するほどの負荷がないだけかもしれません。一方で、十分な負荷があるにもかかわらず、使用できていない可能性もあります。
確かに、一部の組織は後者に該当するでしょう。GPU容量に十分な余裕があるにもかかわらず、AIアプリのパフォーマンスがユーザーの期待に届かない理由が分からず、頭を悩ませることになります。
その一因はインフラストラクチャにあり、ワークロードを必要なリソースに適切に割り当てることが重要です。そもそも、AIアプリのすべてのワークロードにGPU容量が必要なわけではありません。GPUの恩恵を受けるのは主に推論サーバーであり、それ以外はほとんどありません。そのため、インフラストラクチャ層で戦略的にアーキテクチャを設計し、GPUを大量に必要とするワークロードはGPU対応システムで実行し、その他のアプリワークロードは従来のシステムで実行する必要があります。
つまり、どのノードがGPUに対応し、どのノードが対応していないかを把握するプロビジョニングポリシーが必要です。これはGPU最適化の重要な要素です。また、これらのリソースにリクエストを振り分けるアプリサービスにも、より高度な機能が求められます。負荷分散、イングレス制御、ゲートウェイなど、リクエストを振り分ける仕組みは、インフラストラクチャの利用効率を左右する要素です。すべてのリクエストが1台か2台のGPU対応システムに集中すると、パフォーマンスが低下するだけでなく、組織が多額の費用を投じて確保したGPU容量が「余る」ことになります。
また、パブリッククラウド上のGPUリソースを活用することも考えられます。そのためには、共有データのセキュリティを確保するために、ネットワークサービスを活用する必要があります。
つまり、AIアプリケーションは、インフラストラクチャの分散化に加え、リアルタイムでのプロビジョニングや管理の方法にも大きな影響を及ぼします。運用担当者が、利用可能なリソースとその場所を常に最新の状態で把握できるようにするため、テレメトリの必要性が高まります。また、プロビジョニングをワークロード要件に適合させるには、効果的な自動化も必要になります。
そのため、組織はエンタープライズアーキテクチャ全体をモダナイズする必要があります。もはや個々のレイヤーや階層だけの問題ではありません。重要なのは、それらがどのように相互接続し、支え合うことで、デジタル成熟度の高いビジネスがAIの力を活用するためのニーズに応えられるかという点です。
著者について
Lori MacVittieは、F5のOffice of the CTOに所属するDistinguished Engineer兼Chief Evangelistであり、アプリケーションデリバリ、自動化戦略、インフラストラクチャに関する深い専門知識を有しています。AIエージェントのガードレール策定、脆弱なマルチクラウドアーキテクチャの分析、スケーラブルなシステムの限界の検証など、複雑な事柄を明快にすることで知られています。アプリケーション開発、ITアーキテクチャ、ネットワークおよびシステム運用の分野で、30年以上にわたる業界経験を有しています。F5入社前は、受賞歴のあるテクノロジー編集者として活躍していました。 MacVittieはコンピューターサイエンスの修士号を取得しており、セキュリティ、クラウド、エンタープライズアーキテクチャにわたる分野で多数の著作を発表しています。また、テーブルトークゲームとビデオゲームをこよなく愛し、チーズについては遠慮なく強いこだわりを語ります。
Lori Mac Vittieのその他のブログ記事関連するブログ記事
SOAS 2025：足並みの乱れが凡庸さを招く
AI導入における方針の不一致は、非効率を招きます。セキュリティ、自動化、導入の各戦略を整合させ、AIの可能性を最大限に引き出す方法をご紹介します。
WebAssemblyが重要な理由
WebAssembly（Wasm）は、あらゆるプラットフォームで高性能なアプリケーションを実現する、ポータブルで高速かつセキュアなバイナリ命令セットです。
インフラストラクチャは依然として格好の攻撃経路
クラウドコンピューティングでは、APIやドラッグ＆ドロップ式の設定ツールを活用し、ネットワークやインフラストラクチャを敬遠する人がそれらを直接扱わずに済むようにすることで、インフラストラクチャへの対応を不要にすることが長年追求されてきました。しかし、インフラストラクチャを無視することも、攻撃の主要な標的であるという事実を見過ごすこともできません。
堅牢なデータアーキテクチャがもたらす戦略的メリット
適切に構築されたデータアーキテクチャがもたらす効果は、業務プロセスの改善にとどまりません。戦略的な業務効率の向上、より深いビジネスインサイトの獲得、隣接するビジネス機会への展開にもつながり、これらすべてをより俊敏に実行できるようになります。
デジタルワークフローにおける不正検知には、データだけでは不十分
2019年には、業界全体でクレジットカード詐欺の試みが約25万件確認されました。これは約2分に1件の割合です。今日、不正を検知するには、デジタルワークフロー上のできるだけ多くのポイントから収集したデータを相互に関連付け、手作業によるデータ処理をはるかに上回る速度で分析する能力が求められます。