GPUキャパシティをマネージドKubernetesビジネスに転換

ネオクラウドとは、汎用コンピューティングではなく、AI向けのGPU処理能力を中心に構築されたクラウドプロバイダーです。その多くは、ベアメタルGPUサーバーの時間単位での貸し出しから事業を始めました。現在は、マネージドKubernetesやGPU-as-a-service、場合によっては推論サービスも追加し、企業のお客さまにサーバーそのものではなくプラットフォームを提供するようになっています。この移行により、GPUの稼働1時間当たりに得られる収益が高まるとともに、基盤となるネットワークに対するテナントの期待も高まります。

分離は複数のレイヤーで機能します。名前空間とロールベースのアクセス制御によって各テナントの管理範囲を定め、仮想クラスターによってテナントごとにコントロールプレーンを追加します。ネットワークレベルの分離には、通常、テナントごとに専用のVRFを備えたEVPN-VXLANを使用し、クラスターに出入りする各テナントのトラフィックを、それぞれ固有のルーティングドメイン内に保ちます。さらに、クラスター境界でテナントごとに適用するイングレス、エグレス、ファイアウォールのポリシーによって、各テナントがアクセスできる範囲を制御します。

ベアメタルではサーバー全体を貸し出し、テナントが独自のソフトウェアスタックを持ち込んで運用します。GPU as a ServiceとマネージドKubernetesは、その上にスケジューリング、ネットワーキング、テナントの分離、イングレスとエグレス、サポートを備えたプラットフォームを追加します。プロバイダーがより多くの責任を担うことで、GPUの時間単価を高く設定できます。また、企業テナントは、サーバー単体ではなく、こうしたプラットフォームを求めるようになっています。

テナントごとに専用のアウトバウンド経路を用意します。送信元アドレスが固定されたテナント単位のエグレスにより、外部システムではアドレスに基づいてテナントを許可リストに登録できます。また、あるテナントのトラフィックが別のテナントからのものと見なされることを防ぎ、宛先別のアウトバウンド接続のログ記録と監査を容易にします。Kubernetesのネットワークポリシーも役立ちますが、クラスター内のPodとIPブロックの単位で機能します。

いいえ。BIG-IP Next for Kubernetesは標準的なホストCPU上で動作し、テナント分離、イングレス、エグレスもそこで機能します。NVIDIA BlueField DPUはデータパスをホストからオフロードし、ホストOSの外部でポリシーを適用します。テナント数が増え、販売可能なキャパシティとしてホストコアの価値が高まるにつれて、この方式のメリットが大きくなります。DPUモードで測定した結果は、ホスト上のデプロイには当てはまりません。