Outil de planification de la capacité du cloud d’IA multilocataire

Découvrez comment l’isolation des locataires et la fragmentation influent sur vos besoins en GPU, leur taux d’utilisation et la marge que vous conservez.

Les fournisseurs de cloud IA doivent concilier l’isolation des locataires et l’efficacité de l’infrastructure. Cet outil de planification compare une capacité dédiée à chaque locataire à un pool de ressources partagé et encadré par des règles de gouvernance.

01: Profil de locataires

Capacité dédiée ou partagée entre locataires

Chaque pool dédié est dimensionné pour son propre pic. Un pool partagé sous gouvernance exploite le fait que les locataires n’atteignent pas leur pic en même temps.

Capacité dédiée nécessaire768 GPU
Capacité partagée sous gouvernance470 GPU
Marge tampon réservée dans le pool61 GPU
Capacité récupérée298 GPU

En savoir plus

Les fournisseurs de cloud IA doivent concilier isolation des locataires et efficacité de l’infrastructure. La capacité dédiée simplifie l’isolation, mais immobilise souvent des ressources GPU coûteuses. La capacité partagée sous gouvernance peut améliorer l’utilisation, à condition de disposer des politiques par locataire, de la sécurité, de l’observabilité et des contrôles de niveau de service nécessaires.

Questions fréquentes

Ce que cela implique

Des calculs de l’usine d’IA à son pilotage

Une infrastructure d’IA multi-locataire exige un plan de service IA capable de combiner isolation, politiques, contrôle du trafic et observabilité.