Outil de planification de la capacité du cloud d’IA multilocataire
Découvrez comment l’isolation des locataires et la fragmentation influent sur vos besoins en GPU, leur taux d’utilisation et la marge que vous conservez.
Les fournisseurs de cloud IA doivent concilier l’isolation des locataires et l’efficacité de l’infrastructure. Cet outil de planification compare une capacité dédiée à chaque locataire à un pool de ressources partagé et encadré par des règles de gouvernance.
01: Profil de locataires
Capacité dédiée ou partagée entre locataires
Chaque pool dédié est dimensionné pour son propre pic. Un pool partagé sous gouvernance exploite le fait que les locataires n’atteignent pas leur pic en même temps.
En savoir plus
Les fournisseurs de cloud IA doivent concilier isolation des locataires et efficacité de l’infrastructure. La capacité dédiée simplifie l’isolation, mais immobilise souvent des ressources GPU coûteuses. La capacité partagée sous gouvernance peut améliorer l’utilisation, à condition de disposer des politiques par locataire, de la sécurité, de l’observabilité et des contrôles de niveau de service nécessaires.
Questions fréquentes
Des calculs de l’usine d’IA à son pilotage
Une infrastructure d’IA multi-locataire exige un plan de service IA capable de combiner isolation, politiques, contrôle du trafic et observabilité.