Planificador de capacidad de la nube de IA multiinquilino

Descubre cómo el aislamiento entre inquilinos y la fragmentación afectan a las GPU que necesitas, al aprovechamiento que obtienes y al margen que conservas.

Los proveedores de servicios de IA en la nube deben equilibrar el aislamiento entre clientes con la eficiencia de la infraestructura. Este planificador compara la capacidad dedicada a cada cliente con un conjunto de recursos compartidos sujeto a políticas de gobernanza.

01: Perfil de inquilinos

Capacidad dedicada frente a compartida por inquilino

Cada pool dedicado se dimensiona para su propio pico. Un pool compartido con gobierno aprovecha que los inquilinos no alcanzan su pico al mismo tiempo.

Capacidad dedicada necesaria768 GPUs
Capacidad compartida con gobierno470 GPUs
Margen reservado dentro del pool61 GPUs
Capacidad recuperada298 GPUs

Más información

Los proveedores de nube de IA deben equilibrar el aislamiento entre inquilinos con la eficiencia de la infraestructura. La capacidad dedicada simplifica el aislamiento, pero a menudo inmoviliza recursos de GPU costosos. La capacidad compartida con gobierno mejora la utilización, pero solo si existen políticas por inquilino, seguridad, observabilidad y controles de nivel de servicio.

Preguntas frecuentes

Adónde conduce esto

De las cuentas de la fábrica de IA al control de la fábrica de IA

La infraestructura de IA multiinquilino requiere un plano de servicio de IA capaz de combinar aislamiento, políticas, control del tráfico y observabilidad.