Convierte la capacidad de GPU en un negocio de Kubernetes gestionado

Una neocloud es un proveedor de servicios en la nube centrado en ofrecer capacidad de GPU para la IA, en lugar de recursos de computación de propósito general. La mayoría comenzó alquilando servidores físicos con GPU por horas y ahora está incorporando Kubernetes gestionado, GPU como servicio y, en algunos casos, servicios de inferencia, para que los clientes empresariales dispongan de una plataforma en lugar de meros servidores. Este cambio aumenta los ingresos que puede generar cada hora de GPU y eleva las expectativas de los clientes respecto a la red subyacente.

El aislamiento funciona por capas. Los espacios de nombres y el control de acceso basado en roles delimitan lo que gestiona cada inquilino, y los clústeres virtuales añaden un plano de control por inquilino. El aislamiento a nivel de red, normalmente mediante EVPN-VXLAN con una VRF dedicada por inquilino, mantiene el tráfico de cada inquilino en su propio dominio de enrutamiento al entrar y salir del clúster. A su vez, las políticas de entrada, salida y cortafuegos específicas de cada inquilino en el perímetro del clúster determinan a qué puede acceder cada uno.

El modelo bare metal consiste en alquilar servidores completos, en los que cada cliente instala y ejecuta su propia pila de software. La GPU como servicio y Kubernetes gestionado añaden una capa de plataforma: planificación de cargas de trabajo, redes, aislamiento entre clientes, tráfico de entrada y salida, y soporte. El proveedor asume más responsabilidades y puede cobrar más por hora de GPU, y los clientes empresariales esperan cada vez más disponer de esa plataforma en lugar de simples servidores.

Asigna a cada inquilino su propia ruta de salida. El tráfico de salida por inquilino con direcciones de origen estables permite a los sistemas externos incluir a un inquilino en sus listas de permitidos por dirección, evita que el tráfico de un inquilino parezca proceder de otro y facilita el registro y la auditoría de las conexiones salientes por destino. Las políticas de red de Kubernetes ayudan, pero actúan a nivel de pods y bloques de IP dentro del clúster.

No. BIG-IP Next for Kubernetes se ejecuta en las CPU estándar del host, donde también se gestionan el aislamiento de inquilinos y el tráfico de entrada y salida. Las DPU NVIDIA BlueField trasladan la ruta de datos fuera del host y aplican las políticas al margen del sistema operativo del host, lo que resulta ventajoso a medida que aumenta el número de inquilinos y los núcleos del host adquieren más valor como capacidad comercializable. Los resultados medidos en modo DPU no son extrapolables a los despliegues en hosts.