Así mejora un proveedor global de servicios en la nube la entrega de datos con F5

Hunter SmitGerente sénior de marketing de producto | F5

El almacenamiento de objetos se diseñó como una solución asequible y duradera para guardar datos, no como el servicio con más actividad del centro de datos. Hasta la llegada de la era de la IA, esa distinción no tenía demasiada importancia, ya que el tráfico que recibía —copias de seguridad, archivos, contenido multimedia y recursos de aplicaciones, entre otros— no era especialmente exigente. Pero entonces llegaron las cargas de trabajo de entrenamiento y ajuste de modelos y de generación aumentada por recuperación (RAG), y los patrones de lectura y escritura pasaron de realizar recuperaciones ocasionales a saturar el sistema de forma continua.

Ese cambio plantea un problema económico. Es probable que su clúster de GPU sea el activo más caro del balance de su infraestructura, y no genera ningún rendimiento mientras espera los datos. Cada interrupción en la ruta de almacenamiento repercute en un hardware cuyo coste por hora supera al de casi cualquier otro sistema que utilice, lo que significa que las capas han invertido sus papeles. La capa de entrega situada delante del almacenamiento determina ahora la rentabilidad de sus recursos informáticos más caros, y esa ruta ha dejado de ser una mera infraestructura para convertirse en un producto por derecho propio.

Qué hizo al respecto un operador de almacenamiento a hiperescala

Uno de los clientes de F5, un proveedor global de servicios en la nube, opera un servicio de almacenamiento de objetos compatible con S3 en decenas de centros de datos. El servicio es el repositorio principal de los datos no estructurados de sus clientes y, cada vez más, la fuente de datos para los procesos de entrenamiento de modelos de esos clientes. Todas las operaciones de lectura y escritura pasan por una capa de balanceo de carga antes de llegar a un nodo de indexación o almacenamiento, y esa capa, basada en dispositivos Citrix NetScaler, se había convertido en el cuello de botella.

Los requisitos no eran nada fuera de lo común. Eran requisitos habituales, pero la economía de cumplirlos a esa escala los hacía extremadamente difíciles. El proveedor necesitaba terminar y volver a cifrar TLS a velocidad de línea, enrutar en la capa 7 según el nombre del bucket de S3 y aplicar límites de velocidad de forma coherente en un clúster activo-activo, tanto límites globales en el ámbito del servicio como límites específicos por bucket, para evitar que el trabajo de ingesta de un tenant acaparase los recursos en detrimento de los demás. También necesitaba balanceo global de carga de servidores entre distintas ubicaciones y compatibilidad con FIPS para los tenants sujetos a regulación. Al final, garantizar la equidad entre tenants es un problema de políticas en la capa de entrega, porque cuando el tráfico llega a los nodos de almacenamiento, el daño ya está hecho.

El proveedor sustituyó su infraestructura heredada de controladores de entrega de aplicaciones (ADC) por F5 BIG-IP implementado en F5 rSeries. TLS finaliza y vuelve a cifrar las conexiones a velocidad de línea. Las solicitudes se enrutan en la capa 7 según el nombre del bucket de S3, y la política de cada bucket se define ahora en un único lugar, en vez de replicarse en toda la infraestructura. Los límites de velocidad se definen una sola vez y se aplican de manera uniforme en todo el clúster, en lugar de ajustarse manualmente en cada equipo. El balanceo global de carga de servidores dirige el tráfico entre los distintos sitios, y los clientes sujetos a normativas mantienen la cobertura FIPS.

El hardware cambió tanto como la implementación de las políticas. La nueva infraestructura ocupa un 80 % menos de espacio físico, ofrece 2,4 veces el rendimiento nominal, consume aproximadamente una quinta parte de la energía por gigabit nominal y reduce en 222 el número de dispositivos que hay que parchear, certificar y reparar. La capacidad adicional suele adquirirse a costa de los dos recursos más escasos en un centro de datos: la potencia eléctrica y las unidades de rack. En este caso, llegó acompañada de una reducción de ambos, lo que convierte la capacidad recuperada en una opción, en lugar de una compra. En unas instalaciones donde la capacidad de IA se adquiere en términos de potencia y espacio, el proveedor dispone ahora de más de ambos recursos sin haberse comprometido de antemano sobre cómo los utilizará.

Esto es lo que F5 denomina «entrega de datos para IA». La ruta entre el almacenamiento y la computación constituye una frontera, y la inserción de un punto de control en ella permite aplicar de forma efectiva las políticas de accesibilidad y garantizar la resiliencia de la entrega. Esto implica tratar dicha ruta como planos de control y de datos diseñados específicamente, con sus propios requisitos de rendimiento, seguridad y gobernanza, en lugar de considerarla un elemento secundario añadido a posteriori al sistema de almacenamiento.

Por qué esto es importante aunque nunca entrenes un modelo

Casi nada de la situación de este cliente es específico del aprendizaje automático o del entrenamiento de modelos de frontera, y esa es precisamente la cuestión. Dado que S3 funciona sobre HTTP, todas las disciplinas que F5 ha desarrollado durante tres décadas para el tráfico web —desde la distribución inteligente de la carga basada en el estado de los sistemas y la inspección de protocolos hasta la descarga del cifrado y la limitación por inquilino— se aplican directamente al almacenamiento de objetos en cuanto se coloca delante un proxy con las capacidades adecuadas. El mismo punto de acceso que mantiene estable y a pleno rendimiento un proceso de entrenamiento también permite que las ventanas de copia de seguridad sean predecibles, que las consultas analíticas mantengan un rendimiento constante y que una aplicación que genera demasiado tráfico no degrade el almacenamiento para los demás. La entrega de datos para la IA es la carga de trabajo que finalmente ha hecho imposible seguir ignorando ese punto de acceso.

Tres preguntas para quien gestione su almacenamiento

Al evaluar la estrategia de almacenamiento de su propia organización, estas son tres preguntas que debe tener en cuenta:

1. Cuando se degrada un nodo de almacenamiento, ¿qué mecanismo redirige el tráfico y con qué rapidez? Si la respuesta es que el cliente vuelve a intentarlo, no dispone de una capa de entrega, sino de una arquitectura de entrega basada en la esperanza.
2. ¿Puedes limitar la tasa de un único inquilino o bucket sin modificar el propio clúster de almacenamiento? Si no puedes, tu política de equidad no es más que una sugerencia.
3. ¿Qué parte de su presupuesto de renovación del almacenamiento da por sentado que la puerta de entrada permanecerá invariable? Este proveedor descubrió que el verdadero potencial estaba en la capa de entrega, no en el almacenamiento subyacente.

La conclusión es que la capacidad y la entrega son decisiones distintas. La capacidad es algo que se compra. La entrega es algo que se diseña. A medida que los flujos de datos se convierten en las cargas de trabajo de las que más depende su empresa, los equipos que toman la delantera son los que tratan la ruta hacia el almacenamiento con el mismo rigor que siempre han aplicado al propio almacenamiento.

El compromiso de F5 con la IA no termina aquí: descubre cómo F5 protege y distribuye aplicaciones de IA en cualquier entorno.

Sobre el autor

Hunter SmitGerente sénior de marketing de producto | F5

Hunter Smit es director sénior de marketing de producto para soluciones y estrategia en F5. Lidera el marketing de soluciones de toda la cartera de F5, incluidas la infraestructura de IA y la seguridad de aplicaciones, e impulsa la entrada de F5 en el mercado emergente de la entrega de datos para IA. Hunter es miembro del Consejo Asesor de la Escuela de Negocios de la Universidad Whitworth y ha ejercido como profesor adjunto de marketing de producto. Obtuvo un MBA y un grado en Administración y Dirección de Empresas, con especialización en gestión, por la Universidad Whitworth.

Más artículos de Hunter Smit