La infraestructura de IA no se ralentiza únicamente cuando la capacidad de computación es limitada. También lo hace cuando los datos no pueden transferirse con la suficiente rapidez, uniformidad o fiabilidad para mantener en funcionamiento los flujos de trabajo de IA. Para el entrenamiento y el ajuste fino de modelos, así como para la generación aumentada por recuperación (RAG), el almacenamiento de objetos compatible con S3 se ha convertido en una base fundamental. Los conjuntos de datos masivos se alojan en almacenes de objetos. Los procesos de entrenamiento acceden a ellos a gran escala. Las canalizaciones RAG dependen de un acceso rápido y predecible a datos que cambian continuamente.
Esto convierte la fiabilidad, la escalabilidad y la seguridad de la ruta de datos entre el almacenamiento y los recursos de computación en una cuestión crítica para los entornos de producción.
La IA necesita una ruta de datos más robusta
Dell ObjectScale está diseñado para el almacenamiento empresarial de objetos a escala de IA, lo que ayuda a las organizaciones a gestionar la recopilación de datos a gran escala, el entrenamiento de IA generativa y las cargas de trabajo modernas de datos no estructurados. Sin embargo, a medida que los entornos de IA pasan de proyectos piloto a producción, el rendimiento del almacenamiento es solo una parte de la arquitectura global. Las empresas también necesitan una capa de entrega capaz de optimizar el tráfico, mantener la disponibilidad, aplicar políticas y garantizar que los flujos de procesamiento sigan funcionando cuando el entorno está sometido a presión.
Ese es el papel de F5 BIG-IP en la entrega de datos para la IA.
F5 BIG-IP proporciona un punto de control programable y de alto rendimiento para el almacenamiento de objetos compatible con S3. Se sitúa entre los clientes S3 y entornos de almacenamiento como Dell ObjectScale para gestionar de forma inteligente el tráfico S3, abstraer los endpoints de almacenamiento del backend, supervisar su estado y dirigir los flujos de datos en función de la disponibilidad, el rendimiento y las políticas.
Para los arquitectos, esto significa que las aplicaciones y los flujos de trabajo de IA pueden mantenerse desacoplados de la implementación de almacenamiento subyacente. Para los directivos, significa que la infraestructura de IA puede gestionarse con mayor fiabilidad, control y resiliencia.
“A medida que los entornos de IA pasan de proyectos piloto a producción, el rendimiento del almacenamiento es solo una parte de la arquitectura global. Las empresas también necesitan una capa de entrega que pueda optimizar el tráfico, mantener la disponibilidad, aplicar políticas y garantizar que los flujos de trabajo sigan funcionando cuando el entorno está sometido a presión.”
SecureIQLab valida la arquitectura y los resultados
F5 ha completado recientemente pruebas de laboratorio de ingeniería con el almacenamiento Dell ObjectScale, utilizando F5 VELOS y BIG-IP con un clúster S3 de Dell ObjectScale. Posteriormente, SecureIQLab validó los resultados, que se publican ahora en un nuevo informe independiente.
Las pruebas se centraron en dos cuestiones prácticas que los arquitectos empresariales se plantearán antes de implementar una capa de entrega delante del almacenamiento para IA.
- ¿Se puede insertar BIG-IP en la ruta de datos de S3 sin comprometer el rendimiento e incluso mejorar las métricas de rendimiento en condiciones de red que no sean óptimas?
- ¿Puede BIG-IP aportar resiliencia cuando el entorno de almacenamiento se encuentra en condiciones adversas?
La respuesta a ambas preguntas fue afirmativa.
BIG-IP mantuvo el rendimiento
Muchos compradores de soluciones de almacenamiento dan por sentado que añadir un controlador de entrega de aplicaciones delante de un almacén de objetos de alto rendimiento generará una sobrecarga considerable. Con razón, los arquitectos quieren pruebas antes de incorporar un nuevo punto de control en la ruta de datos.
En todo el conjunto de pruebas —tres tamaños de objeto (8 KiB, 100 MiB y carga de trabajo mixta) y tres condiciones de latencia de red (RTT de 0 ms, 10 ms y 75 ms)—, el rendimiento de BIG-IP se mantuvo aproximadamente dentro de un margen de ±6 % con respecto al valor de referencia sin protección en todas las combinaciones probadas. Con un perfil TCP personalizado y correctamente ajustado, la inserción es predecible y uniforme, y no provoca el tipo de desplome del rendimiento que históricamente ha llevado a los arquitectos a actuar con cautela al insertar un proxy delante del almacenamiento.
La implicación práctica es que BIG-IP puede incorporarse como un punto de control de gran valor sin convertirse en el cuello de botella. Los arquitectos pueden adoptar BIG-IP por sus capacidades de resiliencia y gestión del tráfico sin tener que sacrificar el rendimiento para obtenerlas.
La resiliencia es el valor más importante
La neutralidad del rendimiento es el requisito previo. La resiliencia es el motivo para implementarlo.
Las pruebas validadas por SecureIQLab examinaron dos escenarios adversos que reflejan condiciones reales de producción.
Durante un ataque DDoS simulado dirigido a un único nodo de ObjectScale, el clúster sin protección sufrió una interrupción considerable: el nodo afectado empezó a experimentar un agotamiento de las conexiones, la interfaz de gestión de ObjectScale dejó de responder en todo el clúster y el generador de cargas de trabajo dejó de enviar tráfico a los nodos. Con BIG-IP en la ruta de datos, las mismas condiciones de ataque produjeron un resultado diferente: BIG-IP absorbió y gestionó el tráfico de ataque a nivel de conexión, los nodos de backend siguieron procesando las cargas de trabajo de las aplicaciones sin fallos y la interfaz de gestión de ObjectScale continuó respondiendo.
En caso de fallo de red de un nodo de backend, BIG-IP supervisó continuamente la disponibilidad de los nodos de backend y el estado de las conexiones. Cuando se interrumpió la conectividad con un nodo, el tráfico se redistribuyó dinámicamente entre los nodos operativos restantes sin necesidad de intervención por parte del cliente. Las cargas de trabajo de S3 activas continuaron sin interrupciones del servicio.
Para los equipos de infraestructura de IA, esa es la cuestión arquitectónica de mayor alcance. En producción, la ruta de datos debe resistir condiciones operativas reales. Los nodos fallan. Las redes se degradan. El tráfico aumenta de forma repentina. El tráfico malicioso compite con el legítimo. Las ventanas de mantenimiento coinciden con los picos de demanda del negocio.
Sin un punto de control específico, estos eventos pueden provocar la paralización de los procesos de entrenamiento, errores en las consultas RAG, GPU inactivas y experiencias de usuario impredecibles.
La IA en producción requiere puntos de control
BIG-IP ayuda a abordar esos riesgos mediante la creación de una capa de entrega resiliente para los datos de IA. Puede supervisar el estado del almacenamiento, redirigir el tráfico para evitar los nodos no disponibles, mantener la continuidad del servicio y aplicar controles de tráfico antes de que el clúster de almacenamiento se vuelva inestable.
También proporciona un punto desde el que aplicar de forma coherente las medidas de seguridad y gobernanza, incluida la gestión de TLS, la mitigación de ataques DDoS, la aplicación de políticas compatibles con S3 y futuros controles del plano de datos que permitan a los clientes obtener una contrapresión predecible en lugar de tiempos de espera aleatorios.
Para las empresas que implementan clústeres de almacenamiento para IA, este es un patrón de arquitectura práctico: combinar un almacenamiento de objetos escalable y compatible con S3 con una capa de entrega inteligente diseñada específicamente para ofrecer rendimiento, aplicar políticas y garantizar la resiliencia.
La conclusión para los líderes de IA
Para los responsables de IA, el valor empresarial es evidente. Una prestación resiliente del almacenamiento reduce el riesgo operativo. Un punto de control programable aporta a los equipos más confianza a medida que las cargas de trabajo de IA pasan de la fase experimental a la producción. Y, dado que BIG-IP puede incorporarse sin penalizar el rendimiento, las ventajas de la resiliencia no implican sacrificar el rendimiento.
El éxito de la IA depende de algo más que del modelo. Depende del sistema que lo rodea.
Descargue el informe de SecureIQLab para consultar los resultados validados de F5 BIG-IP con Dell ObjectScale y descubrir cómo F5 ayuda a que los canales de datos de IA sean más rápidos, resilientes y estén listos para su uso en producción.
Además, no se pierda nuestro seminario web «Mejora del rendimiento de la IA con la infraestructura de Dell».
Sobre los autores
Paul Pindell es arquitecto principal en F5, donde trabaja en el área de Alianzas Tecnológicas y supervisa las colaboraciones técnicas de toda la cartera de productos de F5. Desde 2019, también ha desempeñado un papel clave en iniciativas de estrategia corporativa, entre ellas el lanzamiento del primer proyecto de innovación de F5. Paul dirigió el equipo especial de estrategia de IA de F5, centrado en definir cómo los productos actuales de F5 pueden ayudar a proteger y distribuir aplicaciones de IA. Posteriormente, contribuyó al desarrollo de la arquitectura de referencia de IA de F5, que describe los componentes fundamentales, los retos, los riesgos y las soluciones de socios necesarios para respaldar la distribución y la seguridad de las aplicaciones de IA. Paul participa con frecuencia como ponente principal y en sesiones paralelas de eventos del sector, como OPI Summit, OCP Global Summit, Intel InnovatiON, Open Source Summit, Red Hat Tech Exchange y varias ediciones de VMworld en Estados Unidos y EMEA. También es fundador y responsable del mantenimiento de proyectos de código abierto, preside el Comité de Difusión del Open Programmable Infrastructure Project y anteriormente dirigió las operaciones de los centros de datos de respuesta antivirus y los laboratorios de pruebas de software de seguridad de Symantec.
Más artículos de Paul PindellMark Menger es arquitecto de soluciones en F5 y está especializado en alianzas tecnológicas en los ámbitos de la IA y la seguridad. Lidera el desarrollo de la arquitectura de referencia de IA de F5, impulsando soluciones de IA seguras y escalables. Gracias a su experiencia como arquitecto de soluciones globales e ingeniero de soluciones, Mark contribuyó a la arquitectura de nube segura de F5 y participó en el desarrollo de su arquitectura distribuida de cuatro niveles. Como coautor de Solving IT Complexity, aporta su experiencia en la resolución de retos de TI. Anteriormente, trabajó como desarrollador de aplicaciones y arquitecto empresarial, centrándose en las aplicaciones modernas, la automatización y la aceleración del valor obtenido de las inversiones en IA.
Más artículos de Mark MengerHunter Smit es director sénior de marketing de producto para soluciones y estrategia en F5. Lidera el marketing de soluciones de toda la cartera de F5, incluidas la infraestructura de IA y la seguridad de aplicaciones, e impulsa la entrada de F5 en el mercado emergente de la entrega de datos para IA. Hunter es miembro del Consejo Asesor de la Escuela de Negocios de la Universidad Whitworth y ha ejercido como profesor adjunto de marketing de producto. Obtuvo un MBA y un grado en Administración y Dirección de Empresas, con especialización en gestión, por la Universidad Whitworth.
Más artículos de Hunter SmitArtículos relacionados del blog
Cree servicios públicos seguros, resilientes y preparados para la IA con F5 y AWS
Descubre cómo las organizaciones del sector público pueden modernizar de forma segura sus aplicaciones y soluciones de IA, al tiempo que gestionan los sistemas heredados, el cumplimiento normativo y el riesgo operativo.
Protección de los sistemas de IA: por qué la seguridad debe avanzar al ritmo de la innovación
Desde acelerar avances revolucionarios en medicina y educación hasta transformar la vida cotidiana, la IA está cambiando nuestra forma de vivir y trabajar. Pero también ofrece grandes oportunidades a los ciberdelincuentes.
Avanzar hacia la optimización digital tras la transformación
Descubre estrategias de optimización digital para garantizar políticas de seguridad coherentes, impulsar la madurez de la transformación digital y superar los retos de la transformación.
Proyecto de código abierto destacado: mayor observabilidad con F5 Cloud Logger iApp
En el punto de mira del código abierto: cómo aumentar la observabilidad. Lee el blog de F5 para descubrir cómo exportar fácilmente la telemetría de BIG-IP a plataformas modernas de análisis en la nube.
El estado de la entrega de aplicaciones en 2018: la transformación digital impulsa la automatización y la multinube pese a las preocupaciones de seguridad
Descubre las principales conclusiones del cuarto informe anual de F5 sobre el estado de la entrega de aplicaciones.
Estado de la entrega de aplicaciones en 2017: automatización, API y DevOps
Descubre el informe sobre el estado de la entrega de aplicaciones de 2017. Lee el blog retrospectivo de F5 sobre los inicios del auge de las redes declarativas y los flujos de DevOps.