Imagine un mundo en el que las tareas de inferencia de IA no solo se ejecuten más rápido, sino también de forma más segura, con un esfuerzo mínimo de configuración y mantenimiento. ¿Parece demasiado bueno para ser verdad? La última solución basada en Intel OpenVINO lo hace realidad al integrar la unidad de procesamiento de infraestructura (IPU) E2100 «Dayton Peak» de Intel, F5 NGINX Plus y Red Hat OpenShift. Se trata de una configuración revolucionaria diseñada para desarrolladores y empresas que buscan escalar las cargas de trabajo de IA de forma segura y eficiente, a la vez que simplifican la instalación y el funcionamiento.
Permíteme explicarte en detalle cómo encajan todas las piezas de este rompecabezas y por qué esta integración supone un antes y un después para la seguridad y la escalabilidad de la inferencia de IA.
1. Delegación de tareas críticas de infraestructura de IA en la IPU de Intel
En esencia, esta configuración está diseñada para potenciar la inferencia de IA mediante la descarga de tareas críticas de infraestructura en la IPU de Intel. Esto permite que el sistema host, que ejecuta el servidor de inferencia Intel OpenVINO, dedique sus recursos a lo que realmente importa: ofrecer resultados de inferencia rápidos y precisos. En combinación con F5 NGINX Plus y el sistema operativo Enterprise Linux, OpenShift y MicroShift de Red Hat, el sistema logra un equilibrio único entre rendimiento, escalabilidad y seguridad.
“Esta configuración pionera está diseñada para desarrolladores y empresas que buscan escalar las cargas de trabajo de IA de forma segura y eficiente, al tiempo que simplifican la instalación y el funcionamiento.”
Este es el flujo de trabajo principal: el tráfico cifrado fluye desde el cliente de IA hasta NGINX Plus, que está implementado directamente en la IPU de Intel. NGINX Plus actúa como proxy de tráfico, descifra los datos y los enruta de forma segura a través del bus PCIe hasta los servidores de inferencia Intel OpenVINO alojados en el sistema Dell R760. A continuación, los resultados se devuelven a través de NGINX Plus para entregarlos al cliente de IA.
2. Principales ventajas arquitectónicas de ejecutar la infraestructura en la IPU de Intel
Aunque el flujo de trabajo en sí resulta convincente, las ventajas arquitectónicas aportan aún más valor. Al trasladar las tareas de infraestructura a la IPU, la solución ofrece mejoras de rendimiento y una clara división de responsabilidades para los administradores.
Una ventaja fundamental de implementar NGINX Plus en la IPU de Intel es que las tareas de infraestructura se descargan de la CPU del sistema host. Tareas como el enrutamiento del tráfico, el descifrado y el control de acceso, que pueden consumir muchos recursos, se gestionan íntegramente en la IPU. Esto permite que la CPU del host disponga de muchos más ciclos para centrarse en cargas de trabajo específicas de las aplicaciones, como ejecutar modelos adicionales de inferencia de Intel OpenVINO o gestionar procesos de IA que requieren muchos recursos.
En situaciones reales, esto se traduce en un mejor aprovechamiento de su costoso hardware de servidor de alto rendimiento. En lugar de verse sobrecargada por tareas de infraestructura en segundo plano, la CPU del host puede funcionar a pleno rendimiento para las cargas de trabajo que más le importan.
Otra ventaja exclusiva de la solución es la separación entre los servicios de infraestructura y las cargas de trabajo de las aplicaciones. Al ejecutar todas las tareas de infraestructura —como NGINX Plus, la gestión de redes y el control de acceso— en la IPU de Intel, mientras se mantiene el servidor de inferencia Intel OpenVINO en el host, hemos creado una división clara y bien delimitada entre las responsabilidades del plano de control.
El administrador de la aplicación Intel OpenVINO se encarga de gestionar las cargas de trabajo de inferencia, implementar y escalar modelos de IA y optimizar el rendimiento de las aplicaciones. Por su parte, el administrador de la infraestructura supervisa el entorno Intel IPU, gestiona el enrutamiento, aplica el control de acceso (mediante reglas FXP) y garantiza que los servicios de infraestructura funcionen de forma segura y eficiente mediante la configuración de la instancia de NGINX Plus.
Esta separación de funciones elimina la ambigüedad, refuerza la colaboración dentro de la organización y garantiza que cada administrador pueda centrarse plenamente en su respectivo ámbito de especialización.
En conjunto, estas ventajas hacen que esta solución no solo sea práctica, sino también eficiente a la hora de ampliar los flujos de trabajo de IA empresarial, manteniendo al mismo tiempo un uso óptimo de los recursos y el máximo nivel de seguridad.
3. Red Hat OpenShift y MicroShift: impulsando la automatización y la simplificación
Uno de los aspectos más destacados de este sistema es cómo aprovecha Red Hat MicroShift y los operadores de DPU de OpenShift para que la configuración y el escalado prácticamente no requieran esfuerzo. Sinceramente, este tipo de automatización parece cosa de magia cuando se ve en funcionamiento. Veámoslo en detalle:
Hay dos clústeres. Por un lado, está el clúster de OpenShift que se ejecuta en el sistema host. En concreto, se trata de un nodo de trabajo de OpenShift que se ejecuta en el Dell R760. El segundo clúster es un clúster de MicroShift. Está desplegado en los núcleos ARM de la IPU de Intel. Esta versión ligera de OpenShift ofrece la flexibilidad de los contenedores sin la sobrecarga de un entorno Kubernetes completo.
Estos clústeres trabajan conjuntamente mediante operadores de DPU, que se encargan de las tareas más complejas entre bastidores. Se comunican entre sí e intercambian datos sobre los pods y las redes activos. Esta conexión es especialmente importante para gestionar de forma dinámica las reglas de seguridad y tráfico.
Esta es la parte que realmente facilita la vida a los desarrolladores: la creación dinámica de reglas. Antes, configurar reglas FXP (utilizadas para gestionar el control de acceso del tráfico PCIe) requería trabajo manual y conocimientos de programación en P4. Ahora, basta con desplegar las cargas de trabajo y los operadores se encargan de todo automáticamente:
El operador crea dinámicamente nuevas reglas FXP cada vez que se despliegan pods de inferencia de OpenVINO con las etiquetas adecuadas. Estas reglas FXP permiten la comunicación a través del bus PCIe y, a medida que las cargas de trabajo aumentan o disminuyen, el sistema ajusta automáticamente estas reglas de acceso, eliminando las conjeturas del proceso de configuración.
Este nivel de automatización permite que cualquiera, desde desarrolladores hasta administradores de sistemas, pueda centrarse en las cargas de trabajo de IA sin enredarse en los detalles de la configuración de la infraestructura.
4. El flujo de trabajo de inferencia de IA en acción
Ahora profundicemos en cómo funciona todo este sistema para la inferencia de IA. Tomemos como ejemplo el reconocimiento de especies animales en imágenes mediante el kit de herramientas de implementación de aprendizaje profundo Intel OpenVINO. Así es el flujo de trabajo paso a paso
En primer lugar, los datos de imagen cifrados se envían desde un cliente de IA mediante una llamada a la API GRPCS. NGINX Plus, que se ejecuta en la IPU de Intel, descifra los datos y actúa como proxy de tráfico. A continuación, este tráfico fluye de forma segura a través del bus PCIe hasta los servidores de inferencia Intel OpenVINO alojados en el Dell R760. Los servidores de inferencia Intel OpenVINO procesan las imágenes mediante el modelo de IA ResNet para determinar la especie que aparece en cada una. Por ejemplo, podrían inferir: «Este es un golden retriever» o «Ese es un gato atigrado». Los resultados se devuelven por la misma ruta, a través de NGINX Plus, hasta llegar al cliente.
El sistema puede configurarse para gestionar varios clientes de IA que procesen simultáneamente lotes de imágenes. Incluso con varios clientes ejecutando solicitudes de inferencia de forma continua, el sistema seguirá siendo seguro, fluido y ágil.
5. Seguridad mejorada con un control de acceso inteligente
Hablemos de una de las principales ventajas de este sistema: la seguridad. La IPU de Intel no se limita a procesar el tráfico, sino que protege activamente la comunicación entre la infraestructura y las cargas de trabajo de inferencia que se ejecutan en el host.
Así es como funciona: la IPU utiliza reglas FXP para controlar el tráfico a través de la interfaz PCIe. Solo se permite el tráfico autorizado por estas reglas generadas dinámicamente (gestionadas por los operadores de la DPU). Esto garantiza una comunicación segura y, al mismo tiempo, bloquea el acceso no autorizado al sistema host. Este tipo de seguridad por capas ayuda a mitigar los riesgos, especialmente para las empresas que procesan datos confidenciales mediante canalizaciones de IA.
6. Por qué destaca esta solución
Para mí, la magia de esta solución reside en su combinación perfecta de rendimiento, automatización y seguridad. Al aislar la gestión de la infraestructura en la IPU y alojar las cargas de trabajo de inferencia en la máquina host, Intel, Red Hat y F5 han creado una configuración eficiente y segura.
Esto es lo que convierte esta configuración en un punto de inflexión:
- Configuración simplificada:Olvídate de las configuraciones manuales. Gracias a los operadores de DPU y a la creación dinámica de reglas, el sistema es prácticamente «plug and play».
- Escalado dinámico:Tanto si ejecutas un único pod de inferencia como si ejecutas 20, las reglas de comunicación y seguridad se adaptan automáticamente.
- Seguridad mejorada: La clara separación entre la infraestructura y las cargas de trabajo, junto con el control de acceso en el bus PCIe, crea un sólido perímetro de seguridad.
- Uso optimizado de los recursos: La descarga de las tareas de infraestructura en la IPU libera la CPU del host para tareas informáticas de alta prioridad.
- División clara de responsabilidades: Los administradores pueden centrarse en sus respectivos ámbitos —aplicaciones o infraestructura— sin interferir en el trabajo de los demás.
Un gran avance para la inferencia de IA
Esta solución basada en Intel OpenVINO integra hardware y software de forma sencilla y fluida. La IPU E2100 de Intel, Red Hat OpenShift y F5 NGINX Plus constituyen un ejemplo de primer nivel de cómo simplificar canalizaciones complejas de inferencia de IA, al tiempo que se mejoran la seguridad y la escalabilidad.
Tanto si eres desarrollador como arquitecto de infraestructuras o responsable de la toma de decisiones empresariales, esta solución ofrece un modelo práctico para gestionar cargas de trabajo de IA en un entorno moderno basado en contenedores. Si te ha parecido interesante, no dudes en ponerte en contacto con Intel, F5 o Red Hat para descubrir cómo puede integrarse esta configuración en tu flujo de trabajo.
Es emocionante ver cómo está evolucionando esta tecnología y, por mi parte, estoy deseando descubrir la próxima oleada de innovaciones. Para obtener más información, vea mi vídeo de demostración en LinkedIn.
Sobre el autor
Paul Pindell es arquitecto principal en F5, donde trabaja en el área de Alianzas Tecnológicas y supervisa las colaboraciones técnicas de toda la cartera de productos de F5. Desde 2019, también ha desempeñado un papel clave en iniciativas de estrategia corporativa, entre ellas el lanzamiento del primer proyecto de innovación de F5. Paul dirigió el equipo especial de estrategia de IA de F5, centrado en definir cómo los productos actuales de F5 pueden ayudar a proteger y distribuir aplicaciones de IA. Posteriormente, contribuyó al desarrollo de la arquitectura de referencia de IA de F5, que describe los componentes fundamentales, los retos, los riesgos y las soluciones de socios necesarios para respaldar la distribución y la seguridad de las aplicaciones de IA. Paul participa con frecuencia como ponente principal y en sesiones paralelas de eventos del sector, como OPI Summit, OCP Global Summit, Intel InnovatiON, Open Source Summit, Red Hat Tech Exchange y varias ediciones de VMworld en Estados Unidos y EMEA. También es fundador y responsable del mantenimiento de proyectos de código abierto, preside el Comité de Difusión del Open Programmable Infrastructure Project y anteriormente dirigió las operaciones de los centros de datos de respuesta antivirus y los laboratorios de pruebas de software de seguridad de Symantec.
Más artículos de Paul PindellArtículos relacionados del blog
Cree servicios públicos seguros, resilientes y preparados para la IA con F5 y AWS
Descubre cómo las organizaciones del sector público pueden modernizar de forma segura sus aplicaciones y soluciones de IA, al tiempo que gestionan los sistemas heredados, el cumplimiento normativo y el riesgo operativo.
Protección de los sistemas de IA: por qué la seguridad debe avanzar al ritmo de la innovación
Desde acelerar avances revolucionarios en medicina y educación hasta transformar la vida cotidiana, la IA está cambiando nuestra forma de vivir y trabajar. Pero también ofrece grandes oportunidades a los ciberdelincuentes.
Avanzar hacia la optimización digital tras la transformación
Descubre estrategias de optimización digital para garantizar políticas de seguridad coherentes, impulsar la madurez de la transformación digital y superar los retos de la transformación.
Proyecto de código abierto destacado: mayor observabilidad con F5 Cloud Logger iApp
En el punto de mira del código abierto: cómo aumentar la observabilidad. Lee el blog de F5 para descubrir cómo exportar fácilmente la telemetría de BIG-IP a plataformas modernas de análisis en la nube.
El estado de la entrega de aplicaciones en 2018: la transformación digital impulsa la automatización y la multinube pese a las preocupaciones de seguridad
Descubre las principales conclusiones del cuarto informe anual de F5 sobre el estado de la entrega de aplicaciones.
Estado de la entrega de aplicaciones en 2017: automatización, API y DevOps
Descubre el informe sobre el estado de la entrega de aplicaciones de 2017. Lee el blog retrospectivo de F5 sobre los inicios del auge de las redes declarativas y los flujos de DevOps.