GPU como servicio: el catalizador del crecimiento de la IA en la ASEAN, oportunidades y desafíos

Chin LimDirector sénior para la ASEAN, F5

A medida que la inteligencia artificial (IA) sigue avanzando, la demanda de hardware de alto rendimiento se está disparando. A las organizaciones les resulta cada vez más difícil disponer de la potencia de cálculo necesaria para ejecutar modelos y cargas de trabajo de IA complejos. Aquí es donde entra en juego la GPU como servicio (GPUaaS).

Al ofrecer acceso bajo demanda a potentes unidades de procesamiento gráfico (GPU) a través de la nube, GPUaaS está transformando la forma en que las empresas abordan la infraestructura de IA. Elimina la necesidad de realizar costosas inversiones en hardware, permite escalar sin complicaciones y se integra perfectamente con los servicios en la nube existentes, todo ello simplificando las operaciones. Pero ¿cómo funciona exactamente GPUaaS y por qué se está convirtiendo en la solución preferida de las organizaciones impulsadas por la IA?

Liberar el potencial de la IA en la ASEAN

En la Asociación de Naciones del Sudeste Asiático (ASEAN), el mercado de GPUaaS está creciendo a medida que más actores entran en este ámbito para abordar retos regionales específicos. Uno de los principales factores que impulsan este crecimiento es el idioma. Los modelos de lenguaje de gran tamaño (LLM) de código abierto se entrenan principalmente en inglés y suelen tener dificultades con los idiomas locales, ricos en matices culturales. Por ello, las organizaciones necesitan volver a entrenar o ajustar estos modelos con datos locales para garantizar respuestas más precisas y pertinentes en los idiomas nativos.

Al mismo tiempo, las ventajas de utilizar GPUaaS están contribuyendo a impulsar su adopción. La escalabilidad permite a los usuarios ajustar fácilmente los recursos de GPU en función de las necesidades del proyecto, mientras que la elasticidad, mediante un modelo de pago por uso, permite a las organizaciones reducir los gastos totales al pagar únicamente por lo que utilizan. GPUaaS también ofrece acceso inmediato a tecnología de vanguardia, lo que facilita la creación rápida de prototipos y su despliegue, aumenta la flexibilidad y reduce el tiempo de comercialización.

Otra consideración importante es la gravedad, la residencia y la soberanía de los datos. La gravedad de los datos se refiere a la tendencia de estos a atraer aplicaciones y servicios a su ubicación para mejorar el rendimiento y la eficiencia. En muchos casos, los datos deben alojarse en ubicaciones específicas debido a las normativas sobre residencia y soberanía, lo que implica que los proveedores de GPUaaS deben estar cerca de sus bases de usuarios. La IA soberana, que pone de relieve la capacidad de un país para desarrollar IA utilizando su propia infraestructura, sus datos y sus recursos, también desempeña un papel importante a la hora de determinar la demanda de GPUaaS localizada.

Por último, el coste y la oferta limitada de GPU por parte de los proveedores de servicios en la nube (CSP) de la ASEAN son factores que deben tenerse en cuenta a la hora de adoptar GPUaaS. Según un reciente informe de Dell, las implementaciones de IA en las propias instalaciones pueden suponer un ahorro de hasta el 75 % en comparación con las soluciones basadas en CSP. GPUaaS ofrece una alternativa rentable que permite a las organizaciones acceder a GPU de alto rendimiento sin realizar una inversión inicial considerable en hardware, lo que la convierte en una opción atractiva para quienes buscan ampliar sus capacidades de IA en la región.

Equilibrar las ventajas y los riesgos de GPUaaS

Aunque las ventajas de GPUaaS contribuyen a impulsar su adopción generalizada, también plantean una serie de inquietudes. Una cuestión clave es la seguridad de los datos, ya que los datos transmitidos hacia y desde las GPU pueden ser vulnerables a interceptaciones o accesos no autorizados. Además, el procesamiento de datos en GPU remotas puede requerir el cumplimiento de distintas normativas de protección de datos y otros requisitos legales. Otra preocupación es el rendimiento, pues la dependencia de Internet o de conexiones privadas, así como las fluctuaciones en el rendimiento de las GPU, podrían afectar a la velocidad y la capacidad de respuesta de las aplicaciones. GPUaaS depende de conexiones estables y de alta velocidad, por lo que, para lograr un rendimiento óptimo, suelen preferirse las redes privadas frente a la Internet pública.

¿Cómo ayuda F5?

F5 ofrece innovadores servicios SaaS multinube de redes, optimización del tráfico y seguridad para nubes públicas y privadas, incluidos los proveedores de GPUaaS, todo ello desde una única consola.

Al crear una superposición de tejido de malla cifrado sobre cualquier red, las organizaciones pueden conectarse a un proveedor de GPUaaS (fábrica de IA) para realizar inferencias, generar embeddings o entrenar modelos de IA. Gracias a la segmentación completa de la red y las aplicaciones, toda la conectividad de la superposición es privada y segura, y se implementa sobre una infraestructura de red existente. Además, el tejido de malla cifrado de F5 aborda los retos de la resiliencia digital mediante la supervisión, detección, optimización y distribución dinámicas del tráfico hacia los componentes de IA que funcionan correctamente, lo que garantiza que sus aplicaciones de IA estén siempre operativas y disponibles.

A continuación se muestra un ejemplo de una implementación de generación aumentada por recuperación (RAG) con un LLM que utiliza una fábrica de IA de un proveedor de GPUaaS. Dado que los datos se transportan de forma segura a través de la malla protegida mediante cifrado, no hay que preocuparse por los datos en tránsito; además, no se almacenan datos en reposo en el proveedor de GPUaaS. Los datos en reposo del corpus de una organización permanecen en su ubicación original sin modificación alguna. Esta arquitectura también permite realizar inferencias de IA en el extremo para aplicaciones sensibles a la latencia (en una nube pública o incluso en sucursales).

Si la aplicación de IA (como un chatbot agéntico con RAG) se hace accesible desde Internet, es importante considerar un servicio de protección de aplicaciones web y API (WAAP) basado en una red en la nube para protegerla frente a ciberataques.

Figura 1: Ejemplo de un despliegue de generación aumentada por recuperación (RAG) con un LLM, que aprovecha una fábrica de IA de un proveedor de GPUaaS

Al aprovechar una plataforma con una única consola de gestión, ahora es posible garantizar el cumplimiento normativo, la observabilidad y el control de todo el tráfico, incluidas las API que circulan de norte a sur y de este a oeste a través de la malla cifrada.

Figura 2: El descubrimiento de API, la gestión de la postura de seguridad y la protección de API son fundamentales para la seguridad de los LLM de IA.

Además, el tráfico que circula tanto por la Internet pública como por la malla privada cifrada debe ser observable y controlable por los equipos de operaciones de red (NetOps) y de seguridad (SecOps) para gestionar lo que, en esencia, es una infraestructura multinube compleja y heterogénea.

Figura 3: Las redes multicloud y la observabilidad son esenciales en una implementación de IA distribuida, que puede abarcar centros de datos locales, nubes privadas, nubes públicas y el edge.

¿Quieres saber más?

A medida que se acelera la adopción de la IA, dotar de resiliencia a los sistemas de IA resulta fundamental para garantizar el éxito a largo plazo. GPUaaS ofrece una solución escalable y eficiente, pero las organizaciones deben afrontar retos como la seguridad de los datos, la variabilidad del rendimiento y el cumplimiento normativo. Al abordar estas cuestiones y aprovechar la flexibilidad de GPUaaS, las empresas pueden posicionarse mejor para responder a las crecientes exigencias de las cargas de trabajo impulsadas por la IA.

Si quiere descubrir cómo la resiliencia de la IA puede impulsar a su organización, visítenos en la próxima conferencia GovWare en el stand P06, del 15 al 17 de octubre, en el Sands Expo and Convention Centre, donde analizaremos estas tendencias y soluciones con más detalle.

Sobre el autor

Chin LimDirector sénior para la ASEAN, F5

Con sede en Singapur y ampliamente conocido como Chin, en su cargo de director sénior de Ventas Estratégicas de F5 ASEAN, lidera la estrategia de interacción con los clientes en la región de la ASEAN. Chin cuenta con más de 25 años de experiencia en desarrollo de aplicaciones y operaciones de infraestructura, con especial atención a la arquitectura nativa de la nube, la entrega de aplicaciones modernas basadas en microservicios y la infraestructura perimetral segura. Antes de incorporarse a F5, trabajó en Borland Software como director de Gestión de Ventas de Productos para Asia-Pacífico, donde se encargó de la gestión del ciclo de vida de las aplicaciones y del middleware. Antes de trabajar en Borland Software, dirigió un equipo de responsables de soluciones y consultores en BEA, y ayudó a diversas empresas a diseñar arquitecturas de entornos de aplicaciones distribuidas utilizando las plataformas WebLogic y Tuxedo. Chin es licenciado con honores de primera clase en Ingeniería Informática por la Universidad de Newcastle, Australia.

Más artículos de Chin Lim