Se dice que el presupuesto de TI es donde una estrategia prospera o fracasa. Si es así, las estrategias de IA gozan de muy buena salud.
Nuestro estudio más reciente indica que las organizaciones destinan, de media, el 18 % del presupuesto de TI exclusivamente a la IA. Pero es la forma en que se distribuye ese 18 % lo que nos permite vislumbrar sus estrategias de IA.
Alrededor del 18 % del presupuesto destinado actualmente a la IA se dedica a servicios de IA, es decir, aplicaciones de terceros que integran u ofrecen algún tipo de herramienta de IA. El resto se destina a modelos (19 %), desarrollo (16 %), seguridad (9 %), tecnologías de datos (11 %) y GPU (9 %).
Si a esto se suman el reparto equitativo del gasto entre el entrenamiento (50 %) y la inferencia (50 %), así como el hecho de que la IA se distribuirá entre la nube pública (80 %) y las instalaciones locales (54 %), cabe deducir que las organizaciones están planificando cambios importantes en su infraestructura para dar soporte a todo el ciclo de vida de la IA.
Parte de ese soporte requiere replantearse la red.
Desplegar la infraestructura necesaria para admitir tanto el entrenamiento como la inferencia exige prestar especial atención a los entornos de aplicaciones modernos, como Kubernetes, y a cómo fluirá el tráfico entre las instancias de IA, así como entre los modelos y las aplicaciones que los utilizan.
Aunque NVIDIA no es el único proveedor de tecnologías de aceleración (GPU, DPU, IPU, etc.), sí está a la vanguardia en lo que respecta a las arquitecturas de referencia. Es precisamente en esos detalles donde encontramos repercusiones significativas para la arquitectura de red y de escalabilidad.
Pods, clústeres y fábricas de IA
Actualmente existe una gran inquietud en el sector por el uso de terminología específica de Kubernetes. Aunque los operadores ya han llegado a comprender la definición de pods y clústeres, los principales proveedores de GPU están desdibujando esas definiciones a la hora de desplegar inferencia a gran escala.
Por ejemplo, NVIDIA habla de pods de IA, que son clústeres de Kubernetes. Y denomina «fábrica de IA» a un conjunto de clústeres relacionados.
No estoy aquí para discutir sobre terminología —rara vez gano esas discusiones—, así que prefiero centrarme en estas unidades de capacidades de IA y en lo que implican para la red.
Una de las realidades de escalar la IA generativa, en particular, es la demanda de ciclos de computación. Concretamente, ciclos de computación de GPU. Para satisfacer esta demanda, especialmente en el caso de los proveedores de servicios de IA, es necesario crear unidades de computación de IA complejas. Estas unidades son lo que NVIDIA denomina pods de IA, aunque sin duda otros tendrán sus propios nombres específicos para ellas. En esencia, son clústeres de Kubernetes.
Eso implica una gran cantidad de tráfico E-O dentro de la unidad de computación de IA, pero también una gran cantidad de tráfico N-S hacia el interior de esas unidades de computación de IA. Y es ahí donde observamos un cambio significativo en la frontera entre la infraestructura tradicional de los centros de datos y los nuevos complejos de computación de IA.
En ese límite se producen muchas cosas, especialmente para los proveedores de servicios que necesitan aislar la red de cada inquilino. También existe una necesidad considerable de gestionar el tráfico de las capas 4 a 7, incluida la limitación de la tasa para no saturar los recursos de IA. Asimismo, se requiere el equilibrio de carga habitual para facilitar el escalado y la distribución, además de servicios de red como funcionalidades avanzadas de CGNAT.
Las empresas también necesitan gran parte de estas capacidades, ya que esperan ampliar sus implementaciones de IA para dar soporte a un conjunto cada vez mayor de casos de uso empresariales, desde la productividad, la generación de código y contenidos y la automatización de flujos de trabajo hasta, por supuesto, el creciente interés por utilizar la IA en las operaciones. Aunque el aislamiento por inquilino puede no ser un requisito empresarial, puede resultar útil para garantizar que las cargas de trabajo de IA de alta prioridad —como la automatización y el análisis operativo— no se vean asfixiadas por cargas de trabajo de IA de menor prioridad.
Ya se trate de un proveedor de servicios o de una empresa, la red del centro de datos va a experimentar cambios significativos. Incorporar cargas de trabajo de IA a una arquitectura tradicional de centro de datos puede impedir que esta escale o incluso que funcione de forma fiable.
Comprender los cambios en la arquitectura del centro de datos es importante, al igual que disponer de herramientas y tecnologías como BIG-IP Next SPK que proporcionen las capacidades necesarias para modernizar con éxito la red del centro de datos, de modo que pueda admitir todas las cargas de trabajo de IA y las actividades empresariales que, en última instancia, dependerán de ellas.
Sobre el autor
Lori MacVittie es ingeniera distinguida y evangelista jefe en la Oficina del CTO de F5, y cuenta con una amplia experiencia en entrega de aplicaciones, estrategia de automatización e infraestructura. Es conocida por convertir la complejidad en claridad, ya sea definiendo mecanismos de protección para agentes de IA, analizando arquitecturas multinube frágiles o explorando los límites de los sistemas escalables. Aporta más de treinta años de experiencia en el sector en desarrollo de aplicaciones, arquitectura de TI y operaciones de redes y sistemas. Antes de incorporarse a F5, fue una galardonada editora de tecnología. MacVittie posee un máster en Informática y es una autora prolífica cuyas publicaciones abarcan la seguridad, la nube y la arquitectura empresarial. También es una apasionada de los juegos de mesa y los videojuegos, y expresa sin complejos sus firmes opiniones sobre el queso.
Más artículos de Lori Mac VittieArtículos relacionados del blog
Proteger los endpoints de las API dificulta la seguridad de las API
Descubre las complejidades de la seguridad de las API, los retos a los que se enfrentan las organizaciones, la evolución de los ataques contra endpoints de API y la necesidad de políticas de seguridad adaptadas.
¿Qué es el sesgo de la IA y por qué es importante para TI?
Descubre los fundamentos del aprendizaje de la IA. Aprende cómo pueden surgir sesgos en la IA y qué riesgos plantean para las TI y la transformación digital.
Redefiniendo la ciberseguridad en el extremo de la nube distribuida con IA y telemetría en tiempo real
La transformación digital y la adopción de tecnologías en la nube están provocando cambios en las arquitecturas de las aplicaciones. Estos cambios introducen nuevas superficies de ataque, que son el objetivo de métodos de ataque avanzados, altamente organizados y con motivaciones económicas. Mediante el uso del framework Morpheus de NVIDIA, F5 está investigando técnicas para detectar estas amenazas avanzadas con telemetría en tiempo real y análisis basados en IA.
El papel de la nube en las aplicaciones nativas del edge
No debería sorprender que, al igual que la aparición de la nube dio lugar a las aplicaciones nativas de la nube, el edge esté impulsando un conjunto de aplicaciones nativas del edge. Sin embargo, estas aplicaciones no residirán únicamente en el edge. Al mismo tiempo, están surgiendo nuevos patrones arquitectónicos que aprovechan las aplicaciones alojadas en la nube y en el centro de datos.
La creciente diversidad de ubicaciones y usuarios está impulsando a las empresas hacia el edge
En el contexto del ámbito de las aplicaciones, el término «usuario» siempre se ha referido a la entidad que interactúa con una aplicación. Del mismo modo que los cambios en las arquitecturas de las aplicaciones impulsan cambios en las tecnologías que permiten ofrecerlas y protegerlas, los cambios en la definición de usuario han provocado cambios en los lugares donde se despliegan las aplicaciones.
El edge está impulsando un renacimiento de las infraestructuras
A medida que las organizaciones aumentan la generación de datos y tratan de extraer valor empresarial de ellos, sin duda recurrirán a la analítica y la automatización basadas en la IA y el aprendizaje automático. Precisamente este tipo de cargas de trabajo son las que más se beneficiarían de una infraestructura optimizada y, sin embargo, hoy en día son las que menos probabilidades tienen de poder aprovecharla.