¿Qué es un centro de datos de IA?

Más información

Un centro de datos de IA es una instalación diseñada específicamente para ejecutar cargas de trabajo de inteligencia artificial (IA) a gran escala mediante computación acelerada, redes de ancho de banda ultraalto y sistemas especializados de alimentación eléctrica y refrigeración.

¿Qué diferencia a un centro de datos de IA?

A diferencia de los centros de datos tradicionales que alojan diversas aplicaciones empresariales, los centros de datos de IA están optimizados para tareas especializadas que requieren un uso intensivo de recursos informáticos, como el entrenamiento y el ajuste de modelos, así como las cargas de trabajo de inferencia de IA, que exigen clústeres densos de GPU, un gran volumen de tráfico este-oeste y un movimiento continuo de datos a través de las canalizaciones de IA.

El auge del aprendizaje profundo, la inteligencia artificial generativa (GenAI) y los grandes modelos de lenguaje (LLM) ha llevado la infraestructura empresarial mucho más allá de los límites de los entornos tradicionales de computación de propósito general basados en CPU. El entrenamiento de la IA exige grandes cantidades de datos y un procesamiento intensivo, lo que a su vez requiere miles de GPU funcionando simultáneamente, redes de alta capacidad a escala de terabits y un acceso fiable a conjuntos de datos masivos. Incluso la inferencia rutinaria exige una alta concurrencia, una baja latencia y un enrutamiento adaptado a los modelos que las arquitecturas más antiguas no pueden ofrecer.

A medida que las empresas implementan modelos de mayor tamaño, integran la IA en los flujos de trabajo empresariales y amplían los casos de uso de inferencia en tiempo real, los centros de datos de IA se han convertido en un pilar fundamental para el rendimiento, la gobernanza y la estrategia de IA a largo plazo de las empresas.

Los centros de datos de IA se diferencian de los diseños tradicionales en cinco aspectos principales:

Computación acelerada por GPU: Las cargas de trabajo de IA requieren computación paralela, proporcionada por GPU, TPU, aceleradores personalizados y chips especializados en IA. Estos procesadores ofrecen el rendimiento a nivel de tensores necesario para el entrenamiento y la inferencia. Las operaciones con tensores son matemáticamente complejas e implican matrices multidimensionales utilizadas en cálculos de aprendizaje automático y aprendizaje profundo.
Racks de alta densidad y consumo energético considerable: Un rack convencional antiguo puede consumir entre 8 y 10 kW. Los racks modernos para IA suelen superar los 40-120 kW, lo que plantea importantes requisitos nuevos en materia de distribución eléctrica, diseño térmico y ubicación de las instalaciones para garantizar el acceso a la red eléctrica.
Interconexiones de última generación: Las cargas de trabajo de entrenamiento generan un tráfico este-oeste extremo. Los centros de datos de IA utilizan 400-800GbE, InfiniBand —una infraestructura de red especializada de alta velocidad de 400-800Gbps— y estructuras de conmutación de alto rendimiento para minimizar la latencia entre aceleradores y mantener al máximo la capacidad de los procesos de entrenamiento e inferencia.
Perfiles térmicos más calientes y densos: Los clústeres de GPU generan zonas de calor concentrado que superan la capacidad de los sistemas tradicionales de refrigeración por aire. Los centros de datos de IA deben integrar sistemas de refrigeración híbridos o avanzados para mantener perfiles térmicos de funcionamiento seguros.
Orquestación de cargas de trabajo y tráfico adaptado a los modelos: La IA introduce nuevas formas de tráfico, como la comunicación entre modelos, la recuperación vectorial, la inferencia en tiempo real y los flujos entre el edge y la nube. Las redes de gran ancho de banda y baja latencia, así como la segmentación, son esenciales para la IA. Una orquestación eficaz que tenga en cuenta el tráfico, la supervisión en tiempo real y la aplicación de políticas son fundamentales para las implementaciones híbridas de IA. Las herramientas de gestión del tráfico se convierten en elementos operativos clave para las cargas de trabajo de IA y el tráfico adaptado a los modelos.

¿Cuáles son los componentes principales de un centro de datos de IA?

Infraestructura de computación acelerada: Los centros de datos de IA dependen de clústeres de GPU o aceleradores para realizar cálculos complejos en paralelo de redes neuronales. Dado que las GPU procesan los modelos simultáneamente, estos sistemas requieren interconexiones de gran ancho de banda, sincronización y marcos de entrenamiento distribuido como NVIDIA Collective Communications Library (NCCL) o Message Passing Interface (MPI).
Redes de gran ancho de banda: Las cargas de trabajo de IA generan tráfico de red este-oeste durante el entrenamiento, ya que los parámetros del modelo, los lotes de datos y las actualizaciones se comparten entre CPU, servidores y sistemas de almacenamiento. Esto requiere estructuras de conmutación sin bloqueo, interconexiones de baja latencia como InfiniBand o 800GbE y gestión del tráfico para priorizar las comunicaciones entre GPU.
Almacenamiento preparado para la IA: El entrenamiento y la inferencia dependen de un acceso rápido a grandes volúmenes de datos, pero muchas empresas cuentan con una infraestructura obsoleta y un bajo nivel de preparación de los datos. Utilizan sistemas de archivos paralelos, almacenamiento de alto rendimiento, arquitecturas NVMe por niveles o una combinación de estas opciones; sin embargo, esto frena el avance de la IA más que los problemas de capacidad de cálculo.
Infraestructura de refrigeración y suministro eléctrico: Los centros de datos de IA consumen más energía y generan más calor que los centros de datos tradicionales porque las GPU funcionan de forma continua con un alto nivel de utilización. Para mantener las operaciones y evitar la limitación del rendimiento, utilizan sistemas de refrigeración especializados, como la refrigeración líquida o los intercambiadores de calor de puerta trasera, y configuraciones eléctricas avanzadas, como líneas de alimentación dedicadas con subestaciones in situ o distribución inteligente, para racks de más de 40 kW.
Seguridad, gobernanza y observabilidad: Los sistemas de IA plantean nuevos requisitos normativos y de aislamiento para los activos sensibles, así como riesgos complejos asociados a los grupos de GPU multiinquilino, lo que lleva a los centros de datos de IA a implementar controles más sólidos de seguridad, gobernanza y visibilidad. Entre ellos se incluyen la seguridad adaptada a los modelos, el aislamiento de inquilinos de las capas 4 a 7, la inspección del tráfico, la gobernanza de las API, los controles de acceso granulares y la observabilidad en tiempo de ejecución. Estas medidas protegen los activos de IA, garantizan un acceso seguro y aseguran un funcionamiento fiable en entornos compartidos de alto rendimiento.

¿Cómo funcionan la alimentación eléctrica y la refrigeración a gran escala?

La energía es ahora una de las mayores limitaciones para la adopción de la IA. Los racks de IA generan más calor, tienen una mayor densidad y funcionan continuamente a plena carga. La refrigeración suele representar entre el 35 y el 40 % del consumo energético total en los centros de datos de IA. Los operadores deben diseñar sus instalaciones teniendo en cuenta la alta densidad de potencia, la refrigeración especializada, la zonificación térmica y la proximidad a fuentes de electricidad fiables y rentables.

Alta densidad de potencia: Un único servidor con GPU puede consumir entre 3 y 7 kW. Un rack completamente equipado puede alcanzar entre 80 y 120 kW. Esto afecta a los requisitos de las subestaciones, la distribución eléctrica dentro del centro de datos y los diseños de redundancia (N+1, 2N o un sistema híbrido de red eléctrica y energías renovables).
Refrigeración híbrida y líquida: La refrigeración por aire por sí sola no es suficiente. Los entornos de IA suelen requerir la integración de refrigeración líquida directa (DLC), que conduce el calor unas 3.000 veces más eficientemente que el aire, refrigeración por inmersión para densidades extremas, contención de pasillos fríos y calientes entre racks para que los sistemas funcionen de forma más eficiente y sistemas de reutilización del calor para calefacción de edificios, redes de calefacción, etc.)
Zonificación térmica: Los clústeres de GPU generan zonas de calor localizadas que requieren una supervisión térmica precisa y una asignación dinámica de la refrigeración a ubicaciones específicas, en lugar de a todo el centro de datos.
Estrategia de ubicación: Debido a las limitaciones de suministro eléctrico, muchas instalaciones se ubican cerca de fuentes hidroeléctricas o renovables, en regiones más frías cuando es posible o en zonas con excedente de capacidad en la red eléctrica.

Desafíos de diseño y funcionamiento

Los centros de datos de IA añaden complejidad a la computación, los datos y las operaciones:

Limitaciones de potencia y calor: Las instalaciones suelen alcanzar los límites de potencia antes que los de espacio. Las GPU consumen más energía cuando funcionan a plena carga, lo que exige equilibrar cuidadosamente el suministro energético, la redundancia y la refrigeración. Por consiguiente, las mejoras, como la instalación de nuevas subestaciones y sistemas de refrigeración, requieren una planificación exhaustiva, la obtención de permisos y, en ocasiones, rediseños, lo que convierte los aumentos de capacidad en proyectos de varios años y, a veces, da lugar a arquitecturas federadas multirregionales.
Complejidad del proceso de entrenamiento: El entrenamiento distribuido de IA requiere una sincronización precisa de las GPU. Una GPU lenta o defectuosa puede ralentizar todo el proceso. Los ingenieros supervisan el rendimiento, las redes y las tareas para comprender cómo afecta la arquitectura al procesamiento. Esto aumenta la complejidad operativa, especialmente cuando cambian las cargas de trabajo o los conjuntos de datos crecen rápidamente.
Límites de escalabilidad: Los entornos de IA requieren que la infraestructura escale de forma casi lineal, pero no todas las capas crecen al mismo ritmo. Las redes pueden saturarse ante un tráfico este-oeste intenso, y los sistemas de almacenamiento tienen dificultades para proporcionar a las GPU el ancho de banda de datos necesario para el entrenamiento. Estos desajustes suelen convertirse en cuellos de botella que afectan al rendimiento.
Preparación de los datos: Todas las empresas disponen de datos, pero la mayoría no están en un formato compatible con la IA. Convertir datos sin procesar, no estructurados o aislados en datos de entrada limpios, etiquetados y coherentes para el entrenamiento requiere un esfuerzo considerable. La falta de coherencia en los metadatos, la ausencia de trazabilidad y una calidad no verificada retrasan la incorporación de conjuntos de datos y dificultan que los equipos de IA mantengan canalizaciones de características fiables. Esta brecha entre «datos disponibles» y «datos utilizables» constituye un obstáculo importante para ampliar la IA.
Seguridad y gobernanza: La IA plantea nuevas exigencias de seguridad debido a activos como los modelos, los puntos de control (instantáneas) y los recursos de GPU, que conllevan riesgos que los controles tradicionales no pueden gestionar. Los modelos pueden desviarse sin que se detecte, las incrustaciones pueden filtrar información confidencial y los puntos de control pueden contener propiedad intelectual valiosa que debe protegerse. Los entornos de GPU compartidos requieren un aislamiento sólido para impedir el acceso entre inquilinos. Las cargas de trabajo de IA requieren gobernanza, inspección en tiempo de ejecución y seguridad adaptada a los modelos para supervisar el comportamiento a lo largo de todo el proceso.

¿Por qué invierten las empresas en centros de datos optimizados para la IA?

Los centros de datos de IA ofrecen ventajas estratégicas y operativas:

Ciclos de entrenamiento de modelos más rápidos: Unos tiempos de entrenamiento más cortos permiten a los equipos actualizar los modelos con mayor frecuencia, lo que acelera las mejoras de los productos y reduce el tiempo de comercialización de funcionalidades de IA de valor estratégico.
Menor latencia de inferencia mediante un enrutamiento localizado y adaptado al modelo: Mantener las cargas de trabajo de inferencia cerca de los datos y utilizar un enrutamiento que comprenda el comportamiento del modelo minimiza los retrasos y mejora la capacidad de respuesta en tiempo real.
Rendimiento predecible: La infraestructura de IA dedicada elimina los efectos de «vecino ruidoso» habituales en los entornos de hiperescala compartidos, lo que garantiza un rendimiento y una fiabilidad constantes.
Control sobre los requisitos de gobernanza de datos y cumplimiento normativo: Las empresas supervisan directamente cómo se transfieren los datos confidenciales a través de los flujos de procesamiento, lo que facilita considerablemente el cumplimiento de la normativa y las auditorías.
Estabilidad de costes: La infraestructura fija o reservada evita los picos de facturación variables provocados por aumentos repentinos de la demanda en los servicios de GPU compartidos en la nube, lo que permite elaborar presupuestos a largo plazo con mayor precisión.
Operaciones de modelos seguras mediante capas específicas de políticas y tráfico: Los controles diseñados específicamente para este fin regulan el acceso, supervisan el comportamiento en tiempo de ejecución y protegen los activos de los modelos para garantizar que los servicios de IA funcionen de forma segura durante todo su ciclo de vida.

Para los CIO y CTO, los centros de datos de IA ofrecen resiliencia a largo plazo y la capacidad de integrar la IA en las operaciones de las distintas unidades de negocio.

Qué deben tener en cuenta las empresas antes de la implementación

Una lista de comprobación práctica para tomar decisiones:

Tipo de carga de trabajo: Saber si el entorno admitirá procesos de entrenamiento, ajuste fino, inferencia o generación aumentada por recuperación (RAG) permite determinar el rendimiento necesario, mientras que el nivel máximo de concurrencia determina cuánta capacidad debe aprovisionarse para mantener la capacidad de respuesta bajo carga.
Escala: Las empresas deben prever las necesidades de GPU y los tamaños estimados de los modelos para los próximos 12-36 meses, de modo que la arquitectura pueda ampliarse sin costosos rediseños ni sustituciones de infraestructura a mitad de ciclo.
Hardware y arquitectura: Elegir la GPU, la red de interconexión y la densidad de racks adecuadas garantiza que el sistema pueda ofrecer el rendimiento, la latencia y el perfil de consumo energético necesarios para cargas de trabajo de IA sostenidas.
Preparación de la canalización de datos: El éxito de la IA depende de disponer de canalizaciones de datos depurados, etiquetados y de alto rendimiento que puedan alimentar las GPU sin cuellos de botella ni preparación manual.
Gobernanza y seguridad: Unas políticas de API sólidas y unos controles a nivel de modelo, combinados con protección en tiempo de ejecución para los servicios de inferencia, son esenciales para proteger los activos sensibles y garantizar unas operaciones éticas y conformes con la normativa.
Integración: El entorno de IA debe integrarse perfectamente en las infraestructuras existentes de redes, seguridad y observabilidad, y el modelo de despliegue (en las instalaciones, en un centro de colocación o híbrido) debe ajustarse a las necesidades operativas, de costes y de cumplimiento normativo.

Tendencias futuras en el diseño de centros de datos de IA

Varias tendencias están dando forma a la próxima generación de instalaciones de IA:

Aceleradores de IA diseñados específicamente (ASIC y chips especializados): Los chips personalizados optimizados para flujos de trabajo de IA específicos están mejorando la eficiencia y reduciendo los costes de entrenamiento e inferencia en comparación con las GPU de uso general.
Refrigeración líquida y por inmersión: A medida que aumenta la densidad de potencia, la refrigeración líquida y por inmersión se convierten en las únicas opciones realmente viables para gestionar las cargas térmicas que la refrigeración por aire ya no puede soportar.
Sistemas a escala de rack que sustituyen a las arquitecturas a nivel de servidor: Las implementaciones de IA están evolucionando hacia diseños integrados a escala de rack, en los que la computación, las redes y el almacenamiento se conciben como una única unidad de gran ancho de banda.
Redes y descarga de tareas aceleradas mediante DPU: Las DPU se encargan ahora de las tareas de red, seguridad y transferencia de datos, liberando las GPU para que se dediquen exclusivamente al procesamiento de IA y mejorando el rendimiento general del flujo de trabajo.
Expansión de las zonas de IA soberana: Los países y los sectores regulados están construyendo instalaciones de IA que mantienen los datos, los modelos y la capacidad de computación íntegramente dentro de los límites de la jurisdicción local.
Gestión del tráfico y enrutamiento de capa 7 (L7) sensibles a los modelos y los datos e integrados en la infraestructura central: Las redes de IA están incorporando un enrutamiento que tiene en cuenta los puntos de conexión de los modelos, la clasificación de los datos y los patrones de inferencia, lo que mejora el rendimiento y la seguridad en todas las cargas de trabajo.
Observabilidad basada en IA para el ajuste en tiempo real de las tareas de entrenamiento e inferencia: La telemetría en tiempo real y los análisis que tienen en cuenta los modelos permiten a los operadores detectar cuellos de botella y optimizar el uso de las GPU a medida que evolucionan las cargas de trabajo.

Centro de datos de IA | Preguntas frecuentes

¿Por qué los centros de datos de IA requieren un hardware diferente? Las cargas de trabajo de IA se basan en el procesamiento paralelo, que requiere GPU e interconexiones de gran ancho de banda que no se encuentran en los entornos tradicionales centrados en CPU.
¿Por qué es tan elevado el consumo energético? Los aceleradores consumen mucha más energía por servidor, y las cargas de trabajo de IA suelen funcionar de forma sostenida al 100 % de su capacidad.
¿Cómo se gestiona la refrigeración? Mediante refrigeración líquida, intercambiadores de calor y zonificación térmica dinámica diseñada para racks de alta densidad.
¿Cómo se comparan los centros de datos de IA con la computación de alto rendimiento (HPC)? Las arquitecturas son similares, pero los centros de IA ponen el énfasis en los canales de procesamiento masivo de datos, el rendimiento de la inferencia y la gobernanza de los modelos.
¿Todas las empresas necesitan un centro de datos de IA? No necesariamente. Muchas utilizarán servicios híbridos, alojados o especializados de GPU, en función de sus necesidades de escala y gobernanza.
¿Cómo contribuyen a la IA las herramientas de gestión del tráfico y seguridad? Garantizan un enrutamiento rápido, fiable y seguro de las solicitudes de inferencia, protegen las rutas de las API, aplican políticas de gobernanza y proporcionan observabilidad en todos los servicios de IA.

Reflexiones finales

Los centros de datos de IA constituyen la base para la adopción de la IA a gran escala. Combinan hardware especializado, redes de alto rendimiento, seguridad adaptada a los modelos y gestión inteligente del tráfico para admitir cargas de trabajo de entrenamiento e inferencia cada vez más complejas. A medida que las empresas amplían sus programas de IA, la capacidad de operar estos entornos de forma eficiente y segura se convierte en un factor diferenciador clave.

Para obtener más información, visite f5.com/solutions/ai-delivery-and-security.