¿Qué es una fábrica de IA?

Hunter SmitGerente sénior de marketing de producto | F5

Esta entrada de blog forma parte de una serie sobre fábricas de IA. Cuando termine de leerla, explore las demás entradas de la serie.

• Generación aumentada por recuperación (RAG) para fábricas de IA ›
• Optimiza la gestión del tráfico para la ingesta de datos de fábricas de IA ›
• Conexión óptima de fuentes de datos en el edge con fábricas de IA ›
• La escalabilidad y la flexibilidad multinube respaldan las fábricas de IA ›
• La potencia y el significado de la DPU NVIDIA BlueField para las fábricas de IA ›
• Protección de API para fábricas de IA: el primer paso hacia la seguridad de la IA ›
• La importancia de la segmentación de red para las fábricas de IA ›
• Las fábricas de IA producen las aplicaciones más modernas: aplicaciones de IA ›

Cuando ChatGPT se lanzó en noviembre de 2022, las preguntas que hacíamos y las instrucciones que introducíamos eran sencillas: «Cuéntame una historia sobre X» y «Escribe una narración entre la persona A y la persona B sobre el tema Z». Mediante estas preguntas y las primeras interacciones con GPT-3.5 de aquel momento, intentábamos determinar cómo afectaría a nuestra vida cotidiana esta nueva tecnología en auge. Ahora, a finales de 2024, la IA complementa nuestras vidas: nos ayuda a depurar y escribir código, recopilar y resumir datos y conducir vehículos autónomos, por citar solo algunos ejemplos. Estos son los resultados de una fábrica de IA moderna, y esto no ha hecho más que empezar.

Este artículo, el primero de una serie sobre fábricas de IA, analiza los componentes de una fábrica de IA y cómo los distintos elementos trabajan conjuntamente para generar soluciones basadas en IA a gran escala.

Definición de las fábricas de IA

En plena evolución de la IA, el concepto de fábrica de IA ha surgido como una analogía de la forma en que se crean, perfeccionan e implementan los modelos y servicios de IA. Al igual que una planta de fabricación tradicional recibe materiales y los transforma en productos acabados, una fábrica de IA supone una enorme inversión en almacenamiento, redes y computación para satisfacer las necesidades de entrenamiento e inferencia de alto volumen y rendimiento.

Dentro de estas fábricas, las redes de servidores, unidades de procesamiento gráfico (GPU), unidades de procesamiento de datos (DPU) y hardware especializado trabajan conjuntamente para procesar enormes cantidades de datos y ejecutar algoritmos complejos que entrenan modelos de IA para alcanzar altos niveles de precisión y eficiencia. Estas infraestructuras están meticulosamente diseñadas para gestionar la enorme potencia de cálculo necesaria para entrenar modelos a gran escala e implementarlos para realizar inferencias en tiempo real. Incorporan soluciones avanzadas de almacenamiento para gestionar y recuperar conjuntos de datos masivos, garantizando un flujo de datos continuo.

El equilibrio de carga y la optimización de la red maximizan el rendimiento y el aprovechamiento de los recursos, evitando cuellos de botella y garantizando la escalabilidad. Esta coordinación de los componentes de hardware y software permite a las fábricas de IA producir modelos de IA de vanguardia y perfeccionarlos continuamente para adaptarlos a nuevos datos y requisitos cambiantes. En última instancia, una fábrica de IA representa la industrialización del desarrollo de la IA y proporciona la sólida infraestructura necesaria para sustentar la próxima generación de aplicaciones inteligentes.

¿Por qué son importantes las fábricas de IA?

Como afirmó Jensen Huang, CEO de NVIDIA, en el evento de Salesforce Dreamforce 2024: «En ningún momento de la historia la tecnología informática ha avanzado más rápido que la ley de Moore». Y añadió: «Estamos avanzando mucho más rápido que la ley de Moore; de hecho, podría decirse que avanzamos fácilmente a un ritmo equivalente a la ley de Moore al cuadrado».

El despliegue de la IA a gran escala es cada vez más esencial, ya que las inversiones en IA constituyen importantes factores de diferenciación en el mercado e impulsores de la eficiencia operativa. Para lograrlo, las organizaciones deben crear y perfeccionar modelos de forma continua, así como integrar repositorios de conocimiento y datos en tiempo real. El concepto de fábrica de IA pone de relieve que la IA debe ser una inversión continua, en lugar de una iniciativa puntual. Este concepto proporciona un marco para que las organizaciones pongan en práctica sus iniciativas de IA y puedan adaptarlas mejor a la evolución de las necesidades empresariales y del mercado.

Componentes de una fábrica de IA

Basándose en nuestra experiencia ayudando a los clientes a implementar a gran escala flotas de aplicaciones modernas, seguras y de alto rendimiento, F5 ha desarrollado un marco de arquitectura de referencia para la IA. Dado que las aplicaciones de IA son las más modernas entre las aplicaciones modernas, están altamente conectadas mediante API y presentan una gran distribución, este marco aborda los retos críticos de rendimiento, seguridad y operaciones que resultan esenciales para ofrecer aplicaciones de IA de vanguardia.

Diagrama de la arquitectura de referencia de IA de F5 ›

Siete componentes básicos de la IA

Dentro de nuestra arquitectura de referencia, hemos definido siete componentes básicos de IA necesarios para crear una fábrica de IA integral:

1. Inferencia

Describe la interacción entre una aplicación front-end y la API de un servicio de inferencia, centrándose en el envío de una solicitud a un modelo de IA y la recepción de una respuesta. Esto sienta las bases para interacciones más complejas.

2. Generación aumentada por recuperación

Mejora la inferencia básica mediante la incorporación de servicios de orquestación de modelos de lenguaje de gran tamaño (LLM) y de generación aumentada por recuperación. Describe cómo se obtiene contexto adicional de bases de datos vectoriales y repositorios de contenido, que posteriormente se utiliza para generar una respuesta enriquecida con contexto.

3. Gestión del corpus de RAG

Se centra en los procesos de ingesta de datos necesarios para la inferencia con generación aumentada por recuperación (RAG). Incluye la normalización de datos, la generación de embeddings y la carga de bases de datos vectoriales, preparando así el contenido para las llamadas RAG.

4. Ajuste fino

Su objetivo es mejorar el rendimiento de un modelo existente mediante la interacción con él. Permite ajustar el modelo sin tener que reconstruirlo desde cero y hace hincapié en la recopilación de datos de Inferencia e Inferencia con RAG para los flujos de trabajo de ajuste fino.

5. Entrenamiento

Implica crear un nuevo modelo desde cero, aunque puede utilizar puntos de control anteriores (reentrenamiento). Abarca la recopilación de datos, el preprocesamiento, la selección del modelo, la elección del método de entrenamiento, el entrenamiento y la validación o las pruebas. Este proceso iterativo tiene como objetivo crear modelos robustos adaptados a tareas específicas.

6. Integración de servicios externos

Conecta la capa de orquestación del LLM con fuentes externas, como bases de datos y sitios web. Integra datos externos en las solicitudes de inferencia, pero no incluye tareas de preprocesamiento de documentos, como la fragmentación y la generación de embeddings.

7. Desarrollo

Abarca los flujos de trabajo para desarrollar, mantener, configurar, probar e implementar componentes de aplicaciones de IA. Incluye aplicaciones front-end, orquestación de LLM, gestión del control de código fuente y canalizaciones de CI/CD.

En conjunto, estos componentes constituyen la columna vertebral de una fábrica de IA. Cada uno desempeña un papel fundamental en la creación, el despliegue y el perfeccionamiento de los resultados de la IA. Además, las iniciativas de fábricas de IA suelen favorecer la adopción de estrategias de implementación propias (en lugar de alquilarlas o externalizarlas) para la mayoría de los componentes, lo que lleva a elegir el modelo de despliegue autoalojado entre los que se enumeran a continuación.

Cuatro modelos de implementación

Para cada uno de estos componentes básicos, los clientes deben seleccionar un modelo de despliegue y una estrategia de implementación adecuados (en propiedad, en alquiler o externalizados), y definir la arquitectura de referencia óptima para alcanzar los objetivos empresariales de sus iniciativas de IA. Estos son los cuatro principales:

• AI-SaaS consiste en utilizar una implementación de software como servicio (SaaS) de un servicio de inferencia, en la que el proveedor del servicio gestiona la infraestructura, las actualizaciones de los modelos y el escalado. Los usuarios interactúan con el servicio a través de API sin tener que preocuparse por el mantenimiento subyacente. Este modelo de despliegue es ideal para las empresas que buscan facilidad de uso y una integración rápida sin una sobrecarga significativa. También permite escalar rápidamente y acceder a las últimas funcionalidades y mejoras.
• Alojado en la nube implica gestionar el servicio de inferencia mediante un proveedor de servicios en la nube (CSP), ya sea como infraestructura como servicio (IaaS) o como plataforma como servicio (PaaS). En este modelo, el usuario se encarga de gestionar el servicio, incluidas la configuración, la escalabilidad y el mantenimiento, pero se beneficia de la sólida infraestructura y las herramientas del CSP. Este modelo ofrece flexibilidad y control, por lo que resulta adecuado para organizaciones con requisitos específicos y conocimientos técnicos. También permite una integración fluida con otros servicios y herramientas nativos de la nube.
• Alojamiento propio requiere gestionar el servicio de inferencia en un centro de datos privado autogestionado o mediante un servicio de coubicación. Este modelo ofrece el máximo nivel de control y personalización, lo que permite a las organizaciones adaptar la infraestructura y el servicio a sus necesidades específicas. Sin embargo, también exige importantes recursos para el mantenimiento, las actualizaciones y el escalado. Suelen elegirlo organizaciones con estrictos requisitos de seguridad, cumplimiento normativo o rendimiento que las soluciones basadas en la nube no pueden satisfacer.
• Alojado en el edge implica ejecutar servicios de inteligencia artificial (IA) o aprendizaje automático (ML) en el edge, por ejemplo, en un quiosco comercial, un dispositivo IoT u otros entornos locales. Este modelo reduce la latencia al procesar los datos cerca de su origen, por lo que resulta ideal para aplicaciones en tiempo real y situaciones en las que la conexión a Internet es limitada o intermitente. Requiere una gestión sólida del hardware y el software locales, pero ofrece importantes ventajas para los casos de uso que exigen una toma de decisiones inmediata y localizada. El despliegue alojado en el edge resulta especialmente útil en sectores como el comercio minorista, la fabricación y la sanidad.

F5 distribuye y protege aplicaciones de IA en cualquier lugar

Las funcionalidades de F5 en las que confía a diario para la entrega y la seguridad de aplicaciones son las mismas que resultan esenciales para una fábrica de IA bien diseñada. F5 BIG-IP Local Traffic Manager, junto con el hardware específico rSeries y VELOS de F5, permite una ingesta de datos de alto rendimiento para el entrenamiento de IA. F5 Distributed Cloud Network Connect para redes multinube seguras conecta ubicaciones de datos dispares y crea un canal seguro entre los datos propietarios y los modelos de IA para la RAG.

El compromiso de F5 con la IA no termina aquí: descubre cómo F5 protege y distribuye aplicaciones de IA en cualquier entorno.

¿Te interesa saber más sobre las fábricas de IA? Descubre otros artículos de nuestra serie del blog sobre fábricas de IA:

• Generación aumentada por recuperación (RAG) para fábricas de IA ›
• Optimice la gestión del tráfico para la ingesta de datos de fábricas de IA ›
• Conexión óptima de fuentes de datos en el edge con fábricas de IA ›
• La escalabilidad y la flexibilidad multinube respaldan las fábricas de IA ›
• La potencia y la importancia de la DPU NVIDIA BlueField para las fábricas de IA ›
• Protección de API para fábricas de IA: el primer paso hacia la seguridad de la IA ›
• La importancia de la segmentación de red para las fábricas de IA ›
• Las fábricas de IA producen las aplicaciones más modernas: aplicaciones de IA ›

Sobre el autor

Hunter SmitGerente sénior de marketing de producto | F5

Hunter Smit es director sénior de marketing de producto para soluciones y estrategia en F5. Lidera el marketing de soluciones de toda la cartera de F5, incluidas la infraestructura de IA y la seguridad de aplicaciones, e impulsa la entrada de F5 en el mercado emergente de la entrega de datos para IA. Hunter es miembro del Consejo Asesor de la Escuela de Negocios de la Universidad Whitworth y ha ejercido como profesor adjunto de marketing de producto. Obtuvo un MBA y un grado en Administración y Dirección de Empresas, con especialización en gestión, por la Universidad Whitworth.

Más artículos de Hunter Smit