Generación aumentada por recuperación (RAG) para fábricas de IA

Hunter SmitGerente sénior de marketing de producto | F5

En el panorama tecnológico actual, que evoluciona rápidamente, el despliegue y la puesta en funcionamiento de la IA se han convertido en factores diferenciadores cruciales para las empresas. A medida que las empresas aprovechan el potencial de la IA para mejorar la toma de decisiones y la eficiencia, o desarrollan productos diferenciados mediante IA, las fábricas de IA han surgido como un modelo fundamental. En el núcleo de las fábricas de IA se encuentra la generación aumentada por recuperación (RAG), uno de los siete componentes básicos de la IA y el que permite que sus resultados tengan en cuenta el contexto y sean más precisos y oportunos.

Anteriormente, en nuestra serie sobre fábricas de IA, definimos una fábrica de IA como una gran inversión en almacenamiento, redes y computación destinada a satisfacer los requisitos de entrenamiento e inferencia de alto volumen y alto rendimiento. En este artículo, analizaremos dos de los componentes básicos de la IA que definimos: RAG y la gestión del corpus de RAG.

Comprender la fábrica de IA

Al igual que una planta de fabricación tradicional, una fábrica de IA está diseñada para generar resultados y modelos de IA mediante una infraestructura meticulosamente coordinada de servidores, GPU, DPU y almacenamiento. Las fábricas de IA, que permiten realizar tareas de entrenamiento e inferencia, son fundamentales para desarrollar aplicaciones de IA a gran escala. Sin embargo, incorporar RAG para mejorar la relevancia contextual de sus resultados permite aprovechar todo el potencial de una fábrica de IA.

¿Qué es la generación aumentada por recuperación, también conocida como RAG?

Antes de entrar en materia, definamos la generación aumentada por recuperación: RAG es una técnica de IA que incorpora datos propios para complementar los modelos de IA y generar resultados adaptados al contexto. A medida que las implementaciones de aplicaciones están cada vez más distribuidas y alojadas en entornos híbridos y multicloud, los datos de una empresa se encuentran por todas partes. Para las organizaciones que quieren aprovechar la ventaja estratégica que ofrecen sus datos para la IA, surge la siguiente pregunta: ¿cómo podemos conectar los datos pertinentes para enriquecer las entradas de modelos de IA como los grandes modelos de lenguaje (LLM)? Las organizaciones están recurriendo a RAG para resolver este problema y crear vías seguras entre el modelo de IA y los silos de datos distribuidos. Esto permite acceder a la información más reciente, lo que hace que los resultados sean oportunos, estén adaptados al contexto y sean más precisos. Sin RAG, ni siquiera los modelos de IA ajustados tienen acceso a la información más reciente, que suele cambiar nada más finalizar el entrenamiento.

¿Cuáles son algunos ejemplos? Dos casos que cabe considerar son los vehículos autónomos basados en visión artificial y los LLM cuando alucinan o hacen suposiciones debido a la falta de relevancia contextual de una solicitud.

En el caso de los vehículos autónomos, la inferencia debe incluir datos en tiempo real basados en la ubicación del vehículo y en el entorno en constante cambio que lo rodea, para circular de forma segura por calles con peatones, ciclistas y otros vehículos. En el caso de los LLM, tomando como ejemplo un chatbot de atención al cliente, el acceso a información del producto, como registros de cambios, bases de conocimiento, estado del sistema y telemetría, combinado con información específica del cliente, como incidencias de soporte, historial de compras y perfiles de clientes, transforma las respuestas genéricas de los LLM en resultados valiosos.

Los entornos híbridos y multinube son cada vez más complejos, y las implementaciones de almacenamiento están cada vez más aisladas en ubicaciones dispares. En F5, denominamos a este fenómeno la «bola de fuego».

RAG para fábricas de IA

En el contexto de las fábricas de IA, RAG mejora las capacidades básicas de inferencia de los modelos fundacionales de IA al obtener contexto adicional de bases de datos vectoriales y repositorios de contenido, que posteriormente se utilizan para generar respuestas enriquecidas con contexto. Dentro de una fábrica de IA, la capa de orquestación de RAG gestiona interacciones complejas entre el modelo de IA y los servicios de ampliación, lo que garantiza la integración fluida de datos complementarios en los flujos de trabajo de IA.

Por ejemplo, en el escenario de atención al cliente mencionado anteriormente, RAG puede acceder a datos de diversas bases de datos y fuentes pertinentes e incorporarlos. Esto permite generar resultados de IA muy relevantes. Al integrar RAG en el marco de la fábrica de IA, las empresas pueden mejorar la calidad y la rapidez de sus respuestas de inferencia, lo que favorece una toma de decisiones más eficaz y una mayor eficiencia operativa.

Arquitectura de referencia de IA de F5, que destaca RAG, uno de los siete componentes básicos de IA necesarios para implementar con éxito infraestructuras de IA a gran escala.

Gestión del corpus RAG para fábricas de IA

La gestión del corpus de RAG se centra en la ingesta y el preprocesamiento de datos esenciales para realizar inferencias con RAG. Esto implica una serie de pasos, como la normalización de datos, la tokenización, la generación de embeddings y la carga de bases de datos vectoriales, para garantizar que el contenido esté preparado de forma óptima para las llamadas a RAG.

En una fábrica de IA, este proceso comienza con la normalización de diversos formatos de datos para crear un conjunto de datos coherente y estructurado. A continuación, se generan embeddings para convertir estos datos a un formato que los modelos de IA puedan consultar. Los datos preparados se incorporan a bases de datos vectoriales, grafos de conocimiento y repositorios de contenido, lo que permite acceder fácilmente a ellos en tiempo real durante la inferencia. Al garantizar que los datos estén limpios, estructurados y sean recuperables, la gestión del corpus RAG mejora la eficacia y la precisión generales de los resultados de la IA. Este proceso es fundamental para las empresas que buscan mantener respuestas de IA de alta calidad y enriquecidas con información contextual.

La gestión del corpus RAG es uno de los siete componentes básicos de IA que F5 ha definido para lograr una arquitectura de IA eficaz.

¿RAG solo es aplicable a las fábricas de IA?

Aunque RAG es un componente fundamental de las fábricas de IA, resulta necesario para implementaciones de modelos de IA de cualquier tamaño. Dado que los modelos fundacionales de IA (por ejemplo, GPT o Llama) se entrenan con información pública, implementar uno de estos modelos no proporciona a las organizaciones una ventaja competitiva suficiente frente a otras que utilizan el mismo modelo. Integrar datos propios y no públicos mediante RAG es esencial para cualquier organización, independientemente del tamaño de su implementación de IA, a fin de complementar las solicitudes con sus propios datos. Un ejemplo sería un chatbot de atención al cliente, ya que una aplicación de soporte basada en un LLM necesita acceder a información específica de los productos y los clientes para ofrecer una solución útil. Incluso cuando se entrenan o ajustan modelos, es necesario acceder a datos en constante evolución para obtener resultados más precisos.

Creación de autopistas de datos seguras para habilitar RAG

A medida que las organizaciones siguen invirtiendo en IA para impulsar la innovación y la eficiencia operativa, no se puede subestimar la importancia de RAG en las fábricas de IA. Al mejorar la comprensión del contexto, la precisión y la puntualidad, RAG garantiza que los modelos de IA generen resultados más pertinentes y fiables. Para las empresas que buscan crear integraciones seguras entre sus silos de datos y las fábricas de IA, F5 Distributed Cloud Network Connect proporciona autopistas modernas que conectan de forma segura las ubicaciones de datos corporativos propios, ofrecen acceso restringido, simplifican las redes y facilitan el almacenamiento y la movilidad de los datos entre zonas y regiones.

El compromiso de F5 con la IA no termina aquí: descubre cómo F5 protege y distribuye aplicaciones de IA en cualquier lugar.

¿Te interesa saber más sobre las fábricas de IA? Descubre otras en nuestra serie de artículos sobre fábricas de IA:

• ¿Qué es una fábrica de IA? ›
• Optimice la gestión del tráfico para la ingesta de datos de la fábrica de IA ›
• Conexión óptima de fuentes de datos en el edge con fábricas de IA ›
• La escalabilidad y la flexibilidad multinube respaldan las fábricas de IA ›
• La potencia y el significado de la DPU NVIDIA BlueField para las fábricas de IA ›
• Protección de API para fábricas de IA: el primer paso hacia la seguridad de la IA ›
• La importancia de la segmentación de red para las fábricas de IA ›
• Las fábricas de IA producen las aplicaciones más modernas: aplicaciones de IA ›

Sobre el autor

Hunter SmitGerente sénior de marketing de producto | F5

Hunter Smit es director sénior de marketing de producto para soluciones y estrategia en F5. Lidera el marketing de soluciones de toda la cartera de F5, incluidas la infraestructura de IA y la seguridad de aplicaciones, e impulsa la entrada de F5 en el mercado emergente de la entrega de datos para IA. Hunter es miembro del Consejo Asesor de la Escuela de Negocios de la Universidad Whitworth y ha ejercido como profesor adjunto de marketing de producto. Obtuvo un MBA y un grado en Administración y Dirección de Empresas, con especialización en gestión, por la Universidad Whitworth.

Más artículos de Hunter Smit