Inferencia de IA y aprendizaje automático

La inferencia en inteligencia artificial (IA) y aprendizaje automático (ML) se refiere al proceso mediante el cual un modelo entrenado realiza predicciones o toma decisiones a partir de datos nuevos que no ha visto antes. Una vez que el modelo se ha desarrollado y perfeccionado durante el entrenamiento, la inferencia representa su aplicación práctica en entornos en tiempo real o en procesos por lotes. Ya sea para predecir las cotizaciones bursátiles o detectar transacciones fraudulentas, la inferencia es lo que materializa el potencial del aprendizaje automático al ofrecer resultados que pueden orientar la toma de decisiones.

Conclusiones clave

• La inferencia es la fase operativa en la que un modelo entrenado aplica lo aprendido a datos nuevos que no ha visto antes para realizar una predicción, una clasificación o generar un resultado.
• El entrenamiento y la inferencia tienen distintos perfiles de consumo de recursos. El entrenamiento es periódico y requiere una gran capacidad de cómputo, mientras que la inferencia se ejecuta de forma continua y se evalúa en función de la latencia, la capacidad de procesamiento y el coste.
• Dar soporte a los modelos en producción requiere aceleradores de hardware, motores de ejecución, técnicas de optimización de modelos e infraestructura de red y seguridad que conecte a los usuarios, las aplicaciones y los puntos de conexión de inferencia.
• Las empresas suelen gestionar la inferencia en distintos tipos de cargas de trabajo, como las de tiempo real, procesamiento por lotes, computación en el borde e IA generativa, cada una con distintos requisitos de latencia y escalabilidad.
• A medida que aumentan las cargas de trabajo de inferencia, la capa de entrega y seguridad de aplicaciones que conecta a los usuarios, los datos, las API y los modelos adquiere tanta importancia para el rendimiento y la gestión de riesgos como el propio modelo.

¿Qué es la inferencia en la IA y el aprendizaje automático?

Este concepto es fundamental en los sistemas de IA modernos. Las organizaciones utilizan técnicas de inferencia para optimizar sus operaciones, mejorar la experiencia de los usuarios y facilitar la toma de decisiones más informadas. En esencia, mientras que entrenar un modelo implica analizar datos históricos para descubrir patrones, la inferencia consiste en aplicar los patrones descubiertos a nuevas situaciones y datos, lo que permite obtener información útil rápidamente y realizar predicciones en tiempo real. Al separar la fase de aprendizaje (entrenamiento) de la fase de aplicación (inferencia), el aprendizaje automático ayuda a las empresas a ser más ágiles, eficientes y precisas en una amplia variedad de procesos.

Comprender la inferencia en el aprendizaje automático

La inferencia en el aprendizaje automático puede resumirse como la capacidad del modelo para generalizar a partir de patrones aprendidos previamente y hacer predicciones sobre nuevos datos de entrada. Durante el entrenamiento, el modelo procesa datos históricos para detectar relaciones y patrones. Una vez completado este aprendizaje, la inferencia es la fase en la que el modelo utiliza los conocimientos recién adquiridos para clasificar, predecir o recomendar resultados a partir de datos que nunca ha visto antes. Así es como la inferencia en el aprendizaje automático puede ofrecer resultados que permiten tomar medidas concretas, como identificar posibles amenazas de seguridad, recomendar productos de forma personalizada o diagnosticar enfermedades a partir de sus síntomas, sin intervención humana en cada decisión.

La inferencia en el aprendizaje también existe en los marcos estadísticos. La inferencia en el aprendizaje estadístico suele referirse a la aplicación de modelos probabilísticos para extraer conclusiones sobre los parámetros de una población o realizar predicciones probabilísticas. Aunque en la IA y el aprendizaje automático se suele dar prioridad a la creación de modelos predictivos, la teoría estadística subyacente determina el nivel de confianza o incertidumbre de las predicciones. Esta base estadística es fundamental en ámbitos sensibles al riesgo, como las finanzas o la sanidad, donde las consecuencias de unas predicciones inexactas pueden ser muy graves.

Diferencias entre inferencia y entrenamiento

El entrenamiento y la inferencia son dos etapas distintas pero interconectadas del ciclo de vida del aprendizaje automático. El entrenamiento, o desarrollo del modelo, requiere una gran capacidad de cálculo. Consiste en proporcionar grandes volúmenes de datos históricos o etiquetados a un algoritmo para que pueda aprender pesos, sesgos o reglas de decisión. Debido a la complejidad de este proceso, el entrenamiento suele llevarse a cabo en sistemas robustos equipados con GPU de alta potencia, una gran capacidad de memoria y entornos de trabajo especializados que permiten gestionar cargas de trabajo computacional intensivas.

La inferencia, por su parte, consiste en aplicar los conocimientos adquiridos por el modelo a datos en tiempo real o recién obtenidos. Mientras que el entrenamiento busca optimizar los parámetros de un modelo (encontrar la mejor representación interna de los patrones aprendidos), la inferencia se centra en utilizar esos parámetros para generar predicciones. El entrenamiento suele realizarse una sola vez (o periódicamente, si el modelo necesita actualizarse), mientras que la inferencia funciona de forma continua y proporciona predicciones bajo demanda, a menudo en milisegundos. Un modelo bien entrenado y optimizado puede procesar rápidamente grandes volúmenes de datos entrantes, lo que permite a las empresas actuar basándose en la información obtenida de forma casi instantánea.

El proceso de inferencia del aprendizaje automático

La inferencia de aprendizaje automático comienza con los datos de entrada. Tanto si se trata de un único dato, como una solicitud de transacción en una tienda en línea, como de un flujo de datos, como los que generan los sensores de un dispositivo del Internet de las cosas (IoT), el modelo empieza por preprocesar o estandarizar los datos de entrada, a menudo del mismo modo que los trata durante el entrenamiento. La coherencia en la preparación de los datos es fundamental, ya que cualquier discrepancia entre los formatos de los datos de entrenamiento y los de inferencia puede perjudicar la precisión del modelo.

Tras el preprocesamiento, el modelo aplica su lógica interna, compuesta por parámetros aprendidos, capas y pesos, para transformar los datos de entrada en resultados significativos. Estos pueden incluir una etiqueta de clasificación («spam» o «no spam»), un valor numérico (predicción del precio de una acción) o una acción recomendada (aprobar o rechazar una solicitud de préstamo). La velocidad de este cálculo depende de la complejidad del modelo, así como de las técnicas de paralelización o aceleración por hardware que se utilicen. A continuación, los resultados se devuelven al usuario o al sistema en función de las instrucciones recibidas. En muchos entornos, estas predicciones se someten a comprobaciones adicionales de seguridad, cumplimiento normativo u otras validaciones específicas del ámbito de aplicación.

La inferencia puede implicar distintos tipos de modelos. En el aprendizaje supervisado, los datos etiquetados ayudan al modelo a predecir un resultado conocido. En el aprendizaje no supervisado, el modelo infiere estructuras o agrupaciones en datos sin etiquetar. El aprendizaje por refuerzo, otra rama de la IA, utiliza un enfoque basado en una política que se actualiza con el tiempo, pero sigue recurriendo a la inferencia para elegir la mejor acción en cada estado. Independientemente del paradigma de aprendizaje, el proceso de inferencia es la etapa final en la que se obtienen resultados y conocimientos que permiten tomar decisiones y actuar.

Infraestructura de inferencia de IA: hardware, redes y seguridad

Las empresas necesitan una pila completa de hardware, software de ejecución e infraestructura de distribución para convertir un modelo entrenado en un servicio que responda de forma fiable a gran escala. La inferencia de IA empresarial no solo depende de las GPU y los modelos, sino también de la infraestructura de distribución y seguridad de aplicaciones que conecta a los usuarios, los datos, las API y los puntos de conexión de inferencia.

Aceleradores de hardware

Las cargas de trabajo de inferencia se ejecutan en procesadores especializados, elegidos según el equilibrio entre rendimiento, latencia y coste que requiere cada caso de uso. Las unidades de procesamiento gráfico (GPU) siguen siendo la opción más habitual porque su arquitectura paralela se adapta a las operaciones matriciales y al aprendizaje profundo en los que se basa la inferencia. Los circuitos integrados de aplicación específica (ASIC) y otros chips personalizados, incluidos los chips de inferencia propios de los proveedores de servicios en la nube, también son habituales cuando una organización busca una forma más rentable y energéticamente eficiente de ejecutar una arquitectura de modelo específica. Las generaciones más recientes de GPU suelen aumentar el ancho de banda de la memoria e incorporar compatibilidad con formatos de menor precisión, lo que permite que un único acelerador ejecute modelos más grandes o atienda más solicitudes simultáneas que las generaciones anteriores.

Motores de ejecución

Un motor de ejecución, a veces denominado servidor de inferencia, actúa como intermediario entre el modelo entrenado y la aplicación que solicita una predicción. Carga el modelo, agrupa las solicitudes entrantes en lotes, gestiona los recursos de hardware y devuelve los resultados. Los motores de ejecución existen porque ejecutar un modelo de forma eficiente a gran escala, con muchos usuarios simultáneos, plantea un reto de ingeniería distinto al de entrenar o probar ese mismo modelo en una sola máquina.

Técnicas de optimización de modelos

Dos técnicas se utilizan con frecuencia en los sistemas de inferencia en producción: la cuantización y el almacenamiento en caché de claves y valores (KV). La cuantización reduce la precisión numérica de los pesos y las activaciones de un modelo, por ejemplo, de coma flotante de 16 bits (FP16) a enteros de 8 bits (INT8), lo que reduce el uso de memoria y puede acelerar los cálculos en hardware diseñado para agilizar las operaciones matemáticas de menor precisión. Como contrapartida, se produce una pequeña reducción de la exactitud, por lo general asumible, por lo que los equipos suelen validar los modelos cuantizados comparándolos con sus versiones originales antes de desplegarlos. El almacenamiento en caché KV, utilizado en los modelos de lenguaje basados en transformadores, guarda los datos de atención de los tokens generados previamente para que el modelo no tenga que volver a calcularlos con cada nuevo token, lo que reduce considerablemente los recursos de cómputo necesarios para generar respuestas más largas.

Redes de baja latencia y seguridad de las API

Dado que la inferencia se pone a disposición de los usuarios y las aplicaciones a través de interfaces de programación de aplicaciones (API), la ruta de red entre una solicitud y el modelo importa tanto como el tiempo de procesamiento del propio modelo. La latencia de red, la congestión y el enrutamiento ineficiente entre una aplicación y su punto de conexión de inferencia pueden anular las mejoras de rendimiento que ofrecen una GPU más rápida o un modelo cuantizado más pequeño. Las API de inferencia también plantean nuevos problemas de seguridad, como la inyección de prompts, la exfiltración de datos a través de las respuestas del modelo y el acceso no autorizado a recursos de computación costosos, además de los riesgos más conocidos de cualquier API expuesta. Por eso, las estrategias de inferencia empresariales combinan cada vez más la elección del hardware y de los modelos con soluciones específicas de gestión del tráfico y de seguridad de las API.

Gestión de las cargas de trabajo de inferencia empresariales

No todas las cargas de trabajo de inferencia se comportan de la misma manera, y la infraestructura que las soporta debe tenerlo en cuenta. Las empresas suelen gestionar una combinación de cuatro modalidades: inferencia en tiempo real, inferencia por lotes, inferencia en el perímetro e inferencia con IA generativa y modelos de lenguaje de gran tamaño (LLM). Cada una tiene sus propios requisitos de latencia y su propio enfoque de escalado.

Inferencia en tiempo real o en línea

La inferencia en tiempo real procesa una solicitud cada vez y devuelve un resultado de inmediato, normalmente en milisegundos. Este patrón es adecuado para casos de uso que requieren una respuesta rápida, como la detección de fraude en el momento de la transacción, las respuestas de chatbots en directo o la percepción del entorno en vehículos autónomos, donde una respuesta tardía es tan poco útil como una incorrecta.

Inferencia por lotes

La inferencia por lotes agrupa muchas solicitudes y las procesa de una sola vez, a menudo de forma programada o durante las horas de menor demanda. Como la latencia de cada solicitud importa menos que el rendimiento global, los trabajos por lotes pueden aprovechar mejor el hardware disponible. Algunos ejemplos habituales son generar recomendaciones de productos durante la noche o evaluar el riesgo de abandono de un gran conjunto de clientes.

Inferencia en el borde

La inferencia en el borde ejecuta el modelo en el dispositivo que genera los datos o cerca de él, como un teléfono inteligente, una cámara o un sensor industrial, en lugar de enviar esos datos a un centro de datos centralizado o a una región de la nube. Esto reduce la latencia, permite su uso sin conexión o con conectividad intermitente y puede ayudar a cumplir los requisitos de privacidad o residencia de los datos, aunque normalmente implica ejecutar una versión más pequeña o más comprimida del modelo para adaptarse al hardware disponible.

IA generativa e inferencia de LLM

Las cargas de trabajo de IA generativa y de grandes modelos de lenguaje (LLM) generan la salida token a token en lugar de devolver un único resultado, lo que hace que su consumo de recursos sea menos predecible que el de un modelo de clasificación o regresión. Una instrucción breve que genera una respuesta larga consume muchos más recursos de cómputo que una instrucción larga con una respuesta breve, y las cargas de trabajo pueden cambiar rápidamente a medida que aumenta el uso. Esta variabilidad es una de las principales razones por las que las cargas de trabajo de IA generativa exigen más al equilibrio de carga y al escalado basado en Kubernetes que las generaciones anteriores de inferencia de aprendizaje automático, ya que la capacidad debe adaptarse a patrones de uso que cambian de un minuto a otro, en lugar de un día a otro.

Aplicaciones prácticas de la inferencia en el aprendizaje automático

El impacto de la inferencia en el aprendizaje automático se aprecia en numerosos sectores. En el ámbito sanitario, por ejemplo, la inferencia ayuda a los médicos a detectar anomalías en imágenes médicas, como las de tomografías computarizadas o resonancias magnéticas, e identificar posibles problemas con mayor rapidez que los métodos manuales. En el sector financiero, las empresas de negociación de alta frecuencia y los bancos utilizan la inferencia para predecir tendencias del mercado, detectar posibles fraudes en transacciones con tarjetas de crédito y evaluar los riesgos crediticios. Los comercios incorporan la inferencia en motores de recomendación que adaptan las sugerencias de productos a los hábitos de compra de cada persona, lo que mejora considerablemente la experiencia de usuario.

Más allá de estos ejemplos más habituales, la inferencia de aprendizaje automático también hace posibles los asistentes activados por voz, el reconocimiento facial en cámaras inteligentes y los itinerarios de aprendizaje personalizados en programas educativos. Al procesar nuevos datos —ya sean comandos de voz, transmisiones de vídeo en tiempo real o métricas de rendimiento—, los modelos ofrecen respuestas y ejecutan acciones al instante. Por ello, empresas de todos los sectores están utilizando la información obtenida mediante la inferencia para aumentar la eficiencia, reducir costes y mejorar la satisfacción de los clientes. En combinación con datos a gran escala e infraestructuras integradas, la inferencia permite a las organizaciones ser más proactivas, responder a las tendencias actuales y anticipar la evolución futura con mayor precisión.

Inferencia de ML frente a entrenamiento

La comparación entre la inferencia y el entrenamiento de modelos de aprendizaje automático pone de relieve los compromisos que deben asumir las organizaciones al buscar un alto rendimiento en sus cargas de trabajo de IA. El entrenamiento requiere importantes recursos computacionales, conocimientos especializados en ciencia de datos y una gran cantidad de datos históricos. Es una fase que consume muchos recursos e incluye experimentos, ajustes de hiperparámetros y comprobaciones de validación. Debido a estos factores, los ciclos de entrenamiento pueden durar desde horas hasta días o incluso semanas, especialmente en el caso de modelos de aprendizaje profundo o conjuntos de datos extremadamente grandes.

La inferencia, por el contrario, suele operar con restricciones que priorizan la velocidad y la escalabilidad. El objetivo es procesar nuevos datos prácticamente en tiempo real sin sacrificar la precisión del modelo. Esto puede plantear dificultades en los entornos de producción, donde los cuellos de botella, como la latencia de red o una aceleración por hardware limitada, pueden reducir el rendimiento. Las organizaciones suelen tener dificultades para encontrar el equilibrio adecuado entre la frecuencia con la que reentrenan los modelos (para mantenerlos actualizados) y la eficiencia con la que pueden atender las solicitudes de inferencia. Al optimizar ambos aspectos —a menudo mediante técnicas como el aprendizaje por transferencia, la compresión de modelos y la computación en el borde—, las empresas buscan lograr una elevada precisión en las predicciones de los modelos y, al mismo tiempo, gestionar eficazmente los costes computacionales.

Cómo ayuda F5 en los despliegues de IA empresarial

F5 ayuda a las organizaciones a proteger, escalar y orquestar sus implementaciones de IA empresarial a través de la plataforma F5 Application Delivery and Security Platform. Al abordar los retos de los modelos de IA conectados, que a menudo dependen de API distribuidas, F5 agiliza los flujos de trabajo, refuerza la infraestructura y garantiza un rendimiento fluido en entornos híbridos y multinube. Facilita el entrenamiento, el ajuste fino y la inferencia de forma eficiente mediante la gestión inteligente del tráfico para la ingesta de datos de IA, así como la protección avanzada frente a amenazas. En colaboración con líderes como NVIDIA e Intel, F5 ofrece soluciones a medida que simplifican las operaciones de IA, mejoran la seguridad y permiten a las empresas aprovechar con confianza todo el potencial de la IA empresarial. Obtenga más información sobre cómo F5 protege y distribuye aplicaciones de IA en cualquier entorno.

Implementación de la inferencia de IA en entornos híbridos y multinube

La mayoría de las empresas ejecutan la inferencia en una combinación de centros de datos locales, nube pública y ubicaciones en el edge, y cada entorno plantea sus propias consideraciones de latencia, coste y cumplimiento normativo. F5 aborda esta complejidad con diversos componentes de su cartera de soluciones. El uso de una puerta de enlace de IA como F5 AI Gateway proporciona a los equipos un único punto de control para gestionar, proteger y optimizar el tráfico hacia modelos, agentes y herramientas de IA, independientemente de dónde se ejecuten esos modelos.

F5 Distributed Cloud extiende políticas de red y seguridad uniformes a centros de datos, nubes y ubicaciones perimetrales, de modo que el tráfico de inferencia pueda circular entre entornos sin fragmentar la postura de seguridad. Las soluciones de equilibrio de carga diseñadas para fábricas de IA dirigen el tráfico de inferencia y entrenamiento entre clústeres de GPU y entornos de Kubernetes, tanto locales como mediante ofertas de GPU como servicio, para evitar que la costosa capacidad de los aceleradores quede inactiva. Como parte de F5 ADSP, estas soluciones proporcionan a las organizaciones una arquitectura única para conectar usuarios, datos, API y puntos de conexión de inferencia, en lugar de integrar soluciones puntuales independientes para cada entorno.

La inferencia en la IA y el aprendizaje automático es el puente entre el entrenamiento y la aplicación práctica. Transforma los patrones complejos aprendidos durante el desarrollo del modelo en información útil que puede impulsar desde recomendaciones personalizadas y detección del fraude hasta diagnósticos médicos e interacciones con chatbots. Al centrarse en cómo se procesan los datos nuevos y cómo se entregan los resultados, la inferencia es la fase en la que el aprendizaje automático demuestra realmente su valor, al permitir a las organizaciones tomar decisiones basadas en datos y mejorar las experiencias de los usuarios en tiempo real.

A medida que más sectores adoptan soluciones basadas en la IA, la importancia de la inferencia sigue aumentando. No solo exige una infraestructura eficiente y fiable, que a menudo incluye capas de orquestación y hardware especializado, sino que también pone de relieve el valor de los modelos bien diseñados, capaces de adaptarse a condiciones cambiantes. Al separar la elevada carga de trabajo del entrenamiento del proceso rápido e iterativo de la inferencia, los sistemas de IA modernos pueden mantenerse actualizados y seguir siendo relevantes sin sacrificar el rendimiento ni la velocidad. Desde aplicaciones cotidianas, como las recomendaciones en línea, hasta tareas críticas, como el mantenimiento predictivo y el diagnóstico avanzado, la inferencia es un elemento central de la creciente influencia del aprendizaje automático en nuestra forma de trabajar, vivir e innovar.