La última encuesta Pulse sobre IA de EY indica que el 87 % de los altos directivos señala obstáculos para su adopción, desde problemas de ciberseguridad y datos hasta la falta de políticas y gobernanza. Integrar la inteligencia artificial generativa (GenAI) en las empresas requiere tanto la voluntad como la capacidad para hacerlo realidad. La brecha entre ambas está marcada por la complejidad operativa y la necesidad de confiar en esta nueva tecnología.
Las empresas llevan décadas desarrollando e implantando software, pero la IA generativa plantea un nuevo reto: el control. A diferencia del software tradicional, las aplicaciones de IA generativa actúan de forma autónoma y no son deterministas. Por tanto, no se puede confiar en que hagan únicamente aquello para lo que fueron concebidas y que nunca hagan nada imprevisto, al menos por ahora. Esta falta de control frena su adopción a gran escala. El reto del control se comprende mejor analizando el poder del contexto, y esa comprensión permite a las empresas ampliar el diseño de software tradicional para adaptarlo a la IA generativa.
Con suficiente contexto, la incertidumbre de las aplicaciones de IA generativa se vuelve manejable, ya que el contexto salva la distancia entre lo que estas aplicaciones pueden hacer y lo que pretende la empresa. El contexto puede obtenerse de tres ámbitos: la aplicación de IA generativa, el entorno y la empresa.
Comparación del contexto de la aplicación
El contexto disponible en las aplicaciones de IA generativa difiere significativamente del de las aplicaciones tradicionales. Las aplicaciones tradicionales determinan de antemano las entradas permitidas como parámetros para operaciones predefinidas. Las mismas entradas siempre producirán los mismos resultados. En cambio, las aplicaciones de IA generativa admiten una variedad mucho más amplia de entradas en los modelos de lenguaje de gran tamaño (LLM), cuyas respuestas son, por diseño, no deterministas. Las mismas entradas pueden producir o no los mismos resultados.
Ejemplo de determinismo en una aplicación tradicional:
Este ejemplo de Python calcula la edad de una persona a partir de su fecha de nacimiento y la fecha actual. Para mayor brevedad, se omiten detalles adicionales como la gestión de tipos y la consideración de si la fecha de cumpleaños ya ha pasado en el año en curso.
from datetime import datetime
from typing import Union
def calcular_edad(fecha_nacimiento:str, fecha_actual:str) -> int
age = current_dt.year - birth_dt.year
return age
Datos: fecha de nacimiento = 30 de junio de 1972 y fecha actual = 31 de agosto de 2025
Edad = 53 años.
Ejemplo de no determinismo en una aplicación de IA generativa:
Esta aplicación puede estimar la edad probable de una persona a partir de información más general, sin necesidad de conocer su fecha de nacimiento ni la fecha actual.
Las aplicaciones de IA generativa admiten una amplia variedad de entradas para la inferencia de los LLM.
Prompt: ¿Qué edad tiene una persona a la que le gusta la música disco y recuerda quién ganó la medalla de oro olímpica en los 100 metros femeninos en Barcelona?
Tras introducirle exactamente este prompt en tres ocasiones distintas, las respuestas proporcionadas por el LLM fueron las siguientes:
Respuesta 1: 55 años
Respuesta 2: entre 40 y 60 años
Respuesta 3: entre 40 y 49, entre 50 y 59 o entre 60 y 69 años
La función de Python de la aplicación tradicional acepta dos datos de entrada (la fecha de nacimiento y la fecha actual) y calcula la diferencia en años. No puede deducir la edad de una persona ni aceptar descripciones de sus preferencias, hábitos, etc., porque no puede sintetizar información ni extraer conclusiones.
En cambio, la aplicación de IA generativa puede aceptar afirmaciones sobre los géneros musicales populares durante la infancia y recurrir a conocimientos generales sobre grandes acontecimientos deportivos para deducir una respuesta. Sin embargo, las respuestas pueden variar debido a pequeñas diferencias en la entrada, como la reformulación de una pregunta o los ajustes de temperatura (que afectan al grado de aleatoriedad de las respuestas de los LLM). Aunque el código de la aplicación no cambie entre una respuesta y otra, estas pueden ser distintas. Esta variación aumenta con la complejidad del prompt, la incorporación de fuentes de entrada adicionales y el comportamiento de los componentes de enrutamiento de la infraestructura de inferencia.
Dado este margen de libertad, no es difícil imaginar casos en los que una aplicación de IA generativa pueda desviarse enormemente de su comportamiento previsto si no dispone de contexto adicional. Estos dos ejemplos de contexto ilustran el determinismo extremo del software tradicional y el carácter no determinista de las aplicaciones de IA generativa. No se esperaría que el software tradicional adivinara o predijera la edad de una persona basándose en el contexto, pero sí se espera que las aplicaciones de IA generativa aborden habitualmente este tipo de cuestiones no deterministas. Si la aplicación no contiene suficiente contexto, el siguiente paso es examinar su entorno.
El contexto del entorno proporciona información a la aplicación desde el exterior
El entorno está formado por la infraestructura y los servicios que rodean a la aplicación. En julio de 1982, durante el seminario sobre la industria informática CreativeThink, Alan Kay afirmó: «Quienes se toman realmente en serio el software deberían fabricar su propio hardware», porque estaba firmemente convencido de la estrecha relación entre ambos. Me gustaría extrapolar esa idea para incluir también el entorno de despliegue.
Las aplicaciones no existen de forma aislada. Todo tipo de servicios de infraestructura se combinan para proporcionar un entorno en el que puedan ejecutarse. Aunque estos servicios son externos a las aplicaciones, resultan esenciales para su correcto funcionamiento, al igual que el hardware. Llevando este razonamiento un paso más allá, estos servicios de infraestructura se supervisan minuciosamente mediante diversas soluciones de observabilidad que recopilan y registran abundantes datos de telemetría a lo largo del tiempo. Estos datos describen el rendimiento de la aplicación y cómo puede afectarle el entorno que la rodea.
El contexto del entorno puede dividirse en dos tipos: pasivo y activo. Todas las formas de telemetría (por ejemplo, registros, métricas, trazas y eventos) pueden considerarse pasivas porque se emiten y recopilan continuamente mientras la infraestructura y las aplicaciones están en funcionamiento. Las alertas, las notificaciones y los paneles son activos. Utilizan reglas para interpretar la telemetría y comunicar el contexto operativo. El ajuste de las reglas aporta significado operativo a la información y permite determinar cuándo los valores de tolerancia de cualquier parte del entorno están próximos a alcanzarse o se han superado.
Las aplicaciones de IA generativa ponen en entredicho el enfoque basado en reglas, ya que todavía no existe una telemetría fiable que abarque los aparentemente infinitos comportamientos posibles de un componente autónomo. Esto no significa que no se esté innovando. Se están probando dos enfoques: las métricas específicas del dominio para medir el éxito de la IA generativa y el uso de un LLM como evaluador. El primero emplea medios alternativos para determinar la realidad de referencia y compararla después con el resultado de una IA generativa, contabilizando las tasas de éxito y fracaso. El segundo utiliza un LLM para evaluar la precisión de otro. El tiempo dirá hasta qué punto estos enfoques divergentes permiten lograr un verdadero control de la IA generativa mediante el contexto del entorno.
La intención empresarial completa el panorama contextual
La intención empresarial se define con la frase: «Todo lo que la empresa quiere y nada de lo que no quiere». Abarca las situaciones que la aplicación y el entorno podrían pasar por alto.
Una noticia reciente destaca un caso en el que se concedieron al componente de IA generativa de una aplicación privilegios suficientes para llevar a cabo operaciones extremadamente dañinas, como eliminar todos los registros de clientes de una base de datos. Estos son algunos datos de ese caso que ilustran la brecha entre la intención empresarial y las posibles acciones de las aplicaciones de IA generativa.
| Qué ocurrió | El contexto empresarial que faltaba |
|---|---|
| La herramienta de programación con IA eliminó una base de datos de producción durante una congelación de código. |
|
| La herramienta de programación con IA afirmó que no se podían revertir los cambios en la base de datos y que no había ninguna instancia desde la que restaurarla, pero la ejecución manual de una reversión sí funcionó. |
|
Este caso práctico ilustra algunas de las muchas posibles discrepancias que pueden surgir entre lo que se puede permitir que haga la IA generativa y lo que una empresa pretende que haga.
Diseñar una aplicación con una función para eliminar un registro es totalmente razonable, pero permitir que la IA elimine todos los registros sin pedir permiso no lo es. En el software tradicional, el permiso para eliminar registros está restringido para reducir el riesgo de pérdidas empresariales, pero la IA generativa introduce una autonomía que los controles de acceso basados en roles no regulan adecuadamente. El contexto empresarial resulta útil en este caso, ya que permite definir los comportamientos esperados e inesperados, que pueden traducirse en requisitos específicos, incluidas las acciones expresamente prohibidas y las pausas obligatorias para la intervención humana. Es el contexto completo el que permite alcanzar este grado de control.
Las arquitecturas de aplicaciones concebidas antes de la llegada de la IA generativa son sencillamente insuficientes. La llegada de la IA generativa exige un nuevo patrón arquitectónico que combine los tres ámbitos del contexto: la aplicación, su entorno y la intención empresarial. Esta explicación de Phil Schmid, ingeniero sénior de Relaciones con la IA en Google DeepMind, resulta especialmente útil para comprender la diferencia fundamental que introducen las aplicaciones de IA generativa. Destaca que los LLM reciben el contexto como parte de sus entradas y muestra cómo los distintos componentes de las aplicaciones de IA generativa tienen su propia definición del contexto y hacen un uso específico de él.
La arquitectura y la ingeniería de las aplicaciones de IA generativa deben aprovechar los tres ámbitos de contexto para producir resultados que se ajusten sistemáticamente a la intención empresarial. Sin una visión completa del contexto, el control es ilusorio, la confianza es inexistente y la adopción a gran escala resulta inalcanzable.
Sobre el autor
Artículos relacionados del blog
Control de las aplicaciones de IA generativa mediante el contexto
Controlar las aplicaciones de IA generativa implica aprovechar el contexto de la aplicación, del entorno y del negocio. Descubra por qué disponer de un contexto completo garantiza la confianza y la adopción.