No existe «un modelo para dominarlos a todos» en la IA generativa

Lori Mac VittieIngeniero distinguido y evangelista jefe | F5

A juzgar por los titulares, OpenAI parece ser la única opción en el ámbito de la IA generativa. Se menciona en todas las conversaciones sobre IA, incluida esta. Pero no es el único servicio que existe ni el único modelo disponible.

De hecho, la adopción de la IA generativa en el ámbito empresarial no es tan homogénea como los titulares podrían hacer pensar.

Nuestro estudio más reciente reveló que las organizaciones utilizan, de media, casi tres modelos diferentes. La elección parece depender de los casos de uso.

Por ejemplo, no sorprende que las operaciones de seguridad como caso de uso se decanten por modelos de código abierto, que pueden entrenarse de forma privada sin temor a exponer procesos y datos corporativos confidenciales. Lo mismo ocurre con la creación de contenido, que a menudo requiere compartir datos confidenciales con un modelo. Tampoco sorprende que los casos de uso de automatización de flujos de trabajo recurran a los servicios alojados de Microsoft, ya que muchas organizaciones están estrechamente vinculadas a las soluciones de Microsoft tanto en sus propias instalaciones como en Azure.

Ningún modelo por sí solo podrá satisfacer todos los requisitos técnicos y empresariales de la creciente lista de casos de uso de la IA generativa en el ámbito empresarial.

Esto plantea algunos retos en lo que respecta a la entrega y la seguridad de las aplicaciones, así como a las operaciones generales, ya que la elección de distintos modelos implica diferentes patrones de despliegue.

Patrones emergentes de despliegue de IA

Están surgiendo tres patrones básicos de implementación. La principal diferencia radica en la responsabilidad operativa de escalar los servicios de inferencia. En todos los patrones, la organización es responsable de la entrega de aplicaciones y la seguridad.

1. SaaS gestionado. En un modelo de implementación de SaaS gestionado, las aplicaciones de IA utilizan API para acceder a un servicio de IA gestionado, como OpenAI ChatGPT. La responsabilidad operativa del escalado recae en el proveedor.
2. Gestionado en la nube. Los patrones de despliegue gestionados en la nube aprovechan los servicios de IA alojados por proveedores de servicios en la nube. Se sigue accediendo a estos servicios mediante una API, pero pueden ser privados para la empresa o compartidos. Las propias aplicaciones de IA también pueden estar en la nube pública o en las instalaciones. Cuando el servicio es privado, la empresa asume la responsabilidad de escalar los servicios de inferencia, lo que puede suponer un reto, ya que la mayoría de las organizaciones tienen poca experiencia en el escalado de grandes modelos de lenguaje. Cuando el servicio es compartido, las organizaciones delegan la responsabilidad en el proveedor de servicios en la nube, pero deben tener en cuenta factores como las cuotas y los costes basados en tokens como parte de sus operaciones.
3. Autogestionado. Los modelos de código abierto suelen implementarse siguiendo un modelo autogestionado, tanto en la nube pública como en las instalaciones de la organización. Se puede acceder a los modelos mediante una API o directamente a través de una aplicación. En este modelo, las organizaciones asumen toda la responsabilidad de escalar, proteger y supervisar los servicios de inferencia.

(Para profundizar en estos patrones, puedes consultar este artículo del blog de Chris Hain)

Existen numerosos proveedores que alojan modelos de código abierto para ofrecer un modelo gestionado de SaaS, así como muchos proveedores de servicios en la nube que también ofrecen código abierto como servicio.

Los modelos de OpenAI no solo están disponibles a través de OpenAI en un modelo gestionado de SaaS, sino también a través de Microsoft en un modelo gestionado en la nube. Mistral, un popular modelo de código abierto, puede implementarse en los tres modelos. Por este motivo, consideramos que el caso de uso es el principal factor a la hora de elegir un modelo, dado que las empresas pueden combinar, por así decirlo, distintos modelos y patrones de implementación.

Las organizaciones ya están notando la presión derivada de las competencias necesarias no solo para entrenar los modelos, sino también para operarlos y protegerlos. Por tanto, para muchas organizaciones con una experiencia operativa limitada, lo más sensato es asignar los modelos en función del caso de uso. Centrar los recursos en aquellos casos de uso que, por motivos de seguridad o privacidad, no puedan implementarse en entornos compartidos permitirá obtener, en última instancia, los mejores resultados.

Cuidado con la miopía operativa

Pero hay que tener cuidado con el peligro de la miopía operativa, que puede generar silos dentro de la organización. Ya hemos visto que esto ocurre con la computación en la nube y, sin duda, volveremos a verlo con la IA generativa para empresas. No obstante, al ser conscientes del peligro de aislar las operaciones y la seguridad en función del modelo, cabe esperar que las organizaciones puedan evitar la complejidad y el riesgo que ello conlleva, y elegir estratégicamente modelos y patrones de despliegue que permitan aprovechar al máximo los recursos, las capacidades y los presupuestos operativos.

Aún estamos en una fase inicial y, para cuando lea esto, sin duda habrá nuevos proveedores y modelos con nuevas capacidades. Sin embargo, los patrones de despliegue seguirán siendo en gran medida los mismos, lo que permite una planificación más estratégica de las operaciones: desde los presupuestos y la dotación de personal hasta los servicios de aplicaciones que necesitará para proteger y escalar los modelos que elija.

Sobre el autor

Lori Mac VittieIngeniero distinguido y evangelista jefe | F5

Lori MacVittie es ingeniera distinguida y evangelista jefe en la Oficina del CTO de F5, y cuenta con una amplia experiencia en entrega de aplicaciones, estrategia de automatización e infraestructura. Es conocida por convertir la complejidad en claridad, ya sea definiendo mecanismos de protección para agentes de IA, analizando arquitecturas multinube frágiles o explorando los límites de los sistemas escalables. Aporta más de treinta años de experiencia en el sector en desarrollo de aplicaciones, arquitectura de TI y operaciones de redes y sistemas. Antes de incorporarse a F5, fue una galardonada editora de tecnología. MacVittie posee un máster en Informática y es una autora prolífica cuyas publicaciones abarcan la seguridad, la nube y la arquitectura empresarial. También es una apasionada de los juegos de mesa y los videojuegos, y expresa sin complejos sus firmes opiniones sobre el queso.

Más artículos de Lori Mac Vittie