Según los titulares, OpenAI es el único juego de IA generativa del mercado. Se menciona en todas las conversaciones sobre IA, incluso en ésta. Pero no es el único servicio que existe ni el único modelo disponible.
De hecho, la adopción de IA generativa para las empresas no es tan homogénea como los titulares podrían hacernos pensar.
Nuestra investigación más reciente descubrió que las organizaciones, en promedio, funcionan con casi tres modelos diferentes. La razón detrás de esa elección parece estar impulsada por casos de uso.
Por ejemplo, no sorprende ver que las operaciones de seguridad como caso de uso graviten hacia modelos de código abierto, que pueden entrenarse de forma privada sin temor a exponer procesos y datos corporativos confidenciales. Lo mismo ocurre con la creación de contenido, que a menudo requiere compartir datos confidenciales con una modelo. Tampoco es sorprendente ver casos de uso de automatización de flujo de trabajo que recurren a los servicios alojados de Microsoft, ya que muchas organizaciones están estrechamente vinculadas a las soluciones de Microsoft tanto locales como en Azure .
Ningún modelo por sí solo podrá satisfacer todos los requisitos técnicos y comerciales de la creciente lista de casos de uso de IA generativa para empresas.
Esto genera algunos desafíos en lo que respecta a la entrega y seguridad de las aplicaciones y las operaciones generales, ya que las diferentes opciones de modelos implican diferentes patrones de implementación.
Están surgiendo tres patrones básicos de implementación. La diferencia principal gira en torno a la responsabilidad operativa de escalar los servicios de inferencia. En todos los patrones, la organización es responsable de la entrega y la seguridad de la aplicación.
(Para profundizar en estos patrones, puedes consultar este blog de Chris Hain)
Hay numerosos proveedores que alojarán modelos de código abierto para respaldar un patrón administrado por SaaS y muchos proveedores de nube que también ofrecen código abierto como servicio.
Los modelos de OpenAI no solo están disponibles en un patrón administrado por SaaS a través de OpenAI, sino también como un patrón administrado por la nube a través de Microsoft. Mistral, un popular modelo de código abierto, se puede implementar en los tres patrones. Es por esto que vemos el caso de uso como el principal impulsor de la elección del modelo, dado que las empresas pueden elegir mezclar y combinar, por así decirlo, modelos y patrones de implementación.
Las organizaciones ya están sintiendo la presión con respecto a las habilidades necesarias no sólo para entrenar modelos sino también para operarlos y protegerlos. Por lo tanto, la combinación de modelos por caso de uso tiene más sentido para muchas organizaciones con experiencia operativa limitada. Concentrar los recursos en aquellos casos de uso que, por razones de seguridad o privacidad, no pueden implementarse en patrones compartidos en última instancia producirá los mejores resultados.
Pero tenga cuidado con el peligro de la miopía operativa, que puede generar silos dentro de la organización. Hemos visto que eso sucede con la computación en la nube y sin duda lo veremos nuevamente con la IA generativa para empresas. Pero siendo conscientes del peligro de aislar las operaciones y la seguridad por modelo, se espera que las organizaciones puedan evitar la complejidad y el riesgo que esto implica y elegir estratégicamente modelos y patrones de implementación que aprovechen al máximo los recursos operativos, las capacidades y los presupuestos.
Estos son los primeros días, y cuando usted lea esto, sin duda habrá nuevos proveedores y nuevos modelos con nuevas capacidades. Pero los patrones de implementación seguirán siendo en gran medida los mismos, lo que permite una planificación más estratégica con respecto a las operaciones, desde los presupuestos hasta el personal y los servicios de aplicaciones que necesitará para proteger y escalar cualquier modelo que elija.