Aplicaciones de IA generativa: del experimento a la producción

Ecosistema de F5 | 18 de julio de 2024

Promesas y más promesas. Las aplicaciones basadas en IA generativa prometen aumentar la productividad humana y, por tanto, los beneficios empresariales. Para muchos casos de uso, el camino desde la fase experimental hasta la producción sigue siendo frenético y peligroso, como en el videojuego de Konami de 1981, «Frogger». La rana debe llegar a casa cruzando primero una calle muy transitada y después un río de aguas rápidas. No puede quedarse quieta, pero tampoco puede avanzar siempre a saltos debido al peligro que ello conlleva.

Las empresas son la rana. La calle y el río son vertiginosos torrentes de tecnología de IA que pasan a toda velocidad. Los espacios seguros (los tramos despejados de la calle y los troncos flotantes) son los proyectos desarrollados internamente y las soluciones de proveedores. Los coches, los camiones, las tortugas y las aguas abiertas representan los riesgos éticos, legales, de privacidad y de precisión de la IA generativa. El hogar está en la orilla opuesta, donde los beneficios empresariales se disparan tras poner en producción aplicaciones de IA generativa.

Frogger
Poner la IA generativa en producción es como jugar a Frogger

La velocidad a la que ha despegado la IA generativa genera una urgencia frenética en las empresas. Sin embargo, la rapidez con la que avanzan los modelos puede paralizar a algunas organizaciones, porque el terreno cambia bajo sus pies tan deprisa que no logran orientarse ante una transformación constante y acelerada. El secreto para adoptar la IA generativa es el mismo que para empezar una partida de Frogger: ¡hay que lanzarse!

Partiendo de los casos de uso básicos de la IA generativa, una vez que las empresas decidan cuáles les resultan interesantes, pueden empezar a experimentar. Ya sea desarrollando una aplicación basada en IA, probando soluciones de terceros o combinando ambas opciones, las pruebas iniciales permitirán determinar con precisión qué necesita la empresa. La clave del éxito en esta fase inicial consiste en apostar por una versión mínima de la aplicación que cumpla los requisitos de seguridad y eficacia necesarios para su puesta en producción. Esta se convierte en la base de la organización. A partir de ahí, pueden seguir avanzando, decidir qué mejoras de los modelos son relevantes y valorar si resulta más prudente desarrollar una solución propia o adquirirla.

Hay dos «escollos» que inevitablemente ralentizarán a cualquier organización que intente adoptar la IA generativa: entrenar modelos internamente y utilizar repositorios de datos privados. El ritmo de avance de los modelos fundacionales se mide ya en semanas y meses, y las versiones derivadas se actualizan a diario. Basta con echar un vistazo al rastreador de modelos de HuggingFace si necesita pruebas. La página que acabo de consultar mientras escribía este artículo ocupa casi una página entera con modelos actualizados hace menos de un minuto. ¡Hay que desplazarse hacia abajo para encontrar un modelo que tenga más de dos minutos de antigüedad!

Si los datos necesarios para responder a una pregunta planteada a la IA están disponibles públicamente, es probable que ya exista una buena variedad de modelos fundacionales disponibles para su uso a través de una API. En cambio, si los datos no son públicos, habrá que decidir si se envían durante la inferencia o si se crea o adquiere un modelo y se implementa de forma privada. Pagar por acceder a un modelo es, sin duda, más rápido y, muy probablemente, más barato que crear o adquirir bajo licencia, alojar y mantener internamente un modelo propio. ¿Cuál es el superpoder de su empresa? Si no es crear o mantener grandes modelos de lenguaje (LLM), lo más probable es que deba comprar uno en lugar de crearlo y alojarlo.

Y, en el caso de los datos privados, las ventanas de contexto y las opciones personalizadas para el uso de LLM han evolucionado tan rápidamente que la seguridad y el cumplimiento normativo de nivel empresarial, similares a los que ya se han aceptado para la computación en la nube, satisfacen los requisitos de la mayoría de las empresas. De hecho, los proveedores de modelos captaron alto y claro en 2023 el mensaje de no entrenar con tus datos. Tomemos como ejemplo ChatGPT Enterprise: cuenta con la certificación SOC 2 Tipo 2, inicio de sesión único (SSO) mediante SAML, cifrado de los datos tanto en reposo como en tránsito y espacios de trabajo dedicados que permiten aplicar políticas de conservación de datos y verificar dominios. No está mal, ¿verdad? Pues para el 92 % de las empresas de la lista Fortune 500 parece ser más que suficiente.

Las organizaciones que confían en las posibilidades de la IA generativa no tienen por qué quedarse paralizadas ante los riesgos inherentes ni las mejoras diarias de los LLM. Pueden alcanzar el éxito si se lanzan con pleno conocimiento de causa. El ciclo inicial de experimentación aporta confianza y permite priorizar las tareas que más se benefician de un uso seguro y ético. Estas soluciones deben implantarse en toda la organización en un entorno de producción, dando un respiro a evaluadores e implementadores y tiempo a la organización para medir las mejoras de productividad, priorizar el siguiente conjunto de tareas y determinar si tiene más sentido desarrollar LLM propios o contratar el acceso a ellos.

Compartir

Sobre el autor

James Hendergart
James HendergartDirector sénior de Investigación Técnica | F5

Más artículos de James Hendergart

Artículos relacionados del blog

Proteger los endpoints de las API dificulta la seguridad de las API
Ecosistema de F5 | 30/01/2024

Proteger los endpoints de las API dificulta la seguridad de las API

Descubre las complejidades de la seguridad de las API, los retos a los que se enfrentan las organizaciones, la evolución de los ataques contra endpoints de API y la necesidad de políticas de seguridad adaptadas.

¿Qué es el sesgo de la IA y por qué es importante para TI?
Ecosistema de F5 | 22/02/2023

¿Qué es el sesgo de la IA y por qué es importante para TI?

Descubre los fundamentos del aprendizaje de la IA. Aprende cómo pueden surgir sesgos en la IA y qué riesgos plantean para las TI y la transformación digital.

Redefiniendo la ciberseguridad en el extremo de la nube distribuida con IA y telemetría en tiempo real
Ecosistema de F5 | 01/11/2021

Redefiniendo la ciberseguridad en el extremo de la nube distribuida con IA y telemetría en tiempo real

La transformación digital y la adopción de tecnologías en la nube están provocando cambios en las arquitecturas de las aplicaciones. Estos cambios introducen nuevas superficies de ataque, que son el objetivo de métodos de ataque avanzados, altamente organizados y con motivaciones económicas. Mediante el uso del framework Morpheus de NVIDIA, F5 está investigando técnicas para detectar estas amenazas avanzadas con telemetría en tiempo real y análisis basados en IA.

El papel de la nube en las aplicaciones nativas del edge
Ecosistema de F5 | 14/06/2021

El papel de la nube en las aplicaciones nativas del edge

No debería sorprender que, al igual que la aparición de la nube dio lugar a las aplicaciones nativas de la nube, el edge esté impulsando un conjunto de aplicaciones nativas del edge. Sin embargo, estas aplicaciones no residirán únicamente en el edge. Al mismo tiempo, están surgiendo nuevos patrones arquitectónicos que aprovechan las aplicaciones alojadas en la nube y en el centro de datos.

La creciente diversidad de ubicaciones y usuarios está impulsando a las empresas hacia el edge
Ecosistema de F5 | 03/05/2021

La creciente diversidad de ubicaciones y usuarios está impulsando a las empresas hacia el edge

En el contexto del ámbito de las aplicaciones, el término «usuario» siempre se ha referido a la entidad que interactúa con una aplicación. Del mismo modo que los cambios en las arquitecturas de las aplicaciones impulsan cambios en las tecnologías que permiten ofrecerlas y protegerlas, los cambios en la definición de usuario han provocado cambios en los lugares donde se despliegan las aplicaciones.

El edge está impulsando un renacimiento de las infraestructuras
Ecosistema de F5 | 26/10/2020

El edge está impulsando un renacimiento de las infraestructuras

A medida que las organizaciones aumentan la generación de datos y tratan de extraer valor empresarial de ellos, sin duda recurrirán a la analítica y la automatización basadas en la IA y el aprendizaje automático. Precisamente este tipo de cargas de trabajo son las que más se beneficiarían de una infraestructura optimizada y, sin embargo, hoy en día son las que menos probabilidades tienen de poder aprovecharla.