Actualización: un tipo diferente de multiverso: integración multimodelo y multimodal

F5 Newsroom Staff

La integración segura de modelos de IA multimodal o de varios modelos en las infraestructuras digitales existentes se está convirtiendo en una cuestión importante en los debates sobre por qué, cuándo y cómo implementar la inteligencia artificial generativa (IA generativa), incluidos los grandes modelos de lenguaje (LLM), en toda la empresa. Aunque muchas organizaciones ya han implementado al menos un modelo de IA generativa —casi el 15 % según una encuesta reciente—, muchas más han aplazado su implementación entre tres y doce meses, mientras que el resto sigue debatiendo si incorporar o no los LLM a sus sistemas.

Las ventajas de contar incluso con un único modelo de lenguaje unimodal —por ejemplo, ChatGPT-3.5 u otros— pueden traducirse en enormes mejoras de la eficiencia y la productividad cuando se utiliza para tareas basadas en texto, como la generación de contenido, el resumen, el análisis y la traducción. Sin embargo, incorporar varios modelos o modelos que utilicen o creen contenido no textual constituye la versión creativa de un «multiplicador de fuerzas» y requiere una estrategia diferente.

¿Multimodal? ¿Multimodelo?

Los escenarios para una organización que implementa varios modelos de IA son muy diversos. Aunque algunas organizaciones quizá quieran aprovechar las capacidades de más de un LLM público de gran tamaño, por ejemplo, utilizando tanto BERT como Gemini en lugar de uno u otro, tienen muchas más opciones a su disposición.

En poco más de un año desde el lanzamiento de ChatGPT, han surgido muchos tipos nuevos de modelos, entre ellos:

• Modelos específicos centrados en mercados concretos, como las finanzas, el derecho, la industria farmacéutica y el comercio minorista
• Modelos integrados en aplicaciones de software como servicio (SaaS)
• Modelos internos desarrollados internamente y entrenados con datos propios
• Modelos de generación aumentada por recuperación (RAG), que son extensiones añadidas a los grandes modelos públicos para proporcionar acceso a información más reciente
• Modelos de lenguaje pequeños (SLM) que requieren una potencia de cálculo considerablemente menor y que, en algunos casos, pueden ejecutarse en un ordenador personal

Se ha convertido en una idea generalizada entre los expertos del sector de la IA que las grandes empresas implementarán una gran cantidad de modelos —cientos, según algunas estimaciones— en sus organizaciones durante los próximos años, a medida que resulte más fácil y barato crear, entrenar y mantener modelos. 

Es probable que muchos de esos modelos recién implementados sean multimodales (como las versiones más recientes de ChatGPT y otros), lo que significa que pueden recibir consultas en diversos formatos, como voz, texto, audio, imágenes, vídeo, código, etc., y generar contenido en el mismo formato o en uno diferente. Por ejemplo, un usuario puede dar instrucciones de voz al modelo para que genere contenido en un formato específico, como un gráfico, una imagen o un clip de audio.

Riesgo multiplicado

Las ventajas de integrar múltiples modelos y modelos multimodales en una estructura organizativa son enormes y siguen ampliándose a nuevos casos de uso para desarrolladores, analistas, usuarios generales y clientes. Sin embargo, no se deben subestimar los riesgos, que deben abordarse antes de la integración.

Añadir cualquier herramienta de IA a la infraestructura digital de una organización amplía de inmediato la superficie de ataque, y la incorporación de modelos multimodales puede complicarla aún más. La arquitectura de un modelo multimodal incluye numerosos puntos de entrada que pueden ser aprovechados por los atacantes.

Del mismo modo, centrarse en proteger algunas modalidades de un modelo o sistema de IA y descuidar otras puede generar puntos ciegos en la estrategia de seguridad de un sistema multimodal. Es de esperar que los atacantes aprovechen siempre el eslabón más débil, ya sea accediendo a un sistema a través de un portal no protegido o introduciendo código malicioso en la respuesta del modelo.

A medida que las normativas han empezado a entrar en vigor en todo el mundo, su cumplimiento, especialmente en lo relativo a garantizar la privacidad de los datos, se ha convertido en un importante problema para los equipos de seguridad de la IA. Los datos que deben protegerse ya no se limitan a registros de texto, sino que incluyen imágenes digitales, archivos de audio y vídeos; escaneos, como los de retina, huellas dactilares, radiografías y resonancias magnéticas; huellas de voz utilizadas como confirmación verbal; así como contenido científico altamente especializado.

Todos estos datos podrían quedar expuestos en una filtración, pero también podrían manipularse y venderse con fines maliciosos, incluida la creación de ultrafalsificaciones. La integración de distintas modalidades en las infraestructuras digitales existentes también plantea retos, como los problemas de interoperabilidad, ya que diferentes tecnologías y protocolos deben funcionar conjuntamente sin fisuras y una sola configuración incorrecta o vulnerabilidad puede comprometer la seguridad de todo el sistema.

Solucionar estos problemas puede requerir muchos recursos, provocar posibles problemas de rendimiento del modelo, como la latencia, y exigir hardware adicional que, si no se gestiona correctamente, podría introducir a su vez vulnerabilidades de seguridad.

Soluciones de seguridad para la IA

La falta de prácticas estandarizadas en torno al uso de la IA dificulta aún más garantizar una seguridad uniforme en los entornos de los usuarios. Sin embargo, están surgiendo soluciones en el ámbito de la seguridad de la IA que permiten implementar sistemas de forma más segura y, por tanto, más atractiva para las organizaciones reacias al riesgo. 

Nuestra plataforma independiente del modelo de seguridad y habilitación de la IA generativa es la primera de su clase en ofrecer una protección integral de 360° para los sistemas de IA. Nuestras soluciones de seguridad en tiempo de ejecución actúan como una capa «sin peso» de confianza y control, situada fuera de la infraestructura, pero justo al lado de ella, y protegen a la organización frente a las amenazas ocultas en las respuestas de los modelos de IA y otras amenazas externas. Garantizan que las instrucciones que contienen indicaciones dañinas o información privada no salgan del sistema, sin introducir latencia en el proceso.

Los administradores pueden utilizar controles de acceso basados en políticas para autorizar o bloquear el acceso a los modelos de IA por usuario y por equipo, lo que permite: 

• Permite supervisar los costes limitando quién puede acceder a los modelos
• Permite implementar límites de solicitudes para evitar que los ataques de denegación de servicio al modelo (DoS) ralenticen o bloqueen el sistema
• Permite configurar criterios de análisis personalizables según las necesidades de cada equipo, lo que facilita un mayor cumplimiento de las políticas de uso aceptable de la empresa

Nuestra solución también proporciona a los equipos de seguridad una visibilidad completa de todas las herramientas de IA del sistema y de lo que ocurre en ellas, lo que les permite comprender cómo se utilizan los modelos y garantizar que no se haga un uso indebido o abusivo de ellos. Del mismo modo, los administradores tienen visibilidad sobre los patrones y las prácticas de uso de usuarios y grupos. 

Se realiza un seguimiento de cada interacción con los modelos y se conserva para su revisión y análisis, lo que permite obtener información sobre el comportamiento de los usuarios. El historial de prompts puede eliminarse manual o automáticamente; los administradores también tienen la opción de no conservar ningún prompt para su revisión. Los paneles interactivos ofrecen una amplia variedad de datos detallados sobre el uso de los modelos, los usuarios individuales y los grupos durante los periodos de tiempo que determinen los administradores.

La integración de múltiples modelos de IA, incluidos modelos multimodales, en una infraestructura digital existente plantea oportunidades, riesgos y desafíos. La implementación simultánea de medidas de ciberseguridad y seguridad de la IA constituye la mejor opción para que las organizaciones puedan desarrollar su actividad con normalidad, sabiendo que sus empleados, activos y procesos están protegidos frente a los riesgos derivados de la IA.

Haga clic aquí para solicitar una demostración.

Sobre el autor

F5 Newsroom Staff

Más artículos de F5 Newsroom Staff