Cómo redactar políticas de seguridad de la IA específicas para cada organización

F5 Newsroom Staff

Introducción

Desde el lanzamiento de ChatGPT en noviembre de 2022, hemos asistido a una rápida adopción de modelos de inteligencia artificial generativa (GenAI) en las empresas, sin que existan medidas de protección ni mecanismos de supervisión para ponerles freno o detenerlos por completo.

Los organismos gubernamentales tienen dificultades para elaborar normativas que protejan tanto a los usuarios como la innovación y, al mismo tiempo, impidan conductas delictivas o meramente abusivas por parte de agentes de amenazas individuales, organizaciones criminales, entidades no estatales, países y empresas, incluidas aquellas que crean los modelos y se lucran con ellos. 

La ardua tarea de gobernar los LLM ha recaído en los CISO. Elaborar un conjunto de políticas de seguridad de la IA y los controles correspondientes para una organización resulta abrumador, ya que no es posible contar con un único conjunto de políticas que abarque todos los aspectos de la IA. Por ejemplo, las políticas específicas para la IA deberán modificar, ampliar o incluso sustituir las políticas existentes de adquisición, implantación, seguridad y uso de TI; las políticas legales y de cumplimiento normativo relativas a cuestiones que van desde la conservación de documentos y la titularidad de la propiedad intelectual hasta la redacción de contratos; las políticas de recursos humanos que regulan las aplicaciones automatizadas de análisis de currículos; y así sucesivamente para cada función y unidad de negocio de la empresa.

Esta entrada de blog ofrece un punto de partida para elaborar políticas básicas que aborden las preocupaciones más acuciantes del ecosistema de adopción de la IA: el despliegue seguro y el uso protegido de modelos de IA generativa en toda la empresa. Nuestra solución AI Guardrails aborda muchas de las cuestiones clave identificadas en los ejemplos de políticas que se presentan a continuación.

Además de los esquemas de políticas, hemos creado una plantilla recomendada para elaborar sus propias políticas de seguridad de la IA. Estos ejemplos no constituyen asesoramiento jurídico. Consulte con un asesor jurídico antes de implementar políticas de seguridad de la IA.

Políticas de ejemplo

Política de integración de modelos

El primer paso para implementar un modelo de IA en toda la organización es determinar cómo se va a llevar a cabo. Entre los aspectos que deben tenerse en cuenta para decidirlo se incluyen: 

• El número de modelos que su organización necesita actualmente
  • Incorpore capacidad adicional en las primeras etapas para poder aumentar el número de usuarios y de modelos
• Si sus modelos deben ser públicos (ChatGPT, Claude, Bard, etc.), privados (personalizados o integrados en otras aplicaciones, como Salesforce), internos o una combinación de estas opciones
• Qué tipo de plataforma se adapta mejor a la implementación en toda su organización: SaaS, nube privada, nube pública, infraestructura local, entorno aislado o algún otro tipo
  • Nota: Restringir el uso de aplicaciones SaaS mediante modelos no resulta especialmente viable, dado el gran número de modelos que ya utilizan los proveedores de SaaS
  • Asegúrese de que cualquier plataforma tenga la capacidad de aumentar y reducir su escala
• Segmentación de red
• Compatibilidad con el software y los sistemas existentes para reducir la proliferación tecnológica
• Redundancias
• Brechas de seguridad

Política de acceso de usuarios

Identifique claramente quién podrá utilizar cada modelo, con qué frecuencia y para qué fines.

• ¿El uso está limitado a empleados y contratistas, o se concederá acceso total o limitado a otras personas, como socios comerciales, clientes, etc.?
• ¿El acceso a la red o al sistema permitirá acceder plenamente a los modelos, o se aplicarán permisos segmentados o controles de acceso basados en políticas (PBAC)?
• ¿Necesitarán los distintos grupos o departamentos funcionalidades diferentes dentro de un modelo determinado, o se debería impedir que algunos grupos utilicen ciertas funcionalidades?
• ¿Cómo y por qué se asignan el acceso o los permisos para realizar actividades administrativas?

Política de uso aceptable

La cuestión de qué puede considerarse un uso aceptable o inaceptable de los modelos variará considerablemente de una organización a otra. Entre los aspectos generales que deben tenerse en cuenta se incluyen:

• ¿Cómo debe utilizarse el modelo? Por ejemplo, únicamente para fines empresariales de la compañía y de conformidad con las demás políticas relacionadas; es decir, sin uso personal, sin uso para otras entidades empresariales (trabajos paralelos) y sin usos delictivos ni otros usos ilegales, poco éticos o peligrosos.
• ¿Qué incluiría un filtro de términos prohibidos? Por ejemplo, determinados términos anatómicos podrían estar prohibidos en una empresa de ingeniería civil, pero no en una empresa farmacéutica o de equipos de diagnóstico médico.
• La asignación de recursos también puede afectar al uso; en las primeras etapas de implementación y adopción, puede resultar útil establecer una jerarquía de tareas que permita planificar una ampliación para incluir tareas adicionales a medida que evolucionen los casos de uso y las necesidades empresariales.

Política de contenido de las instrucciones

El contenido de los prompts se ajusta a la política de uso aceptable, pero tiene un alcance diferente. Entre las cuestiones que deben definirse se incluyen:

• Contenido permitido al utilizar un modelo público, como terminología no específica, preguntas genéricas, etc.
• Contenido prohibido en todos los modelos, como términos malsonantes, sesgados, despectivos, tóxicos y otros similares, así como información de identificación personal (PII)
• Contenido prohibido al utilizar un modelo público, como términos específicos de la empresa (nombres de marcas, nombres de proyectos, etc.); el nombre de la empresa; los nombres de la competencia; documentación de la empresa (contratos, correos electrónicos, agendas, calendarios, actas de reuniones, datos sin procesar, código fuente, políticas, procedimientos, directrices, etc.)
• Contenido prohibido al utilizar modelos privados o internos, como temas relevantes para grupos reducidos de usuarios internos, por ejemplo, las nóminas o las estrategias empresariales

Política de uso de los resultados del modelo

La gestión de los resultados generados por los modelos es una cuestión compleja, dados los deficientes controles internos de la mayoría de los modelos públicos. Por tanto, las organizaciones deben desarrollar y aplicar políticas internas sólidas que orienten a los usuarios. Entre los aspectos que deben tenerse en cuenta se incluyen:

• Verificación humana 
  • Antes de que cualquier contenido generado por un modelo pueda utilizarse para cualquier fin, incluida su incorporación a cualquier tipo de documentación de la empresa, todo resultado generado por el modelo deberá ser verificado por una persona para garantizar que sea preciso, veraz y/o auténtico, según corresponda, y que no sea ficticio, imaginario ni carezca de fundamento.
  • La verificación debe incluir el nombre de la persona que la realizó y una marca de tiempo.
• Uso de contenido sin modificar 
  • Los resultados generados por el modelo que no se modifiquen de forma significativa antes de incluirlos en la documentación de la empresa deberán identificarse como tales, por ejemplo, mediante una nota al pie, una nota final o un enlace a la instrucción utilizada.
  • El código proporcionado por un modelo no debe utilizarse sin que haya sido revisado y verificado por [dos] miembros del personal sénior con experiencia en el lenguaje específico empleado para dicho código.
  • La verificación debe incluir el nombre de la persona que la realizó y una marca de tiempo.

Política de supervisión y auditoría del uso

A medida que la adopción de modelos se generaliza, la observabilidad cobra cada vez más importancia. Saber qué hacen los usuarios y comprender el rendimiento de los modelos son aspectos clave para lograr eficiencia y eficacia.

• Tome como modelo para esta política la política de privacidad del correo electrónico de su organización (p. ej., sin expectativa de privacidad), si lo permiten las leyes autonómicas sobre vigilancia electrónica.
• Asegúrese de que los empleados comprendan que el uso que hacen del modelo, ya sea desde un dispositivo personal o propiedad de la empresa, se supervisa y rastrea mediante aplicaciones automatizadas, que generan alertas en tiempo real dirigidas al usuario en algunos casos y al administrador en otros.
  • En determinadas jurisdicciones no está permitido realizar el seguimiento de cierta información, como la opinión de los usuarios.
  • En determinadas jurisdicciones o circunstancias, puede ser obligatorio eliminar los datos de los usuarios.
• Identifique qué información se registra y por qué, por ejemplo, los parámetros de uso del modelo (coste, precisión, etc.), el contenido (instrucciones/respuestas), las verificaciones o la interacción de los usuarios.

Política de conservación del historial de prompts y respuestas

Como se ha señalado anteriormente, la capacidad de realizar un seguimiento y auditar las interacciones de los usuarios puede proporcionar muchos datos de gran utilidad, pero algunos organismos reguladores han empezado a tener en cuenta la privacidad de los usuarios en este contexto. Asegúrese de que su organización comprenda y aplique adecuadamente cualquier normativa de este tipo. Entre los aspectos que deben tenerse en cuenta se incluyen:

• Determinar durante cuánto tiempo se conserva de forma predeterminada el contenido (instrucciones, respuestas, alertas, etc.), si dicho contenido puede conservarse durante más tiempo para fines específicos y qué roles tomarían esa decisión.
• Describa el proceso para eliminar contenido (periodicidad, si es automático o manual, etc.).
• Todas las instrucciones y respuestas se conservan durante al menos (X de tiempo), o durante más tiempo si la(s) función(es) responsable(s) lo considera(n) necesario.

Política de control de SaaS de terceros

El uso de software de terceros, como el proporcionado por un proveedor de SaaS, requiere tener en cuenta consideraciones adicionales.

• Los proveedores de SaaS deben informar si utilizan un LLM como parte de su aplicación o producto y con qué finalidad.
• Los proveedores de SaaS deberían proporcionar a los clientes empresariales una lista de materiales de IA (ABOM) que describa el uso del LLM y el proceso de validación humana.
• Las políticas de los proveedores de SaaS deben aplicarse mediante la función de gobernanza de terceros, en coordinación con el proceso de adquisición y concesión de licencias.

Para obtener más información sobre las soluciones de seguridad en tiempo de ejecución de IA de F5, haz clic aquí.

Sobre el autor

F5 Newsroom Staff

Más artículos de F5 Newsroom Staff