Recursos de aprendizaje sobre gobernanza y gestión de la IA

La gestión de la IA implica la aplicación práctica de estrategias y procesos para supervisar todo el ciclo de vida de los sistemas de IA dentro de una organización. La gobernanza de la IA se refiere al establecimiento de marcos, políticas y procesos que orienten el desarrollo y la implantación de sistemas de IA, con especial atención a la fiabilidad y la resiliencia. Esta selección de información está diseñada para proporcionarle los conocimientos y las herramientas necesarios para desenvolverse en el cambiante panorama de la IA. Tanto si es un profesional con experiencia como si acaba de iniciar su andadura, explore estos recursos para descubrir cómo simplificar la gestión de los datos de inferencia.

Estrategia empresarial para aplicaciones de IA

Descubra estrategias para integrar la IA en las operaciones de su empresa, impulsar la innovación y crear una hoja de ruta estratégica para su adopción.

IA generativa y transformación digital

Descubre cómo la IA generativa está revolucionando la transformación digital en distintos sectores mediante aplicaciones y tecnologías de vanguardia.

Transparencia de la IA

Descubre la importancia de la transparencia en el uso de sistemas de IA y cómo aplicar prácticas que limiten los sesgos de la IA y garanticen la rendición de cuentas y la confianza. Además, la transparencia en el análisis mediante IA permite a las organizaciones aprovechar todo el potencial de sus datos, optimizar los procesos y mejorar la gestión de proyectos.

Colaboración y alianzas de F5 en materia de IA

Descubre cómo F5 colabora con sus socios para impulsar avances en los sistemas de gestión de IA y las plataformas de orquestación, con el fin de simplificar la gestión de los datos de inferencia.

Preguntas frecuentes

La gobernanza de los modelos de IA se centra en reducir los riesgos asociados a sus resultados, como imprecisiones, alucinaciones, sesgos, contenido inapropiado y filtraciones de datos. La gobernanza de los agentes de IA se centra en gestionar acciones potencialmente perjudiciales de los agentes, como llamadas no autorizadas al sistema, bucles descontrolados que generan costes elevados y escaladas de privilegios. La gobernanza de agentes requiere asignar identidades no humanas únicas a los agentes, aplicar controles de forma continua durante la ejecución y mantener la intervención humana en las decisiones o acciones importantes.

La Ley de IA de la UE define cuatro niveles de riesgo para los sistemas de IA: riesgo inaceptable, alto riesgo, riesgo de transparencia y riesgo mínimo o nulo. Determinadas prácticas de IA que presentan un riesgo inaceptable están prohibidas, mientras que los usos de riesgo mínimo o nulo no suelen estar sujetos a normas adicionales en virtud de la Ley. El Marco de Gestión de Riesgos de la IA (RMF) del Instituto Nacional de Estándares y Tecnología de Estados Unidos (NIST) es un marco voluntario organizado en torno a cuatro funciones: gobernar, contextualizar, medir y gestionar. La Ley de IA de la UE tiene como objetivo garantizar una IA segura, centrada en el ser humano y fiable, al tiempo que protege los derechos y fomenta la innovación. El RMF de IA del NIST se centra de forma más específica en mejorar la fiabilidad de los sistemas de IA.

La rendición de cuentas y la responsabilidad legal son cuestiones fundamentales en la IA agéntica. Las organizaciones deben establecer mecanismos de rendición de cuentas para los agentes de IA como parte de su programa de gobernanza. En caso de errores graves o pérdidas económicas, la responsabilidad legal dependerá del marco jurídico aplicable, de los acuerdos contractuales y de las funciones de las organizaciones implicadas. Según las circunstancias, la responsabilidad puede recaer en la organización que implemente el agente, en el proveedor o desarrollador, o en otras partes.

Asignar identidades no humanas (NHI) a los agentes refuerza la seguridad, ya que permite a las organizaciones restringir las acciones de los agentes mediante políticas de acceso granulares y de privilegios mínimos. Una gestión eficaz de las NHI ayuda a limitar la proliferación de agentes. Por ejemplo, al permitir que solo las identidades verificadas ejecuten llamadas al sistema, las organizaciones reducen el número de agentes en la sombra, que no podrían ejecutar dichas llamadas. Las organizaciones también pueden utilizar tokens de identidad de corta duración para reducir los riesgos de seguridad asociados a agentes huérfanos o inactivos.

Los enjambres de agentes de IA se producen cuando varios agentes colaboran de forma autónoma, comparten contexto o recurren a herramientas externas para completar tareas de varios pasos. Las herramientas y los marcos de código abierto pueden ayudar a gestionar estos enjambres. Por ejemplo, al utilizar el marco OpenTelemetry (OTel) con herramientas como Jaeger o Grafana Tempo, las organizaciones pueden supervisar y auditar los enjambres de agentes de IA. OTel recopila los datos de telemetría de los agentes, mientras que Jaeger o Tempo generan un mapa visual para facilitar la auditoría.

La creación de un comité de gobernanza de la IA empresarial debe comenzar por reunir a altos directivos de distintas áreas, con representantes de los equipos de ingeniería, ciberseguridad, asuntos jurídicos, finanzas y producto. Una vez definidas las responsabilidades, el equipo debe elaborar políticas y, posteriormente, aplicarlas en toda la empresa, posiblemente a través de un centro de excelencia (CoE). El CoE, integrado por especialistas técnicos y en gestión de riesgos, puede desarrollar procesos estandarizados para detectar, evaluar y clasificar los sistemas de IA; agilizar los procesos de desarrollo conformes con las políticas; implementar controles de identidad; y establecer mecanismos de trazabilidad y pruebas.