La rápida adopción de grandes modelos de lenguaje (LLM) y otras herramientas de IA en las empresas está revolucionando las operaciones empresariales y mejorando la productividad. Sin embargo, estas herramientas también plantean importantes retos de seguridad y cumplimiento normativo, ya que amplían la superficie de ataque de las organizaciones. Históricamente, las organizaciones han priorizado la utilidad y la rapidez de comercialización frente a unas medidas sólidas de gobernanza y control, y la evolución de la gobernanza de la IA no es una excepción. A medida que las empresas integran capacidades de IA y aprendizaje automático (ML) en cada vez más tareas, es fundamental que establezcan un marco integral de gobernanza de la IA que aborde estos nuevos riesgos para garantizar el cumplimiento normativo y la seguridad tanto a nivel interno como externo.
La necesidad de la gobernanza de la IA
A medida que las herramientas de IA/ML ganan terreno en áreas como Operaciones, Ventas, Asesoría Jurídica, Recursos Humanos y otras, los responsables de seguridad de la organización —entre los que podrían encontrarse el CISO, el CIO, el CTO, el CSO, el CDO, los responsables de Cumplimiento Normativo y/o el asesor jurídico general— deben desarrollar e implantar un marco de gobernanza de la IA para toda la empresa. Este proceso es fundamental para equilibrar la creciente demanda de herramientas de IA con la necesidad de proteger una superficie de ataque cada vez mayor.
Esta tarea implica formar un equipo multidisciplinar con representantes de todas las principales áreas de la organización para alcanzar un consenso sobre los principios de gobernanza y obtener el respaldo de las partes interesadas, incluida la alta dirección. Limitar el equipo a entre seis y ocho participantes puede agilizar los procesos de toma de decisiones e implementación. La persona responsable de seguridad más implicada en la tecnología debe liderar el equipo; sin embargo, su función no es la de especialista en la materia, sino la de facilitador que actúa con neutralidad y evita sesgos.
Panorama actual y desafíos
El auge de los LLM y otros productos de inteligencia artificial generativa (GenAI) ofrece a las empresas innumerables oportunidades para optimizar los procesos empresariales, mejorar la experiencia del cliente y aumentar la productividad profesional. Entre estas oportunidades se encuentra la introducción de modelos internos desarrollados a medida que se basan en datos propios para satisfacer casos de uso específicos de un sector o una empresa. La rápida adopción de estas herramientas, así como la gran variedad de modelos y sus opciones de personalización, supone una carga cognitiva para los usuarios que quizá nunca antes hayan utilizado herramientas digitales tan sofisticadas.
Los responsables de seguridad deben concienciar a las partes interesadas —empleados, contratistas, consumidores, clientes y cualquier otra persona— sobre los riesgos, las responsabilidades, los resultados y las ventajas de utilizar estas soluciones revolucionarias.
Marco para la gobernanza de la IA
Al establecer un marco de gobernanza de la IA, los responsables de seguridad deben centrarse en varias áreas clave, entre ellas:
- Personas: Los responsables de seguridad deben concienciar a los responsables de departamentos, equipos y áreas de especialización de todas las funciones sobre la importancia de una gobernanza de la IA basada en el consenso.
- Principios: Los principios de gobernanza deben estar en consonancia con los valores de la organización y la reputación de la marca, proporcionando una base clara de valor empresarial y un fundamento sólido para las políticas específicas de IA que aborden cuestiones como el uso aceptable y las consecuencias de un uso indebido. Algunos ejemplos de estos principios son exigir la revisión humana de todos los resultados generados por los LLM y requerir que se indique el uso de LLM en las comunicaciones internas. El establecimiento temprano de estos principios permite modificar las políticas existentes de la empresa y crear otras nuevas.
- Regulación: La gobernanza de la IA debe tener en cuenta las normativas regionales, nacionales y mundiales en las que influyen las leyes de privacidad vigentes, como el Reglamento General de Protección de Datos (RGPD) de la Unión Europea y la Ley de Privacidad del Consumidor de California (CCPA). Los directivos responsables de la privacidad y el cumplimiento normativo deben formar parte integral del marco de gobernanza para garantizar que los modelos, las herramientas y las prácticas relacionados con la IA o dependientes de ella cumplan las normas regulatorias en materia de consentimiento, anonimización y eliminación de datos.
- Ética: La gobernanza de la IA requiere una gran dedicación de recursos humanos y se centra en cómo trabajan las personas, más que en las herramientas que utilizan. Las consideraciones éticas deben integrarse en el desarrollo de la IA, y las personas deben actuar como árbitros del criterio ético en el diseño tecnológico.
- Controles: La gobernanza de la IA debe incorporar tres niveles de intervención humana: humano en el circuito (HITL), humano sobre el circuito (HOTL) y humano al mando (HIC). De este modo, se garantizan la supervisión humana y la rendición de cuentas en todas las operaciones de IA, lo que reduce los riesgos asociados a la toma de decisiones autónoma por parte de la IA.
La justificación empresarial de la gobernanza de la IA
Implantar un sistema de gobernanza de la IA requiere invertir en tecnología y personal. Sin embargo, el aumento de la productividad y el ahorro en costes laborales derivados del uso de LLM en los flujos de trabajo empresariales esenciales pueden ser lo suficientemente significativos como para justificar estas inversiones. Establecer un modelo de rendición de cuentas, en el que determinados empleados sean responsables de los resultados generados por la IA, puede reducir al mínimo la necesidad de personal de apoyo adicional. Cuando se implanta un marco de este tipo y cuenta con el respaldo tanto de la dirección como de los empleados, la empresa puede gestionar los riesgos asociados de forma eficiente, eficaz y segura, y obtener beneficios cuantificables acordes con sus valores y políticas.
Haga clic aquí para programar una demostración de nuestra plataforma de seguridad y habilitación de IA generativa.
Sobre el autor
Artículos relacionados del blog
El imperativo empresarial de la IA en un mundo de nube híbrida y multinube
Cómo la IA redefine los patrones de tráfico, el riesgo de las API y el cumplimiento normativo, y por qué el paquete Distributed Cloud Services Enterprise ofrece la profundidad necesaria en entornos híbridos multicloud.
STIG de F5 NGINX: un plan de seguridad para el sector público y los entornos regulados
Descubra cómo las STIG de F5 NGINX proporcionan un modelo de seguridad para el Departamento de Defensa de EE. UU. y los entornos regulados, ayudándole a cumplir la normativa mientras crea una infraestructura sólida de confianza cero con mayor visibilidad y resiliencia.
Cómo el marco AEGIS de Forrester valida un enfoque centrado en la inferencia
El auge de la IA agéntica está transformando el panorama de la seguridad empresarial. Estos agentes de IA autodirigidos funcionan de forma autónoma, toman decisiones en tiempo real y pueden interactuar entre distintos sistemas de maneras para las que las arquitecturas tradicionales de ciberseguridad no fueron diseñadas. Aunque esto abre nuevas posibilidades, también introduce riesgos sistémicos: fallos en cascada, secuestro de objetivos y superficies de ataque hasta ahora invisibles. El reciente […] de Forrester
La nueva superficie de riesgo de la IA: invisible, autónoma y ya está dentro
James White, vicepresidente de Ingeniería de F5 A mediados de 2025, es un buen momento para hacer balance de la adopción de la IA en las empresas y del estado de la seguridad de la IA. El uso de la IA generativa ya es habitual en las empresas En general, las empresas cuentan al menos con unos conocimientos básicos sobre la IA generativa. Entienden qué es y dónde puede […]
Protegiendo el futuro: cómo CalypsoAI se alinea con el Top 10 de OWASP para los LLM
Cuando OWASP publicó su Top 10 de 2025 para grandes modelos de lenguaje (LLM), proporcionó al sector un referente de seguridad muy necesario. Pero los referentes no sirven de nada si no se actúa. CalypsoAI aborda el 80 % del Top 10 de OWASP, dando prioridad a los riesgos reales más urgentes. La plataforma combina protección en tiempo real durante la ejecución y pruebas adversariales exhaustivas, ofreciendo una cobertura inigualable frente a las […]
Implementación de LLM en la empresa: mediante una API local
Por sí solos, sin medidas de protección ni protocolos adicionales de seguridad para la IA, el despliegue de modelos de IA generativa —en particular, modelos de lenguaje de gran tamaño (LLM)— en toda la empresa supone una oportunidad de alto riesgo y grandes beneficios para cualquier organización. Sin embargo, determinar exactamente cómo debe dar su organización este gran paso hacia el ámbito de la IA generativa requiere una planificación minuciosa. Quizá […]