La inteligencia artificial ha llegado para quedarse: no hay vuelta a la época anterior a la década de 2010. Los avances en productividad, innovación e impacto económico son sencillamente demasiado transformadores.
Pero esas extraordinarias ventajas también conllevan graves riesgos para las organizaciones que adoptan la IA. Uno de los más urgentes es la IA en la sombra: el uso cada vez mayor de herramientas de IA por parte de los empleados sin el conocimiento ni la aprobación de los responsables de TI. Esta práctica se está convirtiendo rápidamente en una importante amenaza para la seguridad y el cumplimiento normativo, aunque sigue siendo relativamente nueva y continúa evolucionando.
“Aunque todavía se están calculando las pérdidas económicas exactas derivadas de la IA en la sombra, el potencial de daño es evidente y va en aumento.”
La IA en la sombra es una vertiente de la TI en la sombra que evoluciona rápidamente. Esta última constituye desde hace tiempo un desafío para las empresas, ya que los empleados implementan software, servicios en la nube o sistemas no autorizados. Si bien la TI en la sombra ya pone a prueba la gobernanza y la seguridad, la IA en la sombra añade una nueva y peligrosa capa de complejidad.
Algunos ejemplos de IA en la sombra:
- Un ingeniero de software utiliza una cuenta personal de ChatGPT, Gemini o Copilot para generar código repetitivo, traducir entre lenguajes, refactorizar código heredado o escribir casos de prueba, pegando sin querer código propietario en un modelo público. Ese código podría almacenarse, registrarse o quedar expuesto. Peor aún, el contenido generado por la IA podría incluir lógica poco segura, API inventadas o código que infrinja los términos de las licencias.
- Un especialista en comunicación carga un memorando estratégico confidencial en una herramienta de IA para resumirlo o redactar un mensaje dirigido a los clientes. Ese contenido confidencial queda almacenado en servidores de terceros, fuera de la supervisión del departamento de TI.
- Un representante de ventas instala una extensión de Chrome que genera automáticamente correos electrónicos de prospección mediante una IA conectada tanto a su correo electrónico como a su sistema CRM. ¿Los riesgos? Posibles filtraciones de datos, infracciones de las políticas internas e incumplimiento de normativas como el RGPD o la Ley de Privacidad del Consumidor de California.
Estos ejemplos son solo el principio. Cada día se producen innumerables situaciones de IA en la sombra en todos los sectores. La magnitud del problema es tal que Gartner® predice que «para 2027, el 75 % de los empleados adquirirá, modificará o creará tecnología fuera de la supervisión del departamento de TI, frente al 41 % en 2022. Como consecuencia, los modelos operativos de ciberseguridad descendentes y altamente centralizados fracasarán. En su lugar, los CISO deberán reestructurar la ciberseguridad para convertirla en una función centralizada y ágil que respalde a un amplio conjunto federado de expertos y equipos multidisciplinares integrados en toda la empresa. Esto permite ampliar la ciberseguridad hasta los límites de la empresa, acercándola a los puntos donde se toman y aplican las decisiones sobre tecnología y riesgos».1
Inyección de prompts y filtración de datos: principales preocupaciones
Aunque todavía se están calculando las pérdidas económicas exactas derivadas de la IA en la sombra, el potencial de daño es evidente y va en aumento. Las organizaciones que no actúen ahora se arriesgan a sufrir incidentes graves, exponerse a sanciones regulatorias y perder la confianza de sus clientes.
Entre las vulnerabilidades más preocupantes se encuentra la inyección de instrucciones, un ataque en el que un usuario malintencionado manipula la entrada de la IA para eludir restricciones, filtrar datos confidenciales o ejecutar acciones no previstas. Los modelos de IA tienden a confiar de forma predeterminada en los datos de entrada, lo que los hace vulnerables a este tipo de ataques. Una inyección de instrucciones exitosa podría engañar a la IA para que revelara datos internos, alterara procesos automatizados o socavara los sistemas de toma de decisiones.
Otra preocupación importante es la filtración de datos, especialmente de información de identificación personal (PII), información sanitaria protegida (PHI), datos bancarios y registros financieros, código fuente y propiedad intelectual exclusiva, credenciales y claves de acceso, o registros de clientes.
A este problema se suma el riesgo de incumplimiento normativo. El uso no autorizado de la IA puede vulnerar fácilmente normativas como el RGPD, la HIPAA, el PCI DSS y la Ley Sarbanes-Oxley, lo que expone a las empresas a sanciones y daños reputacionales.
Algunas empresas responden con prohibiciones, pero ¿es realmente eficaz?
En respuesta a estos riesgos, algunas organizaciones han prohibido a sus empleados utilizar herramientas de IA generativa no autorizadas. Samsung, por ejemplo, fue una de las primeras empresas en prohibir en 2023 el uso de ChatGPT y otros chatbots similares basados en IA, alegando su preocupación por posibles filtraciones de información interna confidencial. Desde entonces, varios bancos y otras empresas han impuesto restricciones o emitido advertencias similares.
Sin embargo, los expertos del sector desaconsejan de forma casi unánime las prohibiciones generales.
Por qué la gobernanza, y no las prohibiciones, es el mejor camino
A pesar de los riesgos legítimos, los analistas del sector recomiendan políticas preventivas y marcos de gobernanza en lugar de prohibiciones absolutas.
Las prohibiciones suelen ser contraproducentes. Son difíciles de aplicar, a menudo frenan la innovación y minan la moral, y pueden hacer que el uso de la IA se vuelva aún más clandestino, lo que dificulta todavía más su detección y control.
Como afirmó un responsable de TI en un debate de la comunidad Gartner Peer Community sobre la prohibición de herramientas de IA: «Las prohibiciones sencillamente no funcionan. Incluso sin políticas, esta medida perjudica la innovación y transmite un mensaje equivocado al personal y al resto del mundo sobre nuestra organización».
Qué deberían hacer las organizaciones en su lugar
Estas son algunas medidas prácticas de gobernanza que las organizaciones pueden adoptar ahora mismo:
- Establezca una política clara de uso de la IA
Defina qué herramientas están aprobadas, cómo deben gestionarse los datos, qué casos de uso son aceptables y qué medidas de protección existen. Deje meridianamente claro qué está permitido y por qué. - Mantenga una lista de herramientas de IA verificadas
Evalúe las herramientas en cuanto a privacidad de los datos, seguridad y cumplimiento normativo. Anime a los empleados a utilizarlas en lugar de plataformas no verificadas. Por ejemplo, utilice versiones empresariales de herramientas como ChatGPT con funciones de registro y protección contra la pérdida de datos, y adopte asistentes de IA internos integrados en las plataformas de la empresa. - Forme a los empleados y fomente la concienciación
Ayude al personal a comprender los riesgos, desde las filtraciones de datos y el contenido inventado por la IA hasta los incumplimientos normativos. La mayoría de los usos indebidos no son intencionados. - Supervise y, después, adáptate
Considera la posibilidad de utilizar sistemas de supervisión que cumplan los requisitos éticos y legales para detectar usos no autorizados. Responde con formación en lugar de castigos. Adapta continuamente tus políticas a medida que evolucionen las capacidades de la IA.
Próximamente: tecnología de F5 para ayudar a gestionar la IA en la sombra
¿Puede la tecnología ofrecer una solución escalable? Por supuesto.
F5 ha anunciado hoy funciones de detección y prevención de fugas de datos para proteger las cargas de trabajo de IA y lanzará en los próximos meses nuevas y potentes funcionalidades diseñadas para ayudar a las organizaciones a mitigar de forma integral el riesgo de la IA en la sombra, especialmente en lo que respecta al uso no autorizado de herramientas de IA a través de canales cifrados (la opción predeterminada para la mayoría de las API de IA y las plataformas SaaS).
Mantente al tanto de próximos anuncios. Mientras tanto, consulta todas las novedades sobre IA de F5 en nuestra página web Accelerate AI.
GARTNER es una marca comercial y de servicio registrada de Gartner, Inc. y/o sus filiales en Estados Unidos y a nivel internacional, y se utiliza en el presente documento con su autorización. Todos los derechos reservados.
1Gartner, Maverick Research: Los CISO deben transformar su función o quedarán obsoletos, 19 de junio de 2025
Sobre el autor
Artículos relacionados del blog
Cree servicios públicos seguros, resilientes y preparados para la IA con F5 y AWS
Descubre cómo las organizaciones del sector público pueden modernizar de forma segura sus aplicaciones y soluciones de IA, al tiempo que gestionan los sistemas heredados, el cumplimiento normativo y el riesgo operativo.
Protección de los sistemas de IA: por qué la seguridad debe avanzar al ritmo de la innovación
Desde acelerar avances revolucionarios en medicina y educación hasta transformar la vida cotidiana, la IA está cambiando nuestra forma de vivir y trabajar. Pero también ofrece grandes oportunidades a los ciberdelincuentes.
Avanzar hacia la optimización digital tras la transformación
Descubre estrategias de optimización digital para garantizar políticas de seguridad coherentes, impulsar la madurez de la transformación digital y superar los retos de la transformación.
Proyecto de código abierto destacado: mayor observabilidad con F5 Cloud Logger iApp
En el punto de mira del código abierto: cómo aumentar la observabilidad. Lee el blog de F5 para descubrir cómo exportar fácilmente la telemetría de BIG-IP a plataformas modernas de análisis en la nube.
El estado de la entrega de aplicaciones en 2018: la transformación digital impulsa la automatización y la multinube pese a las preocupaciones de seguridad
Descubre las principales conclusiones del cuarto informe anual de F5 sobre el estado de la entrega de aplicaciones.
Estado de la entrega de aplicaciones en 2017: automatización, API y DevOps
Descubre el informe sobre el estado de la entrega de aplicaciones de 2017. Lee el blog retrospectivo de F5 sobre los inicios del auge de las redes declarativas y los flujos de DevOps.