Las 10 principales amenazas en la entrega de aplicaciones de IA: falta de seguridad y cumplimiento normativo

Lori Mac VittieIngeniero distinguido y evangelista jefe | F5

Nuestra entrada original sobre este tema plantea una idea clara: la seguridad y el cumplimiento normativo no son cuestiones secundarias. Afectan directamente al rendimiento, la disponibilidad y la escalabilidad de las aplicaciones, así como a la eficiencia operativa. El incumplimiento de los requisitos normativos puede conllevar riesgos legales, aumentar la carga operativa y, en algunos casos, interrumpir por completo la prestación del servicio. Las recomendaciones originales también destacan medidas de mitigación habituales, como el cifrado, los dispositivos conformes con FIPS y las comprobaciones automatizadas de cumplimiento normativo.

Esa base sigue siendo válida.

Lo que cambia con la IA es dónde debe garantizarse el cumplimiento normativo y con qué frecuencia debe aplicarse.

Las aplicaciones tradicionales siguen principalmente rutas predefinidas. Procesan solicitudes, acceden a sistemas conocidos y devuelven los resultados esperados. Las aplicaciones de IA añaden una capa de decisión probabilística. Interpretan instrucciones, elaboran respuestas, recuperan contexto externo y, cada vez más, utilizan herramientas o desencadenan acciones. Esto significa que el cumplimiento normativo ya no consiste únicamente en proteger los almacenes de datos y las rutas de transmisión. También implica controlar el comportamiento en tiempo de ejecución, el acceso a los modelos, los resultados generados y el flujo de contexto a través del sistema.

Así pues, el antiguo problema persiste. El alcance del problema se amplía y los controles deben acercarse al punto de inferencia.

Consecuencias de la falta de seguridad y cumplimiento normativo

Impacto en el rendimiento

En la entrega de aplicaciones convencional, el cumplimiento normativo suele afectar al rendimiento debido a sobrecargas conocidas. El cifrado aumenta el coste de procesamiento. La inspección añade latencia. Las normas de soberanía de los datos pueden exigir que el tráfico permanezca dentro de determinadas jurisdicciones, lo que puede complicar el enrutamiento y reducir la eficiencia. La IA mantiene esas mismas presiones, pero añade una nueva: ahora las decisiones relativas al cumplimiento normativo deben tomarse mientras se atiende la solicitud.

Es posible que un sistema de IA tenga que determinar si un modelo concreto puede procesar una instrucción específica, si los datos utilizados para la recuperación pueden cruzar legalmente una frontera regional, si es necesario ocultar el contexto confidencial antes de la inferencia y si el resultado generado debe filtrarse antes de devolverlo. Nada de eso es gratuito. Cada una de esas comprobaciones añade tiempo, complejidad o ambas cosas.

La diferencia es sutil, pero importante. En el pasado, el cumplimiento normativo solía determinar la arquitectura. En los sistemas de IA, cada vez condiciona más la ejecución en tiempo de ejecución. No se limita a proteger la vía de acceso a la aplicación, sino que evalúa lo que esta hace mientras piensa.

Impacto en la disponibilidad

La disponibilidad siempre ha formado parte del proceso de entrega de aplicaciones. Unas prácticas de seguridad sólidas y una infraestructura conforme con FIPS mejoran la disponibilidad y reducen el riesgo de interrupciones del servicio o cierres relacionados con el cumplimiento normativo. Este mismo principio se aplica a la IA, pero los posibles tipos de fallo se multiplican.

En una aplicación tradicional, el incumplimiento normativo puede provocar el bloqueo de transacciones, el aislamiento forzoso de una región o la suspensión temporal del servicio hasta que se subsane una deficiencia en los controles. En un sistema de IA, la disponibilidad puede verse afectada incluso cuando la propia plataforma sigue operativa. Puede que un modelo sea accesible, que la API funcione correctamente y que la infraestructura opere con normalidad, pero aun así el servicio puede quedar, en la práctica, no disponible porque las políticas impidan atender una solicitud.

Esto puede ocurrir por varios motivos. Es posible que no haya un modelo conforme disponible en la región requerida. Un conjunto de documentos recuperados puede contener datos regulados que no pueden mostrarse a un usuario o en una jurisdicción determinados. Una respuesta puede no superar las comprobaciones de las políticas y tener que retenerse. También puede impedirse que un agente complete un flujo de trabajo porque una de las acciones previstas infringe las normas de gobernanza.

Por tanto, la disponibilidad en la IA ya no es solo una cuestión de tiempo de actividad. También depende de que las políticas permitan la ejecución. El sistema puede estar técnicamente en línea y, al mismo tiempo, ser incapaz de responder, actuar o completar la tarea desde el punto de vista operativo. Se trata de un tipo de interrupción muy diferente, que el enfoque tradicional de la disponibilidad no refleja por completo.

Impacto en la eficiencia operativa

Las prácticas automatizadas de cumplimiento normativo reducen la intervención manual y ayudan a los equipos de TI a centrarse en tareas de mayor valor, en lugar de realizar constantes ajustes regulatorios. Este planteamiento sigue siendo válido. El problema es que los sistemas de IA generan muchas más situaciones que requieren supervisión.

Los programas de cumplimiento tradicionales presuponen un entorno relativamente estable. Se definen reglas para el tratamiento de datos, controles de acceso, puntos de inspección y procedimientos de auditoría. A continuación, se comprueba que los sistemas los cumplan. El trabajo no es trivial, pero tiene un alcance limitado.

La IA difumina esos límites. Los resultados son dinámicos. Las secuencias de acciones pueden variar de una ejecución a otra. Los agentes pueden encadenar solicitudes, utilizar herramientas y acumular contexto con el tiempo. Esto significa que los equipos ya no pueden depender únicamente de una validación estática. Necesitan supervisión en tiempo de ejecución, una evaluación continua de las políticas y una mayor visibilidad del comportamiento.

Esto aumenta la carga operativa, a menos que las capas de entrega y seguridad estén diseñadas para absorberla. De lo contrario, la organización acaba atrapada en un ciclo permanente de ajuste de políticas, investigación de resultados anómalos e intentos de explicar por qué un sistema que siguió las instrucciones produjo, aun así, un resultado contrario a los objetivos empresariales o regulatorios. No se trata de un problema de auditoría, sino del plano de control.

Mejores prácticas para mitigar los riesgos de seguridad y cumplimiento normativo

Cifrado y dispositivos conformes con FIPS

Esta parte no cambia. El cifrado sigue siendo esencial para proteger los datos confidenciales tanto en tránsito como en reposo, y nuestro ADC08 original identifica específicamente el cifrado y los dispositivos conformes con FIPS como prácticas fundamentales para proteger los datos regulados y garantizar una prestación resiliente.

Lo que cambia es el reconocimiento de que la IA introduce riesgos en la capa situada entre la entrada y la salida.

En otras palabras, aunque el transporte esté cifrado y el almacenamiento cumpla la normativa, sigue siendo necesario confiar en el modelo respecto al contexto que recibe y controlar lo que genera. La inyección de instrucciones, la exposición de contexto sensible y la gestión inadecuada de los resultados son problemas que pueden producirse incluso cuando la criptografía subyacente es impecable. Contar con unos cimientos sólidos sigue siendo importante, porque sin ellos todo lo demás se viene abajo. Sin embargo, ya no abarcan toda la superficie de ataque ni todos los aspectos relacionados con el cumplimiento normativo.

Por tanto, los controles tradicionales siguen siendo necesarios. Simplemente, ya no son suficientes por sí solos.

Comprobaciones automatizadas de cumplimiento normativo

Nuestras directrices originales recomiendan realizar comprobaciones de cumplimiento automatizadas y una supervisión en tiempo real para reducir las auditorías manuales, aplicar las políticas de forma coherente e identificar rápidamente posibles infracciones. Estas directrices cobran aún más importancia con la IA, pero también deben evolucionar.

En el caso de las aplicaciones convencionales, el cumplimiento normativo automatizado suele implicar comprobar las configuraciones, validar la residencia de los datos, supervisar los patrones de acceso y emitir alertas ante desviaciones. En los sistemas de IA, también debe implicar inspeccionar las instrucciones, validar la selección de modelos, supervisar las fuentes de recuperación de información, comprobar los resultados y, en algunos casos, evaluar las secuencias de acciones a lo largo del tiempo.

Ese es el verdadero punto de inflexión. La automatización del cumplimiento pasa de la verificación estática a la aplicación en tiempo de ejecución.

El objetivo ya no es solo confirmar que el entorno se haya configurado correctamente, sino garantizar que el sistema siga comportándose dentro de unos límites aceptables mientras está en funcionamiento. Para ello, se necesita más contexto, más visibilidad y más lógica de políticas integrada en los flujos de entrega. También implica que las funciones de entrega de aplicaciones y de seguridad empiecen a converger, porque lo que antes se consideraba «cumplimiento normativo» ahora suele formar parte del propio procesamiento de las solicitudes.

Conclusión

La falta de seguridad y de cumplimiento normativo sigue amenazando el rendimiento, la disponibilidad, la escalabilidad y la eficiencia operativa. Los controles habituales, el cifrado, la infraestructura conforme con FIPS y las herramientas automatizadas de cumplimiento siguen constituyendo la base para mitigar ese riesgo. Lo que cambia con la IA es dónde radica el problema.

En los sistemas tradicionales, el cumplimiento normativo se centraba principalmente en la aplicación. En los sistemas de IA, debe abarcar el propio proceso de toma de decisiones. Debe tener en cuenta qué datos procesa el modelo, qué resultados genera, qué acciones intenta llevar a cabo y si esos comportamientos se mantienen dentro de los límites normativos y organizativos.

Lo que no cambia es la necesidad de aplicar una seguridad rigurosa y contar con una arquitectura de entrega sólida.

Lo que cambia es que ya no basta solo con garantizar la disponibilidad, ni solo con el cifrado, ni solo con las comprobaciones estáticas de políticas.

La IA eleva el nivel de exigencia porque el sistema no se limita a atender solicitudes, sino que participa en la toma de decisiones. Y, cuando eso ocurre, el cumplimiento normativo pasa a ser una cuestión que debe gestionarse en tiempo de ejecución.

Más información sobre los 10 principales retos de la entrega de aplicaciones a los que se enfrentan las organizaciones de todo el mundo.

Sobre el autor

Lori Mac VittieIngeniero distinguido y evangelista jefe | F5

Lori MacVittie es ingeniera distinguida y evangelista jefe en la Oficina del CTO de F5, y cuenta con una amplia experiencia en entrega de aplicaciones, estrategia de automatización e infraestructura. Es conocida por convertir la complejidad en claridad, ya sea definiendo mecanismos de protección para agentes de IA, analizando arquitecturas multinube frágiles o explorando los límites de los sistemas escalables. Aporta más de treinta años de experiencia en el sector en desarrollo de aplicaciones, arquitectura de TI y operaciones de redes y sistemas. Antes de incorporarse a F5, fue una galardonada editora de tecnología. MacVittie posee un máster en Informática y es una autora prolífica cuyas publicaciones abarcan la seguridad, la nube y la arquitectura empresarial. También es una apasionada de los juegos de mesa y los videojuegos, y expresa sin complejos sus firmes opiniones sobre el queso.

Más artículos de Lori Mac Vittie