Del caos a la cohesión: cómo gestionar la dispersión digital y los riesgos de la IA

F5 Newsroom Staff

La proliferación digital no es un fenómeno nuevo. Muchas organizaciones, probablemente la mayoría, la han experimentado a medida que crecen. Los equipos y departamentos incorporan aplicaciones, herramientas y soluciones diseñadas para fines específicos sin informar al departamento de TI, y estas herramientas no se integran eficazmente en los sistemas existentes. En ocasiones, los equipos de TI implementan aplicaciones que resultan redundantes en algunos aspectos, mientras que otras funciones quedan sin utilizar. A veces, las aplicaciones dejan de usarse y se convierten en zombis dentro del sistema: no están del todo muertas, pero nunca se actualizan ni se eliminan y están plagadas de vulnerabilidades. Y, en ocasiones, el problema no reside en la organización ni en sus equipos, sino en el contexto general. La llegada de la nube para la computación, el almacenamiento, la colaboración y muchas otras funciones, seguida de la pandemia de COVID-19, el cambio radical hacia el teletrabajo y la gestión descoordinada de los sistemas durante aquellos tiempos caóticos contribuyeron sin duda a la proliferación digital descontrolada en todas las organizaciones, especialmente en lo relativo a la seguridad.

A primera vista, implementar múltiples herramientas en toda la infraestructura de ciberseguridad de una organización puede parecer un enfoque racional, integral y poco proclive al riesgo. Sin embargo, cuando proliferan herramientas y soluciones de seguridad independientes en una infraestructura, pueden plantear importantes retos y riesgos, como los siguientes:

• Soluciones que funcionan de forma aislada, sin poder comunicarse ni compartir información entre sí y que, por tanto, no pueden contribuir a ofrecer una visión integral de la postura de seguridad de la organización. Esta fragmentación dificulta la correlación y el análisis de los eventos y las alertas de seguridad, lo que provoca retrasos en la respuesta ante incidentes, aumenta la complejidad de la gestión de los incidentes de seguridad y puede hacer que algunas amenazas pasen desapercibidas.
• La falta de integración y visibilidad dificulta la supervisión y el control de los flujos de datos, lo que genera puntos ciegos en los que pueden producirse filtraciones de datos confidenciales o accesos sin la debida autorización.
• Redundancia, que da lugar a medidas de seguridad contradictorias o incoherentes, al desperdicio de recursos, a una mayor complejidad y a dificultades para mantener y actualizar los sistemas de seguridad.
• Herramientas o protocolos de autorización incoherentes, que pueden proporcionar inadvertidamente acceso a datos críticos a personas no autorizadas.

Una revisión minuciosa seguida de una consolidación implacable para optimizar la infraestructura de seguridad es, sin duda, uno de los caminos que se pueden seguir. Pero incluso ese camino tiene sus escollos: cuando se introduce una nueva tecnología, como la inteligencia artificial generativa (GenAI), en el ecosistema digital de una organización, nada de lo que forma parte del sistema de seguridad existente puede servir de ayuda. Los riesgos de implantar un modelo de GenAI o un modelo de lenguaje de gran tamaño (LLM) en toda una organización sin contar con medidas de seguridad están ampliamente documentados: la pérdida involuntaria de propiedad intelectual o de datos propios, confidenciales o sensibles debido a consultas mal formuladas; la introducción de código defectuoso o incluso malicioso a través de respuestas de un LLM que los empleados no están capacitados para evaluar; la difusión involuntaria de información falsa o inexacta obtenida de la respuesta de un LLM, pero no verificada; y muchísimos otros.

No es de extrañar que los nuevos riesgos requieran nuevas medidas. Estas medidas incipientes deberían incluir, como mínimo, algunas soluciones técnicas, un marco de gobernanza y actuaciones continuas, como las siguientes:

• Escáneres especializados para moderar y filtrar el contenido de las entradas de los prompts y las respuestas del modelo, con el fin de identificar y bloquear aquellas que contengan contenido malicioso o inadecuado de cualquier otro modo
• Directrices éticas que ajustan las interacciones de los usuarios con el modelo a los valores y estándares de la organización
• Capacidades de verificación de datos para comprobar la información y señalar imprecisiones o información falsa antes de que se incorpore al contenido de la empresa
• Independencia respecto al modelo para evitar la dependencia de un proveedor y los problemas derivados de sus limitaciones
• Visibilidad completa de todo el sistema para que el personal de seguridad pueda ver lo que ocurre en tiempo real
• Un conjunto integral de políticas y procedimientos que rigen el uso ético y responsable de los modelos para garantizar la transparencia, la rendición de cuentas y el cumplimiento de los requisitos de la empresa, del sector o de los organismos reguladores
• Controles de acceso basados en roles o políticas para garantizar que solo el personal autorizado tenga acceso a los modelos, los datos y las funciones que necesita para desempeñar sus tareas
• Capacidades para realizar el seguimiento y la auditoría de la interacción, tanto de los usuarios como del contenido, con el fin de identificar vulnerabilidades, evaluar riesgos e implementar las medidas de protección adecuadas.

Quizá lo más importante sea que estas medidas deben poder adaptarse a las necesidades específicas, el perfil de riesgo y el entorno normativo de cada organización. Las soluciones de seguridad de F5 para la ejecución de IA, independientes del modelo, ofrecen funciones de seguridad integrales en una única solución fácil de instalar y usar para las organizaciones que utilizan modelos de IA de cualquier cantidad o tipo: LLM, multimodales, de generación aumentada por recuperación (RAG), ajustados, internos, externos, privados o de código abierto. Las soluciones de F5 proporcionan una observabilidad completa de todo el sistema, lo que permite a los administradores ver cada modelo y su actividad.

F5 implementa sólidas medidas de protección para proteger frente a amenazas tanto habituales como nuevas. Por ejemplo, los controles de acceso basados en políticas restringen el acceso a los modelos a las personas y grupos identificados por los administradores, al tiempo que permiten a estos establecer límites de frecuencia para supervisar y regular el uso de los modelos y evitar ataques de denegación de servicio (DoS) contra ellos. Los analizadores personalizables revisan el contenido entrante y saliente para garantizar que los datos confidenciales, ya sean personales o de la empresa, no salgan de la organización y que no entre contenido malicioso, sospechoso o inaceptable por cualquier otro motivo. Otros analizadores revisan las instrucciones de IA para detectar contenido que, aunque no sea perjudicial para la empresa, no esté en consonancia con sus valores o no se ajuste al uso empresarial. 

Los escáneres revisan todas las consultas y respuestas y, en función de los umbrales establecidos por la organización, ocultan la información confidencial, las bloquean o las aprueban. Además, todas las interacciones realizadas en la plataforma quedan registradas para que los administradores puedan revisarlas y para garantizar su auditabilidad y la rendición de cuentas. Nuestro bot independiente del modelo se integra a la perfección con herramientas de trabajo como Slack y Microsoft Teams, lo que permite a los usuarios acceder a todos los modelos disponibles desde dichas herramientas. Así, ofrece una seguridad sólida y un rendimiento sin concesiones, al tiempo que aumenta la productividad y fomenta la comunicación y la innovación. Esta solución única proporciona una base sólida para adoptar un enfoque proactivo e integral de la seguridad que permita mitigar eficazmente los riesgos asociados al despliegue de modelos de IA generativa. Haz clic aquí para obtener más información sobre nuestras soluciones de seguridad y habilitación en tiempo de ejecución para la IA generativa.

Sobre el autor

F5 Newsroom Staff

Más artículos de F5 Newsroom Staff