La IA generativa es como ese objeto tan brillante del que nadie puede apartar la mirada.
Casi todas las empresas del mundo están entusiasmadas con el potencial de las herramientas de IA generativa para transformar su negocio, y con razón.
La IA generativa, una modalidad de aprendizaje automático que crea contenidos como textos e imágenes en respuesta a solicitudes formuladas en lenguaje natural, es una tecnología revolucionaria. Desde el aumento de la productividad hasta la mejora de la personalización, las herramientas de IA generativa ofrecen numerosas ventajas.
Por ejemplo, en una encuesta reciente de Gartner, más de 2500 ejecutivos señalaron la experiencia y la retención de clientes (38 %) como el principal objetivo de sus inversiones en IA generativa. A continuación se situaron otras áreas, como el crecimiento de los ingresos (26 %), la optimización de costes (17 %) y la continuidad del negocio (7 %).
Además, en otra encuesta realizada por IBM a 3000 consejeros delegados, el 69 % de los encuestados reconoce los amplios beneficios de la IA generativa en toda su organización. Sin embargo, solo el 30 % de los altos directivos que no son consejeros delegados afirma que su organización está preparada para adoptar la IA generativa de forma responsable.
“Dada la rapidez con la que evoluciona la IA generativa, las organizaciones pueden verse rápidamente en apuros.”
Seamos francos: es alarmante. ¿Menos de un tercio de los altos directivos afirma que su organización está preparada para adoptar la IA generativa de forma responsable?
Es fácil dejarse deslumbrar por todos los beneficios que podrían obtenerse mediante el uso de herramientas de IA generativa. Pero no lo olvidemos: el uso de estas herramientas puede entrañar importantes riesgos y desafíos.
Dada la rapidez con la que evoluciona la IA generativa, las organizaciones pueden meterse rápidamente en problemas si no prestan atención a cómo utiliza su personal las herramientas de IA generativa y no son conscientes de los datos que se introducen en sus interfaces.
Estas son solo algunas de las muchas formas en que la IA generativa puede convertir de repente una experiencia positiva y beneficiosa en un costoso problema de seguridad:
- Filtración de datos corporativos confidenciales.
Es posible que haya oído hablar o leído acerca de cómo empleados de Samsung subieron accidentalmente código al chatbot de OpenAI ChatGPT. Esto no solo dejó al descubierto datos privados, sino que también provocó una grave crisis de relaciones públicas para Samsung a escala mundial. Y es probable que Samsung no sea la única organización a la que le haya ocurrido o pueda ocurrirle. La próxima podría ser su empresa. - Difusión de información errónea y sesgos.
Las herramientas de IA generativa como ChatGPT se basan en grandes modelos de lenguaje (LLM). Estos modelos se entrenan con conjuntos de datos procedentes de artículos, sitios web y todo tipo de fuentes, incluida información errónea e incorrecta. Es fácil caer en el engaño de pensar que las herramientas de IA generativa no producirán información incorrecta ni propagarán sesgos y acabar utilizándola en tus campañas o como base para tus suposiciones. Pero, antes de que te des cuenta, la línea entre la verdad y la falsedad se habrá difuminado, al igual que tu reputación. Además, los sesgos y la información incorrecta que generan los chatbots de IA generativa ni siquiera se acercan al problema que plantean las alucinaciones de la IA. - Gestión inadecuada de la información de identificación personal (PII).
La PII puede recopilarse durante las interacciones con herramientas de IA generativa. Corresponde a las empresas responsables de dichas herramientas aplicar medidas estrictas de privacidad de los datos. Si no lo hacen, podrías tener que enfrentarte al secuestro de cuentas. O sufrir graves problemas legales y dañar la relación con tus clientes si agentes malintencionados se hacen con su PII.
Por suerte, muchas organizaciones están tomando medidas para garantizar unas prácticas seguras. Varias empresas ofrecen formación sobre los aspectos positivos y negativos de la IA generativa, o animan al personal a explorar y experimentar de forma responsable. Otras han elaborado políticas sobre IA generativa que los empleados deben aceptar y que incluyen directrices de obligado cumplimiento.
Aunque estas medidas tienen sin duda sus ventajas, la popularidad, la complejidad y la rápida evolución de las herramientas de IA generativa exigen una mayor seguridad. Además, el error humano siempre estará presente.
Seguro que ya lo has oído alguna vez, o quizá muchas: lo que no ves puede hacerte daño. Y, cuando se trata del uso de herramientas de IA generativa en el entorno laboral, no podría ser más cierto. La falta de concienciación podría hacer que tu empresa saliera perdiendo.
“Una estrategia clave de seguridad de confianza cero que debes priorizar es la detección del acceso a herramientas de IA generativa.”
Para protegerse frente a las amenazas derivadas del uso de la IA generativa en el entorno laboral, las empresas deben adoptar un enfoque de confianza cero . Recuerde que el principio fundamental de la confianza cero es: «Nunca confíe. Verifique siempre». Una estrategia clave de seguridad de confianza cero a la que debería dar prioridad hoy es detectar el acceso a herramientas de IA generativa.
Al proporcionar una mayor visibilidad y un control pormenorizado sobre cómo utilizan los empleados las herramientas de IA generativa en el trabajo, los equipos de seguridad pueden identificar y gestionar posibles riesgos. Esto ayuda a las organizaciones a:
- Proteja los datos, la información de identificación personal (PII), el código, la propiedad intelectual (PI) y mucho más.
- Habilite y aplique políticas que respalden las directrices de la empresa.
- Mantener su seguridad frente al uso indebido, intencionado o accidental, de herramientas de IA generativa.
A medida que el panorama de la IA generativa sigue evolucionando rápidamente, las empresas pueden estar más tranquilas con un marco de seguridad de confianza cero que permita detectar herramientas de IA generativa.
Para obtener más información sobre cómo F5 puede ayudarle a mitigar los posibles riesgos derivados del uso de herramientas de IA generativa en el lugar de trabajo, consulte este artículo de DevCentral sobre F5 BIG-IP SSL Orchestrator.
Sobre el autor
Artículos relacionados del blog
Cree servicios públicos seguros, resilientes y preparados para la IA con F5 y AWS
Descubre cómo las organizaciones del sector público pueden modernizar de forma segura sus aplicaciones y soluciones de IA, al tiempo que gestionan los sistemas heredados, el cumplimiento normativo y el riesgo operativo.
Protección de los sistemas de IA: por qué la seguridad debe avanzar al ritmo de la innovación
Desde acelerar avances revolucionarios en medicina y educación hasta transformar la vida cotidiana, la IA está cambiando nuestra forma de vivir y trabajar. Pero también ofrece grandes oportunidades a los ciberdelincuentes.
Avanzar hacia la optimización digital tras la transformación
Descubre estrategias de optimización digital para garantizar políticas de seguridad coherentes, impulsar la madurez de la transformación digital y superar los retos de la transformación.
Proyecto de código abierto destacado: mayor observabilidad con F5 Cloud Logger iApp
En el punto de mira del código abierto: cómo aumentar la observabilidad. Lee el blog de F5 para descubrir cómo exportar fácilmente la telemetría de BIG-IP a plataformas modernas de análisis en la nube.
El estado de la entrega de aplicaciones en 2018: la transformación digital impulsa la automatización y la multinube pese a las preocupaciones de seguridad
Descubre las principales conclusiones del cuarto informe anual de F5 sobre el estado de la entrega de aplicaciones.
Estado de la entrega de aplicaciones en 2017: automatización, API y DevOps
Descubre el informe sobre el estado de la entrega de aplicaciones de 2017. Lee el blog retrospectivo de F5 sobre los inicios del auge de las redes declarativas y los flujos de DevOps.