Todo el mundo se está lanzando a la mina de oro que representa la IA generativa. Al menos, eso es lo que parece a simple vista. Hoy en día, apenas recibo un comunicado de prensa que no mencione de algún modo la IA generativa.
Pero, si se profundiza un poco, enseguida se descubre que el mayor impacto que está teniendo ahora mismo la IA generativa se da en el marketing.
Lo que estamos viendo ahora mismo es que la gente está aprovechando las oportunidades más fáciles. Cualquier funcionalidad que se pueda «añadir» fácilmente sin un trabajo significativo de desarrollo o investigación se incorpora a toda prisa y se lanza al mercado.
La mayoría de las empresas —ya sean tecnológicas, manufactureras o sanitarias— están adoptando un enfoque más prudente. Un enfoque más estratégico si se me permite decirlo. Y como este es mi blog, me lo permito.
Las razones para ser más exigentes con el uso que se hace de la IA generativa son bien conocidas, si tomamos como referencia el grado de concienciación reflejado en una encuesta reciente de ExtraHop. Las principales preocupaciones se dividen en dos categorías: fiabilidad y seguridad.
En el ámbito de la IA generativa, la fiabilidad depende de la precisión y la confianza. Debo poder confiar en que las respuestas que recibo —ya sean código, configuración o contenido— sean precisas y correctas, y no estén plagadas de sesgos.
En el ámbito de la seguridad, seguimos teniendo las mismas preocupaciones de siempre, y algunas más. Ahora ya no se trata solo de la exposición de la información de identificación personal (PII) de clientes y empleados, sino también de que los secretos comerciales y la propiedad intelectual acaben filtrándose por todo el mundo.
Cómo abordar los riesgos de la IA generativa
Resolver los problemas de fiabilidad exige mucho trabajo, ya que requiere o bien (a) una gran cantidad de entrenamiento y ajuste fino, o bien (b) un enfoque arquitectónico en el que la IA generativa sea solo una parte de la solución y se aprovechen técnicas avanzadas de ingeniería de prompts para validar sus propias respuestas. Ambas opciones requieren tiempo y dinero, y por eso todavía no vemos que las soluciones de IA generativa estén transformando los mercados. Pero lo harán. Aunque llevará tiempo.
El reto de la seguridad es, al mismo tiempo, más fácil y más difícil de abordar. Resolver el problema de la exposición de secretos comerciales o propiedad intelectual implica, o bien (a) desplegar y operar instancias propias de un LLM —con todo lo que ello conlleva—, o bien (b) diseñar una arquitectura que evite el problema. Esto supone desarrollar agentes GPT que utilicen las capacidades generativas de un LLM como herramienta, pero no como fuente principal.
Por ejemplo, es fácil olvidar que los datos que recopilas pueden tener importancia estratégica. El modelo que utilizo para hacer un seguimiento de la actividad del mercado puede parecer inofensivo, pero revela mucho sobre cómo concibe F5 el mercado y cómo planea competir en él. Tiene relevancia estratégica. Por tanto, no es algo cuyo análisis quieras confiar a un LLM público. Si a esto le sumamos que la IA generativa es pésima —y cuando digo pésima, quiero decir pésima— analizando datos tabulares, parece un mal caso de uso.
Pero al aprovechar las funciones de OpenAI para sacar partido de las capacidades de análisis de datos de Python, la idea no es mala en absoluto. Esto requiere tiempo y esfuerzo de desarrollo, ya que es necesario crear un agente GPT en lugar de limitarse a entregar los datos a OpenAI para que los analice, pero permite resolver tanto el problema de la fiabilidad como el de la seguridad.
En caso de exposición accidental de información de identificación personal (PII) de clientes o empleados, ya estamos viendo una solución más sencilla: el enmascaramiento de datos.
Enmascaramiento de datos para la IA generativa
Ahora bien, el enmascaramiento de datos ya estaba ganando popularidad en el ámbito del desarrollo, ya que permite a los desarrolladores realizar pruebas con datos reales sin riesgo de exponer información confidencial. Pero también puede utilizarse con la IA generativa para evitar dicha exposición. Ya existen numerosas bibliotecas y herramientas de código abierto que facilitan su integración porque, al fin y al cabo, la mayoría de las soluciones de IA generativa funcionan mediante API, y es fácil interceptar las API e inspeccionar las solicitudes en busca de datos confidenciales.
El uso del enmascaramiento de datos para abordar las preocupaciones de seguridad relacionadas con la IA generativa funciona tanto en entornos de desarrollo como de producción, lo que garantiza que los datos confidenciales no queden expuestos durante todo el ciclo de vida de la aplicación.
Es indudable que el enmascaramiento de datos ya estaba en auge antes de que apareciera la IA generativa y acaparara todo el protagonismo frente al resto de tecnologías. Sin embargo, es probable que la IA generativa actúe como catalizador de las capacidades de enmascaramiento de datos tanto en el ámbito de la entrega y la seguridad de aplicaciones como en el desarrollo de aplicaciones.
Descubra cómo las soluciones de F5 impulsan y protegen las aplicaciones basadas en IA ›
Sobre el autor
Lori MacVittie es ingeniera distinguida y evangelista jefe en la Oficina del CTO de F5, y cuenta con una amplia experiencia en entrega de aplicaciones, estrategia de automatización e infraestructura. Es conocida por convertir la complejidad en claridad, ya sea definiendo mecanismos de protección para agentes de IA, analizando arquitecturas multinube frágiles o explorando los límites de los sistemas escalables. Aporta más de treinta años de experiencia en el sector en desarrollo de aplicaciones, arquitectura de TI y operaciones de redes y sistemas. Antes de incorporarse a F5, fue una galardonada editora de tecnología. MacVittie posee un máster en Informática y es una autora prolífica cuyas publicaciones abarcan la seguridad, la nube y la arquitectura empresarial. También es una apasionada de los juegos de mesa y los videojuegos, y expresa sin complejos sus firmes opiniones sobre el queso.
Más artículos de Lori Mac VittieArtículos relacionados del blog
Proteger los endpoints de las API dificulta la seguridad de las API
Descubre las complejidades de la seguridad de las API, los retos a los que se enfrentan las organizaciones, la evolución de los ataques contra endpoints de API y la necesidad de políticas de seguridad adaptadas.
¿Qué es el sesgo de la IA y por qué es importante para TI?
Descubre los fundamentos del aprendizaje de la IA. Aprende cómo pueden surgir sesgos en la IA y qué riesgos plantean para las TI y la transformación digital.
Redefiniendo la ciberseguridad en el extremo de la nube distribuida con IA y telemetría en tiempo real
La transformación digital y la adopción de tecnologías en la nube están provocando cambios en las arquitecturas de las aplicaciones. Estos cambios introducen nuevas superficies de ataque, que son el objetivo de métodos de ataque avanzados, altamente organizados y con motivaciones económicas. Mediante el uso del framework Morpheus de NVIDIA, F5 está investigando técnicas para detectar estas amenazas avanzadas con telemetría en tiempo real y análisis basados en IA.
El papel de la nube en las aplicaciones nativas del edge
No debería sorprender que, al igual que la aparición de la nube dio lugar a las aplicaciones nativas de la nube, el edge esté impulsando un conjunto de aplicaciones nativas del edge. Sin embargo, estas aplicaciones no residirán únicamente en el edge. Al mismo tiempo, están surgiendo nuevos patrones arquitectónicos que aprovechan las aplicaciones alojadas en la nube y en el centro de datos.
La creciente diversidad de ubicaciones y usuarios está impulsando a las empresas hacia el edge
En el contexto del ámbito de las aplicaciones, el término «usuario» siempre se ha referido a la entidad que interactúa con una aplicación. Del mismo modo que los cambios en las arquitecturas de las aplicaciones impulsan cambios en las tecnologías que permiten ofrecerlas y protegerlas, los cambios en la definición de usuario han provocado cambios en los lugares donde se despliegan las aplicaciones.
El edge está impulsando un renacimiento de las infraestructuras
A medida que las organizaciones aumentan la generación de datos y tratan de extraer valor empresarial de ellos, sin duda recurrirán a la analítica y la automatización basadas en la IA y el aprendizaje automático. Precisamente este tipo de cargas de trabajo son las que más se beneficiarían de una infraestructura optimizada y, sin embargo, hoy en día son las que menos probabilidades tienen de poder aprovecharla.