¿Qué es el sesgo de la IA y por qué es importante para TI?

Para comprender cómo se introduce el sesgo en la IA, es necesario tener una comprensión básica de cómo se entrenan los modelos de IA. 

Dependiendo de a quién le preguntes y de lo pedantes que quieran ser, obtendrás respuestas diferentes sobre la cantidad de métodos de aprendizaje diferentes que existen. Y, de hecho, los métodos, algoritmos y modelos que se utilizan hoy en día son amplios y, en muchos casos, incomprensibles para quienes no están profundamente familiarizados con ese campo. Pero es importante entender, a un alto nivel, cómo se entrenan los modelos porque en última instancia así es como se introduce el sesgo. Teniendo esto en mente, hay tres formas básicas de entrenar modelos de IA: 

1. Aprendizaje supervisado. Los datos de entrada están etiquetados. El sistema sabe cuál debe ser el resultado en función del conjunto de datos y las etiquetas utilizadas para entrenarlo y puede usar ese conocimiento para predecir otros valores. Dentro de esta categoría se utilizan dos tipos principales de algoritmos. Una se basa en la clasificación, en la que los datos se agrupan en categorías según atributos como el color, el tamaño y la forma. El reconocimiento de imágenes generalmente entra en esta categoría, pero otros usos comunes son la detección de spam y el filtrado de correo electrónico. El segundo utiliza regresión matemática para descubrir patrones que se basan en una relación lineal entre la entrada y la salida. En este método, la salida se clasifica fuera del modelo, como las mediciones del clima real. Las tendencias del mercado y del clima suelen utilizar este método.
    
2. Aprendizaje no supervisado. Como lo implica el término “no supervisado”, no se da ninguna orientación al sistema sobre la naturaleza de los datos. No está etiquetado Se espera que el sistema descubra patrones y relaciones por sí solo y prediga un resultado. Los algoritmos de aprendizaje no supervisado se basan en dos técnicas diferentes: agrupamiento y asociación. En la agrupación, se le pide al sistema que agrupe los datos en función de similitudes, de modo que los datos de un grupo tengan pocas o ninguna similitud con otros grupos. El comportamiento de compra del cliente es un uso común de la agrupación. Con la asociación, se le pide al sistema que encuentre relaciones entre los datos, como dependencias entre ellos. Este enfoque se basa enteramente en la correlación y no en la causalidad. Los sistemas no supervisados simplemente descubren “cosas que van junto con otras cosas”, no “cosas que hacen que otras cosas sucedan”. La asociación se utiliza a menudo para la minería de datos de uso web.
    
3. Aprendizaje por refuerzo. El aprendizaje por refuerzo es un compromiso entre el entrenamiento supervisado y no supervisado que busca minimizar las desventajas de cada uno. Con el aprendizaje de refuerzo, los sistemas reciben datos no etiquetados que ellos exploran. Luego son recompensados positiva o negativamente por sus resultados, y el sistema “aprende” a partir de ellos para perfeccionar sus decisiones. Este es el modelo más cercano a cómo aprenden los humanos, como se ve en el uso de exámenes y pruebas en el proceso educativo. Los videojuegos, la robótica y la minería de texto son usos comunes del aprendizaje por refuerzo. 

Bien, ahora vamos al verdadero tema: cómo se pueden introducir sesgos en estos sistemas.

La respuesta, y estoy seguro que ya la has descubierto, se basa en el hecho de que los humanos a menudo están involucrados en el proceso de entrenamiento.

La forma más fácil de sesgar el aprendizaje supervisado es envenenar los datos, por así decirlo, etiquetándolos incorrectamente. Por ejemplo, si estoy clasificando animales, etiquetar erróneamente un “perro” como “gato” puede resultar en una identificación errónea a una escala suficientemente alta. Un riesgo con el etiquetado es el etiquetado incorrecto intencional con el objetivo de corromper el resultado. Algunos errores de etiquetado son simplemente producto del juicio humano, como por ejemplo decidir si una pantera es un gato o si una estatua de un gato cuenta como un gato. Con el aprendizaje de refuerzo , recompensar positivamente la respuesta o el movimiento “incorrecto” en un juego podría potencialmente resultar en un sistema que dé intencionalmente respuestas incorrectas o siempre pierda.

Lo cual para algunas personas podría ser una opción atractiva.

Obviamente, esto tiene implicaciones para la IA conversacional (generativa) como ChatGPT, que, según su sitio, se afinó mediante “aprendizaje supervisado y aprendizaje de refuerzo” que “utilizó entrenadores humanos para mejorar el rendimiento del modelo”. Cuando elige la opción “arriba” o “abajo” para clasificar las respuestas, esos datos pueden usarse potencialmente para ajustar aún más su modelo. Tú, querido lector, supongo que eres humano. Por tanto, existe el potencial de sesgar aún más el sistema. La realidad es que ChatGPT a menudo se equivoca rotundamente en sus respuestas. La retroalimentación es necesaria para entrenar aún más el sistema para que pueda generar la respuesta correcta con mayor frecuencia.

Eso es interesante (podríamos tener una conversación fascinante sobre las formas en que podríamos manipular esos sistemas y las consecuencias), pero la verdadera razón por la que quería explorar este tema es porque el problema del sesgo se extiende a la telemetría, los datos operativos que todos queremos usar para impulsar la automatización de los sistemas y servicios que brindan y protegen los servicios digitales.

Quizás recuerdes que he escrito sobre el tema del sesgo de datos en relación con la telemetría y los conocimientos que el 98 % de las organizaciones carecen.

En la mayoría de los casos relacionados con el análisis de telemetría, los modelos se entrenan utilizando datos etiquetados. Se puede introducir un sesgo en ese sistema por (a) etiquetar incorrectamente los datos o (b) no tener suficiente diversidad de datos en una categoría específica o (c) el método utilizado para introducir nuevos datos. La razón por la que el etiquetado incorrecto de los datos resulta problemático debería ser obvia: en cantidades suficientemente grandes, puede dar lugar a una identificación errónea. El problema con la diversidad de datos es que los datos que quedan fuera de un conjunto de entrenamiento tan estrecho inevitablemente se clasificarán erróneamente.

Un ejemplo clásico de esto fue un modelo de IA entrenado para reconocer tanques frente a otros tipos de transporte. Resulta que todos los tanques fueron fotografiados a la luz del día, pero los demás vehículos no. Como resultado, la IA hizo un gran trabajo comparando tanque versus no tanque, pero en realidad estaba correlacionando día versus noche. La falta de diversidad en el conjunto de entrada provocó una correlación sesgada.

Incluso si una IA operativa se basa en el aprendizaje de refuerzo, la falta de diversidad de datos es problemática porque el sistema no tiene todas las “variables” necesarias para determinar el “próximo movimiento”, por así decirlo.

La razón por la que una IA podría no tener un conjunto diverso de datos o todas las variables que necesita es, como ya habrás adivinado, el sesgo de datos. En concreto, el sesgo de datos introducido por la monitorización selectiva, en la que sólo *algo* de telemetría se incorpora para su análisis. Por ejemplo, el impacto del rendimiento del DNS en la experiencia del usuario es bien comprendido. Pero si un modelo se entrena para analizar el rendimiento de una aplicação sin telemetría del DNS, podría afirmar que el rendimiento es correcto incluso si hay un problema con el DNS, ya que desconoce que el DNS esté relacionado de alguna manera con el rendimiento integral de la aplicación. Si el siguiente paso es alertar a alguien sobre una degradación del rendimiento, el sistema fallará debido a un sesgo en la selección de datos.

No le sorprenderá si le digo que nuestra investigación anual descubrió que más de la mitad de todas las organizaciones citan los “datos faltantes” como uno de los principales desafíos para descubrir la información que necesitan.

Por lo tanto, incluso si todas las organizaciones se comprometieran a aprovechar la IA para impulsar decisiones operativas, esto presentaría un desafío. Sin un conjunto de datos diverso con el cual entrenar dicho sistema, existe la posibilidad de que se produzcan sesgos.

Una tercera forma en que se puede introducir sesgo es en los métodos utilizados para introducir datos en el modelo. El ejemplo operativo más común de esto es utilizar los resultados de pruebas sintéticas para determinar el rendimiento promedio de una aplicação y luego utilizar el modelo resultante para analizar el tráfico real. Dependiendo de la amplitud de las ubicaciones, dispositivos, congestión de la red, etc. que forman el conjunto de datos de las pruebas sintéticas, un rendimiento perfectamente aceptable para usuarios reales podría identificarse como una falla, o viceversa.