Pensamos que la IA es neutral, pero a veces toma decisiones injustas, discriminatorias o simplemente erróneas. ¿Por qué? Porque aprende de nosotros, seres humanos que alimentamos a los sistemas con información sesgada por nuestra propia conciencia (o inconciencia), creando un “efecto espejo” entre nuestras mentes y los algoritmos, copiando nuestros sesgos.
Los sesgos cognitivos son trucos que usa el cerebro. Son caminos preestablecidos en nuestra red neuronal que nos permite decidir rápido frente a determinados estímulos o situaciones. Por ejemplo:
- Sesgo de confirmación: sólo ves lo que te conviene.
- Sesgo de aversión a la pérdida: si tenés que perder algo para ganar otra cosa de igual valor, te quedás con la que tenés para no perderla (le asignás un valor subjetivo mayor).
- Sesgo de anclaje: te quedas con lo primero que escuchaste.
- Sesgo de generalización: si un perro muerde, todos los perros son peligrosos.
Pero, ¿cómo es que le llegan estos sesgos a nuestros modelos de IA?
Cuando entrenamos a la IA con información basada en decisiones humanas pasadas, estamos dándole estos sesgos una y otra y otra vez. Por ejemplo, si un sistema de reclutamiento aprendió de datos donde se contrataban más hombres que mujeres, seguirá haciéndolo en el entendido de que la repetición es indicativa de una respuesta o acción apropiada, y si los datos están incompletos los va a rellenar en base a los estereotipos contenidos en la información con la que fue entrenada.
Uno de los peligros de estos sesgos es que al delegar en un sistema automatizado las decisiones, muchas veces se hace a gran escala y es difícil de detectar. Pero hay cosas que se pueden hacer para usar la tecnología de forma confiable.
Por ejemplo, hacer auditorías éticas para revisar cómo decide la IA, diseñar algoritmos que busquen la equidad, incluir equipos diversos que vean lo que otros no ven y hasta usar la propia IA para detectar nuestros propios sesgos en base a patrones de comportamiento frente a las decisiones.
En definitiva, la IA tiene prejuicios sólo si se los damos, pero también podemos enseñarle a evitarlos.
Pero siempre, por suerte, todo empieza y termina en nosotros: los humanos haciendo esplendor de nuestra capacidad de actuar con conciencia, diversidad y responsabilidad (¿o no?).