Este es el algoritmo de Twitter que prefiere a las personas blancas y a las mujeres

La polémica se ha desatado, y hay quien acusa a la empresa de ser racista.

twitter
iStock

Un nuevo análisis publicado por Twitter ha confirmado que el algoritmo de recorte automático de fotografías de la empresa discrimina en función de la etnia y el género. Si se sube una imagen en la que aparezca un hombre negro y una mujer blanca, el algoritmo elegirá mostrar a la mujer el 64% de las veces y al hombre el 36%, tal y como han descubierto los investigadores de Twitter.

En las comparaciones de hombres y mujeres, hubo una diferencia del 8% a favor de las mujeres. El algoritmo también mostró un sesgo general del 4% orientado a mostrar imágenes de personas blancas en lugar de personas negras. En respuesta, la red social dijo que eliminaría la función y la reemplazaría con nuevas herramientas que permitirían a los usuarios ver una "vista previa real" de las imágenes agregadas a los tweets, sin ningún tipo de sesgo por raza o género.

Discriminación por género y color de piel

Desde la empresa, enseguida salieron a declarar que "una de nuestras conclusiones es que no todo lo que se sube a Twitter es fácilmente identificable para un algoritmo, y en este caso, cómo recortar una imagen es una decisión que es mejor que tomen las personas", escribió el director de ingeniería de software de Twitter, Rumman Chowdhury, en un blog cuando saltó la polémica.

No ocurrió nada similar con la "mirada masculina", que tenía como objetivo descubrir si el algoritmo tendía a enfocarse en diferentes partes de los cuerpos femeninos, no encontró evidencia de sesgo. Cuando se aplica a tecnologías como el reconocimiento facial, las consecuencias del sesgo de los algoritmos podrían ir mucho más allá de una foto recortada injustamente.

Los expertos coinciden en que se sabe que los algoritmos representan a las personas con tonos de piel más oscuros como más violentas y cercanas a los animales, basándose en viejas convenciones racistas. Es muy probable que esto tenga un efecto directo en las personas racializadas cuando dichos sistemas se utilizan para detectar situaciones anormales o peligrosas, como ya es el caso en muchos lugares de Europa.

¿Cómo funciona el algoritmo de Twitter?

Hasta hace poco, las imágenes publicadas en Twitter se recortaban automáticamente mediante un algoritmo programado para centrarse en la "prominencia", una medida de la probabilidad de que el ojo humano se sienta atraído por una parte particular de una imagen.

Las áreas de alta prominencia de una imagen suelen incluir personas, texto, números, objetos y fondos de alto contraste. Sin embargo, un algoritmo de aprendizaje automático como el que utiliza Twitter es tan imparcial como la información con la que se prueba dicho algoritmo.

El problema con el algoritmo que recorta automáticamente las fotos de Twitter fue objeto de diversos debates durante todo el año pasado, cuando el estudiante de doctorado canadiense Colin Madland notó que siempre elegía mostrarlo a él en la previsualización en lugar de a su colega, un chico negro.

El tweet de Madland sobre este descubrimiento se volvió viral, lo que llevó a otros usuarios a publicar imágenes con varias personas en un esfuerzo por ver cuál elegiría mostrar el algoritmo.

Vídeo de la semana

Continúa leyendo