Este es el software de reconocimiento facial de Uber al que acusan de ser racista

Muestra un porcentaje de error más alto en rostros afroamericanos.

Uber se enfrenta a serias acciones legales por la presunta discriminación racial indirecta contra un conductor que afirma que fue despedido después de que el software de reconocimiento facial utilizado por la compañía no lo reconociese y, por lo tanto, no pudiese desempeñar su trabajo.

Problemas en la identificación de rostros

En un recurso legal ante un tribunal laboral presentado hace tan solo unos días, el conductor de la famosa empresa de vehículos VTC, que pidió no ser identificado, alegó que la subsidiaria británica de Uber desactivó su cuenta después de no reconocerlo en dos fotografías separadas, dejándolo sin poder trabajar.

El Sindicato de Trabajadores Independientes de Gran Bretaña (IWGB), que presentó el recurso en nombre del conductor, aseguró que había podido verificar al menos 35 despidos similares entre sus miembros desde el inicio de la pandemia de coronavirus, hace casi dos años, y advirtió de que "cientos, si no miles de conductores más", podrían verse afectados.

Todo está en manos del algoritmo

El sindicato ya lleva varios meses pidiéndole a Uber que deje de usar su "algoritmo racista" y restablezca a los conductores despedidos injustamente como resultado de los supuestos errores del software. En un comunicado, Uber afirmó que su software de reconocimiento facial fue "diseñado para proteger la seguridad de todos los que usan la aplicación Uber al ayudar a garantizar que el conductor correcto esté detrás del volante".

Además, la compañía sentenció que el sistema incluye "una revisión humana sólida para asegurarse de que este algoritmo no tome decisiones precipitadas y erróneas y deje a conductores sin identificar, como ha sido el caso del anunciante. En el recurso del tribunal laboral el conductor, que trabajó para Uber desde 2016 hasta que fue despedido el pasado mes de abril, alega que nunca se le ofreció la opción de una verificación manual de las fotos que acreditaban que era él, sino que todo se dejó en manos del algoritmo de Uber.

Uber ha utilizado la verificación de identidad en tiempo real en el Reino Unido desde abril de 2020, después de que el regulador de transporte de Londres, TfL, expresara su preocupación por la seguridad de los pasajeros de la compañía. El software creado por Microsoft funciona comparando un selfie tomado por el conductor cuando comienza a trabajar con una foto que la compañía tiene en el archivo. Dice que todos los conductores pueden optar por verificaciones automatizadas a través de un algoritmo o verificaciones manuales realizadas por humanos.

En su página web, Uber afirma que en caso de que la verificación de identidad en tiempo real no pueda verificar la foto de un conductor, ambas imágenes se enviarán a un "equipo de especialistas" que verificará manualmente la identidad de dicho conductor.

¿Son racistas los algoritmos?

El sesgo racial ha sido durante mucho tiempo un problema destacado por los estudios de tecnologías de reconocimiento facial. En un estudio de 2018, llevado a cabo por dos científicos, se descubrió que las tecnologías de reconocimiento facial funcionan mejor con pieles claras.

Continúa leyendo