Esta es la red social que está envuelta en la polémica por la discriminación de su algoritmo

La compañía se enfrenta a graves acusaciones por este asunto.

Tumblr y la Comisión de Derechos Humanos de la ciudad de Nueva York (CCHR) han resuelto las acusaciones de discriminación relacionadas con la prohibición de contenido para adultos de la compañía en 2018, que los legisladores de la ciudad dicen que afectó de manera desproporcionada a los usuarios LGBTQ. El acuerdo requiere que Tumblr revise su proceso de apelaciones de usuarios y capacite a sus moderadores humanos en temas de diversidad e inclusión, además de revisar miles de casos antiguos y contratar a un experto para buscar posibles sesgos en sus algoritmos de moderación.

Casos de discriminación

El acuerdo, que no involucró una queja legal formal y se firmó el mes pasado, marca una de las primeras veces que los legisladores llegan a un acuerdo para cambiar las políticas de moderación de una red social basadas en problemas de sesgo algorítmico. Resuelve una investigación que la CCHR inició en diciembre de 2018, poco después de que Tumblr prohibiera el contenido sexual explícito y la desnudez, e hiciera cumplir sus reglas con un sistema de eliminación automatizado cómicamente inexacto.

El acuerdo otorga a Tumblr 180 días para contratar a un experto en temas de orientación sexual e identidad de género y brindar capacitación relacionada a los moderadores. También debe contratar a alguien con experiencia en este área, así como en clasificación de imágenes, que revisará los algoritmos de moderación de Tumblr para ver si es más probable que marquen el contenido LGBTQ. Como parte de una revisión general, Tumblr volverá a examinar 3000 casos antiguos en los que un usuario apeló con éxito una eliminación, en busca de patrones que pudieran indicar parcialidad.

El trato parece haber ocurrido en gran parte debido al propietario de WordPress.com, Automattic, que adquirió Tumblr de Verizon en 2019 y aparentemente cooperó estrechamente con la CCHR. Automattic había revisado el sistema original para agregar más supervisión humana incluso antes del acuerdo. Bajo su propiedad, Tumblr también ha intentado reconciliarse con los usuarios LGBTQ que partieron como parte de un éxodo comunitario más grande.

Tumblr deberá rectificar

El acuerdo de Tumblr podría ser un primer paso en un movimiento regulatorio nacional más amplio. Las acusaciones de parcialidad contra las plataformas de redes sociales rara vez han tenido éxito en los tribunales, y el acuerdo parece estar reforzado por el deseo de Automattic de revisar la moderación de Tumblr y restaurar la confianza con la comunidad LGBTQ. La CCHR no ha proporcionado detalles sobre la evidencia que respalda sus reclamos de discriminación, por lo que es difícil evaluar los detalles de ese caso. Pero plataformas mucho más grandes como YouTube e Instagram también se han enfrentado a acusaciones de moderación discriminatoria sin acción regulatoria, y YouTube, en particular, ha vencido dos demandas de creadores de videos LGBTQ y negros que alegaron discriminación algorítmica.

Sin embargo, el tema más amplio del sesgo algorítmico de raza y género se ha convertido en una prioridad cada vez mayor para los legisladores, particularmente en los casos en que podría afectar las opciones de vivienda y empleo de las personas. E incluso sin quejas legales, algunas empresas como Twitter han revisado sus algoritmos de moderación bajo la presión del público, a veces haciendo descubrimientos preocupantes en el proceso.

REFERENCIAS:

Comisión de Derechos Humanos de la ciudad de Nueva York (informe) / Tumblr (nota de prensa)

Continúa leyendo