La Inteligencia Artificial es racista y sexista

Los prejuicios implícitos en el lenguaje humano se transmiten a los sistemas de inteligencia artificial que los imitan.

También te puede interesar: Ventajas y riesgos de la Inteligencia Artificial

Los autores de la investigación replicaron el TAI en sistemas de aprendizaje automático, como los que se emplean en traductores o procesadores de textos de la web. Tras analizar las asociaciones que hacía el sistema con más de dos millones de palabras, descubrieron que reflejaba los mismos prejuicios transmitidos a través de la lengua por los seres humanos. "Por ejemplo, los nombres femeninos se asociaban sobre todo a términos relacionados con la familia, mientras que los masculinos aludían a conceptos relacionados con carreras profesionales", dice Aylin Caliskan, una de las autoras de la investigación. Por ejemplo, al pasar del turco al inglés la frase "él es enfermero", el sistema lo traducía como "ella es enfermera", mientras que la expresión "él es médico" no cambiaba de género al pasar del turco al inglés. Y también se transmiten los prejuicios raciales. Diversos estudios sobre el comportamiento humano muestran que en Estados Unidos un mismo currículum tiene el doble de posibilidades de pasar la fase de la entrevista si el nombre y apellido del candidato es europeo y no afroamericano. En el caso de la IA, también se asocian los apellidos europeos con estímulos o términos positivos relacionados con el placer, como 'regalo' o 'felicidad'.


Según Arvid Narayanan, otro de los autores del estudio, la transmisión de los prejuicios se debe no solo a los programadores de los sistemas sino a los datos con los que se alimentan y a textos procedentes de las redes sociales, de lo que escribe la gente on line.

 

Etiquetas: Inteligencia Artificialinteligenciainternetrobótica

Continúa leyendo

CONTENIDOS SIMILARES

COMENTARIOS

También te puede interesar