Reconocimiento facial sí, pero no para favorecer el racismo

IBM ha abierto la veda para imponer un uso responsable, sin sesgos y no racista, del reconocimiento facial. ¿Le seguirá alguna otra multinacional americana o china?

Ahora que todos, parece, nos vamos a dejar escanear el rostro por cámaras inteligentes, para ver si tenemos fiebre y, por ende, si podemos tener el temido coronavirus, se añade un nuevo componente a la discusión sobre la conveniencia o no de los sensores de reconocimiento facial y sus sesgos. Los disturbios provocados en Estados Unidos por el asesinato de George Floyd, a manos de la policía, ha enaltecido también el debate sobre la utilización de este tipo de software de inteligencia artificial y su uso, mejor dicho mal uso, racista.
 
Y en este contexto, en el del mal uso del reconocimiento facial como sesgo racista, el CEO de IBM Arvind Krishna ha aprovechado la coyuntura para enviar una carta al Congreso de los Estados Unidos, la semana pasada, en la que básicamente anuncia que ya no ofrecerá tecnología de reconocimiento facial para su uso racista. En la misiva, el primer ejecutivo de la firma americana expresa como en septiembre de 1953, más de una década antes de la aprobación de la Ley de Derechos Civiles, IBM fijó una posición a favor de la igualdad de oportunidades.

El entonces presidente de IBM, Thomas J. Watson, Jr., señaló a sus empleados: "Cada uno de los ciudadanos de este país tiene el mismo derecho a vivir y trabajar en Estados Unidos. La política de esta organización es contratar personas que tengan la personalidad, el talento y los antecedentes necesarios para desempeñar un trabajo determinado, independientemente de su raza, color o credo".
 
Apenas 67 años después, Krishna ha apuntado al Congreso que la tecnología puede y debe ser responsable, aumentar la transparencia y ayudar a la policía a proteger a las comunidades, pero no debe promover la discriminación o la injusticia racial. Por ello IBM ya no ofrecerá su software de análisis o reconocimiento facial de uso general. IBM se opone firmemente y no tolerará el uso de ninguna tecnología, incluida la de reconocimiento facial ofrecida por otros proveedores, para la vigilancia masiva, el perfil racial, las violaciones de los derechos humanos y las libertades básicas, o cualquier propósito que no sea coherente con los valores y principios de confianza y transparencia. “Creemos que ahora es el momento de comenzar un diálogo nacional sobre si las agencias nacionales de aplicación de la ley deberían emplear la tecnología de reconocimiento facial y cómo”, dice el CEO de IBM.

Seguridad de los ciudadanos

La inteligencia artificial (IA) es una herramienta poderosa que puede ayudar a la policía a mantener seguros a los ciudadanos. Pero los vendedores y usuarios de los sistemas de IA tienen la responsabilidad compartida de garantizar que se evalúe el sesgo, en particular cuando se utiliza en la aplicación de la ley, y que dichas pruebas de sesgo se auditen y se informen.
 
La política nacional, afirma Arvind Krishna, también debería alentar y promover los usos de la tecnología que brinden mayor transparencia y responsabilidad a la vigilancia, como las cámaras corporales y las técnicas modernas de análisis de datos. Pero, además, “la capacitación y la educación para las habilidades en demanda es clave para expandir las oportunidades económicas para las comunidades de color”.

Habilidades y capacitación

Y para ello el CEO de IBM cree que es necesario crear vías más abiertas y equitativas para adquirir habilidades y capacitación comercializables, y la necesidad es particularmente aguda en las comunidades de color. En IBM ven una demanda urgente de lo que llaman trabajos de "nuevo collar", que requieren habilidades especializadas pero no necesariamente un título universitario tradicional de cuatro años. Estos trabajos todavía se pueden encontrar hoy en los campos de rápido crecimiento, desde la ciberseguridad hasta la computación en la nube.
 
Ojalá el ejemplo, o al menos la intención, de IBM sea seguida por otros empresas y multinacionales, ya no solo americanas. Porqué no también las chinas, que son las verdaderas líderes en el desarrollo de aplicaciones que utilizan el reconocimiento facial.

Juan Carlos F. Galindo

Juan Carlos F. Galindo

Tras dos décadas dedicado a la comunicación de Productos y Servicios, Innovación, Tecnología, I+D, Televisión y Patrocinios de una gran empresa, me embarco en este blog que dedicaré a mi pasión, la tendencia tecnológica que va a protagonizar la 4ª Revolución Industrial: la Inteligencia Artificial.

Continúa leyendo