La UE publica unas pautas para regular la inteligencia artificial

Basándose en este Libro Blanco de pautas, la Comisión Europea comenzará a redactar la legislación basada en estas propuestas y comentarios a finales de 2020.

Inteligencia artificial
iStock

El Libro Blanco de la Unión Europea a propósito de la regulación de la inteligencia artificial (IA), recientemente publicado, contiene pautas para regular la IA a fin de que “Europa se convierta en la economía ágil de datos más atractiva, segura y dinámica del mundo”. 

La estrategia establece una serie de medidas políticas, incluida la movilización de inversiones privadas y públicas, necesarias para lograr este objetivo, y que eviten que la IA "conduzca a violaciones de los derechos fundamentales", como la introducción de sesgos en los algoritmos, la supresión de la disidencia y la falta de privacidad. 

Para lograrlo, entre otros sugiere requisitos legales como:

  • Asegurarse de que la IA esté capacitada con datos verdaderamente representativos, sin sesgos raciales, sexuales o de cualquier otra índole.
  • Requerir a las compañías que mantengan documentación detallada de cómo se desarrolló la IA.
  • Informar convenientemente a los ciudadanos de cuándo están interactuando con una IA.
  • Requerir la supervisión humana para los sistemas de IA. Para garantizar la transparencia del sistema, se deben documentar las decisiones que toman, así como su proceso de toma de decisiones, de manera que puedan ser entendidas, evaluadas y explicadas por las personas responsables.
  • Otro elemento que genera preocupación entre los expertos es el uso de la IA en sistemas de armas letales autónomas. Se considera importante que los seres humanos continúen siendo responsables de las bajas causadas por dichos sistemas.

La crítica

El documento de la UE está orientado tanto a desarrolladores como a implementadores y reguladores de la IA, con el propósito de poder marcar unas fronteras éticas de estos sistemas, respetar el marco legal vigente y promocionar las libertades democráticas y el bien común. Sin embargo, la iniciativa no ha estado exenta de críticas.

Al parecer, los nuevos criterios son mucho más flexibles e inconcretos que los sugeridos en una versión anterior del Libro Blanco filtrado en enero. Aquel borrador proponía, por ejemplo, una moratoria sobre algoritmos de reconocimiento facial en espacios públicos durante cinco años, mientras que este solo requiere un "amplio debate europeo". 

Es habitual que en los primeros borradores se planteen posiciones más exigentes como estrategia política, así que no cabe mucha sorpresa ante el replegamiento que se ha dado en esta versión final. Sin embargo, eso no deja de ser decepcionante justo ahora que el problema del reconocimiento facial en espacios públicos empieza a originar mayores problemas para garantizar la privacidad de los ciudadanos

Por si fuera poco, estas pautas para la UE conciernen únicamente a las que se consideran tecnologías de “alto riesgo”, que puede incluir ciertas industrias, como la atención médica, o ciertos tipos, como la vigilancia biométrica. Pero las sugerencias no se aplicarían a la tecnología en el ámbito de la publicidad ni afectaría a la privacidad del consumidor en términos generales, suponiendo un riesgo para la libertad y la autonomía de los ciudadanos.

Con todo, este Libro Blanco es solo un conjunto de pautas. La Comisión Europea comenzará a redactar la legislación basada en estas propuestas y comentarios a finales de 2020.

Continúa leyendo