Inteligencia artificial para identificar los crímenes cometidos por pandillas

Un equipo de investigadores ha desarrollado un algoritmo que tiene como objetivo clasificar qué delitos están relacionados con pandilleros.

Desde hace ya un tiempo se intenta sacar partido a las posibilidades tecnológicas que ofrece la inteligencia artificial no solo como método de investigación de los delitos, sino incluso en el ámbito de lo que han denominado “vigilancia predictiva”, es decir, aquella que, empleando algoritmos, es capaz de determinar cuándo y dónde es probable que tenga lugar un próximo delito.

 

No es de extrañar que, en un mundo hiperespecializado como el nuestro, un equipo de investigadores acabe de presentar, en el marco de la conferencia Inteligencia artificial, ética y sociedad (en inglés, Artificial Intelligence, Ethics, and Society –AIES–), celebrada en Nueva Orleans (Luisiana), un algoritmo cuyo objetivo específico es ayudar a la policía en su objetivo de combatir los actos violentos protagonizados por miembros de pandillas. Sin embargo, la polémica está servida, ya que, aun cuando el proyecto todavía está en vías de desarrollo, han surgido voces críticas con este algoritmo debido a que podría caer en errores propios del ser humano.

 

Para crear este algoritmo se basaron en lo que han denominado “red neuronal parcialmente generativa”, que permite un aprendizaje automático y llegar a conclusiones con menos información de la que normalmente sería necesaria. Cuando se comete un delito, el sistema se fija en cuatro detalles específicos: el arma principal utilizada, el número de sospechosos que se encontraban en la escena del crimen, el vecindario en el que ha tenido lugar y el lugar exacto dentro de este (ya sea, por ejemplo, un callejón o una esquina).

 

Para entrenar a su algoritmo, los investigadores utilizaron un gran volumen de datos del Departamento de Policía de Los Ángeles procedentes de 50.000 asaltos con agravante, robos y homicidios cometidos desde 2014 hasta 2016 y relacionados con pandillas y no vinculados a ellas. Después lo pusieron a prueba utilizando otro grupo de datos de la Policía angelina.

 

Algunas dudas sobre su precisión

 

El sistema de IA determina, con los cuatro factores antes mencionados, si un crimen probablemente ha sido cometido por pandilleros o no, incluso sin recibir el informe de un agente de policía. El aspecto más innovador de esta inteligencia artificial es que es parcialmente generativa y esa característica minimizó los errores hasta en un 30% respecto a una versión simplificada de esa red que no usó el mismo enfoque, según la presentación que sus creadores hicieron en el AIES. Sin embargo, no han puesto a prueba el sistema frente a la precisión de los oficiales formados y bien entrenados.

 

En declaraciones a la revista Science, Blake Lemoine, ingeniero de software de Google, que se encontraba entre el público asistente a la conferencia, manifestó: “Es casi seguro un trabajo bienintencionado. Sin embargo, ¿han considerado los investigadores los posibles efectos secundarios no deseados?”. Ya que, el propio entrenamiento al que se somete a esta inteligencia artificial podría generar sesgos raciales o sociales propios también en el ser humano. Parece claro que podría ayudar en la identificación de crímenes relacionados con pandillas, pero un fallo en el sistema también podría suponer la detención de personas que son inocentes. No fue el único experto en poner de manifiesto estas reticencias éticas.

 

Porque las inteligencias artificiales no son tan infalibles ni objetivas como nos gustaría. De hecho, se ha descubierto que una IA empleada en Reino Unido para tomar decisiones sobre si un sospechoso debería permanecer bajo custodia policial podría estar discriminando a las personas que proceden de zonas pobres.

También te puede interesar:
Raquel de la Morena

Raquel de la Morena

Periodista. También escritora de romances históricos y novela juvenil. Sin terraplanistas ni escépticos de la llegada del hombre a la Luna entre mi gente más cercana –que yo sepa–.

Continúa leyendo