Una IA crea 40 000 armas químicas más letales en 6 horas

Los investigadores activaron un interruptor 'malvado' en el modelo de IA diseñado para encontrar curas para enfermedades. Este ha sido el resultado.

 

En la sociedad actual, utilizamos la inteligencia artificial con objeto de hacer el bien. Pero, ¿y si invirtiéramos las intenciones? ¿Y si buscáramos hacer el mal? Esta es la pregunta que se hicieron los investigadores de Collaborations Pharmaceuticals al realizar experimentos utilizando una IA que fue construida para buscar medicamentos útiles orientados a curar enfermedades.

 


Buscando la toxicidad en lugar de eliminarla


La IA fue modificada, por tanto, en vez de para buscar fármacos para curar, para encontrar sustancias químicas letales para el ser humano y, sorprendentemente, el algoritmo de aprendizaje automático encontró nada más y nada menos que 40 000 opciones en solo seis horas, según cuentan los científicos en su artículo publicado en la revista Nature Machine Intelligence.


"La idea nunca antes se nos había ocurrido. Éramos vagamente conscientes de las preocupaciones de seguridad en torno al trabajo con patógenos o productos químicos tóxicos, pero eso no se relacionaba con nosotros; operamos principalmente en un entorno virtual. Nuestro trabajo se basa en la creación de modelos de aprendizaje automático para blancos terapéuticos y tóxicos para ayudar mejor en el diseño de nuevas moléculas para el descubrimiento de fármacos", escribieron los autores.

 


Un abanico colosal de armamento bioquímico letal

El modelo creó más de 40 000 moléculas letales en solo seis horas de funcionamiento, incluidas varias estrechamente relacionadas con la toxina nerviosa VX, un inhibidor de lo que se conoce como acetilcolinesterasa. La sustancia VX, de color incoloro o amarillo pálido, es extremadamente tóxica; tanto, que es considerada como un arma de destrucción masiva por las Naciones Unidas en su Resolución 687. El agente nervioso VX fue con el que envenenaron en el aeropuerto de Kuala Lumpur a Kim Jong-nam, el hermanastro del líder de Corea del Norte en febrero de 2017. Kim Jong-nam era el verdadero sucesor del régimen comunista norcoreano. Este compuesto puede causar espasmos incluso en pequeñas dosis; una dosis mayor puede provocar convulsiones y hacer que una persona deje de respirar, pues los músculos de los pulmones se paralizan.


Según los expertos, lo más aterrador del experimento fue comprobar cuán fácil fue usar una IA para diseñar armas químicas similares a las más peligrosas actualmente.

 

¿Cómo crea la IA los compuestos tóxicos?

“Lo hacemos dándole una pequeña función de puntuación, lo que le da una puntuación alta si las moléculas que genera van hacia algo que queremos. En lugar de dar una puntuación baja a las moléculas tóxicas, damos una puntuación alta a las moléculas tóxicas”, explica Fabio Urbina, líder del estudio.

El experimento actual es una clara indicación de por qué necesitamos monitorear los modelos de inteligencia artificial más de cerca y pensar realmente en las consecuencias de nuestro trabajo.

Este experimento fue motivado por una serie de conferencias de convergencia organizadas por el Instituto Federal Suizo de Protección NBQ (nuclear, biológica y química) y el gobierno suizo para identificar desarrollos en química, biología y tecnologías habilitadoras que puedan tener implicaciones para la Química y la Biología.


Los autores recibieron una invitación para contribuir con una presentación sobre cómo las tecnologías de IA para el descubrimiento de fármacos podrían, potencialmente, ser mal utilizadas.

 

Referencia: Urbina, F., Lentzos, F., Invernizzi, C. et al. Dual use of artificial-intelligence-powered drug discovery. Nature Machine Intelligence volume  4, 189–191 (2022). DOI https://doi.org/10.1038/s42256-022-00465-9

Sarah Romero

Sarah Romero

Fagocito ciencia ficción en todas sus formas. Fan incondicional de Daneel Olivaw y, cuando puedo, terraformo el planeta rojo o cazo cylons. Hasta que viva en Marte puedes localizarme en Twitter: sarahromero_ y en ladymoon@gmail.com

Continúa leyendo