Desarrollan tecnología innovadora capaz de detectar deepfakes a través del reflejo de la luz en los ojos

Mientras que los expertos alertan del incremento de deepfakes, los científicos han desarrollado un sistema capaz de detectarlos simplemente analizando el reflejo de la luz en los ojos de la persona que aparece en la supuesta fotografía real.

Detectan deepfakes a través del reflejo de la luz en los ojos
Foto: Istock

La inteligencia artificial, y el auge de la tecnología deepfake, es algo sobre lo que los investigadores de ciberseguridad vienen advirtiendo durante años. Y, como conocíamos hace pocos días, un grupo de investigadores de la Universidad de Washington alertó acerca de la posibilidad de que se puedan generar imágenes de satélite falsas mediante el uso de la IA.

Este uso podría acabar siendo muy peligroso, puesto que al visualizar este tipo de imágenes (en referencia a las imágenes satelitales), es común pensar que son reales u originales. Pero si un intruso accede a este tipo de imágenes de equipos militares, cabría la posibilidad de que pueda añadir estructuras falsas que originalmente no existen, y atrapar así al enemigo.

De hecho, hoy en día los deepfakes se están usando para una amplia variedad de propósitos nefastos, como podría ser el caso de su uso en campañas de desinformación. A lo que se le une un problema aún mayor: este tipo de imágenes son cada vez más difíciles de detectar.

En esta ocasión, sin embargo, hemos sabido que un grupo de científicos informáticos de la Universidad de Buffalo han desarrollado una nueva herramienta de inteligencia artificial que brinda una forma sorprendentemente sencilla de detectarlos: mirar la luz reflejada en los ojos.

En pruebas llevadas a cabo con fotografías de estilo retrato, la herramienta fue efectiva en un 94 por ciento de los casos, detectando en la mayoría de las ocasiones aquellas imágenes que eran deepfakes.

¿Cómo funcionaría esta nueva herramienta?

El sistema expone las falsificaciones analizando las córneas, que cuentan con una superficie similar a un espejo, las cuales generan una serie de patrones reflectantes cuando se iluminan con luz.

Por ejemplo, en una fotografía de un rostro real obtenida con una cámara fotográfica, el reflejo en los dos ojos será similar porque están viendo lo mismo. Pero las imágenes deepfakes sintetizadas por GAN generalmente no logran capturar con precisión esta semejanza.

Es más, a menudo exhiben y muestran ciertas inconsistencias, como ubicaciones o formas geométricas no coincidentes de los reflejos.

El sistema de inteligencia artificial desarrollada por los científicos busca estas discrepancias trazando un rostro y analizando la luz que se refleja en cada globo ocular, generando luego una puntuación que sirve como métrica de similitud. Así, cuanto menor sea la puntuación, más probable es que el rostro sea en realidad un deepfake.

Lo cierto es que este sistema ha demostrado ser muy eficaz, por ejemplo, a la hora de detectar deepfakes extraídos de ‘This Person Does Not Exist’, un repositorio de imágenes creadas mediante la arquitectura StyleGAN2. A pesar de su aparente efectividad, los autores reconocen que la herramienta, por el momento, tiene varias limitaciones.

Uno de esos defectos más obvios es que se basa en una fuente de luz reflejada en ambos ojos. Y las inconsistencias presentes en esos patrones se pueden arreglar mediante un procesamiento posterior manual. Además, si un ojo no es visible en la imagen, la herramienta tampoco funcionaría.

Y los expertos van un poco más allá: si el rostro que se muestra en la imagen no se encuentra mirando a la cámara, es posible que el sistema genere falsos positivos.

Por este motivo, los científicos planean estudiar y analizar en profundidad estos problemas con la finalidad de mejorar la efectividad de su herramienta. Y es que, aunque el sistema, en su forma actual, no sería capaz de detectar los deepfakes más sofisticados, aún podría detectar un buen número de imágenes falsas.

Vídeo de la semana

Continúa leyendo