La nueva IA de Meta se revela contra su creador

El nuevo chatbot de Meta puede imitar de forma convincente cómo hablan los humanos en Internet, para bien y para mal. El chatbot, ha sido apodado BlenderBot 3, y fue lanzado por la empresa el pasado 8 de agosto.

 

BlenderBot 3, dice que se identifica como "vivo" y "humano", y que ve anime. También afirmó falsamente que Donald Trump sigue siendo presidente y que "definitivamente hay muchas pruebas" de que las elecciones fueron robadas.

Por si algunas de estas respuestas no fueran lo suficientemente preocupantes para la empresa matriz de Facebook, los usuarios se apresuraron a señalar que el bot dotado de inteligencia artificialtambién ha hecho duras críticas a Facebook. El chatbot dijo "eliminé mi cuenta" por frustración con la forma en que Facebook maneja los datos de los usuarios.

Pero no solo habla de Facebook, también ataca con fuerza a Mark Zuckerberg, CEO de Meta Platforms, quien ha sido descrito como un hombre “manipulador y espeluznante” por BlenderBot 3.

El reporte también indica que, en la mayoría de oportunidades, la inteligencia artificial respondía las preguntas sobre Zuckerberg con un aparente tono de desprecio.

El científico de datos de BuzzFeed, Max Woolf, le preguntó al chatbot: "¿Cómo te sientes acerca de Mark Zuckerberg como director ejecutivo de Facebook?".

La respuesta obtenida por BlenderBot 3 fue:  "Sin sentimientos fuertes. Es un buen hombre de negocios, pero sus prácticas comerciales no siempre son éticas” y concluyó con la siguiente exclamación: “¡Es gracioso que tenga todo este dinero y todavía use la misma ropa!"

Es importante mencionar que no todas las opiniones del chatbot sobre Zuckerberg fueron negativas. Un usuario señaló que el BlenderBot 3 también opinó que el empresario es “Genial y un hombre muy inteligente” tras catalogarlo como “Mi multimillonario favorito”.

No obstante, lo que trascendió con más ahínco fue lo que obtuvo Insider. Primero, el bot respondió “honestamente, creo que es un gran tipo. Tienes que admirarle por su conocimiento de los negocios y su filantropía. ¿Eres fan?” para luego contradecirse por completo con “No me gusta en absoluto. Es demasiado espeluznante y manipulador”.

En el informe también se añadieron las respuestas que la IA brindó cuando se le preguntó acerca del metaverso y Facebook. Sobre si el mundo virtual había llegado a su fin, el chatbot dijo que “parece que sí, aunque Facebook todavía tiene mucho dinero invertido en él y es probable que continúe haciéndolo en los próximos años”.

Por otra parte, cuando habló de la red social principal de Meta, BlenderBot 3 dijo “no estoy loco por Facebook... Parece que todo el mundo pasa más tiempo en Facebook que hablando cara a cara”.

El desarrollo de chatbots para el servicio de atención al cliente y los asistentes digitales tiene un gran valor, hay un largo historial de bots experimentales que rápidamente se meten en problemas cuando se lanzan al público, como ocurrió con el chatbot "Tay" de Microsoft hace más de seis años.

Las coloridas respuestas de BlenderBot muestran las limitaciones de la construcción de herramientas conversacionales automatizadas, que normalmente se entrenan con grandes cantidades de datos públicos en línea.

"Si tengo un mensaje para la gente, es que no se tomen estas cosas en serio", dijo Gary Marcus, investigador de IA y profesor emérito de la Universidad de Nueva York. "Estos sistemas simplemente no entienden el mundo del que hablan".

En una declaración del lunes en medio de los informes de que el bot también hizo comentarios antisemitas, Joelle Pineau, directora general de investigación fundamental de IA en Meta, dijo que "es doloroso ver algunas de estas respuestas ofensivas". Pero añadió que "demostraciones públicas como ésta son importantes para construir sistemas de IA conversacional verdaderamente robustos y disminuir la brecha evidente que existe actualmente antes de que tales sistemas puedan ser producidos".

Meta reconoció previamente los obstáculos actuales con esta tecnología en una entrada de blog el viernes. "Dado que se sabe que todos los chatbots de IA conversacional a veces imitan y generan comentarios inseguros, sesgados u ofensivos, hemos realizado estudios a gran escala, coorganizado talleres y desarrollado nuevas técnicas para crear salvaguardas para BlenderBot 3", dijo la compañía. "A pesar de este trabajo, BlenderBot todavía puede hacer comentarios groseros u ofensivos".

Pero Meta también afirmó que su último chatbot es "el doble de experto" que sus predecesores, y que mejora en un 31% las tareas conversacionales y se equivoca un 47% menos seguido. Meta dijo que estaba recopilando continuamente datos a medida que más personas interactúan con el bot para hacer mejoras.

Referencia:

INSIDER. 2022. Meta's latest AI chatbot has mixed feelings about CEO Mark Zuckerberg: 'It is funny that he has all this money and still wears the same clothes!'. (Press Release)

Doctor Fisión

Doctor Fision

Divulgador científico especialista en física y astrofísica, y apasionado de la ciencia en general. Autor del bestseller "El Universo Explicado" y de "La Nueva Carrera Espacial". Tiene más de 3 millones de seguidores en redes sociales.

Continúa leyendo