- Una falsificación profunda de Richard Nixon creada por el MIT Center for Advanced Virtuality muestra al ex presidente dando un discurso sobre el aterrizaje en la luna y señalando que todos los astronautas a bordo del Apollo 11 habían muerto.
- El video, lanzado en Amsterdam a fines de noviembre, ilustra cuán peligrosa es realmente la tecnología deepfake en una era de desinformación basada en Internet.
- MIT hará que el video esté disponible en línea en la primavera de 2020.
La tecnología Deepfake hace que lo imposible sea posible, bueno, al menos visualmente posible. En este caso, estamos hablando de Richard Nixon y un discurso suyo que nunca ocurrió en realidad, un discurso en el que anuncia la muerte de los tres astronautas del Apolo 11 en la superficie de la luna.
Aunque el discurso es muy real, esto nunca Realmente sucedió MIT Center for Advanced Virtuality creó los videos profundos para ilustrar cuán peligroso puede ser el contenido editado por AI si se comparte en línea y sin el contexto de que el video es falso.
"La información errónea basada en computadora es un desafío global", dijo en un comunicado de prensa Fox Harrell, profesor de medios digitales y de inteligencia artificial en el MIT y director del Centro para la Virtualidad Avanzada del MIT. "Estamos motivados para tener un amplio impacto en la alfabetización del público, y estamos comprometidos a usar la IA no para desinformación, sino para la verdad".
Nixon deepfake es parte de una exposición de arte instalada en Amsterdam. Se llama "En caso de desastre lunar" y utiliza una sala de estar de la década de 1960 con un televisor rodeado de tres pantallas, incluido un televisor de época. Las pantallas muestran imágenes editadas de Richard Nixon de los discursos reales que pronunció. En la pantalla central, lee un discurso de contingencia que en realidad fue escrito para él por su escritor de discursos, Bill Safire, "en caso de desastre lunar". En el video, Nixon lee el discurso desde su escritorio en la Oficina Oval.
Para crear el deepfake, el equipo del MIT utilizó el aprendizaje profundo, un tipo de inteligencia artificial, para editar el video y empleó un actor de voz para construir la voz de Nixon. Junto a Canny AI, una startup israelí, los investigadores estudiaron estrategias de reemplazo de diálogo de video para replicar el movimiento de los labios de Nixon mientras hablaban, ayudando a que su boca coincidiera con el discurso falso. El producto final es un video verdaderamente creíble de Nixon diciéndole al público estadounidense que la misión de alunizaje había fallado.
En 2014, Ian Goodfellow, Ph.D. estudiante que ahora trabaja en Apple, inventó el deepfake, que se basa en redes de confrontación generativas o GAN.
Las GAN ayudan a los algoritmos a ir más allá de la simple tarea de clasificar datos en el ámbito de la creación de datos, en este caso, imágenes. Esto sucede cuando dos GAN intentan engañarse mutuamente para pensar que una imagen es real. Usando tan solo una imagen, una GAN probada puede crear un videoclip de, por ejemplo, Richard Nixon.
"Nuestro objetivo era utilizar las técnicas de inteligencia artificial más avanzadas disponibles hoy en día para crear el resultado más creíble posible, y luego señalarlo y decir: 'Esto es falso; así es como lo hicimos; y aquí es por qué lo hicimos'". dijo la codirectora Halsey Burgund, miembro del MIT Open Documentary Lab.
Una versión web del deepfake, que se estrenó en Amsterdam el mes pasado, se lanzará en la primavera.
Source link