Zao se volvió viral en China este fin de semana por sus videos realistas de intercambio de caras, pero después de la controversia sobre sus políticas, WeChat restringió el acceso a la aplicación en su plataforma de mensajería.
Desarrollado por una unidad de Momo, una de las aplicaciones de citas más populares de China, Zao crea videos que reemplazan los rostros de las celebridades en escenas de películas, programas y videos musicales populares con una selfie cargada por el usuario.
La aplicación, actualmente disponible solo en China, se volvió viral cuando los usuarios compartieron sus videos a través de WeChat y otras plataformas de redes sociales en China. Pero las preocupaciones sobre el posible uso indebido de la tecnología deepfake junto con una cláusula (ahora eliminada) en los términos de uso de Zao que le otorgaba la propiedad total y los derechos de autor sobre el contenido cargado o creado en él, además de “completamente gratis, irrevocable, perpetuo, transferible, y derechos re-licenciables “, causó controversia.
En caso de que no hayas escuchado, #ZAO es una aplicación china que explotó por completo desde el viernes. La mejor aplicación de reemplazo facial con IA de estilo “Deepfake” que he visto.
Aquí hay un ejemplo de mí como DiCaprio (generado en menos de 8 segundos a partir de esa foto en la miniatura) ? pic.twitter.com/1RpnJJ3wgT
– Allan Xia (@AllanXia) 1 de septiembre de 2019
Al volverse viral rápidamente y ser muy fácil de usar (los videos de Zao se pueden generar a partir de una sola selfie, aunque sugiere que los usuarios carguen fotos desde varios ángulos para obtener mejores resultados), la aplicación también ha centrado más atención en la tecnología de deepfake y cómo puede potencialmente se puede utilizar para difundir información errónea o acosar a las personas.
Los usuarios aún pueden subir videos que crearon con Zao a WeChat, pero si intentan descargar la aplicación o enviar un enlace de invitación a otro usuario de WeChat, se muestra un mensaje que dice “esta página web ha sido reportada varias veces y contiene riesgos de seguridad. Para mantener un entorno en línea seguro, se ha bloqueado el acceso a esta página “.
Zao fue lanzado el viernes pasado y rápidamente se convirtió en la principal aplicación gratuita de iOS en China, según App Annie. Una declaración publicada el 1 de septiembre en la cuenta de Weibo de Zao dice “entendemos completamente las preocupaciones de todos sobre el tema de la privacidad. Somos conscientes del problema y estamos pensando en cómo solucionar los problemas, necesitamos un poco de tiempo “. Sus términos y condiciones ahora dicen que el contenido generado por el usuario solo será utilizado por la compañía para mejorar la aplicación y que todo el contenido eliminado será eliminado de sus servidores.
TechCrunch ha contactado a Zao para hacer comentarios.