Tik Tok la empresa matriz ByteDance se ha asociado con una de las aplicaciones más controvertidas para permitirle insertar su cara en videos protagonizados por otra persona. TechCrunch ha aprendido que ByteDance ha desarrollado una función inédita que utiliza la tecnología realista de Deepfakes que el código de la aplicación denomina Face Swap. El código tanto en TikTok como en su aplicación hermana china Douyin les pide a los usuarios que realicen un escaneo biométrico de múltiples ángulos de su rostro, luego elijan entre una selección de videos a los que desean agregar su rostro y compartir.
Los usuarios se escanean a sí mismos, eligen un video y su cara se superpone en el cuerpo de alguien en el clip con la nueva función de intercambio de caras de ByteDance
La opción Face Swap se creó sobre la API de la aplicación china Deepfakes Zao, que utiliza inteligencia artificial para combinar la cara de una persona con el cuerpo de otra mientras se mueven y sincronizan sus expresiones. Zao se volvió viral en septiembre a pesar de las preocupaciones de privacidad y seguridad sobre cómo se podría abusar de los escaneos faciales de los usuarios.
La función Deepfakes, si se lanza en Douyin y TikTok, podría crear un entorno más controlado donde la tecnología de intercambio de caras más una selección limitada de videos fuente pueden usarse para divertirse en lugar de difundir información errónea. También podría crear conciencia sobre la tecnología para que más personas sean conscientes de que no deberían creer todo lo que ven en línea. Pero también es probable que aumente los temores sobre lo que Zao y ByteDance podrían hacer con datos biométricos tan sensibles, similar a lo que se usa para configurar FaceID en iPhones. Zao fue bloqueado anteriormente por WeChat de China por presentar "riesgos de seguridad".
Varias otras compañías tecnológicas han intentado recientemente consumizar versiones diluidas de Deepfakes. La aplicación Morphin le permite superponer una representación computarizada de su cara en actores en GIF. Snapchat ofreció una opción FaceSwap durante años que cambiaría los rostros de dos personas en el marco, o reemplazaría una en la cámara con una del rollo de la cámara, y hay aplicaciones independientes que también hacen eso como Face Swap Live. Luego, el mes pasado, TechCrunch descubrió los nuevos Cameos de Snapchat para insertar una selfie real en los videoclips que proporciona, aunque los resultados no están destinados a parecer confusamente realistas.
Pero el equipo de ByteDance con Zao podría traer Deepfakes convincentemente realistas a TikTok y Douyin, dos de las aplicaciones más populares del mundo con más de 1.500 millones de descargas.
Zao en la tienda de aplicaciones iOS de China
Oculto dentro de TikTok y Douyin
TechCrunch recibió un consejo sobre las noticias de la startup israelí de investigación de mercado en la aplicación Watchful.ai. La compañía había descubierto el código para la función Deepfakes en la última versión de las aplicaciones de Android de TikTok y Douyin. Watchful.ai pudo activar el código en Douyin para generar capturas de pantalla de la función, aunque actualmente no está disponible para el público.
Primero, los usuarios escanean su rostro en TikTok. Esto también sirve como un control de identidad para asegurarte de que solo envías tu propia cara para que no puedas hacer Deepfakes sin consentimiento de otra persona que use una foto existente o una sola foto de su cara. Al pedirle que parpadee, asienta y abra y cierre la boca mientras está enfocado y con la iluminación adecuada, Douyin puede asegurarse de que es un ser humano vivo y crear un escaneo manipulable de su rostro que puede estirarse y moverse para expresar diferentes emociones o llenar diferentes escenas
Luego podrá elegir entre los videos que ByteDance afirma tener los derechos de uso, y reemplazará la cara de quien esté en el clip con la suya. Luego puede compartir o descargar el video de Deepfake, aunque incluirá una marca de agua superpuesta que, según la compañía, ayudará a distinguir el contenido como no real.
El código en las aplicaciones revela que la función Face Swap se basa en la API de Zao. Hay muchas referencias a esta API que incluyen cadenas como:
zaoFaceParams
/ media / api / zao / video / create
enter_zaoface_preview_page
isZaoVideoType
zaoface_clip_edit_page
Watchful también descubrió actualizaciones no publicadas de los términos de servicio de TikTok y Douyin que cubren la privacidad y el uso de la función Deepfakes. Dentro de la versión estadounidense de la aplicación de Android de TikTok, el texto en inglés en el código explica la función y algunos de sus términos de uso:
"Su patrón facial se usará para esta función. Lea los Términos de uso y la Política de privacidad de Drama Face para obtener más detalles. Asegúrese de leer y aceptar los Términos de uso y la Política de privacidad antes de continuar. 1. Para que esta función sea segura para todos, se requiere verificación de identidad real para asegurarse de que los propios usuarios estén utilizando esta función con sus propias caras. Por esta razón, las fotos cargadas no se pueden usar; 2) Su patrón facial solo se usará para generar videos de cambio de cara que solo puedes ver antes de publicarlo. Para proteger mejor su información personal, se requiere verificación de identidad si usa esta función más adelante. 3) Esta característica cumple con las Regulaciones de protección de información personal de Internet para menores. Los usuarios menores de edad no podrán acceder a esta función. 4. Todos los elementos de video relacionados con esta función provistos por Douyin ha adquirido autorización de copyright. "
ZHEJIANG, CHINA – 18 DE OCTUBRE DE 2019 Dos senadores estadounidenses enviaron una carta a la agencia de inteligencia nacional de EE. UU. Diciendo que TikTok podría representar una amenaza para la seguridad nacional y debería ser investigado. Los visitantes visitan el stand de douyin (Tiktok) en la exposición inteligente de 2019 en Hangzhou, provincia de Zhejiang, este de China, el 18 de octubre de 2019.- FOTOGRAFÍA POR Costfoto / Barcroft Media (El crédito de la foto debe leer Costfoto / Barcroft Media a través de Getty Images)
También se encontraron términos más largos de uso y política de privacidad en chino dentro de Douyin. Traducido al inglés, algunos aspectos destacados del texto incluyen:
-
"El efecto de" cambio de cara "presentado por esta función es una imagen ficticia generada por la superposición de nuestras fotos basadas en sus fotos. Para mostrar que el trabajo original ha sido modificado y que el video generado usando esta función no es un video real, marcaremos el video generado usando esta función. No borre la marca de ninguna manera ".
-
“La información recopilada durante el proceso de detección mencionado anteriormente y el uso de sus fotos para generar videos que cambian la cara solo se usa para la detección en vivo y la coincidencia durante el cambio de cara. No se utilizará para otros fines. . . Y las coincidencias se eliminan de inmediato y sus rasgos faciales no se almacenan ".
-
“Cuando usa esta función, solo puede usar los materiales proporcionados por nosotros, no puede cargar los materiales usted mismo. Los materiales que proporcionamos han sido autorizados por el propietario de los derechos de autor ".
-
"De acuerdo con las" Normas de protección de la información personal de Internet para niños " y las disposiciones pertinentes de las leyes y reglamentos, con el fin de proteger la información personal de niños / jóvenes, esta función restringe el uso de menores ".
Nos comunicamos con TikTok y Douyin para comentar sobre la función Deepfakes, cuándo podría lanzarse, cómo se protege la privacidad de los escaneos biométricos, el límite de edad y la naturaleza de su relación con Zao. Sin embargo, TikTok se negó a responder esas preguntas. En cambio, un portavoz insistió en que “después de consultar con los equipos, puedo confirmar que definitivamente no es una función en TikTok, ni tenemos ninguna intención de presentarlo. Creo que lo que estás viendo es algo programado para Douyin: tu correo electrónico incluye capturas de pantalla que serían de Douyin y una política de privacidad que menciona a Douyin. Dicho esto, no trabajamos en Douyin aquí en TikTok ". Más tarde le dijeron a TechCrunch que" Los fragmentos de código inactivo se están eliminando para eliminar cualquier confusión ", lo que confirma implícitamente que se encontró el código Face Swap en TikTok.
Un portavoz de Douyin dijo a TechCrunch que "Douyin no coopera con Zao" a pesar de las referencias a Zao en el código. También negaron que los términos de servicio de Face Swap aparezcan en TikTok a pesar de que TechCrunch revisa el código de la aplicación que muestra esos términos de servicio y la funcionalidad de la función.
Esto es sospechoso, y no explica por qué el código de la función Deepfakes y los términos especiales de servicio en inglés para la función aparecen en TikTok, y no solo en Douyin, donde la aplicación ya se puede activar y se detectaron términos de servicio más largos. La entidad estadounidense de TikTok ha negado previamente el cumplimiento de las solicitudes de censura del gobierno chino en contradicción con las fuentes que le dijeron al Washington Post y que TikTok censuró cierto contenido político y sexual a instancias de China.
Es posible que la función Deepfakes Face Swap nunca se lance oficialmente en China o EE. UU. Pero es completamente funcional, incluso si no se ha publicado, y demuestra la voluntad de ByteDance de adoptar la controvertida tecnología a pesar de su reputación de desinformación y pornografía no consensuada. Al menos está restringiendo el uso de la función por parte de menores, solo permitiéndote intercambiar tu cara y evitando que los usuarios carguen sus propios videos fuente. Eso evita que se use para crear información errónea peligrosa. Deepfakes como el que hace que la presidenta de la Cámara de Representantes, Nancy Pelosi, parezca borracha.
"Es muy raro ver que una aplicación importante de redes sociales restrinja una función nueva y avanzada a sus usuarios mayores de 18 años", dijo el cofundador y CEO de Watchful.ai, Itay Kahana, a TechCrunch. "Estas aplicaciones profundas pueden parecer divertidas en la superficie, pero no se les debe permitir convertirse en caballos de Troya, comprometiendo los derechos de propiedad intelectual y los datos personales, especialmente los datos personales de menores que son abrumadoramente los usuarios más pesados de TikTok hasta la fecha".
TikTok ya ha sido prohibido por la Marina de los EE. UU. Y la adquisición y fusión de ByteDance de Musically en TikTok está siendo investigada por el Comité de Inversión Extranjera en los Estados Unidos. Los miedos profundos podrían aumentar aún más el escrutinio.
Sin embargo, con las salvaguardas adecuadas, la tecnología que cambia la cara podría marcar el comienzo de una nueva era de contenido generado por el usuario donde el creador siempre está en el centro de la acción. Todo es parte de una nueva tendencia de medios personalizados que podría ser importante en 2020. Las redes sociales han evolucionado de selfies a Bitmoji a Animoji a Cameos y ahora han consumido Deepfakes. Cuando hay infinitas aplicaciones y videos y notificaciones para distraernos, convertirnos en la estrella podría ser la mejor manera de mantener nuestra atención.
Source link