Un canal en la aplicación de mensajería Telegram permite mandar una foto de una mujer vestida y la devuelve sin ropa. La imagen del desnudo no es real, pero sí muy creíble y se logra gracias al deepfake, una técnica reciente basada en inteligencia artificial que permite cruzar distintos vídeos y fotos ―como hacen las apps que envejecen a alguien a partir de una fotografía, por ejemplo. Hace poco más de un año el software, llamado Deepnude, fue retirado por sus creadores después de un escándalo y de acaparar la atención mediática. Poco más de un mes después, en julio de 2019, ese programa reemergía en un canal de Telegram y continúa activo, según un informe de la empresa de ciberseguridad visual Sensity. Con más de 100.000 usuarios, la mayoría en Rusia y países de la órbita soviética, y cientos de miles de fotos “tratadas”, la existencia silenciosa de esta comunidad es un ejemplo de cómo mutan y sobreviven en Internet iniciativas degradantes.
“Desde que descubrimos este bot (programa que automatiza tareas repetitivas) a principios de año, no hemos vuelto a encontrar nada similar en Internet”, dice Giorgio Patrini, fundador y CEO de Sensity. “Este tipo de inteligencia artificial es replicable y está de hecho disponible en la red, pero Telegram permite usarlo como un chat, lo que es algo único”, añade. El problema de este canal no es tanto que exista como su “accesibilidad”, según Patrini. “El uso de este software requiere saber código y hardware específico, pero aquí no: no hay requisitos, ni conocimientos técnicos, ni hardware y es gratis”, explica.
Telegram no ha respondido a preguntas de Sensity sobre la existencia del canal ni su posible retirada. Sin embargo, algunas de las funciones de este canal parecen haber sido desactivadas durante la noche del lunes, después de que algunos periodistas contactaran con sus creadores antes de la publicación del informe.
El uso de esta comunidad, cuyo nombre exacto EL PAÍS no revela para no ampliar su distribución, ha crecido cerca de un 200% en los últimos tres meses. Los investigadores de Sensity han sido capaces de rastrear imágenes de 104.852 mujeres, la inmensa mayoría anónimas. Esta cifra es solo una parte del total de imágenes tratadas por el bot, ya que la mayoría no se comparte en el canal principal sino que se manda directamente al usuario que la había subido. No está claro tampoco cuántos subgrupos conforman este canal. “La mayoría de imágenes parecen haber sido sacadas de páginas de redes sociales o de comunicaciones privadas, de mujeres que probablemente no sean conscientes de que sus fotos van a ser usadas para ese fin”, dice el informe. “Mientras que la mayoría son personas privadas, hemos identificado un número significativo de influencers, streamers de vídeojuegos y famosas de mayor perfil”, añaden. También han encontrado fotos de menores de edad, lo que implicaría el interés de algunos usuarios en contenido pedófilo.
Los creadores del canal de Telegram ofrecen una versión gratis con una marca de agua y otra de pago con la foto limpia y que además evita la cola de espera para la conversión de la foto. El pago se hace con “monedas virtuales” que pueden comprarse por 100 rublos (cerca de 1,5 euros). Entre sus mensajes aconsejan cómo conectarse desde países donde Telegram está restringido o cómo desactivar las restricciones de material para mayores de 18 años que incluyen algunos sistemas operativos.
El modo más común para dar a conocer el canal es a través de anuncios en el llamado “Facebook ruso”, VK. Los investigadores de Sensity han encontrado 380 páginas de VK dedicadas a deepfakes con funciones similares a las ofrecidas por el canal de Telegram. A pesar del dominio de la esfera rusa, los usuarios españoles y latinoamericanos serían la segunda gran comunidad que usa este bot de Telegram, según una encuesta generada por los propios usuarios y citada en el informe de Sensity. La compañía también habría seguido a través de redes sociales las fotos de chicas anónimas que aparecen en el canal y han encontrado un grupo notable de Argentina, además de Italia, Estados Unidos y obviamente Rusia.
En sus mensajes de marketing para vender la herramienta de Telegram, los creadores dan estos argumentos: “Todo hombre duro de más de 12 años tiene al menos tres deseos íntimos: conducir un coche genial con una manada de caballos salvajes bajo el capó, ganar un millón de dólares en el casino y desnudar en ocasiones a alguna linda chica. Y si no es tan sencillo conseguir los dos primeros puntos, el tercero es fácil de lograr. ¿No te lo crees?”
El uso habitualmente más temido del deepfake es político: crear un vídeo donde un presidente diga o haga algo terrible que no ha dicho ni hecho, por ejemplo. Pero el uso real hasta hoy es pornográfico y centrado en mujeres. Un análisis de octubre de 2019 de Sensity encontró que un 96% de los vídeos creados con técnicas deepfake que hay en internet son pornográficos.
En junio de 2019 la web estadounidense Vice publicó una noticia titulada: “Esta aplicación horrible desnuda una foto de cualquier mujer con un solo clic”. Aquella aplicación, llamada Deepnude, ofrecía versiones de apps en Windows y Linux. Funcionaba solo en mujeres y su éxito era regular: para un buen resultado necesitaba que la foto fuera en bañador o ya con poca ropa. Según Patrini, el software que hay detrás del canal de Telegram es similar: “No hay una mejora evidente de las funciones en el procesamiento de imágenes por las muestras recogidas en el canal”, dice.
Tras 500.000 visitantes y cerca de 100.000 descargas, los creadores lo retiraron el 28 de junio. En julio vendieron aparentemente una licencia, pero desde entonces está disponible en repositorios de código abierto. Sensity no puede asegurar que esta versión de Telegram tenga relación directa con los creadores originales de Deepnude.
Aunque presumiblemente el uso de la mayoría de estas imágenes es para consumo privado, los investigadores advierten de fines como la extorsión o la exposición a la vergüenza pública.
Puedes seguir a EL PAÍS TECNOLOGÍA RETINA en Facebook, Twitter, Instagram o suscribirte aquí a nuestra Newsletter.