Ícono del sitio La Neta Neta

La red de propaganda china en Facebook utilizó rostros generados por IA

Facebook para advertir a los desarrolladores de terceros sobre el código vulnerable

Facebook eliminó dos redes de cuentas falsas que difundían propaganda del gobierno en la plataforma el martes, una originada en China y otra en Filipinas.

En su último informe sobre este tipo de campaña coordinada, la compañía dice que eliminó 155 cuentas de Facebook, 11 páginas, nueve grupos y siete cuentas de Instagram conectadas a la actividad china y 57 cuentas, 31 páginas y 20 cuentas de Instagram para la actividad en el Filipinas. Ambas operaciones infringieron las reglas de Facebook contra el “comportamiento no auténtico coordinado en nombre de una entidad extranjera o gubernamental”.

La compañía publicó el informe el jueves en coordinación con Graphika, una empresa de análisis social que se especializa en desinformación. Graphika Analiza periódicamente este tipo de actividad en coordinación con Facebook y sus informes profundizan en las técnicas.

En un signo de los tiempos, Graphika descubrió que la red china de cuentas falsas empleaba rostros creados a través de una técnica de inteligencia artificial conocida como GAN (Generative Adversarial Networks). Esas caras falsas se emplean para eludir la detección, pero debido a que su firma visual a menudo termina con sutiles peculiaridades y anomalías, las GAN a veces se pueden detectar fácilmente. “Esta forma de inteligencia artificial está disponible en línea y su uso (o abuso) por operaciones encubiertas se ha disparado en el último año”, según el informe de Graphika, que identificó una docena de imágenes generadas por GAN de la operación de información china.

“Hace un año, esto fue una novedad”, Ben Nimmo de Graphika escribió en Twitter. “Ahora parece que todas las operaciones que analizamos intentan esto al menos una vez”.

Ejemplos de GAN a través de Graphika

La campaña china, que Facebook rastreó hasta la provincia china de Fujian, incluyó un “pequeño volumen” de actividad dirigida a las elecciones estadounidenses. Esos esfuerzos, que comenzaron en abril de 2019 con un grupo de Facebook llamado Go for Pete Buttigieg 2020, no ganaron mucha tracción. Esa cuenta nunca agregó miembros más allá de dos cuentas afiliadas a la red de propaganda. En 2020, la red de cuentas falsas creó tres grupos centrados en Estados Unidos, uno a favor de Trump, uno a favor de Biden-Harris y uno llamado “Quack Quack” que hicieron publicaciones anti-Trump. El grupo Biden-Harris encontró el mayor éxito, atrayendo a 1.400 miembros.

La mayor parte de la propaganda china recientemente identificada impulsó los intereses de China en Filipinas y el sudeste asiático. A diferencia de algunas campañas, las personas involucradas en esta actividad tomaron medidas para ocultar sus identidades utilizando VPN y otras tácticas. Según Graphika, la red de cuentas falsas “mostró un interés particular en la seguridad marítima, especialmente en el Mar de China Meridional”. Este es el segundo conjunto de eliminaciones de Facebook para operaciones de información chinas, luego de un informe anterior en agosto de 2019.

“En el sudeste asiático, donde esta red centró la mayor parte de su actividad, publicaron en chino, filipino e inglés sobre noticias mundiales y eventos actuales, incluidos los intereses de China en el Mar de China Meridional; Hong Kong; contenido que apoye la posible candidatura del presidente Rodrigo Duterte y Sarah Duterte en las elecciones presidenciales de 2022; críticas a Rappler, una organización de noticias independiente en Filipinas; cuestiones relevantes para los trabajadores filipinos en el extranjero; y elogios y algunas críticas a China ”, escribió Facebook en una publicación de blog sobre los derribos.

La otra campaña de propaganda se originó en Filipinas y una investigación identificó vínculos con el ejército y la policía nacionales del país. Dos páginas de la campaña contaban con más de 40.000 seguidores, pero otras tenían pocos o ninguno. Esas cuentas compartieron contenido en filipino e inglés sobre “noticias y eventos locales, incluida la política nacional, actividades militares contra el terrorismo, [a] pendiente de ley antiterrorista, críticas al comunismo, activistas juveniles y oposición, el Partido Comunista de Filipinas y su ala militar el Nuevo Ejército Popular, y el Frente Nacional Democrático de Filipinas ”, según Facebook.




Source link

Salir de la versión móvil