Twitter da un paso hacia la prohibición de Deepfakes, pero no es lo suficientemente grande

Antes de las elecciones presidenciales de 2020, cuando se espera que los medios manipulados como las falsificaciones profundas sean los más desenfrenados, Twitter ha introducido algunas pautas muy esperadas para manejar lo que considera medios “engañosos”. La medida se produce poco más de tres meses después de Twitter primero preguntado usuarios para recibir comentarios sobre un nuevo conjunto de reglas destinadas a abordar el contenido manipulador o sintético.

El setenta por ciento de los usuarios dijo que Twitter “no tomar medidas” sobre contenido alterado engañoso sería inaceptable. Mientras tanto, el noventa por ciento de los encuestados dijo que colocar etiquetas junto a los medios manipulados sería aceptable. Aún así, poco más de la mitad de los encuestados dijeron que creían que Twitter debería eliminar las publicaciones por completo, mostrando un apetito por la transparencia.

Pero al igual que Facebook lo hizo el mes pasado cuando prohibió abiertamente los medios manipulados como parte de una nueva política para proteger a los usuarios de la desinformación antes de las elecciones, Twitter también dejó algunos agujeros masivos en las nuevas reglas, permitiendo cierto contenido que puede considerarse una falsificación profunda para vivir en la plataforma de redes sociales.

Según la nueva política, un video viral falso de Nancy Pelosi, que mostraba a la Presidenta demócrata de la Cámara arrastrándose en lo que parece ser un soliloquio borracho, no se eliminaría del sitio web en absoluto, a pesar de que el video fue alterado con inteligencia artificial .

En particular, la nueva política de medios manipulados de Facebook tampoco cubre ese video, lo que plantea la pregunta: ¿qué tipos de contenido alterado por IA podemos esperar que sigamos viendo en las redes sociales durante el ciclo electoral y más allá? ¿Qué pasará por las grietas de estas amplias políticas?

¿Qué está prohibido?

En este momento, la prueba de fuego para lo que Twitter considera medios “sintéticos o manipulados” es triple, y cada parte incluye algunos factores clave que Twitter tendrá en cuenta.

1) ¿Los medios son sintéticos o manipulados?

• ¿Se ha “editado sustancialmente” el contenido de una manera que altere fundamentalmente su composición, secuencia, tiempo o estructura?
• ¿Se ha agregado o eliminado información visual o auditiva (como cuadros de video, audio sobregrabado o subtítulos modificados)?
• Si los medios representan a una persona real, ¿ha sido fabricado o simulado?

2) ¿Es probable que el contenido afecte la seguridad pública o cause daño público?

Twitter considerará el contexto en el que se han compartido los medios. Si la publicación puede dar lugar a “confusión o malentendido”, o si sugiere una “intención deliberada de engañar” a las personas sobre la naturaleza o el origen del contenido, como decir que un video falso es en realidad un video real, Twitter lo considera un factor agravante.

Además, Twitter evaluará lo siguiente:

• Texto que acompaña al tweet o dentro de los propios medios
• Metadatos asociados a los medios.
• Información sobre el perfil que compartió los medios.
• Sitios web vinculados en el perfil de la persona que comparte los medios, o en el tweet que comparte los medios

3) ¿Se comparten los medios de manera engañosa?

Los tweets con medios manipulados o sintéticos están sujetos a la eliminación del sitio si es probable que causen daño de alguna de las siguientes maneras:

• Amenazas a la seguridad física de una persona o un grupo de personas.
• Riesgo de violencia masiva o disturbios civiles generalizados.
• Amenazas a la privacidad o la capacidad de una persona o grupo para expresarse libremente en eventos civiles, como el acoso o la atención obsesiva no deseada; contenido dirigido que incluye tropos o material que pretende silenciar; o supresión / intimidación de votantes

Que voluntad UNactualmente ¿Ser eliminado?

Si la publicación en cuestión contiene un video o una imagen que cumple con cualquiera de los criterios anteriores, Twitter utilizará lo que parece una especie de rúbrica de puntuación para determinar los próximos pasos. En algunos casos, Twitter eliminará completamente la publicación de su sitio web y aplicación, pero Twitter ve otros escenarios como un área más gris y, en respuesta, simplemente etiquetará estas publicaciones para llamar la atención sobre los medios falsos.

“… Podemos etiquetar Tweets que contengan medios sintéticos y manipulados para ayudar a las personas a comprender la autenticidad de los medios y proporcionar un contexto adicional”, escribió la compañía en un entrada en el blog anunciando las reglas.



Gorjeo

Bajo este marco, el video de Pelosi, y un video viral similar que muestra a Joe Biden haciendo lo que parecen ser comentarios racistas, no se eliminaría, sino que se etiquetaría.

En cambio, dice Twitter, hará uno (o probablemente todos) de los siguientes:

• Aplicar una etiqueta al tweet
• Mostrar una advertencia a las personas antes de que retuiteen o den “me gusta” al tuit
• Reduzca la visibilidad del tweet en Twitter y / o evite que se recomiende
• Proporcione explicaciones o aclaraciones adicionales, según estén disponibles, como una página de destino con más contexto

Twitter comenzará a usar estas etiquetas el 5 de marzo.

En otras noticias de Deepfake



The Washington Postimágenes falsas

En realidad, YouTube venció a Facebook y Twitter en la carrera al denunciar los medios manipulados. Ya en 2016, antes de las últimas elecciones presidenciales, YouTube ha estado vigilando (o mejor dicho, un algoritmo) sobre el contenido engañoso. Sin embargo, antes de los caucus de Iowa el lunes, la compañía reiteró que no permitiría falsificaciones profundas relacionadas con las elecciones en la plataforma ni nada que pueda confundir a las personas que buscan votar o participar en las elecciones de 2020.

Parece que YouTube tiene las reglas más sólidas sobre medios engañosos. Tenga en cuenta que fue la primera plataforma importante en derribar ese video manipulado de Pelosi cuando salió.

Esta semana, la empresa matriz de Google, Alphabet, también lanzó al público una nueva herramienta falsa para detectar fotos llamada Assembler. La herramienta proviene de la división Jigsaw de la compañía, que es un grupo de ingenieros, diseñadores y expertos en políticas que se han unido para luchar contra la desinformación digital, la censura y la manipulación electoral.

Utiliza detectores de manipulación de imágenes (tecnología capacitada para identificar tipos específicos de manipulación) para identificar si las imágenes han sido manipuladas y, de ser así, cómo.

¿En cuanto a Twitter? La compañía reconoce que las falsificaciones profundas y otros medios manipulados son problemáticos y que no será fácil encontrar el equilibrio adecuado entre la libertad de expresión y proteger a los usuarios de la desinformación. Es un tango que todas las principales compañías de redes sociales deben bailar.

“Esto será un desafío y cometeremos errores en el camino; apreciamos la paciencia”, escribió Twitter. “Sin embargo, estamos comprometidos a hacer esto bien. Actualizar nuestras reglas en público y con participación democrática continuará siendo fundamental para nuestro enfoque”.