Gorjeo el mes pasado dijo introdujo una nueva política para ayudar a combatir las falsificaciones profundas y otros "medios manipulados" que involucran fotos, videos o audio que han sido alterados significativamente para cambiar su significado o propósito original, o aquellos que hacen que parezca que sucedió algo que en realidad no sucedió. Hoy, Twitter es compartiendo un borrador de su nueva política y abrirlo para la opinión pública antes de que entre en funcionamiento.
La política está destinada a abordar el creciente problema de las falsificaciones profundas en Internet de hoy.
Deepfakes ha proliferado gracias a los avances en inteligencia artificial que han facilitado la producción de videos falsos convincentes, audio y otro contenido digital. Cualquier persona con una computadora y conexión a Internet ahora puede crear este tipo de medios falsos. La tecnología puede ser peligrosa cuando se usa como propaganda, o para hacer creer a alguien que algo es real y que no lo es. En política, los deepfakes se pueden usar para socavar la reputación de un candidato, haciéndolo decir y hacer cosas que nunca dijeron o hicieron.
Una profunda mentira del CEO de Facebook, Mark Zuckerberg, se volvió viral a principios de este año, después de que Facebook se negó a desplegar un video manipulado que mostraba a la presidenta de la Cámara de Representantes, Nancy Pelosi, tropezando con sus palabras.
A principios de octubre, dos miembros del Comité de Inteligencia del Senado, Mark Warner (D-VA) y Marco Rubio (R-FL), pidieron a las principales compañías tecnológicas que desarrollen un plan para combatir las falsificaciones profundas en sus plataformas. Los senadores pidieron a 11 compañías tecnológicas, incluidas Facebook, Twitter, YouTube, Reddit y LinkedIn, que elaboraran un plan para desarrollar estándares de la industria para "compartir, eliminar, archivar y confrontar el intercambio de contenido sintético lo antes posible".
Twitter más adelante en el mes anunció sus planes para buscar comentarios del público sobre la política. Mientras tanto, Amazon se unió a Facebook y Microsoft para apoyar el desafío DeepFake Detection (DFDC), que tiene como objetivo desarrollar nuevos enfoques para detectar medios manipulados.
Hoy, Twitter detalla un borrador de su política de deepfakes. La compañía dice que cuando ve medios sintéticos o manipulados que intentan engañar o confundir intencionalmente a las personas:
- coloque un aviso al lado de Tweets que compartan medios sintéticos o manipulados;
- advertir a las personas antes de compartir o dar me gusta a los Tweets con medios sintéticos o manipulados; o
- agregue un enlace, por ejemplo, a un artículo de noticias o un momento de Twitter, para que las personas puedan leer más sobre por qué varias fuentes creen que los medios son sintéticos o manipulados.
Twitter dice que si una falsificación profunda podría amenazar la seguridad física de alguien o provocar daños graves, también podría eliminarla.
La compañía está aceptando comentarios a través de una encuesta y también en Twitter, a través de #TwitterPolicyFeedback hashtag.
La encuesta hace preguntas como si las fotos y videos alterados deben eliminarse por completo, tener etiquetas de advertencia o no eliminarse en absoluto. Y pregunta si ciertas acciones son aceptables, como ocultar tweets o alertar a las personas si están a punto de compartir una falsificación profunda. También pregunta cuándo debe eliminar un tweet con medios engañosos. La política creada por Twitter dice que los tweets se eliminarán si amenazan la seguridad física de alguien, pero de lo contrario se etiquetarán. La encuesta sugiere que en otras ocasiones se podría tirar un tweet, como si amenaza la salud mental, la privacidad, la dignidad, la propiedad y más de alguien.
La encuesta tarda cinco minutos en completarse y está disponible en inglés, japonés, portugués, árabe, hindi y español.
Sin embargo, lo que no está claro es cómo Twitter podrá detectar las falsificaciones profundas publicadas en su plataforma, dado que las técnicas de detección no son perfectas y, a menudo, van a la zaga de los métodos de creación más nuevos y más avanzados. En este frente, Twitter invita a aquellos que quieran asociarse con él en soluciones de detección para completar un formulario.
Twitter está aceptando comentarios sobre su política de deepfakes desde ahora hasta el miércoles 27 de noviembre a las 11:59 p.m. GMT. En ese momento, revisará los comentarios recibidos y hará ajustes a la política, según sea necesario. La política se incorporará a las Reglas de Twitter con un aviso de 30 días antes de que el cambio entre en vigencia.