Twitter el mes pasado dicho estaba introduciendo una nueva política para ayudar a combatir las falsificaciones profundas y otros “medios manipulados” que involucran fotos, videos o audio que han sido significativamente alterados para cambiar su significado o propósito original, o aquellos que hacen que parezca que sucedió algo que en realidad no sucedió. Hoy, Twitter es intercambio un borrador de su nueva política y abrirlo para recibir comentarios del público antes de que se publique.
La política está destinada a abordar el creciente problema de las falsificaciones profundas en la Internet actual.
Los deepfakes han proliferado gracias a los avances realizados en inteligencia artificial que han facilitado la producción de videos, audios y otros contenidos digitales falsos convincentes. Cualquier persona con una computadora y conexión a Internet ahora puede crear este tipo de medios falsos. Él la tecnología puede ser peligrosa cuando se usa como propaganda, o para hacer creer a alguien que algo es real y no lo es. En política, los deepfakes pueden usarse para socavar la reputación de un candidato, haciéndolo decir y hacer cosas que nunca dijo o hizo.
UN Deepfake del CEO de Facebook, Mark Zuckerberg se hizo viral a principios de este año, después de que Facebook se negara a retirar un video manipulado que mostraba a la presidenta de la Cámara de Representantes, Nancy Pelosi, tropezando con sus palabras, fue tuiteado por Trump.
A principios de octubre, dos miembros del Comité de Inteligencia del Senado, Mark Warner (D-VA) y Marco Rubio (R-FL), hizo un llamado a las principales empresas tecnológicas para desarrollar un plan para combatir las falsificaciones profundas en sus plataformas. Los senadores pidieron a 11 empresas de tecnología, incluidas Facebook, Twitter, YouTube, Reddit y LinkedIn, que presenten un plan para desarrollar estándares de la industria para “compartir, eliminar, archivar y confrontar el intercambio de contenido sintético lo antes posible”.
Twitter a finales de mes anunció sus planes para buscar comentarios del público sobre la política. Mientras tanto, Amazonas se unió con Facebook y Microsoft para respaldar el desafío de detección de DeepFake (DFDC), cuyo objetivo es desarrollar nuevos enfoques para detectar medios manipulados.
Hoy, Twitter detalla un borrador de su política de deepfakes. La compañía dice que cuando ve medios sintéticos o manipulados que intencionalmente intentan engañar o confundir a las personas:
colocar un aviso junto a los Tweets que comparten medios sintéticos o manipulados; advertir a las personas antes de que compartan o les gusten los Tweets con medios sintéticos o manipulados; o agregue un enlace, por ejemplo, a un artículo de noticias o Momento de Twitter, para que las personas puedan leer más sobre por qué varias fuentes creen que los medios son sintéticos o manipulados.
Twitter dice que si un deepfake puede amenazar la seguridad física de alguien o provocar un daño grave, también puede eliminarlo.
La empresa está aceptando comentarios a través de una encuesta, así como en el propio Twitter, a través de la #TwitterPolicyComentarios hashtag.
Él encuesta hace preguntas como si las fotos y los videos alterados deben eliminarse por completo, tener etiquetas de advertencia o no eliminarse en absoluto. Y pregunta si ciertas acciones son aceptables, como ocultar tweets o alertar a las personas si están a punto de compartir un deepfake. También pregunta cuándo se debe eliminar un tuit con contenido engañoso. La política que creó Twitter dice que los tweets se eliminarán si el tweet amenaza la seguridad física de alguien, pero de lo contrario se etiquetarán. La encuesta sugiere que en otras ocasiones se podría retirar un tuit, como si amenazara la salud mental, la privacidad, la dignidad, la propiedad y más de alguien.
La encuesta tarda cinco minutos en completarse y está disponible en inglés, japonés, portugués, árabe, hindi y español.
Lo que no está claro, sin embargo, es cómo Twitter podrá detectar los deepfakes publicados en su plataforma, dado que las técnicas de detección no son perfectas y a menudo se queda atrás los métodos de creación más nuevos y avanzados. En este frente, Twitter invita a aquellos que quieran asociarse con él en soluciones de detección a completar un forma.
Twitter está aceptando comentarios sobre su política de deepfakes desde ahora hasta el miércoles 27 de noviembre a las 11:59 p. m. GMT. En ese momento, revisará los comentarios recibidos y hará los ajustes necesarios a la política. Luego, la política se incorporará a las Reglas de Twitter con un aviso de 30 días antes de que el cambio entre en vigencia.