Facebook quiere ser el árbitro de la verdad después de todo. Al menos cuando se trata de engañar intencionalmente a las falsificaciones profundas y a los contenidos de medios muy manipulados y / o sintetizados, como rostros humanos fotorrealistas generados por IA que parecen personas reales pero no lo son.
En una actualización de políticas anunciada ayer por la noche, la vicepresidenta de gestión de políticas globales de la red social, Monika Bickert, escribe que tomará una línea más estricta sobre el contenido de los medios manipulados de aquí en adelante, eliminando el contenido que ha sido editado o sintetizado "de maneras que no son" Es evidente para una persona promedio y probablemente induciría a error a alguien a pensar que un sujeto del video dijo palabras que en realidad no dijo ".
Sin embargo, las ediciones de calidad o cortes y empalmes en videos que simplemente reducen o cambian el orden de las palabras no están cubiertas por la prohibición.
Lo que significa una atención médica falsa, como este ejemplo de las recientes elecciones generales del Reino Unido (donde el personal de campaña de un partido político editó un video de un político de un partido rival al que se le hizo una pregunta sobre el brexit para que pareciera que estaba perdido en palabras, cuando de hecho no lo fue), quedará completamente intacto por la nueva política "más dura". Ergo, aquí hay poco que molestar a los hilanderos políticos de la "verdad" política. La falsedad de la campaña digital puede continuar.
En lugar de lidiar con ese tipo de simulación política sutil, Facebook se está enfocando en victorias rápidas de relaciones públicas, en torno a las cosas más obviamente inauténticas en las que no se arriesgará a acusaciones de parcialidad parcial si extrae contenido falso.
Por lo tanto, la nueva política prohíbe el contenido falso que implica el uso de tecnologías de inteligencia artificial para "fusionar, reemplazar o superponer contenido en un video, haciendo que parezca auténtico", lo que parece que capturará las cosas más crudas, como la venganza porno falso que superpone la cara de una persona real al cuerpo de un artista adulto (aunque la desnudez ya está prohibida en la plataforma de Facebook).
Sin embargo, tampoco es una prohibición general de las falsificaciones profundas, con algunas grandes disimulaciones para "parodia o sátira".
Por lo tanto, es una pregunta abierta si este video falso de Mark Zuckerberg, que se volvió viral el verano pasado, aparentemente mostrando al fundador de Facebook hablando como un megalómano, se mantendría o no bajo la nueva política. Los creadores del video, un par de artistas, describieron el trabajo como una sátira, por lo que esas cosas deberían sobrevivir a la prohibición. (Facebook también lo dejó en ese momento).
Pero, en el futuro, es probable que los creadores de deepfake empujen aún más la línea para ver qué pueden hacer con la nueva política.
La controvertida política de la red social de permitir que los políticos mientan en los anuncios también significa que, técnicamente, aún podría dar un pase político puro, es decir, si un anunciante político le pagara para publicar contenido puramente falso como un anuncio. Aunque sería un político bastante audaz intentar eso.
Es más probable que haya más kilometraje para las campañas políticas y los influyentes de opinión para continuar con manipulaciones más sutiles. Como el video manipulado de la presidenta de la Cámara de Representantes, Nancy Pelosi, que se volvió viral en Facebook el año pasado, que había ralentizado el audio que la hacía sonar borracha o enferma. El Washington Post sugiere que el video, aunque claramente es potencialmente engañoso, todavía no calificaría para ser eliminado bajo la nueva política de medios manipulados "más duros" de Facebook.
La publicación de blog de Bickert estipula que el contenido manipulado que no cumple con el nuevo estándar de eliminación de Facebook aún puede ser revisado por los verificadores de hechos independientes de terceros en los que Facebook confía para la mayor parte del 'cambio de verdad' en su plataforma, y quién aún puede calificar contenido como 'falso' o 'parcialmente falso'. Pero ella enfatiza que continuará permitiendo que este tipo de contenido falso circule (mientras reduce potencialmente su distribución), alegando que tales falsificaciones etiquetadas proporcionan un contexto útil.
Por lo tanto, la posición actualizada de Facebook en medios manipulados suma "no a falsificaciones profundas maliciosas, pero los spindoctors continúan".
"Si un verificador de hechos califica una foto o un video como falso o parcialmente falso, reducimos significativamente su distribución en News Feed y lo rechazamos si se está publicando como un anuncio. Y críticamente, las personas que lo ven, tratan de compartirlo, o ya lo han compartido, verán advertencias que los alertarán de que es falso ", escribe Bickert, afirmando:" Este enfoque es crítico para nuestra estrategia y uno que escuchamos específicamente en nuestras conversaciones con expertos
"Si simplemente elimináramos todos los videos manipulados marcados por los verificadores de datos como falsos, los videos aún estarían disponibles en otros lugares en Internet o en el ecosistema de las redes sociales". Al dejarlos y etiquetarlos como falsos, brindamos a las personas información y contexto importantes ".
El mes pasado, Facebook anunció que había descubierto una red de más de 900 cuentas falsas que habían estado difundiendo mensajes pro-Trump, algunos de los cuales habían usado fotos de perfil falsas generadas por AI.
El desarrollo distópico proporciona otra motivación para que el gigante tecnológico prohíba las falsificaciones de IA "puras", dado que la tecnología corre el riesgo de sobrecargar su problema de cuentas falsas. (Y, bueno, eso podría ser malo para los negocios).
"Nuestros equipos continúan buscando de manera proactiva cuentas falsas y otro comportamiento inauténtico coordinado", sugiere Bickert, argumentando que: "Nuestra estrategia de aplicación contra los medios manipulados engañosos también se beneficia de nuestros esfuerzos para erradicar a las personas detrás de estos esfuerzos".
Si bien todavía es relativamente incipiente como tecnología, los deepfakes han demostrado ser engañosos con los medios que aman el espectáculo que crean. Como resultado, la tecnología ha aterrizado inusualmente rápido en los radares de los legisladores como un riesgo de desinformación: California implementó una prohibición de falsificaciones políticas en torno a las elecciones este otoño, por ejemplo, por lo que Facebook probablemente espera obtener algunos puntos políticos rápidos y fáciles al mudarse intervenir con los legisladores, incluso cuando aplica su propia versión de una prohibición.
La publicación del blog de Bickert también busca otros puntos, destacando la participación de Facebook en un desafío de detección de falsificación profunda que se anunció el otoño pasado: "para producir más herramientas de investigación y de código abierto para detectar falsificaciones profundas".
Mientras dice que Facebook ha estado trabajando con la agencia de noticias Reuters ofrecer cursos de capacitación en línea gratuitos para periodistas para ayudar a los reporteros a identificar imágenes manipuladas.
“A medida que estas asociaciones y nuestras propias ideas evolucionen, también lo harán nuestras políticas hacia los medios manipulados. Mientras tanto, nos comprometemos a invertir en Facebook y trabajar con otras partes interesadas en esta área para encontrar soluciones con un impacto real ", agrega.
Source link