Facebook quiere ser el árbitro de la verdad después de todo. Al menos cuando se trata de deepfakes intencionalmente engañosos y contenido multimedia muy manipulado y/o sintetizado, como rostros humanos fotorrealistas generados por IA que parecen personas reales pero no lo son.
En una actualización de política Anunciado Ayer por la noche, la vicepresidenta de gestión de políticas globales de la red social, Monika Bickert, escribe que adoptará una línea más estricta sobre el contenido manipulado de los medios de ahora en adelante, eliminando el contenido que ha sido editado o sintetizado “de maneras que no son evidentes para un promedio”. persona y probablemente induciría a error a alguien a pensar que un sujeto del video dijo palabras que en realidad no dijo”.
Sin embargo, las ediciones de calidad o los cortes y empalmes de videos que simplemente reducen o cambian el orden de las palabras no están cubiertos por la prohibición.
Lo que significa que el tratamiento médico falso, como este ejemplo de las recientes elecciones generales del Reino Unido (donde el personal de campaña de un partido político editó un video de un político de un partido rival al que se le hizo una pregunta sobre el brexit para que pareciera que no tenía palabras cuando en realidad no era así) — no se verán afectados por la nueva política “más dura”. Ergo, aquí hay poco que inquietar a los tejedores de la ‘verdad’ política conocedores de Internet. La falta de sinceridad de las campañas digitales puede continuar.
En lugar de lidiar con ese tipo de falsificación política sutil, Facebook se está enfocando en ganancias rápidas de relaciones públicas, en torno a las cosas más obviamente falsas donde no correrá el riesgo de acusaciones de parcialidad partidista si obtiene contenido falso.
Por lo tanto, la nueva política prohíbe el contenido deepfake que implica el uso de tecnologías de inteligencia artificial para “fusionar, reemplazar o superponer contenido en un video, haciéndolo parecer auténtico”, lo que parece que capturará las cosas más crudas, como la pornografía deepfake de venganza. que superpone el rostro de una persona real al cuerpo de un artista adulto (aunque la desnudez ya está prohibida en la plataforma de Facebook).
Sin embargo, tampoco es una prohibición general de las falsificaciones profundas, con algunas excepciones importantes para “parodia o sátira”.
Así que es una pregunta un poco abierta si esto Video falso de Mark Zuckerberg, que se volvió viral el verano pasado, aparentemente mostrando al fundador de Facebook hablando como un megalómano, se mantendría o no bajo la nueva política. Los creadores del video, un par de artistas, describieron el trabajo como una sátira, por lo que esas cosas deberían sobrevivir a la prohibición. (Facebook también lo dejó en ese momento).
Pero, en el futuro, es probable que los creadores de deepfakes presionen aún más la línea para ver qué pueden hacer con la nueva política.
La controvertida política de la red social de permitir que los políticos mientan en los anuncios también significa que, técnicamente, aún podría dar un pase a los deepfakes políticos puros, es decir, si un anunciante político estuviera pagando para publicar contenido puramente falso como un anuncio. Aunque sería un político bastante audaz intentarlo.
Lo más probable es que haya más kilometraje para las campañas políticas y los influyentes de opinión para continuar con manipulaciones más sutiles. Tales como el video manipulado de la presidenta de la Cámara de Representantes, Nancy Pelosi que se volvió viral en Facebook el año pasado, que había ralentizado el audio que la hacía sonar borracha o enferma. Él El Correo de Washington sugiere que el video, aunque es claramente potencialmente engañoso, aún no calificaría para ser eliminado bajo la nueva política de medios manipulados “más estricta” de Facebook.
La publicación del blog de Bickert estipula que el contenido manipulado que no cumple con el nuevo estándar de eliminación de Facebook aún puede ser revisado por los verificadores de hechos independientes de los que Facebook depende para la mayor parte de la “selección de la verdad” en su plataforma, y quién aún puede calificar contenido como ‘falso’ o ‘parcialmente falso’. Pero ella enfatiza que seguirá permitiendo que este tipo de contenido falso circule (al tiempo que reduce potencialmente su distribución), alegando que tales falsificaciones etiquetadas brindan un contexto útil.
Por lo tanto, la posición actualizada de Facebook sobre los medios manipulados suma ‘no a las falsificaciones profundas maliciosas, pero los doctores de opinión, por favor, continúen’.
“Si un verificador de datos califica una foto o un video como falso o parcialmente falso, reducimos significativamente su distribución en la sección de noticias y lo rechazamos si se publica como un anuncio. Y, de manera crítica, las personas que lo vean, intenten compartirlo o ya lo hayan compartido, verán advertencias que los alertarán de que es falso”, escribe Bickert, afirmando: “Este enfoque es fundamental para nuestra estrategia y lo escuchamos específicamente de nuestras conversaciones. con expertos
“Si simplemente elimináramos todos los videos manipulados marcados por los verificadores de datos como falsos, los videos aún estarían disponibles en otros lugares de Internet o del ecosistema de las redes sociales. Al dejarlos y etiquetarlos como falsos, estamos brindando a las personas información y contexto importantes”.
El mes pasado Facebook anunció que había descubierto una red de más de 900 cuentas falsas que había estado difundiendo mensajes a favor de Trump, algunos de los cuales habían usado fotos de perfil falsas generadas por IA.
El desarrollo distópico proporciona otra motivación para que el gigante tecnológico prohíba las falsificaciones de IA “puras”, dado que la tecnología corre el riesgo de sobrecargar su problema de cuentas falsas. (Y, bueno, eso podría ser malo para el negocio).
“Nuestros equipos continúan buscando de manera proactiva cuentas falsas y otros comportamientos no auténticos coordinados”, sugiere Bickert, argumentando que: “Nuestra estrategia de cumplimiento contra los medios engañosos manipulados también se beneficia de nuestros esfuerzos para erradicar a las personas detrás de estos esfuerzos”.
Si bien aún son relativamente incipientes como tecnología, los deepfakes han demostrado ser una trampa para los medios de comunicación que aman el espectáculo que crean. Como resultado, la tecnología ha aterrizado inusualmente rápido en los radares de los legisladores como un riesgo de desinformación: California implementó una prohibición sobre falsificaciones políticas en torno a las elecciones de este otoño, por ejemplo, por lo que es probable que Facebook espere obtener algunos puntos políticos rápidos y fáciles al avanzar al paso de los legisladores, incluso cuando aplica su propia versión de una prohibición.
La publicación del blog de Bickert también busca más puntos, destacando la participación de Facebook en un Desafío de detección profunda de falsificaciones que se anunció el otoño pasado: “para producir más herramientas de investigación y código abierto para detectar falsificaciones profundas”.
Mientras dice que Facebook ha estado trabajando con la agencia de noticias Reuters para ofrecer cursos de formación online gratuitos para que los periodistas ayuden a los reporteros a identificar imágenes manipuladas.
“A medida que evolucionan estas asociaciones y nuestros propios conocimientos, también lo harán nuestras políticas hacia los medios manipulados. Mientras tanto, estamos comprometidos a invertir dentro de Facebook y trabajar con otras partes interesadas en esta área para encontrar soluciones con un impacto real”, agrega.
Source link