Facebook anunció el viernes una nueva herramienta de inteligencia artificial que, según dice, ayudará a la red social a detectar la venganza del porno, las imágenes íntimas no compartidas que, cuando se publican en línea, pueden tener consecuencias devastadoras para quienes aparecen en las fotos. La tecnología aprovechará tanto A.I. y técnicas de aprendizaje automático para detectar proactivamente imágenes o videos casi desnudos que se comparten sin permiso en Facebook e Instagram.
El anuncio sigue en el piloto anterior de Facebook de una tecnología de emparejamiento de fotos, en la que las personas enviaban directamente sus fotos y videos íntimos a Facebook. El programa, que se ejecutó en asociación con organizaciones defensoras de víctimas, creará una huella digital de esa imagen para que Facebook pueda evitar que se comparta en línea a través de sus plataformas. Esto es similar a cómo las empresas de hoy evitan que se publiquen imágenes de abuso infantil en sus sitios.
El nuevo A.I. Sin embargo, la tecnología para vengarse de la pornografía no requiere la participación de la víctima. Esto es importante, explica Facebook, porque las víctimas a veces tienen demasiado miedo de las represalias para reportar el contenido por sí mismas. Otras veces, simplemente no se dan cuenta de que las fotos o los videos se están compartiendo.
Si bien a la compañía le faltaron detalles sobre cómo funciona el nuevo sistema, sí notó que va más allá de simplemente "detectar desnudos".
Después de que el sistema marca una imagen o un video, un miembro especialmente capacitado del equipo de Operaciones Comunitarias de Facebook revisará la imagen y luego la eliminará si viola los Estándares Comunitarios de Facebook. En la mayoría de los casos, la compañía también deshabilitará la cuenta, como resultado. Un proceso de apelaciones está disponible si la persona cree que Facebook ha cometido un error.
Además de la tecnología y el programa piloto existente, Facebook dice que también revisó cómo se podrían mejorar sus otros procedimientos en torno a los informes de venganza de pornografía. Se encontró, por ejemplo, que las víctimas querían respuestas más rápidas después de sus informes y no querían una respuesta robótica. Otras víctimas no sabían cómo usar las herramientas de reporte o incluso que existían.
Facebook señaló que abordar la pornografía de la venganza es crítico, ya que puede llevar a consecuencias de salud mental como ansiedad, depresión, pensamientos suicidas y, a veces, incluso TEPT. También puede haber consecuencias profesionales, como trabajos perdidos y relaciones dañadas con colegas. Además, aquellos en comunidades más tradicionales alrededor del mundo pueden ser rechazados o exiliados, perseguidos o incluso dañados físicamente.
Facebook admite que no estaba encontrando una manera de "reconocer el trauma que soportan las víctimas" al responder a sus informes. Dice que ahora está reevaluando las herramientas y el proceso de informes para asegurarse de que sean más "directos, claros y empáticos".
También está lanzando "No sin mi consentimiento", un centro de apoyo a las víctimas en el Centro de seguridad de Facebook que se desarrolló en colaboración con expertos. El centro ofrecerá a las víctimas acceso a organizaciones y recursos que pueden apoyarlas, y detallará los pasos a seguir para informar el contenido a Facebook.
En los próximos meses, Facebook dice que también construirá kits de herramientas de apoyo a las víctimas con información más relevante a nivel local y cultural al trabajar con socios, como Revenge Porn Helpline (Reino Unido), Cyber Civil Rights Initiative (Estados Unidos), Digital Rights Foundation (Pakistán), SaferNet. (Brasil) y el profesor Lee Ji-yeon (Corea del Sur).
El porno de venganza es uno de los muchos problemas que resultan de ofrecer al mundo una plataforma para compartir con el público. Hoy en día, Facebook está empezando a reconocer las fallas de las redes sociales en muchos frentes, que también incluyen cosas como violaciones a la privacidad de los datos, la propagación de información errónea y el acoso y abuso en línea.
El CEO Mark Zuckerberg anunció recientemente un giro hacia la privacidad, donde los productos de Facebook se unirán como una red de mensajería encriptada e interoperable, pero el movimiento ha sacudido a Facebook internamente, haciendo que pierda los mejores ejecutivos en el camino.
Si bien los cambios están en línea con lo que quiere el público, muchos ya han perdido la confianza en Facebook. Por primera vez en 10 años, Edison Research observó una disminución en el uso de Facebook en los EE. UU., De 67 a 62 por ciento de los estadounidenses mayores de 12 años. Aún así, Facebook sigue siendo una plataforma masiva con sus más de 2 mil millones de usuarios. Incluso si los propios usuarios optan por no participar en Facebook, eso no les impide ser víctimas de la venganza del porno u otro abuso en línea por parte de quienes continúan utilizando la red social.
Source link