Redes Sociales

No hay respuestas fáciles para la tecnología después de la tragedia de Buffalo

como pistolero infundió terror en un supermercado de Buffalo, Nueva York durante el fin de semana, la violencia fue, una vez más, transmitida en vivo en línea. El último tiroteo masivo en EE. UU. dejó 10 personas muertas y planteó preguntas familiares sobre cuánta responsabilidad tienen las empresas de redes sociales en la amplificación del extremismo que puede conducir a la violencia y en la circulación de imágenes de estos incidentes profundamente perturbadores después del hecho.

El sospechoso de 18 años, ahora bajo custodia, ha sido vinculado a un manifiesto y mensajes de Discord en los que describe su radicalización en 4chan, elogia al tirador de la mezquita de Christchurch, Nueva Zelanda, y presenta su plan para matar a los residentes de Black Buffalo. El tirador transmitió en vivo la violencia en Twitch, optando por la plataforma en lugar de Facebook porque no requiere que los espectadores inicien sesión, según documentos revisados ​​​​por TechCrunch.

Es imposible decir si la posibilidad de transmitir en vivo un tiroteo masivo podría inspirar a una persona a cometer violencia que de otro modo no habría cometido, pero la tecnología ofrece a los extremistas una audiencia y un archivo de sus acciones que puede perdurar mucho más allá de lo inicial. horror. Esos legados macabros pueden permanecer eninspirando a otros a cometer actos de violencia similares.

Las plataformas de redes sociales han lidiado con tiroteos masivos durante años aprovechando la combinación habitual de IA y moderadores humanos, pero esos sistemas aún pueden fallar en detener la propagación y multiplicación del contenido viral cuando cuenta.

Twitch eliminó la transmisión en vivo del tiroteo del sábado en cuestión de minutos, pero el metraje ya se copió y cargó en otro lugar. Las versiones del video circularon ampliamente en Facebook, donde algunos usuarios que marcaron el video observaron que la red social les decía el contenido no violó sus reglas. Un clip del video ampliamente compartido se subió al sitio de alojamiento de videos Streamable, donde se vio más de tres millones de veces antes de que la compañía lo retirara por violar los términos del servicio. Facebook no respondió a una pregunta de TechCrunch sobre por qué sus sistemas de moderación dieron el visto bueno al video.

Si bien el presunto tirador expresó su interés en transmitir a los principales sitios de redes sociales, describió que pasaba la mayor parte del tiempo en 4chan, un foro en línea conocido por su ausencia total de moderación de contenido y las opiniones extremistas que encuentran un hogar cómodo allí. También dedicó tiempo a documentar sus planes en un servidor privado de Discord, nuevamente planteando las difíciles preguntas de dónde las plataformas deberían trazar la línea en la moderación de espacios privados.

en un entrevista con NPR, la gobernadora de Nueva York, Kathy Hochul, pidió a las empresas de redes sociales que supervisen el contenido de manera más agresiva para interceptar a los extremistas. Hochul propuso un «sistema de activación» que alertaría a las fuerzas del orden público cuando los usuarios de las redes sociales expresen el deseo de dañar a otros.

“Todo esto está telegrafiado. Fue escrito en un manifiesto que se publicó en las plataformas de redes sociales. La información estaba allí”, dijo Hochul. “Necesitan contar con algoritmos que identifiquen muy rápidamente la segunda información que se publica para que pueda ser rastreada por las autoridades policiales correspondientes. Tienen los recursos para hacer esto. Deben hacerse cargo de esto porque, de lo contrario, este virus continuará propagándose”.

Pero en el caso del tiroteo masivo de Buffalo, los planes del sospechoso se compartieron de forma privada en una aplicación de mensajería y se publicaron abiertamente en un sitio web conocido por negarse a moderar el contenido que no está legalmente obligado a eliminar.

Y, como muchas personas han señalado después de la tragedia de Buffalo, el «virus» que describe Hochul ya está aquí. El presunto tirador se inspiró para actuar en una ideología conocida como “el gran reemplazo,” una vez una creencia marginal defendida por supremacistas blancos declarados que aviva los temores racistas sobre las mayorías emergentes de la población no blanca en países como los EE. UU.

Con esas ideas ahora tan fáciles de encontrar en noticias por cable o en el Congreso como están en 4chan, ningún algoritmo puede liberarnos de la violencia que inspiran.




Source link

Looks like you have blocked notifications!

Neto

Soy Neto, creador de LaNetaNeta.com Me apasiona leer y aprender, disfruto escribir y compartir publicaciones interesantes con el publico.

¿Ya viste esto?

Botón volver arriba