Snap Inc tiene unido el Foro Global de Internet para Contrarrestar el Terrorismo, en el que las empresas de consumo de Internet cooperan para detener la propagación del terrorismo y el extremismo en línea. Facebook, Google y YouTube, Microsoft y Twitter formaron el GIFCT el mes pasado, y mañana organizará su primer taller con otras empresas tecnológicas, además de organizaciones gubernamentales y no gubernamentales.
El GIFCT comenzó como una extensión de la base de datos hash compartida de la industria que permite a las empresas tecnológicas compartir las huellas digitales de contenido extremista y terrorista, como fotos y videos, de modo que una vez que uno identifica un contenido prohibido, todos los demás también pueden bloquear. su carga. Es casi como un programa de vacunas, en el que una empresa vence una infección y luego comparte cómo producir anticuerpos con el resto del grupo.
En publicaciones de blog idénticas publicadas por Facebook, Youtube, Gorjeo y microsoftel GIFCT escribió: “Nuestra misión es interrumpir sustancialmente la capacidad de los terroristas de usar Internet para promover sus causas, respetando al mismo tiempo los derechos humanos”.
El primer taller de GIFCT, que se llevará a cabo en San Francisco el 1 de agosto, contará con la presencia del Ministro del Interior del Reino Unido, Rt Hon Amber Rudd MP y la Secretaria interina de Seguridad Nacional de los Estados Unidos, Elaine Duke, además de representantes de la Unión Europea, las Naciones Unidas, Australia y Canadá. El objetivo del evento es formalizar cómo los gigantes tecnológicos pueden colaborar con empresas más pequeñas y qué necesitarían esas empresas en cuanto a apoyo para participar.
En los próximos meses, los objetivos del grupo incluyen agregar tres empresas tecnológicas más al programa de intercambio de hash más allá de los nuevos miembros Snap y JustPaste.it, lograr que 50 empresas compartan sus mejores prácticas para contrarrestar el extremismo a través del proyecto Tech Against Terrorism y planificar cuatro conocimientos: compartir talleres.
Mejorar la moderación automatizada y la eliminación de contenido terrorista es fundamental para evitar que se escape. Si bien los gigantes de Internet como Facebook suelen emplear a miles de contratistas para filtrar el contenido informado, a menudo tienen que trabajar extraordinariamente rápido a través de interminables colas de imágenes perturbadoras que pueden dejarlos emocionalmente dañados. El uso de una base de datos hash compartida y las mejores prácticas podría aliviar a los humanos de parte de este arduo trabajo y, al mismo tiempo, mejorar potencialmente la velocidad y la precisión con la que se elimina la propaganda terrorista.
Es bueno ver que Facebook y Snap dejen de lado sus diferencias por una buena causa. Si bien Snap es conocido por su secreto y Facebook por copiar a los competidores, el GIFCT los ve compartiendo abiertamente datos y estrategias para limitar la propagación de propaganda terrorista en línea. Hay muchos matices para determinar dónde termina la libertad de expresión y comienza la incitación a la violencia, por lo que la cooperación podría mejorar los procesos de todas las empresas miembro.
Más allá de desterrar el contenido compartido intencionalmente por los terroristas, queda la cuestión de cómo las fuentes de contenido ordenadas algorítmicamente como Facebook y Twitter manejan la avalancha continua de noticias sobre ataques terroristas. Los seres humanos están dispuestos evolutivamente a buscar información sobre el peligro. Pero cuando nos sumergimos en los detalles trágicos de cualquier ataque terrorista en el mundo, podemos comenzar a percibir estos ataques como más frecuentes y peligrosos de lo que realmente son.
Como ex especialista en ética del diseño de Google Tristán Harris analiza, las redes sociales saben que nos atrae el contenido que nos indigna. A medida que el GIFCT evoluciona, sería bueno verlo investigar cómo los algoritmos de curación deberían manejar mejor las noticias y los comentarios sobre el terrorismo para permitir la libertad de expresión, la distribución imparcial de información y la discusión sin explotar la tragedia para el compromiso.