Investigación presentada en la ACM FAT 2020 La conferencia de hoy en Barcelona respalda la noción de que la plataforma de YouTube está desempeñando un papel en la radicalización de los usuarios a través de la exposición a ideologías de extrema derecha.
El estudio, realizado por investigadores de la Ecole polytechnique fédérale de Lausanne de Suiza y de la Universidad Federal de Minas Gerais en Brasil, encontró evidencia de que los usuarios que interactuaban con un término medio de contenido de extrema derecha migraron para comentar sobre la extrema derecha más marginal. contenido.
A marzo de 2018 New York Times El artículo del sociólogo Zeynep Tufekci expuso la tesis ahora ampliamente difundida de que YouTube es un motor de radicalización. Seguir reportando por el periodista Kevin Roose contó una historia convincente de la experiencia personal de un individuo, Caleb Cain, quien describió caer por una “madriguera de conejo derecha alternativa” en YouTube. Pero el investigador Manoel Horta Ribeiro, quien presentó el artículo hoy, dijo que el equipo quería ver si podían encontrar evidencia auditable para respaldar tales anécdotas.
Su periódico, llamado “Auditoría de vías de radicalización en YouTube”, detalla un estudio a gran escala de YouTube que busca rastros de evidencia, en me gusta, comentarios y vistas, de que ciertas comunidades de YouTube de tendencia derechista están actuando como puertas de entrada para ideologías marginales de extrema derecha.
Según el documento, analizaron 330,925 videos publicados en 349 canales, clasificando ampliamente los videos en cuatro tipos: Media, Alt-lite, Intellectual Dark Web (IDW) y Alt-right, y usaron los comentarios de los usuarios como un “suficientemente bueno”. ” proxy para la radicalización (su conjunto de datos incluía 72 millones de comentarios).
Los hallazgos sugieren un efecto de canalización a lo largo de varios años en los que los usuarios que comenzaron comentando contenido alternativo/IDW de YouTube pasaron a comentar contenido de extrema derecha en la plataforma con el tiempo.
Se encontró que la tasa de superposición entre los consumidores de contenido multimedia y la derecha alternativa era mucho menor.
“Una cantidad significativa de usuarios que comentan migra sistemáticamente de comentar exclusivamente contenido más moderado a comentar contenido más extremo”, escriben en el periódico. “Argumentamos que este hallazgo proporciona evidencia significativa de que ha habido, y sigue habiendo, radicalización de usuarios en YouTube, y nuestros análisis de la actividad de estas comunidades… son consistentes con la teoría de que el contenido más extremo ‘aprovechó’ el aumento en popularidad de contenido IDW y Alt-lite… Mostramos que este fenómeno de migración no solo es constante a lo largo de los años, sino que también es significativo en su cantidad absoluta”.
Los investigadores no pudieron determinar el mecanismo exacto involucrado en la migración de los usuarios de YouTube de consumir políticas “alt lite” a involucrarse con las ideologías más marginales y de extrema derecha, citando un par de desafíos clave en ese frente: acceso limitado a datos de recomendación; y el estudio que no tiene en cuenta la personalización (lo que puede afectar las recomendaciones de un usuario en YouTube).
Pero incluso sin la personalización, dicen que “todavía pudieron encontrar un camino en el que los usuarios pudieran encontrar contenido extremo de grandes canales de medios”.
Durante una conferencia de preguntas y respuestas después de presentar el documento, se le preguntó a Horta Ribeiro qué evidencia tenían de que el efecto de radicalización que identifica el estudio se había producido a través de YouTube, en lugar de un sitio externo, o porque las personas en cuestión estaban más radicalizadas para empezar (y por lo tanto, más atraído por las ideologías extremas) frente a la noción de que YouTube en sí mismo es un canal de radicalización activo.
Estuvo de acuerdo en que es difícil hacer una afirmación absoluta de que YouTube tiene la culpa. Pero también argumentó que, como anfitriona de estas comunidades, la plataforma es la responsable.
“Encontramos rastros evidentes de radicalización de los usuarios, y supongo que la pregunta es ¿por qué YouTube es responsable de esto? Y supongo que la respuesta sería porque muchas de estas comunidades viven en YouTube y tienen mucho de su contenido en YouTube y es por eso que YouTube está tan profundamente asociado con él”, dijo.
“En cierto sentido, estoy de acuerdo en que es muy difícil afirmar que la radicalización se debe a YouTube o a algún sistema de recomendación o que la plataforma es responsable de eso. Puede ser que algo más esté llevando a esta radicalización y en ese sentido creo que el análisis que le hacemos muestra que hay este proceso de usuarios pasando de canales más suaves a otros más extremos. Y esta evidencia sólida hacia la radicalización porque las personas que no estuvieron expuestas a este contenido radical se exponen. Pero es difícil hacer afirmaciones causales sólidas, como que YouTube es responsable de eso”.
Nos comunicamos con YouTube para obtener una respuesta a la investigación, pero la empresa no respondió a nuestras preguntas.
La compañía ha reforzado su enfoque hacia cierto contenido de extrema derecha y extremista en los últimos años, ante la creciente presión política y pública sobre el discurso de odio, el acoso dirigido y los riesgos de radicalización.
También ha estado experimentando con la reducción de la amplificación algorítmica de ciertos tipos de contenido sin sentido potencialmente dañino que cae fuera de sus pautas generales de contenido, como teorías de conspiración maliciosas y ciencia basura.
Source link