Desde 2016, las empresas de redes sociales se han enfrentado a un aluvión interminable de mala prensa y críticas públicas por no anticipar cómo sus plataformas podrían usarse para propósitos oscuros a escala de poblaciones, socavando las democracias en todo el mundo, por ejemplo, o sembrando división social e incluso combustible genocidio.
A medida que el COVID-19 hunde al mundo en el caos y el aislamiento social, esas mismas empresas pueden enfrentar un respiro de las críticas enfocadas, particularmente con la industria aprovechando sus extraordinarios recursos para colaborar con los esfuerzos de alivio del COVID-19 a medida que el mundo busca nuevas empresas tecnológicas, expertos en reducir la burocracia y acelerar el progreso científico en tiempos normales, mientras las burocracias gubernamentales se quedan atrás. Pero los mismos viejos problemas están asomando sus feas cabezas de la misma manera, incluso si menos de nosotros estamos prestando atención.
En YouTube, un nuevo informe de El guardián y grupo de vigilancia Proyecto de Transparencia Tecnológica descubrió que un lote de videos que promocionan curas falsas para el coronavirus están generando ingresos publicitarios para la empresa. Los videos, que promovían métodos no científicos que incluían “remedios caseros, música meditativa y niveles potencialmente inseguros de suplementos de venta libre como la vitamina C” como posibles tratamientos para el virus, incluían anuncios de anunciantes involuntarios como Liberty Mutual, Quibi, Trump’s 2020 campaña de reelección y Facebook. En el caso de Facebook, un anuncio publicitario de la compañía se publicó en un video que sugería que la música que promueve “la positividad cognitiva mediante el uso de ondas theta sutiles pero poderosas” podría protegerse del virus.
En los primeros días de la pandemia, YouTube prohibió los anuncios en cualquier video relacionado con el coronavirus. A mediados de marzo, cuando quedó claro el alcance real del evento, la empresa revirtió esa política y permitió que algunos canales publicaran anuncios. El jueves, la empresa expandido esa política para permitir anuncios para cualquier video que cumpla con las pautas de la compañía. Uno de los principios principales de esas pautas prohíbe la promoción de información médica errónea, incluida la “promoción de remedios o curas peligrosos”. La mayoría de los videos en el nuevo informe fueron eliminados después de que un periodista los señalara.
Este ejemplo, y muchos otros similares, cuestionan cómo juzgar las principales plataformas tecnológicas durante estos tiempos extremadamente extraños. Las empresas de redes sociales han sido inusualmente transparentes sobre los cambios que la pandemia está creando dentro de sus propios flujos de trabajo. En una llamada en marzo, el fundador de Facebook, Mark Zuckerberg, admitió que, con su ejército de 15,000 moderadores contratados enviados a casa con licencia paga, los usuarios pueden esperar más “falsos positivos” a medida que la compañía cambia para depender más de la inteligencia artificial para filtrar lo que pertenece. la plataforma y lo que no. El trabajo de clasificar el contenido más desagradable de una plataforma (pornografía infantil, violencia extrema, incitación al odio y similares) es no particularmente portátildadas sus posibles ramificaciones psicológicas y legales.
YouTube de manera similar prevenido que “temporalmente comenzará a depender más de la tecnología” para reemplazar a los revisores humanos, advirtiendo que los procesos automatizados probablemente significarán más eliminaciones de videos, “incluidos algunos videos que pueden no violar las políticas”. Gorjeo anotado la misma nueva confianza en el aprendizaje automático “para tomar una amplia gama de acciones sobre contenido potencialmente abusivo y manipulador”, aunque la compañía ofrecerá un proceso de apelación que involucra a un revisor humano. Las empresas ofrecieron menos advertencias sobre lo que podría pasar desapercibido en el ínterin.
¿Qué pasará con la moderación una vez que las cosas vuelvan a la normalidad o, más probablemente, se asienten en una nueva normalidad? ¿La inteligencia artificial habrá dominado la tarea, obviando la necesidad de revisores humanos de una vez por todas? (Improbable). ¿Las empresas de redes sociales tendrán una nueva apreciación del valor de los esfuerzos humanos y traerán más de esos trabajos internamente, donde pueden realizar su trabajo sombrío con más de los beneficios soleados que se brindan a sus contrapartes de tiempo completo? Como la mayoría de las cosas examinadas a través de la neblina de pesadilla de la pandemia, los resultados son, en el mejor de los casos, confusos.
Si el enfoque para hacer que las plataformas rindan cuentas ya era fragmentario, una mezcla desigual de reportajes de investigación, tuits anecdóticos y autopsias corporativas oficiales, la verdad será aún más difícil de obtener ahora, incluso cuando la pandemia de coronavirus brinda innumerables nuevas oportunidades mortales. para los especuladores de precios y una miríada de malos actores para crear caos dentro del caos.
Hemos visto consecuencias mortales ya en Irán, donde cientos murieron después de beber alcohol industrial, una idea que obtuvieron “en mensajes reenviados y reenviados nuevamente” amplificando una historia sensacionalista que sugería que el acto podría protegerlos del virus. Es probable que la mayoría de las consecuencias pasen desapercibidas más allá de las vidas que afectan y no se informen debido a los recursos reducidos de la sala de redacción y quizás incluso a los períodos de atención más restringidos.
Mucho se ha escrito sobre el coronavirus y la niebla de la guerra, la mayor parte se centró correctamente en la investigación científica que avanza a medida que el virus amenaza al mundo y la devastadora realidad sobre el terreno en hospitales y centros de salud abrumados con pacientes con COVID-19 mientras los suministros para salvar vidas se agotan. Pero la crisis de la desinformación viral, y la desinformación sembrada deliberadamente, es su propia niebla, que ahora se entremezcla con una crisis global sin precedentes que ha trastornado por completo los negocios y dominado implacablemente el ciclo de noticias. En este momento en que la principal potencia del mundo se dirige a un ciclo de elecciones presidenciales completamente alterado, el primero desde hace cuatro años, cuando un resultado electoral inesperado junto con el profundo centrismo estadounidense en los círculos tecnológicos reveló fuerzas nefastas en juego justo debajo de la superficie de las redes sociales que usamos. no había pensado mucho en eso.
En el presente, será difícil para los forasteros determinar dónde han fallado los nuevos sistemas implementados durante la pandemia y qué malos resultados habrían ocurrido de todos modos. Para resolver esas causas, tendremos que confiar en la palabra de una empresa, un tipo de credulidad arriesgada que ya ofrecía resultados mixtos en tiempos normales. Aunque ahora más que nunca confiamos en ellos para forjar y fomentar las conexiones, los portales virtuales en los que nos sumergimos a diario siguen siendo cajas negras, inescrutables como siempre. Y como con tantos aspectos de la vida en estos tiempos que rompen las normas, lo único que se puede esperar es un cambio.