Desde 2016, las compañías de redes sociales se han enfrentado a un aluvión interminable de mala prensa y críticas públicas por no anticipar cómo sus plataformas podrían usarse para propósitos oscuros a la escala de las poblaciones, socavando las democracias de todo el mundo, por ejemplo, o sembrando la división social e incluso alimentando el genocidio.
A medida que COVID-19 sumerge al mundo en el caos y el aislamiento social, esas mismas compañías pueden enfrentar un respiro de las críticas enfocadas, particularmente con la industria aprovechando sus recursos extraordinarios para contribuir con los esfuerzos de ayuda de COVID-19 mientras el mundo busca nuevas tecnologías, adepto en reducir la burocracia y adelantar el progreso científico en tiempos normales, mientras que las burocracias gubernamentales se retrasan. Pero los mismos viejos problemas están alzando sus feas cabezas de la misma manera, incluso si menos de nosotros estamos prestando atención.
En YouTube, un nuevo informe de The Guardian y el grupo de vigilancia Tech Transparency Project encontró que un lote de videos que promueven curas falsas de coronavirus están haciendo que la compañía gane dinero. Los videos, que promovieron métodos no científicos que incluyen “remedios caseros, música meditativa y niveles potencialmente inseguros de suplementos de venta libre como la vitamina C” como posibles tratamientos para el virus, publicaron anuncios de anunciantes involuntarios como Liberty Mutual, Quibi, Trump 2020 campaña de reelección y Facebook. En el caso de Facebook, un anuncio publicitario para la compañía apareció en un video que sugería que la música que promueve la “positividad cognitiva mediante el uso de ondas theta sutiles pero potentes” podría evitar el virus.
En los primeros días de la pandemia, YouTube prohibió los anuncios en cualquier video relacionado con el coronavirus. A mediados de marzo, cuando quedó claro el alcance real del evento, la compañía retiró esa política y permitió que algunos canales publicaran anuncios. El jueves la empresa expandido esa política para permitir anuncios para cualquier video que cumpla con las pautas de la compañía. Uno de los principios más importantes de esas pautas prohíbe la promoción de información médica errónea, incluida la “promoción de remedios o curas peligrosos”. La mayoría de los videos en el nuevo informe fueron eliminados después de ser marcados por un periodista.
Este ejemplo, y muchos otros similares, cuestionan cómo juzgar las principales plataformas tecnológicas durante estos tiempos extremadamente extraños. Las compañías de redes sociales han sido inusualmente transparentes sobre los cambios que la pandemia está creando dentro de sus propios flujos de trabajo. En una llamada en marzo, el fundador de Facebook, Mark Zuckerberg, admitió que los usuarios pueden esperar más “falsos positivos” a medida que la empresa cambia para confiar más en la inteligencia artificial para filtrar lo que pertenece a la plataforma y lo que no sucede con su ejército de 15,000 moderadores contractuales enviados casa con licencia pagada. El trabajo de clasificar el contenido más desagradable de una plataforma (pornografía infantil, violencia extrema, discurso de odio y similares) no es particularmente portátil, dadas sus posibles ramificaciones psicológicas y legales.
YouTube advirtió de manera similar que “comenzará a depender temporalmente más de la tecnología” para reemplazar a los revisores humanos, advirtiendo que los procesos automatizados probablemente significarán más eliminaciones de videos “incluyendo algunos videos que pueden no violar las políticas”. Gorjeo célebre la misma nueva dependencia del aprendizaje automático “para tomar una amplia gama de acciones sobre contenido potencialmente abusivo y manipulativo”, aunque la compañía ofrecerá un proceso de apelaciones que se repite en un revisor humano. Las compañías ofrecieron menos advertencias sobre lo que podría pasar por alto en el ínterin.
¿Qué será de la moderación una vez que las cosas vuelvan a la normalidad o, más probablemente, se establezcan en una nueva normalidad? ¿La inteligencia artificial habrá dominado la tarea, obviando la necesidad de revisores humanos de una vez por todas? (Improbable). ¿Tendrán las compañías de redes sociales un nuevo aprecio por el valor de los esfuerzos humanos y traerán más de esos trabajos a la empresa, donde podrán realizar su trabajo sombrío con más de los beneficios soleados que brindan a sus contrapartes de tiempo completo? Como la mayoría de las cosas examinadas a través de la neblina de pesadilla de la pandemia, los resultados son confusos en el mejor de los casos.
Si el enfoque para responsabilizar a las plataformas ya era poco sistemático, una mezcla desigual de informes de investigación, tweets anecdóticos y autopsias corporativas oficiales, la verdad será aún más difícil de alcanzar ahora, incluso cuando la pandemia de coronavirus ofrece innumerables oportunidades mortales nuevas para que gane precios y una miríada de malos actores para crear el caos dentro del caos.
Ya hemos visto consecuencias mortales en Irán, donde cientos murieron después de beber alcohol industrial, una idea que obtuvieron “en los mensajes enviados y enviados nuevamente” amplificando una historia sensacionalista que sugería que el acto podría protegerlos del virus. La mayoría de las consecuencias probablemente pasarán desapercibidas más allá de las vidas que impactan y no se informan debido a la falta de recursos en la sala de redacción y quizás a períodos de atención aún más restringidos.
Mucho se ha escrito sobre el coronavirus y la niebla de la guerra, la mayoría centrado correctamente en la investigación científica que avanza a medida que el virus amenaza al mundo y la devastadora realidad sobre el terreno en hospitales y centros de salud abrumados con pacientes con COVID-19 mientras Los suministros para salvar vidas disminuyen. Pero la crisis de desinformación viral —y desinformación sembrada deliberadamente— es su propia niebla, ahora entremezclada con una crisis global sin precedentes que ha trastornado por completo los negocios y dominado implacablemente el ciclo de las noticias. Esto, como el poder más importante del mundo, se dirige a un ciclo de elecciones presidenciales completamente invertido: es el primero desde hace cuatro años, cuando un resultado electoral inesperado junto con un profundo centrismo estadounidense en los círculos tecnológicos revelaron nefastas fuerzas en juego justo debajo de la superficie de las redes sociales. No había pensado mucho en eso.
En el presente, será difícil para los extraños determinar dónde han fallado los nuevos sistemas implementados durante la pandemia y qué malos resultados habrían sucedido de todos modos. Para resolver esas causas, tendremos que aceptar la palabra de una empresa, un tipo de credulidad arriesgado que ya ofrecía resultados mixtos en tiempos normales. Aun cuando confiamos en ellos ahora más que nunca para forjar y nutrir conexiones, los portales virtuales en los que nos sumergimos diariamente siguen siendo cajas negras, inescrutables como siempre. Y como con tantos aspectos de la vida en estos tiempos que rompen las normas, lo único que se puede esperar es el cambio.
