El sistema de revisión de anuncios de Facebook no puede evitar que la información errónea sobre el coronavirus se dirija a sus usuarios, según una investigación realizada por Informes de los consumidores.
La organización de defensa del consumidor sin fines de lucro se propuso probar el sistema de Facebook creando una página para una organización inventada, llamada Self Preservation Society, y creando anuncios que contenían información falsa o deliberadamente engañosa sobre el coronavirus, incluidos mensajes que afirmó (incorrectamente) que las personas menores de 30 años son “seguras”, o que el coronavirus es un “ENGAÑO”.
Otro de los anuncios falsos instó a las personas a “mantenerse saludables con PEQUEÑAS dosis diarias” de lejía, según el informe.
¿El resultado del experimento? El sistema de Facebook renunció a todos los anuncios, aparentemente sin detectar ningún problema o daño potencial. “Facebook los aprobó a todos”, escribe Consumer Reports. “Los anuncios permanecieron programados para su publicación durante más de una semana sin que Facebook los marcara”.
Por supuesto, la organización retiró los anuncios antes de que se publicaran, diciendo que se aseguraba de que ningún usuario de Facebook estuviera expuesto a afirmaciones falsas o engañosas. Pero la prueba parece exponer las pocas barreras que existen dentro del actual sistema de revisión de anuncios de Facebook para detectar y prevenir anuncios dañinos dirigidos a la pandemia de coronavirus.
El único anuncio en el experimento que Facebook rechazó fue marcado debido a su imagen, según Consumer Reports, que dice que había usado una foto de archivo de una máscara facial estilo respirador. Después de cambiar la imagen por una “alternativa similar”, dice que Facebook también la aprobó.
El mes pasado, como parte de su propia respuesta comercial a la amenaza planteada por COVID-19, Facebook Anunciado estaba enviando a casa a todos los revisores de contenido global “hasta nuevo aviso”, diciendo que dependería de una revisión más automatizada como consecuencia de esta decisión.
“A medida que confiamos más en nuestros sistemas automatizados, podemos cometer errores”, escribió entonces.
La investigación de Consumer Reports destaca cuán graves pueden ser esos errores, como resultado de la decisión de Facebook de apoyarse tanto en la moderación de la IA, dado que la compañía renuncia a mensajes claramente dañinos que instan a los usuarios a ignorar los consejos de salud pública para quedarse en casa y distanciarse socialmente. , o incluso beber una sustancia dañina para mantenerse “seguro”.
En respuesta a la investigación de Consumer Reports, Facebook se defendió y dijo que eliminó “millones” de listados por violaciones de políticas relacionadas con el coronavirus. Aunque también admitió que su aplicación de la información errónea sobre el COVID-19 está lejos de ser perfecta.
“Si bien hemos eliminado millones de anuncios y listados comerciales por violar nuestras políticas relacionadas con COVID-19, siempre estamos trabajando para mejorar nuestros sistemas de aplicación para evitar que se propague información errónea dañina relacionada con esta emergencia en nuestros servicios”, dijo un portavoz de Facebook. , Devon Kearns, a Consumer Reports.
Una portavoz de Facebook se negó a especificar cuántos humanos tiene trabajando en la revisión de anuncios durante la crisis del coronavirus cuando le preguntamos. Aunque la compañía le dijo a Consumer Reports que ahora tiene “unos pocos miles” de revisores que pueden trabajar desde casa.
De nuevo en 2018 Facebook informó tener unas 15.000 personas empleadas en la revisión de contenido.
Nunca ha estado claro qué proporción de ellos se centran en la revisión de contenido (del usuario) frente a la revisión de anuncios. Pero unos “pocos miles” frente a 15k sugieren que probablemente ha habido una caída muy considerable en la cantidad de personas que verifican los anuncios. (Antes de COVID, a Facebook también le gustaba referirse a tener un equipo de seguridad y protección de más de 35,000 personas en todo el mundo, con los 15,000 revisores sentados dentro de eso).
El equipo de revisión de contenido de Facebook claramente se ha reducido considerablemente como resultado de la interrupción de su negocio relacionada con el coronavirus. Aunque la compañía se niega a aclarar exactamente cuántas (pocas) personas tiene revisando contenido en este momento.
También está claro que el riesgo de daño de herramientas como la plataforma de anuncios de Facebook, que se puede usar para amplificar de manera fácil y económica la desinformación dañina en línea, difícilmente podría ser mayor que durante una pandemia, cuando existe una necesidad apremiante de que los gobiernos y las autoridades sanitarias estén capaz de comunicar hechos, orientación oficial y mejores prácticas a sus poblaciones para mantenerlas a salvo.
La plataforma de Facebook que se convierte en un conducto para mensajes falsos y/o maliciosos corre el riesgo de socavar la salud pública en un momento crítico.
El mes pasado también se reveló que la compañía bloqueó enlaces a noticias legítimas y otros sitios web que compartían contenido relacionado con el coronavirus, luego de su cambio a la moderación dirigida por IA.
Mientras que, en las últimas semanas, la compañía ha enfrentado críticas por no cumplir con su promesa de eliminar los anuncios de máscaras contra el coronavirus.
Al mismo tiempo, la plataforma de Facebook sigue siendo un hervidero de información errónea relacionada con el coronavirus generada por los usuarios, con personas que comparten publicaciones que afirman remedios caseros falsos, como hacer gárgaras con agua salada para matar el virus (no es así) o minimizar la gravedad. de la pandemia de COVID-19 al afirmar que es ‘solo la gripe’ (no lo es).
Source link