Facebook El sistema de revisión de anuncios no está evitando que la información errónea sobre el coronavirus se dirija a sus usuarios, según una investigación de Consumer Reports.
La organización de defensa del consumidor sin fines de lucro se dispuso a probar el sistema de Facebook mediante la creación de una página para una organización inventada, llamada Self Preservation Society, y la creación de anuncios que contenían información falsa o deliberadamente engañosa sobre el coronavirus, incluidos mensajes que afirmó (incorrectamente) que las personas menores de 30 años son “seguras”, o que el coronavirus es un “HOAX”.
Otro de los anuncios falsos instó a las personas a “mantenerse saludables con pequeñas dosis diarias” de cloro, según el informe.
¿El resultado del experimento? El sistema de Facebook renunció a todos los anuncios, aparentemente no pudo detectar ningún problema o daño potencial. “Facebook los aprobó a todos”, escribe Consumer Reports . “Los anuncios permanecieron programados para su publicación durante más de una semana sin ser marcados por Facebook”.
Por supuesto, la organización retiró los anuncios antes de su publicación, diciendo que se aseguraba de que ningún usuario de Facebook estuviera expuesto a las afirmaciones falsas o engañosas. Pero la prueba parece exponer las pocas barreras que existen en el sistema actual de revisión de anuncios de Facebook para detectar y prevenir anuncios dañinos dirigidos a la pandemia de coronavirus.
El único anuncio en el experimento que Facebook rechazó fue marcado debido a su imagen, según Consumer Reports, que dice que había usado una foto de una máscara facial estilo respirador. Después de cambiar la imagen por una “alternativa similar”, dice que Facebook también lo aprobó.
El mes pasado, como parte de su propia respuesta comercial a la amenaza planteada por COVID-19, Facebook anunció que enviará a casa a todos los revisores de contenido global “hasta nuevo aviso”, diciendo que dependería de una revisión más automatizada como consecuencia de esta decisión. .
“A medida que confiamos más en nuestros sistemas automatizados, podemos cometer errores”, escribió entonces.
La investigación de Consumer Reports destaca cuán graves pueden ser esos errores, como resultado de la decisión de Facebook de apoyarse tanto en la moderación de la inteligencia artificial, dado que la compañía está renunciando a mensajes claramente dañinos que instan a los usuarios a ignorar los consejos de salud pública para quedarse en casa y distanciarse socialmente , o incluso beber una sustancia nociva para mantenerse “seguro”.
En respuesta a la investigación de Consumer Reports, Facebook se defendió diciendo que ha eliminado “millones” de listados por violaciones de políticas relacionadas con el coronavirus. Aunque también admitió que su aplicación de la información errónea sobre COVID-19 está lejos de ser perfecta.
“Si bien hemos eliminado millones de anuncios y listas de comercio por violar nuestras políticas relacionadas con COVID-19, siempre estamos trabajando para mejorar nuestros sistemas de aplicación para evitar que se propague información errónea relacionada con esta emergencia en nuestros servicios”, dijo un portavoz de Facebook. , Devon Kearns, dijo a Consumer Reports.
Una portavoz de Facebook se negó a especificar cuántos humanos tiene trabajando en la revisión de anuncios durante la crisis del coronavirus cuando le preguntamos. Aunque la compañía le dijo a Consumer Reports que tiene “unos pocos miles” de revisores que ahora pueden trabajar desde casa.
En 2018, Facebook informó que había unas 15,000 personas empleadas haciendo la revisión de contenido.
Nunca ha estado claro qué proporción de ellos se enfoca en la revisión de contenido (usuario) versus la revisión de anuncios. Pero un “pocos miles” vs 15k sugiere que probablemente ha habido una caída muy considerable en el número de globos oculares que verifican anuncios. (Antes de COVID, a Facebook también le gustaba referirse a tener un equipo de seguridad de más de 35,000 personas en todo el mundo, con 15,000 revisores dentro de eso).
El equipo de revisión de contenido de Facebook claramente se ha reducido considerablemente como resultado de la interrupción relacionada con el coronavirus en su negocio. Aunque la compañía se niega a aclarar exactamente cuántas (pocas) personas tiene en este momento la revisión de contenido.
También está claro que el riesgo de daños por herramientas como la plataforma publicitaria de Facebook, que puede usarse para amplificar de manera fácil y económica la desinformación en línea dañina, difícilmente podría ser mayor que durante una pandemia, cuando existe una necesidad apremiante de que los gobiernos y las autoridades de salud estén capaz de comunicar hechos, orientación oficial y mejores prácticas a sus poblaciones para mantenerlos a salvo.
La plataforma de Facebook que se convierte en un conducto para mensajes falsos y / o malintencionadamente engañosos corre el riesgo de socavar la salud pública en un momento crítico.
El mes pasado también se reveló que la compañía había bloqueado los enlaces a noticias legítimas y otros sitios web que compartían contenido relacionado con el coronavirus, luego de su cambio a la moderación dirigida por AI.
Si bien, en las últimas semanas, la compañía ha enfrentado críticas por no cumplir con su promesa de eliminar los anuncios de máscaras de coronavirus.
Al mismo tiempo, la plataforma de Facebook sigue siendo un semillero de información errónea relacionada con el coronavirus generada por el usuario, con individuos que comparten publicaciones que afirman remedios caseros falsos como hacer gárgaras con agua salada para matar el virus (no lo hace) o minimizar la seriedad. de la pandemia de COVID-19 al afirmar que es “solo la gripe” (no lo es).
Source link