Hace un año, The Wall Street Journal reveló que Facebook operaba un sistema de moderación de contenido de dos niveles. Los usuarios normales estaban sujetos a las reglas establecidas por las plataformas, mientras que los usuarios VIP fueron marcados en secreto como especiales en un programa llamado internamente “verificación cruzada”.
Esa lista incluía a todos, desde la estrella del fútbol brasileño Neymar y el expresidente Donald Trump hasta la comentarista conservadora Candace Owens y el fundador de la compañía, Mark Zuckerberg. Según el WSJ, ese sistema fue diseñado para minimizar las instancias en las que Facebook podría moderar el contenido de un VIP en el curso normal de la moderación y desencadenar una tormenta de mala prensa en el proceso.
“Si los sistemas de Facebook concluyen que una de esas cuentas podría haber infringido sus reglas, no eliminan el contenido, al menos no de inmediato, según indican los documentos”, dice el comunicado. informó el WSJ. “Dirigen la queja a un sistema separado, atendido por empleados de tiempo completo mejor capacitados, para capas adicionales de revisión”.
Cross-check salió a la luz a mediados de septiembre del año pasado y, a fines de mes, la empresa estaba solicitando a la Junta de Supervisión Fiscal, el consejo normativo semiindependiente del Meta, que revisar el sistema y sugerir formas de solucionarlo. “Específicamente, le pediremos orientación a la junta sobre los criterios que usamos para determinar qué se prioriza para una revisión secundaria a través de una verificación cruzada, así como también cómo administramos el programa”, escribió el vicepresidente de asuntos globales de Meta, Nick Clegg.
La Junta de Supervisión ahora está de vuelta con sus recomendaciones, pidiendo “mejoras significativas” al programa de verificación cruzada.
“Durante años, la verificación cruzada permitió que el contenido de un grupo selecto de políticos, socios comerciales, celebridades y otros permaneciera en Facebook e Instagram durante varios días cuando, de lo contrario, se habría eliminado rápidamente”, escribió el grupo en una publicación de blog, señalando que parte del contenido que se sometió a verificación cruzada permaneció activo durante 7 meses antes de que la empresa tomara una decisión sobre si eliminarlo.
La Junta de Supervisión ofreció 32 cambios recomendados a ese proceso, incluidos algunos pasos que harían que un programa previamente secreto sea mucho más transparente. La junta pidió a la compañía que publique “criterios claros” que describan qué cuentas son elegibles para el proceso de revisión adicional de verificación cruzada, para marcar visiblemente las cuentas que están en el programa y para permitir que las personas que puedan cumplir con los requisitos soliciten el estado de cuenta especial. .
La junta también solicitó que Meta priorice a los “usuarios que probablemente produzcan expresiones importantes para los derechos humanos”, como periodistas y grupos de derechos civiles en el sistema de verificación cruzada, en lugar de hacer esas llamadas en función de sus intereses comerciales. “Si bien la cantidad de seguidores puede indicar el interés público en la expresión de un usuario, la celebridad o el número de seguidores de un usuario no debe ser el único criterio para recibir protección adicional”, escribió la junta. “Si los usuarios incluidos debido a su importancia comercial publican con frecuencia contenido infractor, ya no deberían beneficiarse de una protección especial”.
El conjunto completo de recomendaciones, que se publica en el blog de la Junta de Supervisión, insta a Meta a realinear drásticamente sus prioridades de moderación de contenido para usuarios de alto perfil. Queda por ver cuánto de esto implementará la compañía, pero todo este proceso ciertamente parece una máquina bien engrasada en comparación con la configuración de políticas que se está llevando a cabo en Twitter en estos días.
Source link