Facebook no pudo evitar que se utilizara su plataforma para subastar a una niña de 16 años para casarse en Sudán del Sur.
El matrimonio infantil precoz y forzado (CEFM) es la forma de violencia de género más comúnmente denunciada en Sudán del Sur, según un informe reciente. Informe de Plan International sobre los innumerables riesgos para las adolescentes que viven en la región devastada por la guerra.
Ahora parece que las chicas de esa parte del mundo también tienen que preocuparse por las redes sociales.
Vicio informó sobre la historia en detalle ayer, y señaló que Facebook eliminó la publicación de la subasta, pero no hasta después de que la niña ya se había casado, y más de dos semanas después de que la familia anunció por primera vez la atención para vender al niño a través de su plataforma, en octubre. 25.
Facebook dijo que se enteró por primera vez de la publicación de la subasta el 9 de noviembre, después de lo cual dice que la eliminó en 24 horas. No está claro cuántas horas de las 24 le tomó a Facebook tomar la decisión de eliminar la publicación.
Un empresario multimillonario de la capital de Sudán del Sur ganó la subasta después de ofrecer un “precio” récord – de 530 vacas, tres coches Land Cruiser V8 y 10.000 dólares – para casarse con el niño, Nyalong Ngong Deng Jalang.
Plan International le dijo a Vice que es el primer incidente conocido en el que se usa Facebook para subastar a una novia infantil.
“Es realmente preocupante porque, como fue una transacción tan lucrativa y atrajo tanta atención, nos preocupa que esto pueda actuar como un incentivo para que otros sigan su ejemplo”, dijo la organización de desarrollo a Vice.
Una ONG de derechos humanos diferente publicó en Twitter una captura de pantalla de la publicación de subasta eliminada, escribiendo: “A pesar de varios llamamientos hechos por un grupo de derechos humanos, una niña de 16 años se convirtió en víctima de una publicación de subasta matrimonial en línea, que no fue eliminada por Facebook en Sudán del Sur “.
A pesar de varios llamamientos hechos por el grupo de derechos humanos, una niña de 16 años se convirtió en víctima de una publicación de subasta matrimonial en línea, que no fue eliminada por Facebook en Sudán del Sur. La parte que se hunde es que la gente ahora está optando por las redes sociales para cumplir con los rituales ortodoxos. pic.twitter.com/tj4cMADeFN
– H4Human (@ h4humanrights) 20 de noviembre de 2018
Le pedimos a Facebook que explicara cómo no actuó a tiempo para evitar la subasta y nos envió la siguiente declaración, atribuida a un portavoz:
Cualquier forma de trata de personas, ya sean publicaciones, páginas, anuncios o grupos, no está permitida en Facebook. Eliminamos la publicación y deshabilitamos permanentemente la cuenta que pertenece a la persona que publicó esto en Facebook. Siempre estamos mejorando los métodos que utilizamos para identificar el contenido que infringe nuestras políticas, lo que incluye duplicar nuestro equipo de seguridad y protección a más de 30.000 e invertir en tecnología.
El retraso de más de dos semanas entre la publicación de la subasta y la eliminación de la publicación de la subasta por parte de Facebook plantea serias dudas sobre sus afirmaciones de haber realizado inversiones sustanciales para mejorar sus procesos de moderación.
Los grupos de derechos humanos habían intentado directamente marcar la publicación en Facebook. Según los informes, la subasta también había atraído una gran atención de los medios locales. Sin embargo, aún no se dio cuenta y no actuó hasta semanas después, momento en el que ya era demasiado tarde porque la niña había sido vendida y casada.
Facebook no publica datos a nivel de país sobre su plataforma, por lo que no está claro cuántos usuarios tiene en la región de Sudán del Sur.
Tampoco ofrece un desglose de las ubicaciones de las aproximadamente 15,000 personas que emplea o contrata para llevar a cabo tareas de revisión de contenido en su plataforma de contenido global (que tiene más de 2 mil millones de usuarios).
Facebook admite que los revisores de contenido que utiliza no hablan todos los idiomas del mundo donde se utiliza su plataforma. Ni siquiera hablan todos los idiomas que se usan ampliamente en el mundo. Por lo tanto, es muy poco probable que tenga revisores con un fuerte conocimiento de las lenguas indígenas que se hablan en la región de Sudán del Sur.
Le preguntamos a Facebook cuántos moderadores emplea que hablan alguno de los idiomas en la región de Sudán del Sur (que es multilingüe). Una portavoz no pudo dar una respuesta inmediata.
El resultado de que Facebook lleve a cabo una moderación de contenido retrospectiva desde lejos, confiando en un pequeño número de revisores (en relación con el total de usuarios), es que la empresa no está respondiendo a los riesgos de derechos humanos como debería.
Facebook no ha establecido equipos sobre el terreno en sus negocios internacionales con las sensibilidades lingüísticas y culturales necesarias para poder responder de forma directa, o incluso rápida, a los riesgos que crea su plataforma en todos los mercados en los que opera. (Una gran proporción de sus revisores se encuentran en Alemania, que aprobó una ley de incitación al odio en las redes sociales hace un año).
La IA tampoco va a solucionar ese problema tan difícil, no en ninguna escala de tiempo humana. Y mientras tanto, Facebook está permitiendo que los humanos reales tomen la presión.
Pero dos semanas para darse cuenta y eliminar una subasta de novias infantiles no es el tipo de métrica con la que cualquier empresa quiere medirse.
Cada vez está más claro que el hecho de que Facebook no invierta adecuadamente en su negocio internacional para supervisar y gestionar los impactos de sus herramientas tecnológicas en los derechos humanos puede tener un costo muy alto.
En Sudán del Sur, la falta de una supervisión adecuada ha dado lugar a que su plataforma se reutilice como el equivalente a un mercado de esclavos de alta tecnología.
Facebook también sigue en el anzuelo por serias fallas en Myanmar, donde se ha culpado a su plataforma de difundir discursos de odio y acelerar la violencia étnica.
No es necesario mirar muy lejos para ver que se cometen otros abusos contra los derechos humanos. ayudado e instigado mediante el acceso a herramientas de redes sociales no verificadas.