Facebook, YouTube y Twitter ha fallado en su tarea de monitorear y moderar el contenido que aparece en sus sitios; Además, no lo hicieron tan bien antes de saber que era un problema. Pero su cultivo incidental de puntos de vista marginales es una oportunidad para reformular su papel como los servicios que debería ser más bien que las plataformas en las que tanto han tratado de convertirse.
Las luchas de estos gigantes deberían ser un estímulo para la innovación en otros lugares: si bien las principales plataformas cosechan la amarga cosecha de años de ignorar el problema, las nuevas empresas pueden retomar donde lo dejaron. No hay mejor momento para dejar pasar a alguien que cuando está quieto.
Guerra asimétrica: ¿hay un camino a seguir?
El núcleo del problema de moderación de contenido es un simple desequilibrio de costos que recompensa la agresión de los malos actores mientras castiga a las plataformas mismas.
Para empezar, existe el problema de definir a los malos actores en primer lugar. Este es un costo que debe ser asumido desde el principio por la plataforma: con la excepción de ciertas situaciones en las que pueden despejar (definiciones de discurso de odio o grupos, por ejemplo), son responsables de establecer las reglas en su propio territorio.
Esa es una expectativa lo suficientemente razonable. Pero llevarlo a cabo está lejos de ser trivial; no puedes decir "aquí está la línea; no lo cruces o estás fuera ". Cada vez es más claro que estas plataformas se han puesto en una situación incómoda de perder-perder.
Si tienen reglas simples, pasan todo su tiempo juzgando casos límite, excepciones e indignación fuera de lugar. Si tienen más granulares, no hay límite superior en la complejidad y pasan todo su tiempo definiéndolo a niveles fractales de detalle.
Ambas soluciones requieren atención constante y un cuerpo de moderación enorme, altamente organizado e informado, que trabaja en todos los idiomas y regiones. Ninguna compañía ha mostrado ninguna intención real de asumir esto: Facebook famoso contrae la responsabilidad de operaciones en mal estado que cortan esquinas y producen resultados mediocres (a un costo humano y monetario enorme); Youtube simplemente espera a que ocurran los desastres y luego se queja de manera poco convincente.
Source link