Rick Song es cofundador y director ejecutivo de Persona.
Más publicaciones de este colaborador La próxima era de moderación será verificada
Es hora de que las redes sociales y las aplicaciones de citas enfrenten la música y frenen el fraude, el engaño y la desinformación en sus plataformas de una vez por todas.
Al principio, las redes sociales y las aplicaciones de citas representaban pequeños rincones de Internet con solo un puñado de usuarios. Hoy, Facebook y Twitter son tan grandes que influyen en las elecciones, hacen o deshacen campañas de vacunas y mueven los mercados.
Las aplicaciones de citas como Tinder y Bumble no se quedan atrás, con millones y millones de personas que buscan sus servicios para conocer a su pareja “para siempre”.
Pero la diversión y los juegos ya terminaron. Ha elegido el beneficio por encima de la confianza y la seguridad. Ha creado una puerta de entrada para el robo de identidad y el fraude en línea.
Hoy todos tenemos un amigo que ha sido “catfished” en Bumble o Tinder; todos tenemos familiares que han sido víctimas de estafas en línea en Twitter y Facebook. Todos los días, escuchamos nuevos casos en los que los actores maliciosos roban identidades, o crean otras nuevas falsas, para cometer fraude, difundir información errónea con fines políticos y comerciales, o promover el discurso de odio.
En la mayoría de las industrias, los usuarios con identidades falsas realmente solo afectan el negocio. Pero cuando se rompe la confianza en las plataformas sociales y de citas, se perjudica a los usuarios y a la sociedad en general. Y el impacto financiero, psicológico y, a veces, físico en una persona es real.
Entonces, ¿quién es responsable de detener o combatir este aumento del fraude? Claramente, no las plataformas en sí. Aunque algunos aseguran estar tomando medidas.
En el cuarto trimestre de 2020, Facebook derribado 1.300 millones de cuentas falsas. ¿Suficiente? Ni siquiera cerca. El hecho es que las plataformas sociales y las aplicaciones de citas hoy en día hacen lo mínimo para evitar el fraude. Si bien la IA básica y los moderadores humanos ayudan, son superados por el gran volumen de usuarios.
Facebook dice que tiene 35.000 personas revisando contenido; eso es una legión, pero funciona para aproximadamente un moderador por cada 82,000 cuentas. Y a medida que los malos actores se vuelven más sofisticados día a día, utilizando falsificaciones profundas y técnicas delictivas en evolución como el fraude sintético, su escala continúa aumentando. Incluso los usuarios en línea inteligentes son víctimas de estos inconvenientes.
Las plataformas sociales y de citas han sido criticadas por moverse lentamente para combatir el problema, pero ¿qué se puede hacer?
La pesca del gato es un asunto serio
No es difícil imaginar este escenario: conoces a alguien en línea y comienzas una conversación. La persona dice las cosas correctas, hace las preguntas correctas. La relación comienza a sentirse “real” y comienzas a sentir parentesco. Antes de que te des cuenta, se intensifica; todos tus guardias están bajos y te vuelves impermeable a las banderas rojas. Llegas a llamarlo amor.
Tú y tu nueva pareja hacen planes para finalmente conocerse en persona. Dicen que no tienen dinero para el viaje. Usted envía el dinero con confianza y amor, solo para que esta persona desaparezca poco después.
Si bien algunos incidentes de catfishing se resuelven por sí solos con un daño mínimo infligido, otros, como el ejemplo anterior, pueden conducir a la extorsión financiera y la actividad delictiva. Las pérdidas reportadas por estafas románticas alcanzaron un récord de $ 304 millones en 2020, según la Comisión Federal de Comercio.
Sin embargo, es probable que las pérdidas reales en esta área no reportada sean exponencialmente más altas, y más cuando se cuentan las “áreas grises” y la mendicidad en línea. Sin embargo, la mayoría de las aplicaciones de citas no ofrecen una forma de verificar identidades. Algunas aplicaciones populares: como yesca —hacer que la verificación de identidad sea voluntaria; otros, bueno, no ofrecen nada. ¿Quién quiere poner fricciones en el camino de un nuevo suscriptor?
Pero la verificación voluntaria solo rasca la superficie. Estas empresas deben hacer más para bloquear la entrada de identidades anónimas y falsas. Dado el daño que infligen a las sociedades y sus clientes, nosotros, como sociedad, debemos exigir que den un paso al frente.
En las redes sociales, la verificación de identidad puede ser un arma de doble filo
Las estafas románticas no son específicas de las aplicaciones de citas; alrededor de un tercio en realidad comienza en las redes sociales. Pero hay muchas otras razones para verificar la identidad en las redes sociales. Los consumidores pueden querer saber si están interactuando con la verdadera Oprah Winfrey o Ariana Grande o alguna cuenta de parodia; Winfrey y Grande probablemente también quieran que esa distinción sea evidente.
En una nota más seria, aumenta la presión para que las redes sociales controlen a los abusadores en línea mediante la verificación de identidades. En Inglaterra, el movimiento #TrackaTroll ha ganado fuerza, principalmente debido a los esfuerzos de la estrella de telerrealidad británica Katie Price. Casi 700.000 firmó su petición cabildeando a favor de la Ley de Harvey, que lleva el nombre de su hijo discapacitado, que ha sido fuertemente atacado por abusadores anónimos en línea.
Sin embargo, muchos argumentan fuertemente en contra de exigir la verificación de identidad en las redes sociales. Por lo general, señalan que exigir verificación puede poner en peligro a las sobrevivientes de abuso doméstico y disidentes en países con regímenes represivos que buscan y dañan a los opositores políticos. Además, la verificación de identidad no disuadiría a muchos que difunden desinformación sobre política o vacunas porque quieren ser identificados para construir su audiencia y marca personal.
Hoy, Facebook y Twitter ofrecen un proceso de revisión de “verificación” que otorga a las cuentas auténticas una marca de verificación azul. Pero esto está lejos de ser infalible. Twitter recientemente detuvo su programa de “verificación” porque verificó incorrectamente varias cuentas falsas.
Facebook ha hecho más. La red social ha impuesto durante mucho tiempo la verificación de identidad de forma condicional, por ejemplo, si un usuario no puede acceder a su cuenta. También basan los requisitos de identidad en el contenido publicado, donde ciertos comportamientos, palabras e imágenes provocan un bloqueo del cartel, pendiente de verificación y revisión humana.
La carrera armamentista de la identidad
Cuando los malos actores crean identidades falsas en las aplicaciones de citas y las redes sociales para defraudar y dañar a otros, daña la confianza pública y, sin duda, afecta los ingresos de estas plataformas. Las plataformas de redes sociales luchan a diario para conciliar sus objetivos comerciales de maximizar el uso con la protección de la privacidad del usuario, o enfrentan una mayor regulación y la pérdida de la confianza del consumidor.
Es vital proteger las identidades de los ladrones y piratas informáticos que harían mal uso de ellas. Imagina una cuenta falsa de Twitter o Facebook que dice ser tú y difunde declaraciones de odio. Sin una forma de refutar su participación, podría perder su trabajo o algo peor.
¿Qué decisiones tomarán las plataformas para proteger a sus usuarios y su propia marca? Sus decisiones se han centrado en la política y la protección de los ingresos en lugar de la tecnología. Equilibrar las medidas de fomento de la confianza con las preocupaciones sobre la privacidad y su necesidad de ingresos es el gran dilema estratégico que deben resolver. Independientemente, la responsabilidad de crear un espacio seguro para sus usuarios recae en ellos.
Las redes sociales y las plataformas de citas deben asumir una mayor responsabilidad cuando se trata de proteger a los usuarios del fraude y los malos actores en línea.
Source link