Rick Song es cofundador y director ejecutivo de Persona.
Desde los albores de Internet, saber (o, quizás más exactamente, no saber) quién está al otro lado de la pantalla ha sido uno de los mayores misterios y emociones. En los primeros días de las redes sociales y los foros en línea, los nombres de usuario anónimos eran la norma y significaban que podías fingir ser quien quisieras ser.
A pesar de lo emocionante y liberadora que fue esta libertad, los problemas se hicieron evidentes rápidamente: depredadores de todo tipo han utilizado este manto de anonimato para atacar a víctimas desprevenidas, acosar a cualquiera que no les guste o con quien no estén de acuerdo y difundir información errónea sin consecuencias.
Durante años, la conversación sobre la moderación se ha centrado en dos pilares clave. Primero, ¿qué reglas escribir? ¿Qué contenido se considera aceptable o prohibido, cómo definimos estos términos y quién toma la decisión final en las áreas grises? Y segundo, cómo hacerlos cumplir: ¿cómo podemos aprovechar tanto a los humanos como a la inteligencia artificial para encontrar y marcar contenido inapropiado o incluso ilegal?
Si bien estos siguen siendo elementos importantes para cualquier estrategia de moderación, este enfoque solo señala a los malos actores después de una infracción. Hay otra herramienta igualmente crítica en nuestro arsenal que no recibe la atención que merece: la verificación.
La mayoría de la gente piensa en la verificación como la “marca de verificación azul”, una insignia de honor otorgada a la élite y las celebridades entre nosotros. Sin embargo, la verificación se está convirtiendo en una herramienta cada vez más importante en los esfuerzos de moderación para combatir problemas nefastos como el acoso y la incitación al odio.
Esa marca de verificación azul es más que una simple señal que muestra quién es importante; también confirma que una persona es quien dice ser, lo cual es un medio increíblemente poderoso para hacer que las personas rindan cuentas por sus acciones.
Uno de los mayores desafíos que enfrentan las plataformas de redes sociales en la actualidad es la explosión de cuentas falsas, con Brad Pitt imitador en Clubhouse es uno de los ejemplos más recientes. Los bots y los títeres de calcetines esparcen mentiras e información errónea como la pólvora, y se propagan más rápidamente de lo que los moderadores pueden prohibirlos.
Esta es la razón por Instagram comenzó a implementar nuevas medidas de verificación el año pasado para combatir este problema exacto. Al verificar las identidades reales de los usuarios, Instagram dijo que “podrá comprender mejor cuándo las cuentas intentan engañar a sus seguidores, responsabilizarlos y mantener a nuestra comunidad segura”.
Es importante recordar que la verificación no es una táctica única, sino más bien una colección de soluciones que deben usarse dinámicamente en conjunto para que sean efectivas.
La urgencia de implementar la verificación también es más grande que simplemente detener la difusión de contenido cuestionable. También puede ayudar a las empresas a garantizar que se mantienen en el lado correcto de la ley.
Siguiendo un exponer Al revelar que se estaba cargando contenido ilegal en el sitio de Pornhub, la compañía prohibió las publicaciones de usuarios no verificados y eliminó todo el contenido cargado de fuentes no verificadas (más del 80% de los videos alojados en su plataforma). Tiene desde implementado nuevas medidas para verificar a sus usuarios para evitar que este tipo de problemas vuelva a infiltrarse en sus sistemas en el futuro.
Las empresas de todo tipo deberían considerar este caso como una advertencia: si hubiera habido una verificación desde el principio, los sistemas habrían estado en un lugar mucho mejor para identificar a los malos actores y mantenerlos fuera.
Sin embargo, es importante recordar que la verificación no es una táctica única, sino más bien una colección de soluciones que deben usarse dinámicamente en conjunto para que sean efectivas. Los malos actores son astutos y actualizan continuamente sus métodos para eludir los sistemas. El uso de una solución de un solo punto para verificar a los usuarios, como a través de una identificación con foto, puede parecer suficiente, pero es relativamente fácil de superar para un estafador motivado.
A Persona, hemos detectado intentos de fraude cada vez más sofisticados que van desde el uso de fotos y datos de celebridades para crear cuentas hasta intrincados photoshopping de identificaciones e incluso el uso de deepfakes para imitar una selfie en vivo.
Es por eso que es fundamental que los sistemas de verificación tengan en cuenta múltiples señales al verificar a los usuarios, incluida la información del cliente recopilada activamente (como una identificación con foto), señales pasivas (su dirección IP o huella digital del navegador) y fuentes de datos de terceros (como teléfonos y listas de riesgos por correo electrónico). Al combinar varios puntos de datos, una identificación válida pero robada no pasará a través de las puertas porque señales como la ubicación o los patrones de comportamiento levantarán una bandera roja de que la identidad de este usuario es probablemente fraudulenta o al menos justifica una mayor investigación.
Este tipo de sistema de verificación holístico permitirá que las plataformas sociales y de contenido generado por el usuario no solo disuadan y marquen a los malos actores, sino que también evitarán que ingresen repetidamente a su plataforma con nuevos nombres de usuario y correos electrónicos, una táctica común de los trolls y los abusadores de cuentas que previamente han ha sido prohibido.
Más allá de los abusadores de cuentas individuales, un enfoque de múltiples señales puede ayudar a manejar un problema posiblemente mayor para las plataformas de redes sociales: campañas de desinformación coordinadas. Cualquier problema que involucre a grupos de malos actores es como luchar contra la Hidra de múltiples cabezas: cortas una cabeza solo para que dos más vuelvan a crecer en su lugar.
Sin embargo, matar a la bestia es posible cuando tiene un sistema de verificación integral que puede ayudar a sacar a la luz grupos de malos actores basados en propiedades compartidas (por ejemplo, ubicación). Si bien estos grupos continuarán buscando nuevas formas de ingresar, la verificación multifacética que se adapta al usuario final puede ayudar a evitar que corran desenfrenadamente.
Históricamente, los sistemas de verificación de identidad como Jumio o Trulioo fueron diseñados para industrias específicas, como los servicios financieros. Pero estamos comenzando a ver un aumento en la demanda de soluciones independientes de la industria como Persona para mantenerse al día con estos casos de uso nuevos y emergentes para la verificación. Casi todas las industrias que operan en línea pueden beneficiarse de la verificación, incluso aquellas como las redes sociales, donde no hay necesariamente una transacción financiera que proteger.
No se trata de si la verificación se convertirá en parte de la solución para desafíos como la moderación, sino más bien de cuándo. La tecnología y las herramientas existen hoy en día, y depende de las plataformas de redes sociales decidir que es hora de hacer de esto una prioridad.