En medio de preguntas sobre el uso de la biometría por parte de TikTok en la audiencia del Congreso de hoy, el CEO de TikTok, Shou Zi Chew, ofreció una idea de cómo la compañía examina a los usuarios potencialmente menores de edad en su plataforma. Después de negar que la aplicación recopila datos del cuerpo, la cara o la voz para identificar a sus usuarios, más allá de lo que se necesita para que funcionen sus filtros AR en la aplicación, se le preguntó al ejecutivo cómo TikTok determina la edad de sus usuarios.
Se esperaba la respuesta inicial de Chew: la aplicación utiliza el control de edad. Esto se refiere al método de uso común que simplemente le pide al usuario que proporcione su fecha de nacimiento para determinar su edad. En TikTok hay tres experiencias diferentes: para usuarios menores de 13 años, adolescentes más jóvenes y adultos mayores de 18 años: la experiencia que recibe el usuario se basa en esta entrada de edad.
Confiar solo en este método es un problema, por supuesto, porque los niños a menudo mienten sobre su edad cuando se registran en aplicaciones y sitios web de redes sociales.
Resulta que TikTok está haciendo más que mirar la edad que se ingresa en un cuadro de texto.
En la audiencia, Chew agregó que TikTok escanea los videos de los usuarios para determinar su edad.
“También hemos desarrollado algunas herramientas en las que observamos su perfil público, para revisar los videos que publican y ver si…”, comenzó Chew, antes de ser interrumpido por el representante Buddy Carter (R-GA), quien intervino: “ Eso es espeluznante. Cuéntame más sobre eso.”
Cuando Chew pudo continuar, explicó: “Es público. Entonces, si publica un video, elige que ese video se haga público; así es como logra que las personas vean su video. Los analizamos para ver si coinciden con la edad en la que usted habló”, dijo.
“Ahora, este es un verdadero desafío para nuestra industria porque la privacidad versus la garantía de edad es un problema realmente grande”, dijo Chew.
Una pregunta de seguimiento interesante a la respuesta del CEO habría sido preguntar cómo TikTok estaba escaneando estos videos, qué reconocimiento facial específico u otras tecnologías usa, y si esas tecnologías fueron construidas internamente o si dependía de la tecnología de reconocimiento facial. construido por terceros. Luego, por supuesto, si alguno de los datos que asocian la edad con el usuario se almacenó de forma permanente en lugar de usarse para simplemente sacar al usuario de una transmisión en VIVO de TikTok, por ejemplo.
Desafortunadamente para nosotros, Carter no siguió esta línea de preguntas.
En cambio, criticó al CEO por descartar la verificación de edad como un problema de toda la industria.
“¡Estamos hablando de niños muriendo!” exclamó, haciendo referencia a los peligrosos desafíos que aplicaciones como TikTok y otras han permitido viralizar, como el desafío del apagón. (Ese desafío resultó en que TikTok eliminó alrededor de medio millón de cuentas en Italia para bloquear a los usuarios menores de edad de su plataforma a pedido del regulador local).
La realidad es que la verificación de la edad es una preocupación de toda la industria y la falta de leyes estadounidenses sobre el uso de las redes sociales por parte de los niños deja a empresas como TikTok y otras a desarrollar sus propios procesos.
Por ejemplo, Instagram comenzó a verificar las edades de los usuarios el año pasado, ofreciéndoles una selección de tres opciones. Los usuarios pueden cargar una identificación, grabar un video selfie o pedirles a amigos en común que verifiquen su edad en su nombre. Este último es relativamente fácil de evitar si tienes buenos amigos dispuestos a mentir por ti.
A principios de este mes, Instagram lanzó sus herramientas de verificación de edad en Canadá y México, además del soporte existente en EE. UU., Brasil y Japón. La compañía había dicho anteriormente que se había asociado con una startup de identidad digital con sede en Londres. Yoti para la parte del video selfie del proceso de verificación de edad.
Instagram también ha explicado previamente a alto nivel cómo identifica qué usuarios sospecha que son menores de edad.
Más allá de investigar las cuentas marcadas, la empresa lo afirma tecnología de IA desarrollada que se utiliza para inferir la edad de alguien. Su modelo tiene una comprensión de cómo las personas en el mismo grupo de edad tienden a interactuar con el contenido. Otra de las formas en que puede identificar a un usuario menor de edad que miente sobre su edad es escaneando los comentarios en las publicaciones de “Feliz cumpleaños” donde se puede hacer referencia a la edad de un usuario. Además, Instagram dijo que podría intentar hacer coincidir la edad de un usuario en Facebook con la edad declarada en Instagram, junto con el uso de “muchas otras señales” que no revela.
La técnica de TikTok ha sido menos clara. La empresa documenta cómo verificar su edad si lo identificó incorrectamente — por ejemplo, si te expulsaron EN VIVO por parecer demasiado joven. (El otoño pasado, TikTok anunció que aumentaría el requisito de edad para usar su servicio de transmisión en vivo en la aplicación, TikTok LIVE, a 18, en lugar de 16).
El año pasado, Bloomberg informó que TikTok se reunió con dos proveedores de software de estimación de la edad facial en 2021. Ambas compañías ofrecieron un software que podía diferenciar entre niños y adultos, pero un ejecutivo de TikTok rechazó las ofertas por temor a que un escaneo facial como este generara temores de que China estaba espiando. sobre los niños usuarios, decía el informe.
Hoy, EE. UU. tenía al CEO de TikTok en el banquillo, listo para explicar las técnicas reales que TikTok usa para determinar la edad, y todo lo que obtuvimos fueron políticos gritando y fanfarroneando montando un espectáculo en lugar de obtener respuestas reales.
Source link