TikTok abrirá un centro en Europa donde se mostrará información a expertos externos sobre cómo aborda la moderación y recomendación de contenido, así como la seguridad de la plataforma y la privacidad del usuario, anunció hoy.
El Centro Europeo de Transparencia y Rendición de Cuentas (TAC) sigue a la apertura de un centro en EE. UU. El año pasado, y de manera similar se factura como parte de su “compromiso con la transparencia”.
Poco después de anunciar su TAC de EE. UU., TikTok también creó un consejo asesor de contenido en el mercado, y continuó replicando la estructura del organismo asesor en Europa en marzo, con una combinación diferente de expertos.
Ahora está replicando completamente el enfoque de EE. UU. Con un TAC europeo específico.
Hasta la fecha, TikTok dijo que más de 70 expertos y legisladores han participado en una gira virtual por Estados Unidos, donde han podido conocer detalles operativos y plantear preguntas sobre sus prácticas de seguridad y protección.
El sitio de redes sociales de videos de formato corto se ha enfrentado a un escrutinio creciente sobre sus políticas de contenido y estructura de propiedad en los últimos años, a medida que su popularidad ha aumentado.
Las preocupaciones en los EE. UU. Se han centrado en gran medida en el riesgo de censura y la seguridad de los datos de los usuarios, dado que la plataforma es propiedad de un gigante tecnológico chino y está sujeta a las leyes de datos de Internet definidas por el Partido Comunista Chino.
Mientras que, en Europa, los legisladores, los reguladores y la sociedad civil han planteado una combinación más amplia de preocupaciones, incluso en torno a cuestiones de seguridad infantil y privacidad de los datos.
En un desarrollo notable a principios de este año, el regulador italiano de protección de datos realizó una intervención de emergencia después de la muerte de una niña local que, según los informes, había estado participando en un desafío de contenido en la plataforma. Como resultado, TikTok acordó volver a verificar la edad de todos los usuarios en su plataforma en Italia.
TikTok dijo que el TAC europeo comenzará a operar virtualmente, debido a la pandemia de COVID-19 en curso. Pero el plan es abrir un centro físico en Irlanda, donde tiene su sede regional, en 2022.
Los legisladores de la UE han propuesto recientemente una serie de actualizaciones de la legislación digital que parecen estar preparadas para hacer hincapié en la responsabilidad de los sistemas de inteligencia artificial, incluidos los motores de recomendación de contenido.
Un proyecto de reglamento de IA presentado por la Comisión la semana pasada también propone una prohibición absoluta de los usos subliminales de la tecnología de IA para manipular el comportamiento de las personas de una manera que podría ser perjudicial para ellos o para otros. Por lo tanto, los motores de recomendación de contenido que, por ejemplo, empujan a los usuarios a autolesionarse promoviendo sugestivamente contenido pro-suicidio o desafíos riesgosos pueden caer bajo la prohibición. (El proyecto de ley sugiere multas de hasta el 6% de la facturación anual global por infringir las prohibiciones).
Ciertamente es interesante notar que TikTok también especifica que su TAC europeo ofrecerá información detallada sobre su tecnología de recomendación.
“El Centro brindará una oportunidad para que los expertos, académicos y legisladores vean de primera mano el trabajo que realizan los equipos de TikTok para hacer de la plataforma una experiencia positiva y segura para la comunidad de TikTok”, escribe la compañía en un comunicado de prensa, agregando que los expertos visitantes también obtendrá información sobre cómo utiliza la tecnología “para mantener segura la comunidad de TikTok”; cómo los equipos de revisión de contenido capacitados toman decisiones sobre el contenido según sus Lineamientos de la comunidad; y “la forma en que los revisores humanos complementan los esfuerzos de moderación utilizando la tecnología para ayudar a detectar posibles violaciones de nuestras políticas”.
Otro componente del proyecto de reglamento sobre IA de la UE establece un requisito para la supervisión humana de las aplicaciones de inteligencia artificial de alto riesgo. Aunque no está claro si una plataforma de redes sociales estaría sujeta a esa obligación específica, dado el conjunto actual de categorías en el borrador del reglamento.
Sin embargo, la regulación de la IA es solo una parte de la elaboración de reglas centrada en la plataforma de la Comisión.
A fines del año pasado, también propuso actualizaciones más amplias de las reglas para los servicios digitales, bajo DSA y DMA, que impondrán obligaciones de diligencia debida a las plataformas, y también requerirán plataformas más grandes para explicar cualquier clasificación algorítmica y jerarquías que generen. Y es muy probable que TikTok cumpla con ese requisito.
El Reino Unido, que ahora está fuera del bloque, después del Brexit, también está trabajando en su propia regulación de seguridad en línea, que se presentará este año. Por lo tanto, en los próximos años, habrá múltiples regímenes regulatorios centrados en el contenido para que plataformas como TikTok cumplan en Europa. Y la apertura de algoritmos a expertos externos puede ser un requisito legal estricto, no relaciones públicas blandas.
Al comentar sobre el lanzamiento de su TAC europeo en un comunicado, Cormac Keenan, jefe de confianza y seguridad de TikTok, dijo: “Con más de 100 millones de usuarios en toda Europa, reconocemos nuestra responsabilidad de ganarnos la confianza de nuestra comunidad y del público en general. Nuestro Centro de transparencia y responsabilidad es el siguiente paso en nuestro viaje para ayudar a las personas a comprender mejor los equipos, los procesos y la tecnología que tenemos para ayudar a que TikTok sea un lugar para la alegría, la creatividad y la diversión. Sabemos que hay mucho más por hacer y estamos entusiasmados por abordar de manera proactiva los desafíos que tenemos por delante. Espero dar la bienvenida a expertos de toda Europa y escuchar sus comentarios sinceros sobre las formas en que podemos mejorar aún más nuestros sistemas “.
Source link