Un grupo de Uber del Reino Unido Drivers lanzó un desafío legal contra la filial de la compañía en los Países Bajos. Las quejas se relacionan con el acceso a datos personales y la responsabilidad algorítmica.
Se invita a los conductores de Uber y a los correos de Uber Eats a unirse al desafío que se enfoca en el uso de algoritmos de creación de perfiles y de datos de Uber para administrar a los trabajadores en Europa. Los trabajadores de la plataforma involucrados en el caso también buscan ejercer un conjunto más amplio de derechos de acceso a datos integrados en la ley de protección de datos de la UE.
Parece una prueba fascinante de hasta qué punto las protecciones legales existentes envuelven las decisiones automatizadas en un momento en que los legisladores regionales están ocupados elaborando un marco basado en el riesgo para regular las aplicaciones de la inteligencia artificial.
Muchos usos de la IA La tecnología parece estar sujeta a las protecciones integradas en el Reglamento General de Protección de Datos (GDPR) existente. Por lo tanto, es importante determinar hasta qué punto las protecciones existentes se extienden en el contexto de las plataformas modernas basadas en datos.
La Comisión Europea también está trabajando en reiniciar las normas de responsabilidad para las plataformas, con una propuesta para una Ley de Servicios Digitales antes de fin de año. Como parte de ese trabajo, está consultando activamente sobre temas relacionados, como la portabilidad de datos y los derechos de los trabajadores de la plataforma, por lo que el caso parece muy oportuno.
A través de la demanda, presentada hoy en el tribunal de distrito de Ámsterdam, el grupo de conductores de Uber de Londres, Birmingham, Nottingham y Glasgow argumentará que el gigante tecnológico no cumple con el GDPR y le pedirá al tribunal que ordene el cumplimiento inmediato. será multado con 10.000 € por cada día que no cumpla.
También solicitarán al tribunal que ordene a Uber que cumpla con una solicitud que les permita portar los datos personales almacenados en la plataforma a una confianza de datos que desean establecer, administrada por un sindicato.
Por su parte, Uber UK dijo que trabaja duro para cumplir con las solicitudes de acceso a datos, alegando además que proporciona explicaciones cuando no puede proporcionar datos.
¿Derechos de datos para abrir una caja negra de IA?
El RGPD otorga a los ciudadanos de la UE derechos de acceso a los datos sobre la información personal que tienen en ellos, incluido el derecho a obtener una copia de los datos que han proporcionado para que puedan reutilizarse en otros lugares.
La regulación también proporciona algunos derechos de acceso adicionales para las personas que están sujetas a procesos de toma de decisiones totalmente automatizados donde existe un impacto legal o similar sustancial, lo que parece relevante aquí porque Los algoritmos de Uber determinan esencialmente el potencial de ingresos de un conductor o mensajero en función de cómo las plataformas asignan (o retienen) trabajos del grupo disponible.
Como escribimos hace dos años, el artículo 22 del GDPR ofrece una ruta potencial para verificar el poder de las cajas negras de IA para determinar la trayectoria de la humanidad, porque requiere que los controladores de datos proporcionen cierta información sobre la lógica del procesamiento a los afectados individuos. Aunque no está claro cuántos detalles tienen que dar, por lo tanto, la demanda parece preparada para probar los límites del artículo 22, así como para hacer referencia a una transparencia más general y a los derechos de acceso a los datos incorporados en la regulación.
James Farrar, un conductor de Uber que está apoyando la acción, y que también fue uno de los principales demandantes en una acción histórica del tribunal del Reino Unido sobre los derechos laborales de los conductores de Uber (que, en noticias relacionadas, llegará mañana a la Corte Suprema del Reino Unido, ya que Uber ha continuado apelando el fallo de 2016) – confirmó que el último desafío es “espectro completo” en lo que respecta a los derechos de GDPR.
Los conductores hicieron solicitudes de acceso de sujetos a Uber el año pasado, pidiéndole a la compañía datos detallados sobre cómo los maneja su perfil de algoritmos y su rendimiento. “Varios controladores han tenido acceso a poca o ninguna información a pesar de hacer una solicitud exhaustiva y proporcionar detalles claros sobre los datos solicitados”, escriben hoy en un comunicado de prensa.
Farrar confirmó que Uber le proporcionó algunos datos el año pasado, después de lo que llamó “solicitudes múltiples y continuas”, pero señaló varias brechas en la información, como que los datos de GPS solo se proporcionan durante un mes de dos años de trabajo; no hay información sobre la calificación de viaje que le asignaron los pasajeros; y ninguna información sobre su perfil ni las etiquetas que se le asignaron.
“Sé que Uber mantiene un perfil en mí, pero nunca lo han revelado”, dijo a TechCrunch, y agregó que lo mismo ocurre con las etiquetas de rendimiento.
“Bajo GDPR, Uber debe explicar la lógica del procesamiento, realmente nunca ha explicado los algoritmos de administración y cómo funcionan para los controladores. Uber nunca me ha explicado cómo procesan las etiquetas electrónicas de rendimiento adjuntas a mi perfil, por ejemplo.
“Muchos conductores han sido desactivados con falsos reclamos de ‘uso fraudulento’ detectados por los sistemas Uber. Esta es otra área de transparencia requerida por la ley pero que Uber no defiende ”.
El desafío legal está siendo apoyado por la App Drivers & Couriers Union (ADCU) que dice que argumentará que los conductores de Uber están sujetos a un monitoreo del rendimiento en el trabajo.
También dice que presentará evidencia de cómo Uber ha adjuntado etiquetas electrónicas relacionadas con el rendimiento a los perfiles de los conductores con categorías que incluyen: llegada tardía / ETA perdidas; Cancelado en jinete; Actitud; Comportamiento inapropiado.
“Esto va en contra de la insistencia de Uber en muchos desafíos legales de clasificación errónea de empleo en múltiples jurisdicciones en todo el mundo de que los conductores son autónomos y no están sujetos al control de la gestión”, señalan los conductores en su comunicado de prensa.
Comentando en una declaración, su abogado, Anton Ekker de Ekker Advocatuur, agregó: “Con Uber BV con sede en los Países Bajos como operador de la plataforma Uber, los tribunales holandeses ahora tienen un papel importante que desempeñar para garantizar el cumplimiento de Uber con el GDPR. Este es un caso histórico en la economía del trabajo en el que los trabajadores hacen valer sus derechos digitales con el fin de promover sus derechos laborales ”.
La acción legal está siendo apoyada por los trabajadores de la Alianza Internacional de Transporte Basado en Aplicaciones (IAATW) en lo que la ADCU llama una “colaboración internacional sin precedentes”.
Alcanzado para comentar sobre el desafío, Uber nos envió por correo electrónico la siguiente declaración:
Nuestro equipo de privacidad trabaja arduamente para proporcionar los datos personales solicitados a los que las personas tienen derecho. Le daremos explicaciones cuando no podamos proporcionar ciertos datos, como cuando no existe o si revela que infringiría los derechos de otra persona bajo GDPR. Según la ley, las personas tienen derecho a aumentar sus preocupaciones contactando al Oficial de Protección de Datos de Uber o su autoridad nacional de protección de datos para una revisión adicional.
La compañía también nos dijo que respondió a las solicitudes de acceso de sujetos de los conductores el año pasado, diciendo que no había recibido más correspondencia desde entonces.
Agregó que está esperando ver la esencia de los reclamos en la corte.
Los sindicatos que respaldan el caso están presionando para que Uber entregue los datos del conductor a un fideicomiso que desean administrar.
La organización sin fines de lucro de Farrar, Worker Info Exchange (WIE), quiere establecer una confianza de datos para los conductores a los fines de la negociación colectiva.
“Nuestro sindicato quiere establecer una confianza de datos, pero estamos bloqueados mientras Uber no divulgue de manera consistente y no obstruya el proceso. API sería lo mejor “, dijo al respecto, y agregó:” Pero el gran problema aquí es que el 99.99% de los controladores son engañados con poco o ningún acceso adecuado a los datos o la explicación del algoritmo “.
En una nota sobre WIE en el sitio web del abogado del conductor, el bufete de abogados dice que otros conductores de Uber pueden participar proporcionando su permiso para que las organizaciones sin fines de lucro presenten una solicitud de datos en su nombre, escribiendo:
Worker Info Exchange tiene como objetivo inclinar la balanza lejos de las grandes plataformas a favor de las personas que hacen que estas empresas tengan tanto éxito todos los días: los trabajadores.
Los conductores de Uber pueden participar dando a Worker Info Exchange su mandato de enviar una solicitud GDPR en su nombre.
Los conductores también han lanzado una campaña de Crowdjustice para ayudar a recaudar £ 30,000 para financiar el caso.
Al discutir el desafío legal y sus implicaciones para Uber, la profesora de derecho de la Universidad de Newcastle, Lilian Edwards, sugirió que el gigante de la tecnología tendrá que demostrar que tiene “salvaguardas adecuadas” en torno a su algoritmo, asumiendo que el desafío se centra en el Artículo 22.
“El artículo 22 normalmente le otorga el derecho de exigir que una decisión tomada de una manera exclusivamente automatizada, como el algoritmo Uber, no sea tomada o hecha por un humano. Sin embargo, en este caso, Uber podría afirmar, con cierto éxito, que el algoritmo era necesario para el contexto de Uber con el controlador ”, nos dijo.
“Sin embargo, eso no despeja su camino. Todavía tienen que proporcionar “salvaguardas adecuadas”, la mayor de las cuales es el muy discutido derecho a una explicación de cómo funciona el algoritmo. Pero nadie sabe cómo podría funcionar eso.
¿Sería suficiente una declaración general de cómo funciona el algoritmo? En cambio, lo que un trabajador querría es saber específicamente cómo tomó decisiones basadas en su datos, y tal vez cómo lo discriminaban o lo desfavorecían. Uber puede argumentar que es simplemente imposible para ellos hacerlo. También podrían decir que revela demasiado sobre sus secretos comerciales internos. Pero todavía es fantástico tener finalmente un caso posterior al GDPR que explore estos problemas “.
En su guía sobre los requisitos del Artículo 22 en su sitio web, el organismo de control de datos del Reino Unido, el ICO, especifica que los controladores de datos “deben proporcionar información significativa sobre la lógica involucrada en el proceso de toma de decisiones, así como la importancia y las consecuencias previstas para el individual”.
También señala que el Artículo 22 requiere que las personas que están sujetas a decisiones automatizadas deben poder obtener una revisión humana del resultado si lo solicitan. La ley también les permite desafiar decisiones algorítmicas. Si bien los controladores de datos que utilizan la automatización de esta manera deben tomar medidas para evitar sesgos y discriminación.