Las instituciones de la UE han hecho más llamamientos para prohibir la vigilancia biométrica en público.
en un opinión conjunta publicado hoy, el Consejo Europeo de Protección de Datos (EDPB) y el Supervisor Europeo de Protección de Datos (SEPD) Wojciech Wiewiórowski han pedido que el proyecto de reglamentos de la UE sobre el uso de tecnologías de inteligencia artificial vaya más allá de la propuesta de la comisión en abril, instando a que la legislación planificada debe reforzarse para incluir una “prohibición general de cualquier uso de la IA para el reconocimiento automático de características humanas en espacios de acceso público, como el reconocimiento de rostros, la forma de andar, las huellas dactilares, el ADN, la voz, las pulsaciones de teclas y otras señales biométricas o de comportamiento, en cualquier contexto”.
Estas tecnologías son simplemente demasiado dañinas para los derechos y libertades fundamentales de los ciudadanos de la UE, como la privacidad y la igualdad de trato ante la ley, como para permitir su uso, es el argumento.
El EDPB es responsable de garantizar una aplicación armonizada de las normas de privacidad de la UE, mientras que el SEPD supervisa el cumplimiento de las propias instituciones de la UE con la ley de protección de datos y también proporciona orientación legislativa a la comisión.
El borrador de la propuesta de los legisladores de la UE sobre la regulación de las aplicaciones de la IA contenía restricciones sobre el uso de la vigilancia biométrica en lugares públicos por parte de las fuerzas del orden, pero con exenciones muy amplias, que rápidamente atrajeron importantes críticas de los grupos de derechos digitales y de la sociedad civil, así como de varios Eurodiputados.
El propio SEPD también instó rápidamente a repensarlo. Ahora ha ido más lejos, con la EDPB uniéndose a las críticas.
El EDPB y el SEPD han expresado conjuntamente una serie de preocupaciones con la propuesta de IA de la UE, al tiempo que acogen con satisfacción el “enfoque basado en el riesgo” general adoptado por los legisladores de la UE, diciendo, por ejemplo, que los legisladores deben tener cuidado de garantizar la alineación con el bloque. marco de protección de datos existente para evitar riesgos de derechos.
“El EDPB y el SEPD acogen con gran satisfacción el objetivo de abordar el uso de sistemas de inteligencia artificial en la Unión Europea, incluido el uso de sistemas de inteligencia artificial por parte de instituciones, organismos o agencias de la UE. Al mismo tiempo, el EDPB y el SEPD están preocupados por la exclusión de la cooperación policial internacional del ámbito de la propuesta ”, escriben.
“El EDPB y el SEPD también hacen hincapié en la necesidad de aclarar explícitamente que la legislación de protección de datos de la UE existente (GDPR, EUDPR y LED) se aplica a cualquier procesamiento de datos personales que caiga dentro del alcance del proyecto de Reglamento de IA”.
Además de pedir que se prohíba el uso de la vigilancia biométrica en público, la pareja ha instado a una prohibición total de los sistemas de inteligencia artificial que utilizan datos biométricos para clasificar a las personas en “grupos basados en la etnia, el género, la orientación política o sexual, u otros motivos por los cuales la discriminación está prohibida por el artículo 21 de la Carta de los Derechos Fundamentales ”.
Esa es una preocupación interesante a la luz del impulso de Google, en el ámbito de la tecnología publicitaria, para reemplazar el micromarketing conductual de las personas con anuncios que se dirigen a cohortes (o grupos) de usuarios, según sus intereses, con tales grupos de usuarios web configurados para ser definidos por Google. Algoritmos de IA.
(Es interesante especular, por lo tanto, si los FLoC corren el riesgo de crear un riesgo de discriminación legal, según la forma en que los usuarios móviles individuales se agrupan para fines de orientación de anuncios. Ciertamente, preocupaciones se han planteado sobre el potencial de los FLoC para escalar el sesgo y la publicidad depredadora. Y también es interesante que Google evitó ejecutar las primeras pruebas en Europa, probablemente adhiriendo al régimen de protección de datos de la UE).
En otra recomendación de hoy, el EDPB y el SEPD también expresan la opinión de que el uso de IA para inferir emociones de una persona física es “altamente indeseable y debería prohibirse”, excepto en lo que describen como “casos muy específicos, como algunos fines de salud, donde el reconocimiento de las emociones del paciente es importante ”.
“El uso de la inteligencia artificial para cualquier tipo de puntuación social debería estar prohibido”, prosiguen, y se refieren a un caso de uso que el borrador de la propuesta de la comisión sugiere que debería prohibirse por completo, y los legisladores de la UE evidentemente están dispuestos a evitar cualquier tipo social al estilo chino. sistema crediticio que se afianza en la región.
Sin embargo, al no incluir una prohibición de la vigilancia biométrica en público en el reglamento propuesto, la comisión posiblemente se arriesga a que un sistema de este tipo se desarrolle a escondidas, es decir, al no prohibir a los actores privados el despliegue de tecnología que podría usarse para rastrear y perfilar a las personas. comportamiento de forma remota y en masa.
Al comentar en un comunicado, la presidenta de la EDPB, Andrea Jelinek, y Wiewiórowski lo discuten, escribiendo [emphasis ours]:
La implementación de identificación biométrica remota en espacios de acceso público significa el fin del anonimato en esos lugares. Aplicaciones como el reconocimiento facial en vivo interfieren con los derechos y libertades fundamentales hasta tal punto que pueden cuestionar la esencia de estos derechos y libertades. Esto requiere una aplicación inmediata del enfoque de precaución. Una prohibición general del uso del reconocimiento facial en áreas de acceso público es el punto de partida necesario si queremos preservar nuestras libertades y crear un marco legal centrado en el ser humano para la IA. El reglamento propuesto también debería prohibir cualquier tipo de uso de la IA para la puntuación social, ya que va en contra de los valores fundamentales de la UE y puede dar lugar a discriminación.
En su opinión conjunta, también expresan su preocupación por la estructura de ejecución propuesta por la comisión para el reglamento de IA, argumentando que las autoridades de protección de datos (dentro de los Estados miembros) deben ser designadas como autoridades nacionales de supervisión (“de conformidad con el artículo 59 de la [AI] Propuesta ”) – señalando que las APD de la UE ya están aplicando el GDPR (Reglamento general de protección de datos) y la Directiva de aplicación de la ley (LED) en los sistemas de inteligencia artificial que involucran datos personales; y argumentando que, por lo tanto, sería “un enfoque reglamentario más armonizado y contribuiría a la interpretación coherente de las disposiciones sobre procesamiento de datos en toda la UE” si también se les diera competencia para supervisar el Reglamento de IA.
Tampoco están contentos con el plan de la comisión de otorgarse un papel predominante en la Junta Europea de Inteligencia Artificial (EAIB) planificada, argumentando que esto “entraría en conflicto con la necesidad de un organismo europeo de IA independiente de cualquier influencia política”. Para garantizar la independencia de la junta, la propuesta debe darle más autonomía y “asegurar que pueda actuar por iniciativa propia”, añaden.
Se ha contactado a la comisión para hacer comentarios.
Actualizar: Un portavoz de la comisión señaló que el RGPD, en principio, ya prohíbe el uso de sistemas biométricos remotos con fines de identificación, a menos que se apliquen excepciones limitadas. (Por ejemplo, teniendo lugar por razones de interés público sustancial).
El funcionario también señaló que para ser legal cualquier uso excepcional de este tipo debe basarse en la legislación nacional o de la UE; estar debidamente justificados, proporcionados y sujetos a las salvaguardias adecuadas; y también tendría que cumplir con la Carta de los Derechos Fundamentales de la UE.
“Con el nuevo reglamento queremos crear reglas complementarias al acervo de protección de datos, pero no prohibir algo que a priori ya está prohibido (con algunas estrechas excepciones)”, nos dijo el portavoz.
“Para fines de aplicación de la ley, proponemos prohibir el uso de sistemas de identificación biométrica remota en tiempo real en espacios de acceso público que no son estrictamente necesarios para proteger los propósitos de aplicación de la ley enumerados exhaustivamente (con respecto a víctimas de delitos como niños desaparecidos; amenazas específicas e inminentes a la vida y la seguridad humana, como un ataque terrorista inminente, o la investigación / detección de una lista limitada de delitos graves).
“Esto conduce a un enfoque global integral de la UE que proporciona suficiente protección y limita el uso de esos sistemas al mínimo estricto necesario y proporcionado para la protección de los intereses públicos primordiales”.
“El RGPD enumera varios motivos que podrían justificar este tipo de procesamiento de ‘categorías especiales’ de datos personales, incluidos los datos biométricos”, agregaron. “El único motivo fundamentalmente relevante aquí es ‘interés público sustancial sobre la base de la legislación nacional o de la UE’. La ley debe ser proporcionada al objetivo perseguido, respetar la esencia del derecho a la protección de datos y prever las garantías adecuadas.
“La Directiva sobre el cumplimiento de la ley también enumera varios motivos, el más relevante como una ‘autorización de la UE o de la legislación nacional’. En virtud de la Directiva sobre aplicación de la ley, los ‘datos sensibles’ solo pueden procesarse cuando sea estrictamente necesario y sujetos a las garantías adecuadas para los derechos y libertades de los interesados ”.
El funcionario de la Comisión también señaló “una serie de aplicaciones beneficiosas fuera del campo de aplicación de la ley”, donde sugirió que la vigilancia biométrica podría proporcionar un bien público, como ayudar a las personas con discapacidad visual, y dijo que esa era la razón por la que había optado por “un enfoque más diferenciado ”, y se decidió en contra de una prohibición total.
Como subrayan con razón, algunos usos de los sistemas de inteligencia artificial son en sí mismos incompatibles con los derechos fundamentales, incluido el uso de # biométrico #reconocimiento sistemas en espacios públicos o de acceso público. 2/3
– AlgorithmWatch (@algorithmwatch) 21 de junio de 2021
El Reglamento de IA es una de las propuestas digitales presentadas por los legisladores de la UE en los últimos meses. Las negociaciones entre las diferentes instituciones de la UE y el cabildeo de la industria y la sociedad civil continúan mientras el bloque trabaja para adoptar nuevas reglas digitales.
En otro desarrollo reciente y relacionado, el comisionado de información del Reino Unido advirtió la semana pasada sobre la amenaza que representan los sistemas de vigilancia de big data que pueden hacer uso de tecnologías como el reconocimiento facial en vivo, aunque afirmó que no le corresponde respaldar o prohibir una tecnología.
Pero su opinión deja en claro que muchas aplicaciones de vigilancia biométrica pueden ser incompatibles con el marco de protección de datos y privacidad del Reino Unido.