Un grupo multipartidista de 40 eurodiputados en el Parlamento Europeo ha pedido a la Comisión que refuerce una propuesta legislativa entrante sobre inteligencia artificial para incluir una prohibición absoluta del uso del reconocimiento facial y otras formas de vigilancia biométrica en lugares públicos.
También han instado a los legisladores de la UE a prohibir el reconocimiento automatizado de las características sensibles de las personas (como el género, la sexualidad, la raza / etnia, el estado de salud y la discapacidad), advirtiendo que tales prácticas impulsadas por la inteligencia artificial representan un riesgo demasiado grande para los derechos y pueden alimentar la discriminación.
Se espera que la Comisión presente su propuesta de un marco para regular las aplicaciones de IA de ‘alto riesgo’ la próxima semana, pero una copia del borrador se filtró esta semana (a través de Politico). Y, como informamos anteriormente, este borrador filtrado no incluye la prohibición del uso de reconocimiento facial o tecnologías de identificación remota biométrica similares en lugares públicos, a pesar de reconocer la fuerza de la preocupación pública sobre el tema.
“La tecnología de vigilancia masiva biométrica en espacios de acceso público está siendo ampliamente criticada por informar erróneamente a un gran número de ciudadanos inocentes, discriminar sistemáticamente a grupos subrepresentados y tener un efecto paralizador en una sociedad libre y diversa. Por eso es necesaria una prohibición ”, escriben ahora los eurodiputados en un carta a la Comisión que también han hecho públicos.
Continúan advirtiendo sobre los riesgos de discriminación a través de la inferencia automatizada de las características sensibles de las personas, como en aplicaciones como la vigilancia policial predictiva o el monitoreo y seguimiento indiscriminado de poblaciones a través de sus características biométricas.
“Esto puede provocar daños, incluida la violación de los derechos a la privacidad y la protección de datos; suprimir la libertad de expresión; dificultando la denuncia de la corrupción; y tener un efecto paralizador en la autonomía, dignidad y autoexpresión de todos, lo que en particular puede dañar gravemente a las comunidades LGBTQI +, las personas de color y otros grupos discriminados ”, escriben los eurodiputados, pidiendo a la Comisión que modifique la propuesta de AI para prohibir la práctica para proteger los derechos de los ciudadanos de la UE y los derechos de las comunidades que se enfrentaban a un mayor riesgo de discriminación (y, por lo tanto, a un mayor riesgo de las herramientas discriminatorias sobrealimentadas con IA).
“La propuesta de AI ofrece una buena oportunidad para prohibir el reconocimiento automático de género, sexualidad, raza / etnia, discapacidad y cualquier otra característica sensible y protegida”, añaden.
El borrador filtrado de la propuesta de la Comisión aborda la vigilancia masiva indiscriminada, proponiendo prohibir esta práctica, así como prohibir los sistemas de calificación crediticia social de propósito general.
Sin embargo, los eurodiputados quieren que los legisladores vayan más allá, advirtiendo sobre las debilidades en la redacción del borrador filtrado y sugiriendo cambios para garantizar que la prohibición propuesta cubra “toda la vigilancia masiva indiscriminada y sin objetivos, sin importar cuántas personas estén expuestas al sistema”.
También expresan alarma por la propuesta de exención de la prohibición de vigilancia masiva para las autoridades públicas (o entidades comerciales que trabajan para ellas), advirtiendo que esto corre el riesgo de desviarse de la legislación de la UE existente y de las interpretaciones del máximo tribunal del bloque en este ámbito.
“Protestamos enérgicamente contra el segundo párrafo propuesto de este artículo 4 que eximiría a las autoridades públicas e incluso a los actores privados que actúan en su nombre ‘para salvaguardar la seguridad pública’”, escriben. “La seguridad pública es precisamente con lo que se justifica la vigilancia masiva, es donde es prácticamente relevante y es donde los tribunales han anulado sistemáticamente la legislación sobre el procesamiento masivo indiscriminado de datos personales (por ejemplo, la Directiva de retención de datos). Esta excepción debe eliminarse “.
“Este segundo párrafo podría incluso interpretarse como una desviación de otra legislación secundaria que el Tribunal de Justicia ha interpretado hasta ahora que prohíbe la vigilancia masiva”, continúan. “El reglamento de IA propuesto debe dejar muy claro que sus requisitos se aplican además de los resultantes del acervo de protección de datos y no lo reemplazan. No hay tanta claridad en el borrador filtrado “.
Se ha contactado a la Comisión para comentar sobre las llamadas de los eurodiputados, pero es poco probable que lo haga antes de la revelación oficial del borrador del reglamento de IA, que se espera para mediados de la próxima semana.
Queda por ver si la propuesta de AI sufrirá modificaciones importantes de aquí a entonces. Pero los eurodiputados han lanzado una rápida advertencia de que los derechos fundamentales deben ser y serán una característica clave del debate colegislativo, y que las afirmaciones de los legisladores de un marco para garantizar una inteligencia artificial “ confiable ” no parecerán creíbles si las reglas no lo hacen. abordar las tecnologías poco éticas de frente.
Source link