El Parlamento Europeo ha votado a favor de la prohibición total de la vigilancia biométrica masiva.
Las tecnologías de vigilancia remota impulsadas por IA, como el reconocimiento facial, tienen enormes implicaciones para los derechos y libertades fundamentales como la privacidad, pero ya se están utilizando en público en Europa.
Para respetar “la privacidad y la dignidad humana”, los eurodiputados dijeron que los legisladores de la UE deberían aprobar una prohibición permanente sobre el reconocimiento automático de personas en los espacios públicos, diciendo que los ciudadanos solo deberían ser monitoreados cuando se sospeche de un delito.
El parlamento también ha pedido la prohibición del uso de bases de datos privadas de reconocimiento facial, como el controvertido sistema de inteligencia artificial creado por la startup estadounidense Clearview (también ya en uso por algunas fuerzas policiales en Europa), y dijo que la vigilancia policial predictiva basada en datos de comportamiento debería también estar prohibido.
Los eurodiputados también quieren prohibir los sistemas de puntuación social que buscan calificar la confiabilidad de los ciudadanos en función de su comportamiento o personalidad.
En abril, el ejecutivo de la UE presentó un proyecto de ley para regular los usos de alto riesgo de la tecnología de inteligencia artificial, que incluía la prohibición de la puntuación social y la prohibición principal del uso de vigilancia biométrica remota en público.
Sin embargo, la sociedad civil, la Junta Europea de Protección de Datos y el Supervisor Europeo de Protección de Datos y varios eurodiputados advirtieron rápidamente que la propuesta de la Comisión no iba lo suficientemente lejos.
El parlamento en su conjunto ha dejado en claro que también quiere salvaguardias más estrictas para los derechos fundamentales.
En una resolución adoptada anoche – con el parlamento votando 377: 248 a favor de la comisión LIBE informe sobre inteligencia artificial en derecho penal – los parlamentarios enviaron una fuerte señal sobre lo que aceptarán en las próximas negociaciones entre las instituciones de la UE que precisarán los detalles de la Ley de Inteligencia Artificial.
El párrafo pertinente sobre vigilancia biométrica remota pide a la Comisión que:
… Implementar, a través de medios legislativos y no legislativos, y si es necesario mediante procedimientos de infracción, una prohibición de cualquier procesamiento de datos biométricos, incluidas imágenes faciales, con fines policiales que conduzca a una vigilancia masiva en espacios de acceso público; pide además a la Comisión que deje de financiar la investigación, el despliegue o los programas biométricos que puedan dar lugar a una vigilancia masiva indiscriminada en los espacios públicos
La resolución también apunta al sesgo algorítmico, pidiendo supervisión humana y fuertes poderes legales para prevenir la discriminación por parte de AI, especialmente en un contexto de aplicación de la ley y cruce de fronteras.
Los operadores humanos siempre deben tomar las decisiones finales, acordaron los eurodiputados, diciendo que los sujetos monitoreados por sistemas impulsados por IA deben tener acceso a la reparación.
Para garantizar que se respeten los derechos fundamentales cuando se utilizan sistemas de identificación basados en inteligencia artificial, que según los eurodiputados se ha demostrado que identifican erróneamente a grupos étnicos minoritarios, personas LGBTI, personas mayores y mujeres en tasas más altas, los algoritmos deben ser transparentes, rastreables y suficientemente documentados, también dijeron.
También pidieron a las autoridades públicas que utilicen software de código abierto para ser más transparentes, siempre que sea posible.
Los eurodiputados también apuntaron a un controvertido proyecto de investigación financiado por la UE, para crear un detector de mentiras “inteligente” basado en el análisis de expresiones faciales, diciendo que el proyecto iBorderCtrl debería interrumpirse.
Comentando en una declaración, relator Petar Vitanov (S&D, BG) dijo: “Los derechos fundamentales son incondicionales. Por primera vez, pedimos una moratoria sobre el despliegue de sistemas de reconocimiento facial con fines policiales, ya que la tecnología ha demostrado ser ineficaz y, a menudo, conduce a resultados discriminatorios. Nos oponemos claramente a la vigilancia policial predictiva basada en el uso de IA, así como a cualquier procesamiento de datos biométricos que conduzca a una vigilancia masiva. Esta es una gran victoria para todos los ciudadanos europeos ”.
Se ha contactado a la Comisión para que comente la votación.
La resolución del parlamento también pide la prohibición de que la inteligencia artificial ayude a las decisiones judiciales, otra área muy controvertida en la que ya se ha aplicado la automatización, con el riesgo de que la automatización cimente y amplíe los sesgos sistémicos en los sistemas de justicia penal.
Organización benéfica mundial de derechos humanos, Juicios justos, acogió con satisfacción la votación, calificándola de “resultado histórico para los derechos fundamentales y la no discriminación en la era tecnológica”.
Source link