Un organismo de control de la privacidad alemán ordenó a Google que suspenda las revisiones manuales de fragmentos de audio generados por su IA de voz.
Esto sigue a una fuga el mes pasado de decenas de fragmentos de audio del servicio Asistente de Google. Un contratista que trabajaba como revisor en holandés entregó más de 1000 grabaciones al sitio de noticias belga VRT que luego pudo identificar a algunas de las personas en los clips. Informó que podía escuchar las direcciones de las personas, la discusión de las condiciones médicas y las grabaciones de una mujer en apuros.
La autoridad de protección de datos de Hamburgo le dijo a Google su intención de utilizar los poderes del Artículo 66 del Reglamento General de Protección de Datos (GDPR) para comenzar un “procedimiento de urgencia” en virtud del Artículo 66 de GDPR el mes pasado.
El artículo 66 permite que una autoridad de protección de datos ordene la interrupción del procesamiento de datos si cree que existe “una necesidad urgente de actuar para proteger los derechos y libertades de los interesados”.
Este parece ser el primer uso del poder desde que GDPR entró en vigor en todo el bloque en mayo del año pasado.
Google dice que respondió a la DPA el 26 de julio para decir que ya había cesado la práctica: tomó la decisión de suspender manualmente las revisiones de audio del Asistente de Google en toda Europa y lo hizo el 10 de julio, después de enterarse de la fuga de datos.
El mes pasado también informó a su principal regulador de privacidad en Europa, la Comisión Irlandesa de Protección de Datos (DPC), de la violación, que también nos dijo que ahora está “examinando” el problema que ha sido destacado por la orden de Hamburgo.
El jefe de comunicaciones del DPC irlandés, Graham Doyle, dijo que Google Irlanda presentó una notificación de incumplimiento del Artículo 33 para los datos del Asistente de Google “hace un par de semanas”, y agregó: “Observamos que a partir del 10 de julio, Google Irlanda cesó el procesamiento en cuestión y que se han comprometido a la suspensión continuada de la tramitación durante un plazo mínimo de tres meses a partir de hoy (1 de agosto). Mientras tanto, actualmente estamos examinando el asunto”.
No está claro si Google podrá restablecer las revisiones manuales en Europa de una manera que cumpla con las reglas de privacidad del bloque. La DPA de Hamburgo escribe en un declaración [in German] en su sitio web que tiene “dudas significativas” sobre si Google Assistant cumple con la ley de protección de datos de la UE.
“Estamos en contacto con la autoridad de protección de datos de Hamburgo y estamos evaluando cómo realizamos revisiones de audio y ayudamos a nuestros usuarios a comprender cómo se utilizan los datos”, también nos dijo el portavoz de Google.
en un entrada en el blog publicado el mes pasado después de la filtración, el gerente de producto de búsqueda de Google, David Monsees, afirmó que las revisiones manuales de las consultas del Asistente de Google son “una parte fundamental del proceso de creación de tecnología de voz”, presentándolas como “necesarias” para crear dichos productos.
“Estas revisiones ayudan a que los sistemas de reconocimiento de voz incluyan mejor los diferentes acentos y dialectos en todos los idiomas. No asociamos clips de audio con cuentas de usuario durante el proceso de revisión, y solo realizamos revisiones para alrededor del 0,2% de todos los clips”, agregó el portavoz de Google ahora.
Pero no está nada claro si la revisión humana de las grabaciones de audio capturadas por cualquiera de los innumerables productos y servicios de IA de voz siempre activos que ahora están en el mercado podrá ser compatible con los derechos fundamentales de privacidad de Europa.
Estas IA suelen tener palabras de activación para activar la función de grabación que transmite datos de audio a la nube. Pero la tecnología puede activarse accidentalmente con facilidad, y las filtraciones han demostrado que pueden recopilar datos personales confidenciales e íntimos no solo de su propietario, sino de cualquier persona cercana (lo que, por supuesto, incluye a las personas que nunca se acercaron a olfatear ningún T&C). .
En su sitio web El DPA de Hamburgo dice que los procedimientos previstos contra Google están destinados a proteger los derechos de privacidad de los usuarios afectados en el plazo inmediato, y señala que GDPR permite que las autoridades competentes en los Estados miembros de la UE emitan órdenes de hasta tres meses.
En una declaración, Johannes Caspar, el comisionado de Hamburgo para la protección de datos, agregó: “El uso de sistemas de asistencia lingüística en la UE debe cumplir con los requisitos de protección de datos del RGPD. En el caso del Asistente de Google, actualmente existen importantes dudas. El uso de los sistemas de asistencia lingüística debe hacerse de forma transparente, de modo que sea posible un consentimiento informado de los usuarios. En particular, esto implica proporcionar información suficiente e informar de manera transparente a los interesados sobre el procesamiento de los comandos de voz, pero también sobre la frecuencia y los riesgos de mala activación. Finalmente, debe prestarse la debida atención a la necesidad de proteger a los terceros afectados por las grabaciones. En primer lugar, deben aclararse otras cuestiones sobre el funcionamiento del sistema de análisis del habla. Las autoridades de protección de datos tendrán entonces que decidir sobre las medidas definitivas que son necesarias para una operación compatible con la privacidad. ”
La DPA también insta a otros organismos regionales de control de la privacidad a que prioricen las verificaciones de otros proveedores de sistemas de asistencia lingüística, e “implementen las medidas apropiadas”, verificando los nombres de los proveedores rivales de IA de voz, Apple y Amazon.
Esto sugiere que podría haber ramificaciones más amplias para otros gigantes tecnológicos que operan IA de voz en Europa derivadas de esta única notificación de una orden del Artículo 66.
El verdadero impacto de la aplicación del RGPD no son las multas que acaparan los titulares, que pueden escalar hasta el 4 % de la facturación anual global de una empresa; es el poder que las DPA de Europa ahora tienen en su caja de herramientas regulatorias para ordenar que los datos dejen de fluir.
“Esto es solo el comienzo”, nos dijo un experto en legislación europea de protección de datos, hablando bajo condición de anonimato. “El cofre del Artículo 66 está abierto y tiene mucho que ofrecer”.
En una señal de la escala potencial de los problemas de privacidad que se avecinan para las IA de voz, Apple también dijo hoy que suspenderá un “programa de control de calidad” de revisión humana similar para su asistente de voz Siri.
El movimiento, que no parece estar vinculado a ninguna orden regulatoria, sigue a un Guardián informe la semana pasada que detalla las afirmaciones de un denunciante de que los contratistas que trabajan para Apple “escuchan regularmente detalles confidenciales” en las grabaciones de Siri, como el audio de personas que tienen relaciones sexuales y detalles financieros identificables, independientemente de los procesos que Apple utiliza para anonimizar los registros.
La suspensión de Apple de revisiones manuales de fragmentos de Siri se aplica en todo el mundo.
Source link