El principal regulador de datos de Amazon en Europa, la Comisión Nacional de Protección de Datos de Luxemburgo, ha planteado preocupaciones de privacidad sobre el uso de revisiones humanas manuales de las grabaciones del asistente de voz de Alexa AI.
Un portavoz del regulador confirmó en un correo electrónico a TechCrunch que está discutiendo el asunto con Amazon y agregó: “En este momento, no podemos comentar más sobre este caso ya que estamos sujetos a la obligación de secreto profesional”. El desarrollo fue informado anteriormente por Reuters.
Nos comunicamos con Amazon para hacer comentarios.
La IA de voz de Alexa de Amazon, que está integrada en una amplia gama de hardware, desde la línea de parlantes inteligentes Echo de la propia marca de la compañía hasta una variedad de dispositivos de terceros (como este refrigerador hablador o esta extraña lámpara de mesa), escucha de manera generalizada en busca de un disparador. word que activa una función de grabación, lo que le permite transmitir datos de audio a la nube para su procesamiento y almacenamiento.
Sin embargo, se ha demostrado que las IA de voz activadas por palabras desencadenantes son propensas a la activación accidental. Es posible que un dispositivo se esté utilizando en un hogar con varias personas, por lo que siempre existe el riesgo de que estos dispositivos graben cualquier audio en su vecindad, no solo consultas de voz intencionales…
En pocas palabras, la incapacidad de la IA para distinguir entre interacciones intencionales y cosas que escuchan significa que son propensos a escuchar a escondidas de forma nativa, de ahí las principales preocupaciones de privacidad.
Estas preocupaciones han sido marcadas por las recientes revelaciones de que los gigantes tecnológicos, incluidos Amazon, Apple y Google, utilizan trabajadores humanos para revisar manualmente una proporción de fragmentos de audio capturados por sus IA de voz, generalmente con fines de calidad, como tratar de mejorar el rendimiento. de reconocimiento de voz en diferentes acentos o entornos. Pero eso significa que los humanos reales están escuchando lo que podrían ser datos personales altamente confidenciales.
A principios de esta semana, Amazon agregó silenciosamente una opción a la configuración de la aplicación de teléfono inteligente Alexa para permitir a los usuarios optar por no agregar sus fragmentos de audio a un grupo que puede ser revisado manualmente por personas que realizan trabajos de control de calidad para Amazon, sin haber informado previamente a Alexa. usuarios de su programa de revisión humana.
El cambio de política siguió a la creciente atención sobre la privacidad de los usuarios de IA de voz, especialmente en Europa.
El mes pasado, miles de grabaciones de usuarios del asistente de inteligencia artificial de Google se filtraron a los medios belgas, que pudieron identificar a algunas de las personas en los clips.
Posteriormente, un organismo de control de protección de datos en Alemania ordenó a Google que detuviera las revisiones manuales de fragmentos de audio.
Google respondió suspendiendo las revisiones humanas en toda Europa, mientras que su principal organismo de control de datos en Europa, el DPC irlandés, nos dijo que está “examinando” el problema.
Por separado, en los últimos días, Apple también suspendió las revisiones humanas de fragmentos de Siri, haciéndolo globalmente, en su caso, después de que un contratista planteó preocupaciones de privacidad en la prensa del Reino Unido sobre lo que los contratistas de Apple tienen al tanto al revisar el audio de Siri.
La agencia de protección de datos de Hamburgo, que intervino para detener las revisiones humanas de los fragmentos del Asistente de Google, instó a sus compañeros de vigilancia de la privacidad de la UE a priorizar los controles de otros proveedores de sistemas de asistencia lingüística, e “implementar las medidas apropiadas”, nombrando a ambos. Manzana y Amazonas.
En el caso de Amazon, el escrutinio de los organismos de control europeos parece estar aumentando rápidamente.
En el momento de escribir este artículo, es el único de los tres gigantes tecnológicos que no ha suspendido las revisiones humanas de fragmentos de IA de voz, ya sea a nivel regional o mundial.
En un comunicado proporcionado a la prensa en el momento en que cambió la configuración de Alexa para ofrecer a los usuarios la opción de no tener la posibilidad de que su audio sea revisado manualmente, Amazon dijo:
Nos tomamos muy en serio la privacidad del cliente y revisamos continuamente nuestras prácticas y procedimientos. Para Alexa, ya ofrecemos a los clientes la posibilidad de optar por que sus grabaciones de voz no se utilicen para ayudar a desarrollar nuevas funciones de Alexa. Las grabaciones de voz de los clientes que usan esta opción de exclusión también se excluyen de nuestros flujos de trabajo de aprendizaje supervisado que involucran la revisión manual de una muestra extremadamente pequeña de solicitudes de Alexa. También actualizaremos la información que brindamos a los clientes para que nuestras prácticas sean más claras.
Source link