Amazon agrega silenciosamente la opción "sin revisión humana" a Alexa, ya que las IA de voz se enfrentan al escrutinio de privacidad

Amazon agrega silenciosamente la opción "sin revisión humana" a Alexa, ya que las IA de voz se enfrentan al escrutinio de privacidad

by

in

Amazonas modificó la configuración de su AI de voz de Alexa para permitir a los usuarios optar por que sus grabaciones de voz no sean revisadas manualmente por los trabajadores humanos de la compañía.

El cambio de política entró en vigencia el viernes, según Bloomberg, que informa que los usuarios de Alexa ahora encontrarán una opción en el menú de configuración de la aplicación de teléfono inteligente Alexa para deshabilitar la revisión humana de sus clips.

Alexa T&C no informó previamente a los usuarios de la posibilidad de que las grabaciones de audio capturadas por el servicio pudieran ser revisadas manualmente por humanos reales. (Amazon tampoco parece proporcionar esta divulgación en su sitio web principal).

Pero la aplicación Alexa ahora incluye un descargo de responsabilidad en el menú de configuración que señala el hecho de que los oídos humanos pueden estar escuchando, según el informe.

Esta divulgación parece aparecer solo si los usuarios van a cavar en el menú de configuración.

Bloomberg dice que los usuarios deben tocar 'Configuración'> 'Privacidad de Alexa'> 'Administrar cómo sus datos mejoran Alexa' antes de ver el siguiente texto: “Con esta configuración activada, sus grabaciones de voz pueden usarse para desarrollar nuevas funciones y revisarse manualmente para ayudar Mejorar nuestros servicios. Solo una fracción extremadamente pequeña de las grabaciones de voz se revisa manualmente ".

El ajuste de la política se produce cuando los reguladores están llamando la atención sobre los riesgos de privacidad planteados por las tecnologías de AI de voz.

Esta semana se supo que un vigilante alemán de protección de datos le ordenó a Google que detuviera las revisiones manuales de fragmentos de audio generados por su AI de voz, después de que se filtraron miles de grabaciones a los medios belgas el mes pasado que pudieron identificar a algunas de las personas en el clips.

Google ha suspendido las revisiones en toda Europa mientras se conecta con los reguladores de privacidad de la UE.

En una declaración en su sitio web, el organismo de control de privacidad de Hamburgo expresó su preocupación por otros operadores de AI de voz, instando a los reguladores de la UE a que verifiquen a proveedores como Amazon y Apple, e "implementen las medidas apropiadas".

Casualmente (o no) Apple también suspendió las revisiones humanas de fragmentos de Siri esta semana, globalmente, en su caso, debido a preocupaciones de privacidad planteadas por un reciente informe de los medios de comunicación del Reino Unido. El periódico The Guardian citó a un denunciante que afirmaba que los contratistas escuchaban regularmente datos personales confidenciales capturados por Siri.

Si bien Google y Apple han suspendido por completo las revisiones humanas de fragmentos de audio (al menos temporalmente), Amazon no ha llegado tan lejos.

Tampoco excluye automáticamente a los usuarios. El cambio de política simplemente permite a los usuarios deshabilitar las revisiones, lo que requiere que los consumidores comprendan el riesgo y actúen para salvaguardar su privacidad.

La divulgación de Amazon de la existencia de revisiones humanas también está actualmente enterrada en la configuración, en lugar de transmitirse activamente a los usuarios.

No está claro si algo de esto se lavará con los reguladores en Europa.

Bloomberg informa que Amazon se negó a comentar si los reguladores se habían puesto en contacto con él sobre el programa de revisión de grabaciones de Alexa, diciendo solo: "Nos tomamos en serio la privacidad del cliente y revisamos continuamente nuestras prácticas y procedimientos. También actualizaremos la información que proporcionamos a los clientes para hacer que nuestras prácticas sean más claras ".

Nos pusimos en contacto con Amazon para hacer preguntas, pero al momento de escribir este documento no había un portavoz disponible.


Source link