En respuesta a las preocupaciones planteadas por un guardián historia la semana pasada sobre cómo se utilizan las grabaciones de las consultas de Siri para el control de calidad, Apple está suspendiendo el programa en todo el mundo. Apple dice que revisará el proceso que utiliza, llamado calificación, para determinar si Siri escucha las consultas correctamente o si se invoca por error.
Además, en el futuro lanzará una actualización de software que permitirá a los usuarios de Siri elegir si participan o no en el proceso de calificación.
La historia de The Guardian de Alex Hern cita extensamente a un contratista de una empresa contratada por Apple para realizar parte de un proceso de control de calidad de Siri que llama clasificación. Esto toma fragmentos de audio, que no están conectados a nombres o identificaciones de personas, y hace que los contratistas los escuchen para juzgar si Siri los está escuchando con precisión, y si Siri puede haber sido invocado por error.
“Estamos comprometidos a brindar una excelente experiencia Siri mientras protegemos la privacidad del usuario”, dijo Apple en un comunicado a TechCrunch. “Mientras llevamos a cabo una revisión exhaustiva, estamos suspendiendo la calificación de Siri a nivel mundial. Además, como parte de una futura actualización de software, los usuarios podrán optar por participar en la calificación”.
El contratista afirmó que los fragmentos de audio podrían contener información personal, audio de personas que tienen relaciones sexuales y otros detalles como finanzas que podrían ser identificables, independientemente del proceso que use Apple para anonimizar los registros.
También cuestionaron qué tan claro estaba para los usuarios que sus fragmentos de audio sin procesar pueden enviarse a contratistas para evaluar y ayudar a que Siri funcione mejor. Cuando salió a la luz esta historia, yo mismo me sumergí en los términos de servicio de Apple y, aunque hay menciones de control de calidad para Siri y datos compartidos, descubrí que no llegaba a dejar en claro explícita y claramente que las grabaciones en vivo, incluso las cortas , se utilizan en el proceso y pueden ser transmitidos y escuchados.
Las cifras que ha citado Apple sitúan la cantidad de consultas que se pueden seleccionar para calificar por debajo del 1% de las solicitudes diarias.
El proceso de tomar un fragmento de audio de unos segundos de duración y enviarlo al personal interno o a los contratistas para que lo evalúen es, en esencia, el estándar de la industria. Las grabaciones de audio de las solicitudes realizadas a los asistentes de Amazon y Google también son revisadas por humanos.
Una forma explícita para que los usuarios acepten que el audio se use de esta manera es apostar en la mesa en este tipo de negocios. Me alegra que Apple diga que agregará uno.
También se alinea mejor con la forma en que Apple maneja otros datos, como los datos de rendimiento de la aplicación que los desarrolladores pueden usar para identificar y corregir errores en su software. Actualmente, cuando configura su iPhone, debe dar permiso a Apple para transmitir esos datos.
Apple se ha embarcado en una larga campaña para posicionarse como la más consciente de la privacidad de las principales empresas de telefonía móvil y, por lo tanto, tiene una carga más pesada en lo que respecta a los estándares. Hacer tanto como las otras grandes empresas cuando se trata de cosas como el uso de datos de usuario para el control de calidad y las mejoras del servicio no puede ser suficiente si quiere mantener la postura y la ventaja de mercado que trae consigo.
Source link