Roomba Las aspiradoras recopilaron imágenes sensibles, como una que muestra a una mujer sentada en el asiento de un inodoro, y, según se informa, fueron compartidas entre las personas encargadas de entrenar el sistema de limpieza robótico. Aquí está la parte preocupante. Amazon desembolsó 1.700 millones de dólares en agosto de 2022 para comprar iRobot. Ahora bien, el historial de Amazon en materia de privacidad es bastante incompleto por sí solo. Un par de investigaciones que surgieron hace poco más de un año revelaron que Amazon maneja datos confidenciales de los clientes de una manera bastante irresponsable.
Según documentos vistos por Revisión de tecnología del MITlas imágenes tomadas por las aspiradoras robóticas Roomba se compartieron entre los contratistas encargados de etiquetarlas, en Discord y Facebook, entre otros lugares. iRobot afirma que las imágenes filtradas fueron capturadas utilizando hardware de prueba, para lo cual los voluntarios aceptaron contribuir con datos audiovisuales. iRobot recopiló estos datos de entrenamiento capturados por las cámaras integradas del robot de limpieza y luego los envió a una startup llamada Scale AI, que emplea trabajadores contratados para etiquetarlos para que la IA los entienda.
Tenga cuidado con su amigable robot limpiador
El proceso de anotar datos para una IA generalmente se subcontrata a trabajadores con salarios bajos en Asia y África a través de contratistas. En particular, nada de esto era hardware de consumo que se vende comercialmente. iRobot dice que al permitir la difusión de medios confidenciales, Scale AI violó su política de privacidad y que las dos empresas están cortando sus vínculos profesionales a raíz del incidente. Scale AI también admitió que sus empleados que etiquetaban datos violaban su código de conducta.
La futura empresa Amazon también afirma que estos “robots de desarrollo especiales con modificaciones de hardware y software“También vienen con acuerdos para los voluntarios, que les decían explícitamente que sus datos se enviaban con fines de capacitación. Además, se les recomendó que evitaran sujetos sensibles y niños en las áreas donde los robots se mueven para capturar fotos, videos y clips de audio. Lo alarmante es que el 95 por ciento de los datos de iRobot se recopilan de hogares reales, y la mayoría de los voluntarios son empleados o hogares remunerados reclutados por contratistas. Sólo una pequeña parte de esos datos de entrenamiento de IA se recoge de casas artificiales creadas como modelos en un conjunto de prueba.
Las imágenes filtradas, de las cuales Revisión de tecnología del MIT Vi 15, se recolectaron en 2020 en hogares con sede en Estados Unidos, Japón, Francia y Alemania, entre otros países. iRobot afirma que toda la información de identificación de una persona se elimina de los datos de entrenamiento. Elimina automáticamente todo el registro si alguna de las imágenes parece ser de naturaleza sensible, como aquellas que representan momentos privados o cualquier estado de desnudez. Sin embargo, no está claro si dichas imágenes se eliminan automáticamente o si un moderador humano las ve primero y luego decide tomar las medidas necesarias.
Una conclusión bastante preocupante de la saga iRobot es que estas filtraciones ocurrieron durante la fase de prueba de un robot de limpieza en desarrollo donde se les dice a los voluntarios en qué se están metiendo. Para dispositivos disponibles comercialmente como el Roombala mayoría de las personas ni siquiera se molestan en leer en detalle los términos de recopilación de datos y pueden terminar, sin saberlo, entregando una tonelada de datos de identificación personal a corporaciones con medidas de seguridad de datos poco estrictas.
Fuente: Revisión de tecnología del MIT