Se ordenó al fabricante de una aplicación de almacenamiento de fotos en la nube extinta que se centró en la venta de servicios de reconocimiento facial que elimine los datos del usuario y cualquier algoritmo entrenado en ellos, según los términos de un Acuerdo de la FTC.
El regulador investigó las quejas de que la aplicación Ever, que ganó notoriedad anteriormente por usar patrones oscuros para enviar spam a los contactos de los usuarios, había aplicado reconocimiento facial a las fotografías de los usuarios sin informarles adecuadamente lo que estaba haciendo con sus selfies.
Según el acuerdo propuesto, Ever debe eliminar las fotos y los videos de los usuarios que desactivaron sus cuentas y también eliminar todas las incrustaciones faciales (es decir, los datos relacionados con los rasgos faciales que se pueden utilizar con fines de reconocimiento facial) que se derivan de las fotos de los usuarios que no proporcionaron consentimiento expreso para tal uso.
Además, debe eliminar cualquier modelo o algoritmo de reconocimiento facial desarrollado con las fotos o videos de los usuarios.
Este conjunto completo de requisitos de eliminación, no solo datos, sino todo lo que se derive de ellos y se entrenó a partir de ellos, está causando un gran entusiasmo en los círculos de políticas legales y tecnológicas, y los expertos sugieren que podría tener implicaciones para otro software de reconocimiento facial capacitado con datos que no se t procesado legalmente.
O, para decirlo de otra manera, los gigantes tecnológicos que recolectan datos subrepticiamente para entrenar IA podrían encontrar sus algoritmos en problemas con el regulador de EE. UU.
Imagine que necesita una empresa como @Facebook o @Google para eliminar “modelos y algoritmos” que se basaban en información recopilada de forma engañosa.
Eso podría requerir la eliminación de los modelos principales de aprendizaje automático subyacentes a Facebook Newsfeed o Búsqueda de Google.
Un poco importante …
– ashkan soltani (@ ashk4n) 12 de enero de 2021
El trasfondo rápido aquí es que la aplicación Ever se cerró en agosto pasado, alegando que había sido expulsada del mercado por una mayor competencia de gigantes tecnológicos como Apple y Google.
Sin embargo, la medida siguió a una investigación por NBC News – que en 2019 informó que el fabricante de aplicaciones Everalbum había girado hacia la venta de servicios de reconocimiento facial a empresas privadas, fuerzas del orden y el ejército (utilizando el nombre de marca Paravision) – aparentemente reutilizando las instantáneas familiares de las personas para entrenar IA de lectura facial.
NBC informó que Ever solo había agregado una “breve referencia” al nuevo uso en su política de privacidad después de que los periodistas lo contactaran para hacer preguntas sobre el pivote en abril de ese año.
en un presione soltar ayer, informado anteriormente por El borde, la FTC anunció que el acuerdo propuesto con Ever recibió el respaldo unánime de los comisionados.
Un comisionado, Rohit Chopra, emitió una declaración en el que advierte que la tecnología de reconocimiento facial de la generación actual es “fundamentalmente defectuosa y refuerza los prejuicios dañinos”, diciendo que apoya “los esfuerzos para promulgar una moratoria o restringir severamente su uso”.
“Hasta ese momento, es fundamental que la FTC haga cumplir de manera significativa la ley existente para privar a los malhechores de las tecnologías que construyen a través de la recopilación ilegal de imágenes y semejanzas faciales de los estadounidenses”, agrega.
La declaración de Chopra destaca el hecho de que los comisionados han votado previamente para permitir que los infractores de la ley de protección de datos retengan algoritmos y tecnologías que “derivan gran parte de su valor de datos mal habidos”, como él dice, señalando un acuerdo anterior con Google y YouTube en virtud del cual al gigante de la tecnología se le permitió retener algoritmos y otras tecnologías “mejoradas por datos de niños obtenidos ilegalmente”.
Y califica la decisión de Ever como “una importante corrección de rumbo”.
Ever no ha sido multado en virtud del acuerdo, algo que Chopra describe como “desafortunado” (diciendo que está relacionado con los comisionados “que no han reformulado este precedente en una regla bajo la Sección 18 de la Ley de la FTC”).
También destaca el hecho de que Ever evitó procesar los datos faciales de un subconjunto de usuarios en los estados que tienen leyes contra el reconocimiento facial y el procesamiento de datos biométricos, citando eso como un ejemplo de “por qué es importante mantener la autoridad de los estados para proteger datos”. (Nota: Ever también evitó procesar los datos biométricos de los usuarios de la UE; otra región con leyes de protección de datos).
“Con el tsunami de datos que se recopilan sobre individuos, necesitamos todas las manos a la obra para mantener a raya a estas empresas”, prosigue. “Los gobiernos estatales y locales han tomado medidas legítimamente para promulgar prohibiciones, moratorias y otras restricciones sobre el uso de estas tecnologías. Si bien los intereses especiales están presionando activamente para que la legislación federal elimine las leyes estatales de protección de datos, será importante que el Congreso se resista a estos esfuerzos. Una amplia preferencia federal socavaría gravemente este enfoque de múltiples frentes y dejaría a más consumidores menos protegidos.
“Será fundamental para la Comisión, los estados y los reguladores de todo el mundo emprender acciones de cumplimiento adicionales para responsabilizar a los proveedores de tecnología de reconocimiento facial que hacen afirmaciones de precisión falsas y se involucran en conductas injustas y discriminatorias”.
Se ha contactado a Paravision para comentar sobre el acuerdo de la FTC.
Actualizar: Paravision nos envió esta declaración por correo electrónico:
La orden de consentimiento de la FTC refleja un cambio que ya se ha realizado. El servicio Ever se cerró en agosto de 2020 y la compañía no tiene planes de ejecutar un negocio de consumo en el futuro. En septiembre de 2020, Paravision lanzó su modelo de reconocimiento facial de última generación que no utiliza los datos de los usuarios de Ever. La orden de consentimiento refleja el rumbo que ya habíamos establecido y refuerza un tono consciente mientras miramos hacia el futuro.
La tecnología de reconocimiento facial y visión por computadora tiene el potencial de mejorar nuestras vidas de manera profunda y nos tomamos muy en serio la gravedad de sus impactos. Paravision ha sido reconocido repetidamente por el gobierno de EE. UU. A través del NIST como el proveedor más preciso de reconocimiento facial de EE. UU., Reino Unido y Europa. Esperamos mantener esta posición con nuestro modelo de última generación y estamos profundamente comprometidos con el desarrollo ético y el uso de esta tecnología.