El CEO de IBM, Arvind Krishna, anunció hoy que la compañía ya no vendería servicios de reconocimiento facial y pidió un “diálogo nacional” sobre si debería usarse en absoluto. También expresó su apoyo a un nuevo proyecto de ley que apunta a reducir la violencia policial y aumentar la responsabilidad.
en una carta Reportado por CNBCescrito en apoyo de la Ley de Justicia en la Policía presentado hoy, Krishna explica la salida de la empresa del controvertido negocio de la identificación facial como servicio:
IBM se opone firmemente y no aprobará el uso de ninguna tecnología, incluida la tecnología de reconocimiento facial ofrecida por otros proveedores, para la vigilancia masiva, la elaboración de perfiles raciales, las violaciones de las libertades y los derechos humanos básicos, o cualquier propósito que no sea coherente con nuestros valores y Principios de confianza. y Transparencia. Creemos que ahora es el momento de comenzar un diálogo nacional sobre si las agencias nacionales encargadas de hacer cumplir la ley deben emplear la tecnología de reconocimiento facial y cómo hacerlo.
Este cuidadoso enfoque para desarrollar e implementar la tecnología no es nuevo: IBM lo enfatizó el año pasado con una nueva base de datos de rostros que era más diversa que cualquier cosa disponible en ese momento. Después de todo, como cualquier programa, estos sistemas son tan buenos como la información que les proporcionas.
Sin embargo, el reconocimiento facial no parece haber estado generando mucho dinero para la empresa, si es que lo ha hecho. Para ser justos, la tecnología está realmente en su infancia y hay pocas aplicaciones en las que un proveedor empresarial como IBM tiene sentido. El controvertido servicio Rekognition de Amazon, aunque ha sido utilizado de alguna manera por bastantes entidades encargadas de hacer cumplir la ley, no está bien considerado en el campo. No beneficiaría mucho a IBM intentar competir con un producto que es igualmente apenas lo suficientemente bueno para usar.
La carta de Krishna también dice que “los proveedores y usuarios de los sistemas Al tienen la responsabilidad compartida de garantizar que se analice el sesgo de Al, particularmente cuando se usa en la aplicación de la ley, y que dichas pruebas de sesgo se auditen y se informen”. Esto es algo así como un tiro de despedida para aquellos en el campo, Amazon en particular, que ha sido criticado por el sesgo estructurado de sus sistemas de reconocimiento facial. más notablemente por Joy Buolamwini.
No está claro si la compañía continuará realizando investigaciones de IA en este sentido o cómo lo hará.
El proyecto de ley que Krishna escribe en apoyo tiene docenas de copatrocinadores en la Cámara y el Senado, y aborda una amplia variedad de problemas que enfrentan los departamentos de policía y aquellos a los que vigilan. Entre otras cosas, amplía los requisitos para las cámaras corporales pero limita el uso del reconocimiento facial en relación con ellas. Proporcionaría subvenciones para el hardware, pero solo si se utilizan bajo protocolos desarrollados y enumerados públicamente.
La ACLU, en un comunicado emitido sobre el proyecto de ley, pareció estar de acuerdo con su enfoque: “Necesitamos invertir en tecnologías que puedan ayudar a eliminar la brecha digital, no en tecnologías que creen una infraestructura de vigilancia que exacerbe los abusos policiales y el racismo estructural”.
Source link