El reconocimiento facial es un tema suficientemente controvertido sin incluir la vigilancia diaria y las cámaras corporales que muchos (pero no lo suficiente) usan los oficiales en estos días. Pero Axon, que fabrica muchas de esas cámaras, solicitó asesoramiento sobre el tema a un comité de investigación independiente y, de acuerdo con sus hallazgos, optó por no usar el reconocimiento facial por el momento.
La compañía, anteriormente conocida como Taser, estableció su “Junta de ética de tecnología de inteligencia artificial y vigilancia policial” el año pasado, y el grupo de 11 expertos de diversos campos acaba de emitir su primer informe, centrado en gran parte (por iniciativa propia) en la amenaza de reconocimiento facial.
El consejo que dan es inequívoco: no lo uses, ahora o quizás nunca.
Más específicamente, sus hallazgos son los siguientes:
- El reconocimiento facial simplemente no es lo suficientemente bueno en este momento para que pueda ser utilizado éticamente.
- No hable sobre “precisión”, hable sobre falsos negativos y positivos específicos, ya que son más reveladores y relevantes.
- Cualquier modelo de reconocimiento facial que se use no debe ser demasiado personalizable, o abrirá la posibilidad de abuso.
- Cualquier aplicación de reconocimiento facial solo debe iniciarse con el consentimiento y la opinión de aquellos a quienes afectará.
- Hasta que no haya evidencia sólida de que estos programas brinden beneficios reales, no debe haber discusión sobre el uso.
- Las tecnologías de reconocimiento facial no existen, ni se utilizarán, en un vacío político o ético, por lo que debe considerar el mundo real al desarrollarlas o desplegarlas.
El informe completo se puede leer aquí; hay un poco de tareas domésticas y asuntos internos, pero la parte relevante comienza en la página 24. Cada uno de los puntos anteriores tiene un par de páginas de explicación y ejemplos.
Axon, por su parte, escribe que está bastante de acuerdo: “El primer informe de la junta nos brinda recomendaciones reflexivas y prácticas con respecto a la tecnología de reconocimiento facial con las que, como compañía, estamos de acuerdo con … De acuerdo con la recomendación de la junta, Axon no estará Comercializando productos para combinar el rostro en nuestras cámaras corporales en este momento “.
No es que no lo estén investigando. La idea, supongo, es que la tecnología nunca será lo suficientemente buena como para proporcionar los beneficios deseados si nadie está avanzando en la ciencia que la sustenta. El informe no se opone, excepto para informar a la compañía que se adhiere a las mejores prácticas en evolución de la comunidad de investigación de AI para asegurarse de que su trabajo esté libre de sesgos y fallas sistemáticas.
Un punto interesante que no siempre se menciona es la diferencia entre la cara reconocimiento y cara pareo. Aunque el primero es el término coloquial general para lo que consideramos potencialmente invasivo, sesgado, etc., en la terminología aquí es diferente de este último.
El reconocimiento facial es solo encontrar una cara en la imagen; esto puede ser usado por un teléfono inteligente para enfocar su cámara o aplicar un efecto, por ejemplo. La coincidencia de rostros consiste en tomar las características de la cara detectada y compararla con una base de datos para que coincida con la que está archivada, lo que podría ser desbloquear su teléfono usando la identificación facial, pero también podría ser el FBI que compara a todos los que ingresan a un aeropuerto para La lista más buscada.
Axon utiliza el reconocimiento facial y, en menor medida, la combinación de caras para procesar las muchas, muchas horas de video que producen los departamentos de policía llenos de cámaras corporales. Cuando se necesita ese video como evidencia, es posible que las caras distintas de las personas directamente involucradas deban ser borrosas, y usted no puede hacer eso a menos que sepa dónde están las caras y cuál es cuál.
Esa forma particular de la tecnología parece benigna en su forma actual, y sin duda hay muchas otras aplicaciones con las que sería difícil estar en desacuerdo. Pero a medida que las técnicas de reconocimiento facial se vuelvan más populares, será bueno contar con consejos asesores como este, manteniendo a las compañías que los usan con honestidad.
Source link