Armador de tecnología de aplicación de la ley Axon ha anunciado que incluirá el reconocimiento automático de matrículas en su próxima generación de cámaras de tablero. Pero su junta de ética independiente ha publicado simultáneamente un informe que advierte sobre las graves consecuencias si esta tecnología se implementa de manera irresponsable.
Axon hace cámaras corporales y de tablero para la aplicación de la ley, la plataforma en la que se almacenan esas imágenes (Evidence.com) y algunos de los oficiales de armas que utilizan (Taser, el nombre por el cual la compañía se conocía originalmente). Fleet 3 es el nuevo modelo de cámara de tablero, y al reconocer los números de placa tendrá la capacidad de, por ejemplo, ejecutar placas solicitadas sin que un oficial tenga que escribirlas mientras conduce.
La idea de incluir algún tipo de reconocimiento de imágenes en estos productos se les ha ocurrido naturalmente, y de hecho hay muchas situaciones en las que la aplicación de la ley sería útil; El reconocimiento automático de placas de licencia, o ALPR, no es una excepción. Pero los problemas éticos involucrados en esta y otras formas de análisis de imágenes (por ejemplo, identificar objetivos de órdenes de arresto basados en imágenes de cámaras corporales) son muchos y graves.
En un esfuerzo por comprometerse seriamente con estos problemas y no parecer malvado y arbitrario (como podría ser de otra manera), Axon creó el año pasado una junta asesora independiente a la que se le informaría sobre los planes e ideas de Axon y los consideraría en informes oficiales. . Hoy emitieron su segundo, sobre el uso de ALPR.
Aunque resumiré algunos de sus principales hallazgos a continuación, el informe en realidad es una lectura muy interesante. El equipo comienza admitiendo que hay muy poca información sobre cómo la policía realmente usa los datos de ALPR, lo que hace difícil decir si es un resultado positivo o negativo neto, o si este o ese beneficio o riesgo está actualmente en juego.
Dicho esto, el hecho mismo de que el uso de ALPR sea en gran medida indocumentado es evidencia en sí misma de negligencia por parte de las autoridades para comprender y limitar los usos potenciales de esta tecnología.
“El uso no regulado de los ALPR ha expuesto a millones de personas sujetas a vigilancia por parte de las fuerzas del orden público, y el peligro para nuestros derechos civiles básicos solo aumenta a medida que la tecnología se está volviendo más común”, dijo Barry Friedman, profesor de derecho de la Universidad de Nueva York y miembro de la ética. junta, en un comunicado de prensa. “Corresponde a compañías como Axon garantizar que los ALPR atiendan a las comunidades que están sujetas al uso de ALPR. Esto incluye barandas para garantizar que su uso no comprometa las libertades civiles o empeore las disparidades raciales y socioeconómicas existentes en el sistema de justicia penal ”.
Puede ver que la junta de ética no tira sus golpes. Hace una serie de recomendaciones a Axon, y no debería sorprender que la transparencia esté a la cabeza de ellas.
Los organismos encargados de hacer cumplir la ley no deberían adquirir o utilizar ALPR sin pasar por un proceso abierto, transparente y democrático, con la oportunidad adecuada para un análisis público, aportación y objeción genuinamente representativos.
Las agencias no deben implementar ALPR sin una política de uso clara. Esa política debe hacerse pública y, como mínimo, debe abordar las preocupaciones planteadas en este informe.
Los proveedores, incluido Axon, deben diseñar ALPR para facilitar la transparencia sobre su uso, incluso incorporando formas fáciles para que las agencias compartan datos agregados y no identificados. Cada agencia debería compartir estos datos con la comunidad a la que sirve.
Y también mejoremos la seguridad, por favor.
Curiosamente, la junta también hace una sugerencia por parte de los objetores de conciencia al esquema draconiano actual de aplicación de la ley de inmigración: “Los proveedores, incluido Axon, deben proporcionar la opción de desactivar las alertas relacionadas con la inmigración del Centro Nacional de Información sobre Delitos para que las jurisdicciones que elijan no participar en la aplicación de la ley federal de inmigración puede hacerlo “.
Hay un aspecto de los derechos del estado y muchas otras cosas envueltas en eso, pero es una consideración seria en estos días. Un sistema como este no debería ser la pata de un gato para los federales.
Axon, por su parte, no está haciendo ninguna promesa particularmente específica, en parte porque las recomendaciones de la junta van más allá de lo que es capaz de prometer. Pero sí acordó que los datos recopilados por sus sistemas nunca se venderán con fines comerciales. “Creemos que los datos son propiedad de las agencias de seguridad pública y las comunidades a las que sirven, y no deben revenderse”, dijo el fundador y CEO de Axon, Rick Smith, en el mismo comunicado de prensa.
Pregunté por la perspectiva de Axon sobre las numerosas sugerencias hechas en el informe. Un representante de la compañía dijo que Axon aprecia la “orientación reflexiva” de la junta y está de acuerdo con “su enfoque general”. Más específicamente, la declaración continuó:
En aras de la transparencia, tanto con nuestros clientes encargados de hacer cumplir la ley como con las comunidades a las que sirven, hemos anunciado esta iniciativa aproximadamente un año antes de los despliegues iniciales de Axon Fleet 3. Este período de tiempo nos dará la oportunidad de definir las mejores prácticas y un modelo marco para la implementación a través de conversaciones con los principales grupos de seguridad pública y libertades civiles y la Junta de Ética. Antes de lanzar el producto, publicaremos un resumen específico y detallado de cómo estamos implementando salvaguardas relevantes, incluidos elementos como la retención y propiedad de datos, y la creación de un marco ético para ayudar a prevenir el mal uso de la tecnología.
Es bueno que esta tecnología se esté implementando en medio de una discusión sobre estos temas, pero la junta de ética no es la Junta, y Axon (y mucho menos su equipo de ética subordinado) no puede dictar la política pública.
Esta tecnología está llegando, y si las comunidades más impactadas por ella y cosas por el estilo quieren protegerse a sí mismas, o si otros quieren asegurarse de que estén protegidas, los problemas en el informe deben considerarse cuidadosamente y plantearse como una cuestión de política con gobiernos locales. Ahí es donde los cambios recomendados realmente pueden comenzar a arraigarse.
Axon Ethics Report 2 v2 de TechCrunch en Scribd
Source link