Philip N. Howard Colaborador
Philip N. Howard es el director del Instituto de Internet de Oxford y autor del próximo libro “Máquinas de mentiras: cómo salvar la democracia de los ejércitos troll, los robots engañosos, las operaciones de noticias basura y los agentes políticos”.
Lisa-Maria Neudert Colaboradora
Lisa-Maria Neudert es investigadora del Proyecto de Propaganda Computacional del Instituto de Internet de Oxford de la Universidad de Oxford.
Corea del Sur ha frenado con éxito la propagación del coronavirus. Junto con las medidas y pruebas de cuarentena generalizadas, el uso innovador de la tecnología en el país se considera un factor crítico para combatir la propagación de la enfermedad. Mientras Europa y los Estados Unidos luchan por salir adelante, muchos gobiernos están recurriendo a herramientas de IA tanto para avanzar en la investigación médica como para gestionar la salud pública, ahora y a largo plazo: soluciones técnicas para seguimiento de contactos, seguimiento de síntomas, certificados de inmunidad y otras aplicaciones están en marcha. Estas tecnologías son ciertamente prometedoras, pero deben implementarse de manera que no socaven los derechos humanos.
Seúl ha recopilado de forma extensa e intrusiva los datos personales de sus ciudadanos, analizando millones de puntos de datos a partir de transacciones con tarjetas de crédito, imágenes de CCTV y datos de geolocalización de teléfonos móviles. Corea del Sur El Ministerio del Interior y Seguridad incluso desarrolló una aplicación para teléfonos inteligentes que comparte con los funcionarios los datos de GPS de las personas en cuarentena. Si los que están en cuarentena cruzan la “valla electrónica” de su área asignada, la aplicación alerta a los funcionarios. Las implicaciones para la privacidad y la seguridad de una vigilancia tan generalizada son profundamente preocupantes.
Corea del Sur no está sola en el aprovechamiento de los datos personales en los esfuerzos de contención. China, Irán, Israel, Italia, Polonia, Singapur, Taiwán y otros han utilizado datos de ubicación de teléfonos móviles para varias aplicaciones encargadas de combatir el coronavirus. Supercargados con inteligencia artificial y aprendizaje automático, estos datos no solo se pueden usar para el control social y el monitoreo, sino también para predecir patrones de viaje, identificar puntos críticos de futuros brotes, modelar cadenas de infección o proyectar inmunidad.
Las implicaciones para los derechos humanos y la privacidad de los datos van mucho más allá de la contención de la COVID-19. Presentado como soluciones a corto plazo a la amenaza inmediata del coronavirus, el intercambio de datos, el monitoreo y la vigilancia generalizados podrían convertirse en elementos fijos de la vida pública moderna. Con el pretexto de proteger a los ciudadanos de futuras emergencias de salud pública, las solicitudes temporales pueden normalizarse. Como mínimo, las decisiones gubernamentales de introducir apresuradamente tecnologías inmaduras y, en algunos casos, de obligar a los ciudadanos por ley a usarlas, sientan un precedente peligroso.
Sin embargo, dichos datos y aplicaciones impulsadas por IA podrían ser avances útiles en la lucha contra el coronavirus, y los datos personales, anónimos y no identificables, ofrecen información valiosa para los gobiernos que atraviesan esta emergencia de salud pública sin precedentes. La Casa Blanca es supuestamente en conversaciones activas con una amplia gama de empresas de tecnología sobre cómo pueden usar datos de ubicación de nivel agregado anónimos de teléfonos celulares. El gobierno del Reino Unido está en discusión con operadores de telefonía celular sobre el uso de datos de ubicación y uso. E incluso Alemania, que suele defender los derechos de datos, presentó una aplicación controvertida que utiliza donaciones de datos de rastreadores de actividad física y relojes inteligentes para determinar la propagación geográfica del virus.
La gran tecnología también se apresura al rescate. Google pone a disposición “Community Mobility Reports” para más de 140 países, que ofrecen información sobre las tendencias de movilidad en lugares como tiendas y recreación, lugares de trabajo y áreas residenciales. Apple y Google colaboran en una aplicación de seguimiento de contactos y acaban de lanzar un kit de herramientas para desarrolladores que incluye una API. Facebook está implementando funciones de “alertas locales” que permiten a los gobiernos municipales, las organizaciones de respuesta a emergencias y las fuerzas del orden comunicarse con los ciudadanos en función de su ubicación.
Es evidente que los datos que revelan la salud y la geolocalización de los ciudadanos son de lo más personal. Los beneficios potenciales pesan mucho, pero también las preocupaciones sobre el abuso y el mal uso de estas aplicaciones. Existen salvaguardas para la protección de datos, quizás la más avanzada sea el RGPD europeo, pero durante tiempos de emergencia nacional, los gobiernos tienen derechos para otorgar excepciones. Y los marcos para el uso legal y ético de la IA en la democracia están mucho menos desarrollados, si es que lo están.
Hay muchas aplicaciones que podrían ayudar a los gobiernos a hacer cumplir los controles sociales, predecir brotes y rastrear infecciones, algunas de ellas más prometedoras que otras. Las aplicaciones de rastreo de contactos están en el centro del interés de los gobiernos en Europa y EE. UU. en este momento. Los enfoques descentralizados de rastreo de proximidad para preservar la privacidad, o “DP3T”, que usan Bluetooth pueden ofrecer un protocolo seguro y descentralizado para que los usuarios consientan compartir datos con las autoridades de salud pública. La Comisión Europea ya ha publicado una guía para aplicaciones de rastreo de contactos que favorece tales enfoques descentralizados. Ya sea centralizado o no, evidentemente, los estados miembros de la UE deberán cumplir con el RGPD al implementar dichas herramientas.
Austria, Italia y Suiza han anunciado que planean utilizar los marcos de trabajo descentralizados desarrollados por Apple y Google. Alemania, después de un debate público en curso y severas advertencias de expertos en privacidad, abandonó recientemente los planes para una aplicación centralizada y optó por una solución descentralizada. Pero Francia y Noruega están utilizando sistemas centralizados donde los datos personales confidenciales se almacenan en un servidor central.
El gobierno del Reino Unido también ha estado experimentando con una aplicación que utiliza un enfoque centralizado y que actualmente se está probando en la Isla de Wight: el NHSX del Servicio Nacional de Salud permitirá a los funcionarios de salud comunicarse directa y personalmente con personas potencialmente infectadas. . Hasta este momento, no está claro cómo se utilizarán los datos recopilados y si se combinarán con otras fuentes de datos. Según las disposiciones actuales, el Reino Unido todavía está obligado a cumplir con el RGPD hasta el final del período de transición Brexit en diciembre de 2020.
Aparte de los esfuerzos liderados por el gobierno, preocupantemente, una plétora de aplicaciones y sitios web para el rastreo de contactos y otras formas de control de brotes están proliferando, pidiendo a los ciudadanos que ofrezcan voluntariamente sus datos personales y ofreciendo pocas características de privacidad y seguridad, si es que tienen alguna, y mucho menos funcionalidad. Ciertamente bien intencionadas, estas herramientas a menudo provienen de desarrolladores aficionados y, a menudo, se originan en hackatones de aficionados.
Separar el trigo de la paja no es una tarea fácil, y lo más probable es que nuestros gobiernos no estén equipados para lograrlo. A estas alturas, la inteligencia artificial, y especialmente su uso en la gobernanza, es todavía una novedad para los organismos públicos. Puestos en el punto de mira, los reguladores luchan por evaluar la legitimidad y las implicaciones de mayor alcance de los diferentes sistemas de IA para los valores democráticos. En ausencia de pautas de adquisiciones y marcos legales suficientes, los gobiernos no están preparados para tomar estas decisiones ahora, cuando más se necesitan.
Y lo que es peor, una vez que las aplicaciones impulsadas por IA salgan de la caja, será difícil revertirlas, al igual que el aumento de las medidas de seguridad en los aeropuertos después del 11 de septiembre. Los gobiernos pueden argumentar que requieren acceso a datos para evitar una segunda ola de coronavirus u otra pandemia inminente.
Es poco probable que los reguladores generen nuevos términos especiales para la IA durante la crisis del coronavirus, por lo que al menos debemos proceder con un pacto: todas las aplicaciones de IA desarrolladas para abordar la crisis de salud pública deben terminar como aplicaciones públicas, con los datos, algoritmos , entradas y salidas mantenidas para el bien público por investigadores de salud pública y agencias de ciencia pública. No se puede permitir invocar la pandemia de coronavirus como una excusa para romper las normas de privacidad y una razón para desplumar al público de datos valiosos.
Todos queremos una IA sofisticada para ayudar a brindar una cura médica y gestionar la emergencia de salud pública. Podría decirse que los riesgos a corto plazo para la privacidad personal y los derechos humanos de la IA disminuyen a la luz de la pérdida de vidas humanas. Pero cuando el coronavirus esté bajo control, querremos recuperar nuestra privacidad personal y nuestros derechos. Si los gobiernos y las empresas en las democracias van a abordar este problema y mantener las instituciones sólidas, todos debemos ver cómo funcionan las aplicaciones, los datos de salud pública deben terminar en los investigadores médicos y debemos poder auditar y deshabilitar los sistemas de seguimiento. AI debe, a largo plazo, apoyar la buena gobernanza.
La pandemia de coronavirus es una emergencia de salud pública de gran preocupación que afectará profundamente la gobernanza en las próximas décadas. Y también arroja un poderoso foco de atención sobre las enormes deficiencias de nuestros sistemas actuales. La IA está llegando ahora con algunas potentes aplicaciones disponibles, pero nuestros gobiernos no están preparados para garantizar su uso democrático. Frente a los impactos excepcionales de una pandemia global, la formulación de políticas rápidas y sucias es insuficiente para garantizar una buena gobernanza, pero puede ser la mejor solución que tenemos.
Source link