Análisis predictivo a gran escala. es un fenómeno relativamente nuevo, uno que desafía tanto las décadas de ley como el pensamiento de los consumidores sobre la privacidad.
Como tecnología, puede salvar miles de vidas en aplicaciones como la medicina predictiva, pero si no se usa con cuidado, puede evitar que miles obtengan préstamos, por ejemplo, si un algoritmo de suscripción está predispuesto contra ciertos usuarios.
Hace unas semanas conversé con Dennis Hirsch sobre los desafíos planteados por esta nueva economía de datos. Hirsch es profesor de derecho en el estado de Ohio y jefe de su Programa de Datos y Gobernanza. También está afiliado al Instituto de Riesgos de la universidad.
"La ética de los datos es la nueva forma de mitigación de riesgos para la economía algorítmica", dijo. En un mundo posterior a Cambridge Analytica, cada empresa debe evaluar qué datos tiene sobre sus clientes y mitigar el riesgo de daños. Sin embargo, cómo hacerlo está a la vanguardia del nuevo campo de gobierno de datos, que investiga los procesos y políticas a través de los cuales las organizaciones administran sus datos.
Estás leyendo el Extra Crunch Daily. ¿Te gusta este boletín? Suscríbete gratis Para seguir todas nuestras discusiones y debates.
"La regulación de privacidad tradicional le pregunta si le dio un aviso a alguien y le dio una opción", explica. Ese principio es la base de la ley GDPR de Europa y del mosaico de leyes en los Estados Unidos que protegen la privacidad. Se basa en la idea simplista de que un dato, como la dirección de un cliente, no debe compartirse con, digamos, un comercializador sin el conocimiento de ese usuario. La privacidad se trata de proteger la libreta de direcciones, por así decirlo.
El auge de los "análisis predictivos", aunque ha demolido completamente dicha legislación de privacidad. La analítica predictiva es un término difuso, pero esencialmente significa interpretar datos en bruto y sacar nuevas conclusiones a través de la inferencia. Esta es la historia de la famosa crisis de datos de Target, donde el minorista recomendó productos relacionados con el embarazo a mujeres que tenían ciertos patrones de compra. Como Charles Duhigg explicó en ese momento:
Muchos compradores compran jabón y bolas de algodón, pero cuando alguien comienza a comprar un montón de jabón sin olor y bolsas extra grandes de bolas de algodón, además de los desinfectantes para las manos y las toallas, esto indica que podrían estar acercándose a su fecha de entrega.
El análisis predictivo es difícil de predecir. Hirsch dice: "No creo que ninguno de nosotros sea lo suficientemente inteligente como para entender el análisis predictivo". Hablando de los clientes, dijo: "Renuncian a sus artículos de superficie, como bolas de algodón y loción corporal sin perfume, saben que están compartiendo" eso, pero no saben que están renunciando a su estado de embarazo. … La gente no sabrá cómo protegerse a sí misma porque no puede saber qué se puede inferir de sus datos de superficie ".
En otras palabras, la escala de esas predicciones socava completamente el aviso y el consentimiento.
A pesar de que la ley no ha alcanzado este problema exponencialmente más desafiante, las propias compañías parecen estar respondiendo a raíz de Target y los escándalos muy públicos de Facebook. "Lo que estamos escuchando es que no queremos poner en riesgo a nuestros clientes", explicó Hirsch. "Entienden que esta tecnología predictiva les da un poder realmente asombroso y pueden hacer mucho bien con ella, pero también pueden herir a la gente con ella". Los actores clave aquí son los responsables corporativos de privacidad, un papel que ha surgido en Últimos años para mitigar algunos de estos retos.
Hirsch está invirtiendo mucho tiempo en tratar de construir nuevas estrategias de gobierno que permitan a las empresas utilizar el análisis predictivo de una manera ética, para que "podamos lograr y disfrutar de sus beneficios sin tener que soportar estos costos". Se centra en cuatro áreas: privacidad , manipulación, sesgo, e injusticia procesal. "Vamos a establecer principios sobre qué es ético y qué no lo es", dijo.
Gran parte de ese enfoque se ha centrado en cómo ayudar a los reguladores a crear políticas que puedan gestionar el análisis predictivo. Dado que la gente no puede entender hasta qué punto se pueden hacer inferencias con sus datos, "creo que un enfoque regulatorio mucho mejor es tener a alguien que sí entienda, idealmente algún tipo de regulador, que pueda dibujar algunas líneas". Hirsch ha estado investigando cómo la Autoridad de Injusticia de la FTC puede ser un camino a seguir para llevar a la práctica tales políticas.
Él analizó esto a la Administración de Drogas y Alimentos. "No tenemos capacidad para evaluar los riesgos de un medicamento dado [so] Se lo damos a una agencia experta y les permitimos que lo evalúen ”, dijo. "Ese es el tipo de regulación que necesitamos".
En general, Hirsch tiene una perspectiva equilibrada sobre los riesgos y las recompensas aquí. Quiere que los análisis sean "más aceptables desde el punto de vista social", pero al mismo tiempo, ve las necesidades de un escrutinio y supervisión cuidadosos para garantizar que los consumidores estén protegidos. En última instancia, considera que es increíblemente beneficioso para las empresas que pueden sacar el valor de esta tecnología sin correr el riesgo de provocar la ira del consumidor.
¿Quién robará más tus datos: China o América?
Jaap Arriens / NurPhoto a través de Getty Images
Hablando de ética de datos, Europa está en medio de una pinza de superpotencia. El gigante de las telecomunicaciones de China, Huawei, ha hecho de la expansión en el continente una de las principales prioridades, mientras que Estados Unidos ha enviado una delegación tras otra para convencer a sus aliados occidentales de que rechacen el equipo chino. El dilema fue bastante visible la semana pasada en el MWC-Barcelona, donde ambas partes trataron de defender su caso.
Han pasado años desde que las revelaciones de Snowden mostraron que Estados Unidos estaba operando una enorme infraestructura de espionaje dirigida a países de todo el mundo, incluida toda Europa. Huawei ha reiterado su postura de que no roba información de sus equipos, y ha reiterado sus demandas de que la administración de Trump proporcione pruebas públicas de fallas en su seguridad.
Aquí hay una gran cantidad de relativismo moral, pero veo esto como una prueba de fuego cada vez mayor de Occidente en China. China no ha ocultado sus ambiciones de asumir un papel principal en el este de Asia, ni ha ocultado sus intenciones de construir una red de vigilancia masiva sobre su propia gente o influir en los medios de comunicación en el extranjero.
Sin embargo, esas tácticas están directamente fuera del libro de jugadas estadounidense, que perdió su legitimidad moral en las últimas dos décadas debido a una combinación de la Guerra de Irak, Snowden, Wikileaks y otros escándalos públicos que han socavado la confianza en el país en el extranjero.
La seguridad y la privacidad podrían haber sido una ventaja competitiva para los productos estadounidenses sobre sus homólogos chinos, pero esa ventaja se ha debilitado para muchos países casi a cero. Cada vez más vamos a ver cómo los países eligen una combinación de equipos chinos y estadounidenses en aplicaciones sensibles, aunque solo sea para asegurarnos de que si un país va a robar sus datos, también podría estar equilibrado.
Cosas que parecen interesantes que aún no he leído.
Obsesiones
- Tal vez algunos desafíos más en relación con el uso de datos y la responsabilidad algorítmica
- Tenemos un poco de tema relacionado con los mercados emergentes, la macroeconomía y el siguiente grupo de usuarios para unirse a Internet.
- Más discusión sobre megaproyectos, infraestructura y "por qué no podemos construir cosas"
Gracias
A cada miembro de Extra Crunch: gracias. Nos permite salir de la banda transportadora de medios cargados de anuncios y dedicar tiempo de calidad a ideas, personas y empresas sorprendentes. Si alguna vez puedo serle de ayuda, haga clic en responder o envíe un correo electrónico a danny@techcrunch.com.
Este boletín está escrito con la ayuda de Arman Tabatabai de Nueva York.
Estás leyendo el Extra Crunch Daily. ¿Te gusta este boletín? Suscríbete gratis Para seguir todas nuestras discusiones y debates.
Source link