Veena Dubal es una estrella poco probable en el mundo de la tecnología.
Académica de las prácticas laborales con respecto a las industrias de taxis y transporte compartido y profesora asociada en la Facultad de Derecho Hastings de la UC de San Francisco, su trabajo sobre la ética de la economía informal ha sido cubierto por el New York Times, NBC News, Nueva York. Revista, y otras publicaciones. ella ha estado en diálogo público con Naomi Klein y otros autores famosos, y escrito un destacado artículo de opinión sobre la tecnología de reconocimiento facial en San Francisco, todo mientras ganaba premios por sus contribuciones a la erudición legal en su área de especialización, derecho laboral y laboral.
En el simposio anual de la Instituto AI Now, un centro de investigación interdisciplinario de la Universidad de Nueva York, Dubal fue un orador destacado. El simposio es la reunión pública anual más grande del grupo de investigación afiliado a la NYU que examina las implicaciones sociales de la IA. Celebrado en el teatro más grande de la NYU en el corazón de Greenwich Village, el simposio reunió a una multitud de 800 personas, con cientos más en la lista de espera y varias fiestas de observación fuera del lugar. Reunió a una multitud relativamente joven y diversa que, como señaló mi compañero de asiento, contenía básicamente cero de los chalecos VC omnipresentes en otras reuniones tecnológicas.
El simposio de AI Now representó el surgimiento de una corriente de ética tecnológica sensata, de mujeres y personas de color, carismáticas, compasivas y locamente bien informadas. (Como discutí recientemente con el escritor del New Yorker Andrew Marantz, no todos los enfoques de la ética tecnológica son iguales). Las cofundadoras de AI Now, Kate Crawford y Meredith Whittaker, han construido una institución capaz de movilizar recursos significativos junto con una gran audiencia apasionada. Lo que puede ser una mala noticia para las empresas que diseñan y promocionan la IA como la solución glamorosa y de uso múltiple para aparentemente todos los problemas, a pesar del hecho de que a menudo ni siquiera la IA hace el trabajo que promocionan.
La erudita jurídica Veena Dubal.
Como demuestra el trabajo del instituto, la IA dañina se puede encontrar en muchos segmentos de la sociedad, como la vigilancia, la vivienda, el sistema de justicia, las prácticas laborales y los impactos ambientales de algunas de nuestras corporaciones más grandes. Sin embargo, la diversa e inspiradora lista de oradores de AI Now fue un testimonio de un creciente grupo de votantes que está comenzando a responsabilizar a las empresas tecnológicas imprudentes. Por mucho que la clase bancaria entre en pánico ante la idea de una presidencia de Warren o Sanders, los actores irresponsables y los filósofos utópicos de Big Tech deberían estar atentos al ascenso, un ascenso verdaderamente basado en el mérito y la competencia, en lugar del carisma barato. de esta próxima generación de críticos como Crawford, Whittaker y Dubal.
Aquí está mi consejo de solución perenne y gratuito para todas las empresas de tecnología: encuentre las consecuencias no deseadas de sus productos antes que los periodistas y piense en cómo abordarlas incluso si no está obligado por la ley o la presión pública, y luego esos problemas desaparecerán. t convertirse en escándalos. https://t.co/IGymNWe2Q4
-Sarah Frier (@sarahfrier) 16 de octubre de 2019
No intentaré hacer aquí una revisión más detallada de la conferencia de AI Now; la organización publicará un informe anual resumiéndolo y ampliándolo a finales de este año; y si está intrigado por esta pieza, inscríbase en su lista de correo y vaya el próximo año.
A continuación se muestra mi conversación con Dubal, donde discutimos por qué AI Now Institute es diferente de tantas otras iniciativas de ética tecnológica y cómo un estudioso de los taxis se convirtió en un nombre de lectura obligada en tecnología. Nuestra conversación termina con la historia de un ingeniero de software blanco acomodado que experimentó un fracaso sorprendente, solo para darse cuenta de que su propia desilusión lo ayudó a conectarse con un propósito mucho mayor de lo que jamás había imaginado.
Epstein: Comencemos hablando del Simposio AI Now. ¿Qué significa para ti estar aquí como uno de los oradores destacados?
Dubal: Es increíble que un centro como este diga que lo que los conductores de Uber están haciendo para organizarse y mejorar sus condiciones en realidad está relacionado con la tecnología. Al menos durante la última media década, he estado haciendo lo que se considera trabajo tecnológico, pero mucho en la periferia. Debido a que no estábamos haciendo un trabajo relacionado explícitamente con las ciencias de la computación, creo que la gente no pensó que la investigación que hace la gente como yo fuera en absoluto [related to tech]… fue “solo” trabajo de parto. No era tecnología, a pesar de que está en [workers] respalda que toda la industria tecnológica existe. Así que es poderoso ser incluido en esta conversación.
Y para este evento en particular, han hecho un gran trabajo al [inviting speakers] cuya investigación se piensa como en la periferia, pero debe estar en el centro en términos de lo que es realmente importante desde una perspectiva ética. ruha benjamin [a Professor of African American Studies at Princeton and founder of Princeton’s JustData Lab]El trabajo de es increíble y luego las dos personas con las que estoy en el panel, Abdi Muse. [Executive Director of the Awood Center in Minneapolis, a community organization focused on advocating for and educating Minnesota’s growing East African communities about their labor rights]organiza a los trabajadores de almacén en Minnesota, que son la razón por la que Amazon puede facilitar el flujo transcontinental de mercancías de la forma en que lo hace.
Los cofundadores de AI Now, Meredith Whittaker y Kate Crawford. (Foto: Katherine Tyler)
y Bhairavi Desai [Executive Director of the New York Taxi Worker’s Alliance] — La conozco desde hace 10 años y ella, desde el principio, ha estado luchando contra esta tontería del concierto. Tenerlos en la habitación y centrados, tener sus voces centradas en lugar de en la periferia, es simplemente increíble para mí.
Epstein: Está muy claro que AI Now se dedica a hacer eso, tal vez incluso más que cualquier otra organización similar que pueda identificar. ¿Cómo ve a AI Now, como organización, posicionada entre sus diversos pares?
Dubal: Es una gran pregunta. He mirado un par de otras cosas más sin fines de lucro que hacen tecnología e igualdad, y tienes toda la razón; más que cualquier otra organización, [AI Now] centra a las personas que a menudo están en la periferia. Todo lo que hacen es muy deliberativo.
No se están moviendo a través de las cosas muy rápido, hacia el siguiente proyecto muy rápido. Cada decisión que toman está bien pensada, en términos de las personas que contratan, por ejemplo, o cómo hacen un evento, o a quiénes incluyen en un evento. Es muy, muy reflexivo, que no es como funcionan la mayoría de las cosas en tecnología, punto.
Epstein: No se están moviendo rápido. No están rompiendo cosas.
Dubal: Exactamente. No están rompiendo cosas. Están arreglando cosas. Y la otra cosa es que, incluso The TechEquity Collaborative, una organización sin fines de lucro en San Francisco, hay un imaginario tecnológico utópico que guía su trabajo. Realmente creen que la tecnología va a arreglar las cosas. AI ahora, en base a todas las interacciones que he tenido con ellos, mi sensación es que su ethos se trata en gran medida de cómo las personas arreglan las cosas. La tecnología no arregla las cosas.
Así que están centrando a las personas que pueden arreglar las cosas. Están en un lugar poderoso, y creo que debido a que son tan sofisticados en el trabajo que hacen, tienen una voz poderosa, lo cual es inusual para las personas que están interesadas en los subalternos y en los problemas que lastiman a los más marginados. .
Epstein: Sí. Lo que me hizo querer venir hasta aquí desde Cambridge, MA, donde no sufrimos exactamente una escasez de iniciativas de ética tecnológica, y lo que me hizo decidir perderme gran parte de la conferencia Disrupt a pesar de que trabajo para TechCrunch, es que es raro que tengas una organización que sea capaz de combinar cosas: luchar genuinamente por los marginados o ayudar a hablar a los subalternos; y de hecho logrando una voz pública muy significativa. Por lo general, es quizás uno u otro, pero no ambos.