Hace casi exactamente un año, Timnit Gebru, uno de los líderes del equipo de ética en inteligencia artificial de Google y uno de los principales expertos en ese tema, fue despedido después de enviar un correo electrónico de preocupación a su equipo. Ahora, ella misma se ha establecido en un nuevo instituto de investigación, DAIR, centrado en los temas que, en su opinión, estaban siendo dejados de lado en Google.
El Instituto de Investigación de Inteligencia Artificial Distribuida es “un instituto independiente arraigado en la comunidad establecido para contrarrestar la influencia generalizada de Big Tech en la investigación, el desarrollo y el despliegue de IA”, según su anuncio comunicado de prensa.
Creado desde el principio para incluir y enfatizar diversas perspectivas y cuestionar los procesos utilizados en empresas como Google, Amazon y Facebook/Meta, DAIR se financiará de forma independiente. La atención se centrará en la publicación de artículos en el ámbito académico, pero sin la presión implacable de la academia tradicional o la interferencia paternalista de una corporación global que se cierne sobre los investigadores.
“Durante mucho tiempo me sentí frustrado por las estructuras de incentivos que tenemos y cómo ninguna de ellas parece ser apropiada para el tipo de trabajo que quiero hacer”, Gebru le dijo al Washington Post.
Hasta ahora, el instituto ha recaudado $3,7 millones de la Fundación Ford, la Fundación MacArthur, el Centro Kapor y la Fundación Open Society. Eso debería ser suficiente para comenzar, y pagar bien a sus investigadores, asegurando que este tipo de trabajo sea una alternativa realista a trabajar en una de las corporaciones con mucho dinero que con frecuencia financian la investigación de IA.
Le pedí a Gebru, a quien tuvimos en el escenario para hablar sobre estos mismos temas, más información sobre los métodos de DAIR y las direcciones para futuras investigaciones; ella señaló el trabajo de apartheid espacial que se menciona a continuación y el instituto filosofía de la investigación.
Safiya Noble, autora de “Algorithms of Oppression” y ganadora de la beca Macarthur Genius, estará en el comité asesor de DAIR; Recientemente la recibimos para un panel en TC Sessions: Justice, donde habló sobre el peligro de considerar que las tecnologías son neutrales o valiosas a medida que se usan ampliamente y son “banales”, cuando en realidad ese es exactamente el momento en que deberían estar bajo un mayor escrutinio.
Y Raesetje Sefala es la primera becaria de investigación de DAIR; La investigación reciente de Sefala se centra en segregación geográfica y económica en Sudáfrica, cuantificada por imágenes de satélite.
“La IA necesita ser devuelta a la tierra. Se ha elevado a un nivel sobrehumano que nos lleva a creer que es inevitable y está más allá de nuestro control”, dijo Gebru en el anuncio. “Cuando la investigación, el desarrollo y la implementación de la IA se arraigan en las personas y las comunidades desde el principio, podemos enfrentar estos daños y crear un futuro que valore la equidad y la humanidad”.
Source link