Hace unas semanas, un fundador me dijo que tomó tres horas de hacer clic sin fin para encontrar un retrato de una mujer negra generado por IA. Me recordó, en cierto modo, a un discurso que vi hace tres años cuando yasmin verde, el entonces director de investigación y desarrollo de Jigsaw, habló sobre cómo el sesgo humano se filtra en la programación de la IA. Su charla y esta fundadora, a kilómetros de distancia y con años de diferencia, son dos piezas del mismo rompecabezas.
Los debates sobre la diversidad son más importantes que nunca a medida que la IA entra en una nueva era dorada. Cada nueva tecnología que aparece parece ir acompañada de alguna consecuencia desgarradora. Hasta ahora, la IA ha contribuido a contratación de trabajo racista tácticas y aprobación de la casa más lenta Tarifas para negros. autos sin conductor tener problemas para detectar piel oscura, lo que hace que las personas negras sean más propensas a ser golpeadas por ellos; en un caso, los robots hombres negros identificados como criminales un 9% más que los hombres blancos, lo que sería puesto bajo una nueva luz si los sistemas judiciales alguna vez comenzaran a adoptar la IA.
“A medida que la IA impregna la sociedad, es fundamental que los desarrolladores y las corporaciones sean buenos administradores de esta tecnología, pero también responsabilicen a los tecnólogos por estos casos de uso poco ético”. Isoken Igbinedion, cofundador, Parfait
La ética de la IA es a menudo una conversación separada de la construcción de la IA, pero deberían ser lo mismo. El sesgo es peligroso, especialmente porque la IA continúa extendiéndose a la vida cotidiana. Durante siglos, los médicos alguna vez juzgaron a las personas negras con criterios que ahora se consideran racistas, y una de las creencias predominantes es que esas personas experimentado menos dolor. Hoy, los algoritmos discriminan contra los negros; un estudio de 2019 encontró que un algoritmo utilizado por los hospitales de EE. UU. “tenía menos probabilidades de derivar a personas negras que a personas blancas que estaban igualmente enfermas a programas que tienen como objetivo mejorar la atención de pacientes con necesidades médicas complejas”.
En este momento, el sesgo aparece en varios subsectores de IA, que van desde la inversión hasta la contratación y la ejecución de datos y productos, y cada caso de sesgo respalda a los demás. Eghosa Omoiguiel fundador de EchoVC Partners, dijo a TechCrunch que aunque la IA puede ser “increíblemente poderosa”, la sociedad aún está lejos de ser una inteligencia artificial “perfecta”.
“Esto significa que la probabilidad de sesgo de la IA en los resultados sigue siendo alta debido a las dependencias excesivas de las fuentes, los pesos y los sesgos de los datos de entrenamiento”, dijo. “Los equipos diversos priorizarán la exquisita comprensión y la sensibilidad necesarias para generar un impacto global”.
el hermano de Omoigui, Nosael fundador del regulador de cumplimiento ESG Tejido AI, reiteró ese punto. Muchos de estos modelos son cajas negras y los creadores no tienen conocimientos particulares sobre el funcionamiento interno de cómo se logra una predicción o recomendación, dijo. En comparación con Wall Street, la IA prácticamente no está regulada y, dado que el nivel de gobernanza no logra igualar su crecimiento, corre el riesgo de volverse deshonesto. Los Estados unidos pasos propuestos para reducir y tener en cuenta el sesgo en los productos impulsados por IA, con cierto retroceso, aunque la propuesta en sí lo coloca un poco por delante de donde se encuentra EE. UU. ahora.
De hecho, Eghosa dijo que a muchos inversores no les importa o no piensan en absoluto en la diversidad dentro de la IA y que existe una mentalidad de pensamiento grupal cuando se trata de capacidades dirigidas por máquinas. Recordó las reacciones que le dieron los inversionistas cuando ayudó a liderar una ronda de inversión para la compañía de software. KOSA IA, que monitorea la IA en busca de sesgos y riesgos.
“Algunos de los inversores con los que hablamos sobre la oportunidad sintieron con mucha fuerza que el sesgo de la IA no era un problema o que un ‘producto despierto’ no encajaría en el producto-mercado, lo cual es sorprendente, por decir lo menos”, Eghosa dicho.