La tecnología, al contrario de lo que muchos piensan, está social y culturalmente construida. Esto significa que, si queremos que esta nos proporcione mayores cotas de justicia e igualdad, es recomendable incluir una dimensión social y ética. En el caso de la Inteligencia Artificial (IA), debido a sus propias características como el uso del big data y su capacidad de procesamiento de datos, esta recomendación se ha convertido en una necesidad.
Para disfrutar de los beneficios de la IA (mayor eficacia, eficiencia, automatización, personalización, rastreo, detección, etc.), primero es necesario garantizar tres cosas: que su uso se encuentre dentro de los límites marcados por el ordenamiento jurídico de la UE en esta materia, que la IA sea robusta desde un punto de vista técnico y que sea ética. El cumplimiento de estos requisitos está orientado a evitar que el uso de la IA en Europa conlleve problemas éticos y legales como discriminaciones producidas por sesgos, problemas de rendición de cuentas, etc.
En este sentido, y debido a su condicionamiento sociocultural, uno de los mayores retos al introducir sistemas de IA en el sector público español y europeo es garantizar que no repercutan negativamente en la vida de las mujeres e, idealmente, que ayuden en la promoción de la igualdad de género. Una cuestión que con frecuencia es ignorada y/o minimizada en los debates sobre IA.
Más información
Pero ¿qué riesgos puede conllevar la IA para la igualdad de género? Aunque, desde un punto de vista teórico, las cuestiones de género se encuentran estrechamente relacionadas con ciertos elementos que atañen a la IA (por ejemplo, la asociación de la palabra “inteligencia” con el racionamiento lógico y racional es algo históricamente vinculado a la masculinidad occidental), desde un punto de vista más práctico hay dos asuntos que resultan especialmente importantes al hablar de IA y género.
Primero, la IA puede producir sesgos de género en las decisiones que toma si no se tiene en cuenta la representatividad de los datos. Que los datos sean representativos significa que reflejen de la forma más veraz posible la diversidad de la realidad social. Sin embargo, actualmente sabemos que las mujeres están menos presentes en ciertos sectores y, concretamente, tienen menos presencia en Internet. Aunque la brecha digital se ha reducido en los últimos años, todavía existen diferencias: a escala mundial, el 55% de los hombres usa Internet en comparación con el 48% de las mujeres, y en algunas regiones, como en África, el desbalance de género es aún mayor. También se deben considerar las diferencias de género en las competencias digitales, que tienden a dejar a las mujeres peor situadas, sobre todo en las habilidades más avanzadas. Esto significa que los datos no solo están sesgados a favor de los hombres, sino que, entre las mujeres, aquellas blancas, occidentales y de clase alta, tienen mayor presencia que las demás.
Segundo, así como es importante incluir la perspectiva de género en el diseño de políticas públicas, procesos de contratación de personal, etc., también lo es en el caso de los algoritmos. Al ser los algoritmos sistemas de reglas en base a los cuales la IA toma sus decisiones, es necesario introducir reglas o pasos que eviten la discriminación por género. Al mismo tiempo, la perspectiva de género debe estar presente en el diseño de la IA. Hasta ahora, la mayor parte de los chatbots y asistentes de voz presentan características claramente asociadas al género femenino, de tal modo que sus interacciones con los/as usuarios/as refuerzan estereotipos de género ya existentes.
Resolver estos problemas sería el primer paso hacia una IA que no repercuta negativamente en las mujeres, pero ¿podemos ir más allá? ¿Es posible una IA feminista que promocione activamente la igualdad entre hombres y mujeres? La respuesta es sí. Si se aprovechan las oportunidades de la IA, esta tecnología puede ayudarnos a promover la igualdad al menos en tres áreas que son esenciales para las mujeres.
En la lucha contra la violencia de género, por ejemplo, a través del desarrollo de chatbots que faciliten los procesos administrativos para denunciar y que presten asistencia en tiempo real a las víctimas. También se puede usar la IA para predecir la probabilidad de reincidencia de una persona condenada por violencia de género, etc. Se puede emplear la IA para reducir la brecha salarial y la desigualdad económica entre hombres y mujeres a través del desarrollo de sistemas de IA que contribuyan con la transparencia retributiva. Además, la IA puede usarse para atender las necesidades de salud específicas de las mujeres a través del desarrollo y uso de sistemas de IA especializados en el diagnóstico de enfermedades que sufren las mujeres como el cáncer de cuello de útero, el cáncer de mama, etc.
En definitiva, solo una IA con perspectiva de género permitirá que este nuevo grupo de tecnologías emergentes nos ayude a alcanzar mayores niveles de justicia e igualdad. Solo una IA feminista tiene cabida en una sociedad democrática.
Lucía Ortiz de Zárate Alcarazo es investigadora predoctoral en Ética y Gobernanza de la Inteligencia Artificial en el Departamento de Ciencia Política y Relaciones Internacional de la Universidad Autónoma de Madrid.
Ariana Guevara Gómez es investigadora predoctoral en Género, Tecnología y Administración Pública en el Departamento de Ciencia Política y Relaciones Internacional de la Universidad Autónoma de Madrid.
Puedes seguir a EL PAÍS TECNOLOGÍA en Facebook y Twitter o apuntarte aquí para recibir nuestra newsletter semanal.