Las herramientas de IA para el proceso de contratación se han convertido en una categoría candente, pero el Departamento de Justicia advierte que el uso descuidado de estos procesos podría dar lugar a violaciones de las leyes estadounidenses que protegen la igualdad de acceso para las personas con discapacidades. Si su empresa utiliza la clasificación algorítmica, el seguimiento facial u otros métodos de alta tecnología para clasificar y calificar a los solicitantes, es posible que desee observar más de cerca lo que están haciendo.
La Comisión de Igualdad de Oportunidades en el Empleo del departamento, que observa y asesora sobre las tendencias de la industria y las acciones relacionadas con asuntos del mismo nombre, ha orientación emitida sobre cómo la empresa puede utilizar de forma segura herramientas basadas en algoritmos sin arriesgarse a la exclusión sistemática de las personas con discapacidad.
“Las nuevas tecnologías no deben convertirse en nuevas formas de discriminar. Si los empleadores son conscientes de las formas en que la IA y otras tecnologías pueden discriminar a las personas con discapacidades, pueden tomar medidas para prevenirlo”, dijo la presidenta de la EEOC, Charlotte A. Burrows, en el presione soltar anunciando la guía.
El sentido general de la guía es pensar mucho (y solicitar las opiniones de los grupos afectados) sobre si estos filtros, pruebas, métricas, etc., miden cualidades o cantidades relevantes para hacer el trabajo. Ofrecen algunos ejemplos:
Un solicitante con una discapacidad visual debe completar una prueba o tarea con un componente visual para calificar para una entrevista, como un juego. A menos que el trabajo tenga un componente visual, esto excluye injustamente a los solicitantes ciegos. Un evaluador de chatbot hace preguntas que han sido redactadas o diseñadas de manera deficiente, como si una persona puede permanecer de pie durante varias horas seguidas, con respuestas negativas que descalifican al solicitante. Una persona en silla de ruedas sin duda podría hacer muchos trabajos que algunos pueden realizar, simplemente desde una posición sentada. Un servicio de análisis de currículum basado en inteligencia artificial degrada una solicitud debido a una brecha en el empleo, pero esa brecha puede deberse a razones relacionadas con una discapacidad o condición por la que no es apropiado sancionar. Un evaluador automatizado basado en la voz requiere que los solicitantes respondan a las preguntas o prueben los problemas verbalmente. Naturalmente, esto excluye a las personas sordas y con problemas de audición, así como a cualquier persona con trastornos del habla. A menos que el trabajo implique una gran cantidad de discurso, esto es impropio. Un algoritmo de reconocimiento facial evalúa las emociones de alguien durante una entrevista en video. Pero la persona es neurodivergente, o sufre parálisis facial a causa de un derrame cerebral; sus puntuaciones serán valores atípicos.
Esto no quiere decir que ninguna de estas herramientas o métodos sean incorrectos o fundamentalmente discriminatorios de una manera que viole la ley. Pero las empresas que los utilizan deben reconocer sus limitaciones y ofrecer adaptaciones razonables en caso de que un algoritmo, un modelo de aprendizaje automático o algún otro proceso automatizado no sea adecuado para su uso con un candidato determinado.
Tener alternativas accesibles es parte de ello, pero también ser transparente sobre el proceso de contratación y declarar por adelantado qué habilidad se evaluará y cómo. Las personas con discapacidades son los mejores jueces de cuáles son sus necesidades y qué adaptaciones, si las hay, solicitar.
Si una empresa no proporciona o no puede proporcionar adaptaciones razonables para estos procesos, y sí, eso incluye procesos construidos y operados por terceros, puede ser demandada o responsabilizarse por esta falla.
Como de costumbre, cuanto antes se tengan en cuenta este tipo de cosas, mejor; si su empresa no ha consultado a un experto en accesibilidad sobre cuestiones como contratación, acceso a sitios web y aplicaciones, y herramientas y políticas internas, hágalo.
Mientras tanto, puedes lea la guía completa del Departamento de Justicia aquícon una versión breve dirigida a los trabajadores que sienten que pueden ser discriminados aquíy por alguna razón otra versión truncada de la guía aquí.
Source link