El hecho de que la IA generativa esté de moda en este momento no significa que deba aplicarse a todas las aplicaciones. Pero intente contárselo a Workday.
El proveedor de plataformas de gestión empresarial anunció hoy un conjunto de nuevas funciones de IA generativa destinadas a “aumentar la productividad” y “agilizar los procesos comerciales”. Pronto, los clientes de Workday podrán comparar automáticamente los contratos firmados con los contratos en Workday para sacar a la luz discrepancias, crear artículos personalizados de gestión del conocimiento y generar declaraciones de trabajo para la adquisición de servicios.
Los anuncios se hicieron en Workday Rising, la conferencia anual para clientes de Workday, que se llevará a cabo en San Francisco este año.
Algunas de las adiciones parecen realmente útiles o, en el peor de los casos, inofensivas. Pero hay uno que preocupa un poco a este periodista: los planes de trabajo de los empleados generados por IA.
“Gerentes [will be able] para crear rápidamente un resumen de las fortalezas y áreas de crecimiento de los empleados, a partir de datos almacenados que incluyen revisiones de desempeño, comentarios de los empleados, objetivos de contribución, habilidades, sentimiento de los empleados y más”, escribe Workday en un comunicado de prensa.
Veo algunos problemas con esto.
Los estudios han demostrado que la IA que analiza textos puede exhibir prejuicios contra las personas que usan expresiones y lenguas vernáculas que quedan fuera de la “norma” (es decir, la mayoría).
Por ejemplo, algunos modelos de IA entrenados para detectar toxicidad ven frases en inglés vernáculo afroamericano (AAVE), la gramática informal utilizada por algunos estadounidenses negros, como desproporcionadamente “tóxicas”. Y los afroamericanos no son el único grupo minoritario que sufre. En un estudio reciente, un equipo de Penn State encontró que las publicaciones en las redes sociales sobre personas con discapacidad podrían marcarse como más negativas o tóxicas mediante los modelos de detección de toxicidad y sentimiento público comúnmente utilizados.
Entonces, ¿qué pasa si los modelos de Workday no logran comprender los matices de una evaluación de desempeño o de los comentarios de los empleados debido a cómo están escritos, lo que lleva a los modelos a sacar conclusiones equivocadas sobre alguien? Buena pregunta.
Luego está el tema del “sentimiento de los empleados”.
Los prejuicios pueden volver a aparecer en modelos de inteligencia artificial entrenados para detectar sentimientos a partir de una oración. Investigación ha demostrado que, por ejemplo, los sistemas de análisis de sentimientos basados en texto pueden mostrar prejuicios raciales, étnicos y de género, por ejemplo, asociando a los negros con emociones más negativas como la ira, el miedo y la tristeza.
En respuesta a estas preocupaciones, Workday dice que es “transparente sobre cómo se diseñan sus modelos de IA” (aunque no está dispuesto a revelar los datos exactos utilizados para entrenar sus modelos) y creó la función de plan de trabajo para mostrar a los gerentes “cómo contribuyen los datos ingresados a una fortaleza o área de crecimiento”.
“Al igual que con otros casos de uso de IA generativa de Workday y nuestro enfoque humano, se anima a los usuarios a revisar los resultados como un primer borrador sólido que deben editar, iterar y finalizar”, Shane Luke, director de IA y aprendizaje automático en Workday, dijo a TechCrunch por correo electrónico. Esperemos que los directivos que utilizan Workday sigan ese consejo.
En cuanto a las otras nuevas funciones de IA generativa de Workday, son menos problemáticas a primera vista.
Las descripciones de puestos de trabajo generadas por IA en Workday aprovechan la información ya almacenada en la plataforma, incluidas las habilidades necesarias para un puesto y los detalles de la ubicación del puesto, para simplificar el proceso de redacción de ofertas de trabajo. Al principio, a este periodista le preocupaba que Workday pudiera estar entrenando sus modelos de generación de descripciones en los textos de los empleados de RR.HH. sin su conocimiento o permiso, pero Luke me asegura que ese no es el caso.
“No nos capacitamos sobre datos específicos de descripción de puestos de trabajo”, dijo. “Los clientes de Workday controlan y configuran cómo se utilizan sus datos con fines de inteligencia artificial y aprendizaje automático, incluido si los datos se utilizan con fines de capacitación… Dejamos claro en los campos del producto qué datos se utilizan en la generación, y se anima a los usuarios a evaluar las respuestas. como primeros borradores y aplicar su propio criterio”.
En otros lugares, Workday pronto podrá elaborar automáticamente avisos de “vencimiento” con recomendaciones sobre el tono de la correspondencia, en función de qué tan tarde llega un cliente o con qué frecuencia llega tarde. (Los equipos de finanzas podrán utilizar la capacidad de automatizar cartas en masa, dice Luke). Y los líderes de adquisiciones podrán obtener sugerencias sobre cláusulas relevantes para incluir en los contratos de adquisiciones, según el tipo de proyecto, la ubicación del proyecto y el tipo de entregables.
Con la función de análisis de contratos antes mencionada, impulsada por IA generativa, los clientes de Workday serán alertados sobre posibles errores en los contratos y recibirán propuestas de corrección. Y con la función de generación de artículos de conocimiento, los usuarios podrán redactar artículos como temas de conversación para gerentes y conclusiones de videos de la empresa con sugerencias sobre tono y extensión. (Workday enfatiza que los usuarios pueden ignorar esas sugerencias).
Developer Copilot marca la primera incursión de Workday en la codificación generativa, introduciendo capacidades de conversión de texto a código en Workday Extent, su plataforma para crear aplicaciones personalizadas que se ejecutan en Workday. Developer Copilot, integrado en el creador de aplicaciones de Workday, ofrece sugerencias de código “contextualmente conscientes” para las aplicaciones de Workday, completas con contenido seleccionado y resultados de búsqueda, similares a servicios de generación de código como GitHub Copilot y Amazon CodeWhisperer.
Y, aprovechando la popularidad de ChatGPT, Workday está poniendo a prueba una serie de experiencias conversacionales de IA. Luke dice que “mejorarán la capacidad de los usuarios para interactuar con información y tareas” de forma natural, aprovechando las capacidades generativas de la IA, como el resumen, la búsqueda y el mantenimiento del contexto.
“Creemos que cuando se utiliza de manera responsable, la IA generativa puede generar resultados comerciales impactantes”, dijo Luke. “Básicamente, nuestro enfoque de IA se centra en la formación de equipos entre humanos y máquinas. El usuario es siempre quien toma la decisión final y modera”.
Workday espera que las nuevas funciones de IA generativa se lancen en los próximos seis a 12 meses. Desafortunadamente, no proporcionó un cronograma más específico que ese.
Source link