Debbie Pope (ella/ella) es gerente sénior de productos en El Proyecto Trevor, la organización de intervención en crisis y prevención del suicidio más grande del mundo para jóvenes LGBTQ. Beneficiario de Google AI Impact Grantee de 2019, el proyecto está construyendo un sistema de inteligencia artificial para identificar y priorizar contactos de alto riesgo y, al mismo tiempo, apoyar a más jóvenes.
A medida que las herramientas de inteligencia artificial y aprendizaje automático se vuelven más omnipresentes y accesibles, los equipos de productos e ingeniería de todos los tipos de organizaciones están desarrollando productos y funciones innovadores basados en inteligencia artificial. La IA es particularmente adecuada para el reconocimiento de patrones, la predicción y el pronóstico, y la personalización de la experiencia del usuario, todos los cuales son comunes en las organizaciones que manejan datos.
Un precursor de la aplicación de IA son los datos, ¡muchísimos! Por lo general, se requieren grandes conjuntos de datos para entrenar un modelo de IA, y cualquier organización que tenga grandes conjuntos de datos sin duda enfrentará desafíos que la IA puede ayudar a resolver. Alternativamente, la recopilación de datos puede ser la “fase uno” del desarrollo de productos de IA si aún no existen conjuntos de datos.
Independientemente de los conjuntos de datos que planee usar, es muy probable que las personas hayan estado involucradas en la captura de esos datos o que se relacionen con su función de IA de alguna manera. Los principios para el diseño de UX y la visualización de datos deben ser una consideración temprana en la captura de datos y/o en la presentación de datos a los usuarios.
1. Considere la experiencia del usuario desde el principio
Comprender cómo los usuarios se involucrarán con su producto de IA al comienzo del desarrollo del modelo puede ayudar a poner barandillas útiles en su proyecto de IA y garantizar que el equipo se centre en un objetivo final compartido.
Si tomamos la sección “Recomendado para usted” de un servicio de transmisión de películas, por ejemplo, describir lo que el usuario verá en esta función antes de iniciar el análisis de datos permitirá que el equipo se centre solo en los resultados del modelo que agregarán valor. Entonces, si su investigación de usuario determinó que el título de la película, la imagen, los actores y la duración serán información valiosa para que el usuario la vea en la recomendación, el equipo de ingeniería tendría un contexto importante al decidir qué conjuntos de datos deben entrenar el modelo. Los datos de duración de películas y actores parecen ser clave para garantizar que las recomendaciones sean precisas.
La experiencia del usuario se puede dividir en tres partes:
Antes: ¿Qué intenta lograr el usuario? ¿Cómo llega el usuario a esta experiencia? ¿A dónde van? ¿Qué deben esperar? Durante — ¿Qué deben ver para orientarse? ¿Está claro qué hacer a continuación? ¿Cómo son guiados a través de los errores? Después: ¿El usuario logró su objetivo? ¿Hay un “final” claro para la experiencia? ¿Cuáles son los pasos de seguimiento (si los hay)?
Saber lo que un usuario debe ver antes, durante y después de interactuar con su modelo garantizará que el equipo de ingeniería entrene el modelo de IA con datos precisos desde el principio, además de proporcionar un resultado que sea más útil para los usuarios.
2. Sea transparente sobre cómo está utilizando los datos
¿Sabrán sus usuarios qué sucede con los datos que recopila de ellos y por qué los necesita? ¿Necesitarían sus usuarios leer páginas de sus TyC para obtener una pista? Piense en agregar la justificación al producto en sí. Un simple “estos datos nos permitirán recomendar mejor contenido” podría eliminar los puntos de fricción de la experiencia del usuario y agregar una capa de transparencia a la experiencia.
Cuando los usuarios solicitan el apoyo de un consejero en The Trevor Project, dejamos en claro que la información que solicitamos antes de conectarlos con un consejero se utilizará para brindarles un mejor apoyo.
Créditos de imagen: Proyecto Trevor (se abre en una ventana nueva)
Si su modelo presenta salidas a los usuarios, vaya un paso más allá y explique cómo llegó su modelo a su conclusión. “¿Por qué este anuncio?” de Google La opción le da una idea de lo que impulsa los resultados de búsqueda que ve. También le permite deshabilitar la personalización de anuncios por completo, lo que le permite al usuario controlar cómo se usa su información personal. Explicar cómo funciona su modelo o su nivel de precisión puede aumentar la confianza en su base de usuarios y empoderar a los usuarios para que decidan en sus propios términos si se comprometen con el resultado. Los niveles bajos de precisión también se pueden usar como un aviso para recopilar información adicional de los usuarios para mejorar su modelo.
3. Recopile información de los usuarios sobre el rendimiento de su modelo
Solicitar a los usuarios que den su opinión sobre su experiencia permite al equipo del producto realizar mejoras continuas en la experiencia del usuario a lo largo del tiempo. Cuando piense en la recopilación de comentarios, considere cómo el equipo de ingeniería de IA también podría beneficiarse de los comentarios continuos de los usuarios. A veces, los humanos pueden detectar errores obvios que la IA no detectaría, ¡y su base de usuarios está compuesta exclusivamente por humanos!
Un ejemplo de recopilación de comentarios de usuarios en acción es cuando Google identifica un correo electrónico como peligroso, pero permite que el usuario use su propia lógica para marcar el correo electrónico como “seguro”. Esta corrección manual continua del usuario permite que el modelo aprenda continuamente cómo se ven los mensajes peligrosos a lo largo del tiempo.
Créditos de imagen: Google
Si su base de usuarios también tiene el conocimiento contextual para explicar por qué la IA es incorrecta, este contexto podría ser crucial para mejorar el modelo. Si un usuario nota una anomalía en los resultados devueltos por la IA, piense en cómo podría incluir una forma para que el usuario informe fácilmente de la anomalía. ¿Qué preguntas podría hacerle a un usuario para obtener información clave para el equipo de ingeniería y proporcionar señales útiles para mejorar el modelo? Los equipos de ingeniería y los diseñadores de UX pueden trabajar juntos durante el desarrollo del modelo para planificar la recopilación de comentarios desde el principio y configurar el modelo para una mejora iterativa continua.
4. Evaluar la accesibilidad al recopilar datos del usuario
Los problemas de accesibilidad dan como resultado una recopilación de datos sesgada, y la IA entrenada en conjuntos de datos excluyentes puede crear sesgo de IA. Por ejemplo, los algoritmos de reconocimiento facial que fueron entrenados en un conjunto de datos que consiste principalmente en caras de hombres blancos funcionará mal para cualquiera que no sea blanco o hombre. Para organizaciones como El Proyecto Trevor que apoyen directamente a los jóvenes LGBTQ, incluidas las consideraciones para orientación sexual y identidad de género son extremadamente importantes. Buscar conjuntos de datos inclusivos externamente es tan importante como asegurarse de que los datos que trae a la mesa, o pretende recopilar, sean inclusivos.
Al recopilar datos de usuarios, tenga en cuenta la plataforma que sus usuarios aprovecharán para interactuar con su IA y cómo podría hacerla más accesible. Si su plataforma requiere pago, no cumple con las pautas de accesibilidad o tiene una experiencia de usuario particularmente engorrosa, recibirá menos señales de aquellos que no pueden pagar la suscripción, tienen necesidades de accesibilidad o son menos expertos en tecnología.
Cada líder de producto e ingeniero de IA tiene la capacidad de garantizar que los grupos marginados y subrepresentados en la sociedad puedan acceder a los productos que están construyendo. Comprender a quién está excluyendo inconscientemente de su conjunto de datos es el primer paso para crear productos de IA más inclusivos.
5. Considere cómo medirá la equidad al comienzo del desarrollo del modelo
La equidad va de la mano con garantizar que sus datos de capacitación sean inclusivos. Medir la equidad en un modelo requiere que comprenda cómo su modelo puede ser menos justo en ciertos casos de uso. Para los modelos que utilizan datos de personas, observar el rendimiento del modelo en diferentes grupos demográficos puede ser un buen comienzo. Sin embargo, si su conjunto de datos no incluye información demográfica, este tipo de análisis de equidad podría ser imposible.
Cuando diseñe su modelo, piense en cómo sus datos podrían sesgar la salida o cómo podría desatender a ciertas personas. Asegúrese de que los conjuntos de datos que utiliza para entrenar y los datos que recopila de los usuarios sean lo suficientemente completos como para medir la equidad. Considere cómo monitoreará la equidad como parte del mantenimiento regular del modelo. Establezca un umbral de equidad y cree un plan sobre cómo ajustaría o volvería a entrenar el modelo si se vuelve menos justo con el tiempo.
Como trabajador de tecnología nuevo o experimentado que desarrolla herramientas impulsadas por IA, nunca es demasiado temprano o demasiado tarde para considerar cómo perciben sus herramientas y cómo impactan a sus usuarios. La tecnología de IA tiene el potencial de llegar a millones de usuarios a escala y se puede aplicar en casos de uso de alto riesgo. Considerar la experiencia del usuario de manera holística, incluida la forma en que la salida de la IA afectará a las personas, no solo es una buena práctica, sino que puede ser una necesidad ética.
Source link