A medida que las herramientas de inteligencia artificial y aprendizaje automático se vuelven más generalizadas y accesibles, los equipos de productos e ingeniería de todo tipo de organizaciones están desarrollando productos y características innovadoras basadas en inteligencia artificial. La IA es particularmente adecuada para el reconocimiento de patrones, la predicción y el pronóstico, y la personalización de la experiencia del usuario, todo lo cual es común en las organizaciones que manejan datos.
Un precursor para aplicar la IA son los datos, ¡muchísimos! Generalmente se requieren grandes conjuntos de datos para entrenar un modelo de IA, y cualquier organización que tenga grandes conjuntos de datos sin duda enfrentará desafíos que la IA puede ayudar a resolver. Alternativamente, la recopilación de datos puede ser la “fase uno” del desarrollo de productos de IA si los conjuntos de datos aún no existen.
Independientemente de los conjuntos de datos que planee usar, es muy probable que las personas hayan participado en la captura de esos datos o se involucren de alguna manera con su función de IA. Los principios para el diseño de UX y la visualización de datos deben ser una consideración temprana en la captura de datos y / o en la presentación de datos a los usuarios.
1. Considere la experiencia del usuario temprano
Comprender cómo los usuarios se involucrarán con su producto de IA al comienzo del desarrollo del modelo puede ayudar a poner barreras útiles en su proyecto de IA y garantizar que el equipo se centre en un objetivo final compartido.
Si tomamos la sección ” Recomendado para usted ” de un servicio de transmisión de películas, por ejemplo, esbozar lo que el usuario verá en esta función antes de comenzar el análisis de datos permitirá que el equipo se concentre solo en los resultados del modelo que agregarán valor. Entonces, si su investigación de usuarios determinó que el título, la imagen, los actores y la duración de la película serán información valiosa para que el usuario vea en la recomendación, el equipo de ingeniería tendría un contexto importante al decidir qué conjuntos de datos deberían capacitar al modelo. Los datos del actor y la duración de la película parecen ser clave para garantizar que las recomendaciones sean precisas.
La experiencia del usuario se puede dividir en tres partes:
Antes: ¿qué intenta lograr el usuario? ¿Cómo llega el usuario a esta experiencia? ¿A dónde van? ¿Qué deberían esperar? Durante: ¿qué deberían ver para orientarse? ¿Está claro qué hacer a continuación? ¿Cómo se guían a través de los errores? Después: ¿logró el usuario su objetivo? ¿Hay un “final” claro para la experiencia? ¿Cuáles son los pasos de seguimiento (si corresponde)?
Saber lo que debe ver un usuario antes, durante y después de interactuar con su modelo garantizará que el equipo de ingeniería esté capacitando al modelo de IA en datos precisos desde el principio, así como proporcionará una salida que sea más útil para los usuarios.
2. Sea transparente sobre cómo usa los datos
¿Sabrán sus usuarios qué está sucediendo con los datos que está recopilando de ellos y por qué los necesita? ¿Necesitarían sus usuarios leer páginas de sus T&C para obtener una pista? Piense en agregar la justificación al producto en sí. Un simple “esta información nos permitirá recomendar un mejor contenido” podría eliminar los puntos de fricción de la experiencia del usuario y agregar una capa de transparencia a la experiencia.
Cuando los usuarios solicitan el apoyo de un asesor en The Trevor Project, dejamos en claro que la información que solicitamos antes de conectarlos con un asesor se utilizará para brindarles un mejor apoyo.
Créditos de imagen: Proyecto Trevor (se abre en una nueva ventana)
Si su modelo presenta resultados a los usuarios, vaya un paso más allá y explique cómo llegó a su conclusión. Google “¿Por qué este anuncio?” La opción le da una idea de lo que impulsa los resultados de búsqueda que ve. También le permite deshabilitar completamente la personalización de anuncios, lo que permite al usuario controlar cómo se usa su información personal. Explicar cómo funciona su modelo o su nivel de precisión puede aumentar la confianza en su base de usuarios y capacitar a los usuarios para que decidan en sus propios términos si desean participar en el resultado. Los niveles de precisión bajos también podrían usarse como un indicador para recopilar información adicional de los usuarios para mejorar su modelo.
3. Recopila información del usuario sobre el rendimiento de tu modelo
Al solicitar a los usuarios que den su opinión sobre su experiencia, el equipo del Producto puede realizar mejoras continuas en la experiencia del usuario a lo largo del tiempo. Cuando piense en la recopilación de comentarios, considere cómo el equipo de ingeniería de IA también podría beneficiarse de los comentarios continuos de los usuarios. ¡A veces los humanos pueden detectar errores obvios que la IA no detectaría, y su base de usuarios está compuesta exclusivamente por humanos!
Un ejemplo de recopilación de comentarios de los usuarios en acción es cuando Google identifica un correo electrónico como peligroso, pero permite al usuario usar su propia lógica para marcar el correo electrónico como “Seguro”. Esta corrección continua y manual del usuario permite que el modelo aprenda continuamente cómo se ve la mensajería peligrosa con el tiempo.
Créditos de imagen: Google
Si su base de usuarios también tiene el conocimiento contextual para explicar por qué la IA es incorrecta, este contexto podría ser crucial para mejorar el modelo. Si un usuario nota una anomalía en los resultados devueltos por la IA, piense en cómo podría incluir una manera para que el usuario informe fácilmente la anomalía. ¿Qué pregunta (s) podría hacerle a un usuario para obtener información clave para el equipo de ingeniería y proporcionar señales útiles para mejorar el modelo? Los equipos de ingeniería y los diseñadores de UX pueden trabajar juntos durante el desarrollo del modelo para planificar la recopilación de comentarios desde el principio y configurar el modelo para una mejora iterativa continua.
4. Evaluar la accesibilidad al recopilar datos de usuario
Los problemas de accesibilidad dan como resultado una recopilación de datos sesgada, y la IA que está capacitada en conjuntos de datos exclusivos puede crear un sesgo de AI. Por ejemplo, los algoritmos de reconocimiento facial que fueron entrenados en un conjunto de datos que consiste principalmente en rostros masculinos blancos funcionarán mal para cualquiera que no sea blanco o masculino. Para organizaciones como The Trevor Project que apoyan directamente a los jóvenes LGBTQ, incluir consideraciones sobre orientación sexual e identidad de género es extremadamente importante. Buscar conjuntos de datos inclusivos externamente es tan importante como asegurarse de que los datos que trae a la mesa o que tiene la intención de recopilar sean inclusivos.
Al recopilar datos de usuario, considere la plataforma que sus usuarios aprovecharán para interactuar con su IA y cómo podría hacerla más accesible. Si su plataforma requiere un pago, no cumple con las pautas de accesibilidad o tiene una experiencia de usuario particularmente engorrosa, recibirá menos señales de aquellos que no pueden pagar la suscripción, tienen necesidades de accesibilidad o son menos conocedores de la tecnología.
Cada líder de producto e ingeniero de IA tiene la capacidad de garantizar que los grupos marginados y subrepresentados de la sociedad puedan acceder a los productos que están construyendo. Comprender a quién excluye inconscientemente de su conjunto de datos es el primer paso para crear productos de IA más inclusivos.
5. Considere cómo medirá la equidad al comienzo del desarrollo del modelo
La equidad va de la mano para garantizar que sus datos de capacitación sean inclusivos. La medición de la equidad en un modelo requiere que comprenda cómo su modelo puede ser menos justo en ciertos casos de uso. Para los modelos que utilizan datos de personas, observar cómo se desempeña el modelo en diferentes grupos demográficos puede ser un buen comienzo. Sin embargo, si su conjunto de datos no incluye información demográfica, este tipo de análisis de equidad podría ser imposible.
Cuando diseñe su modelo, piense en cómo los datos podrían sesgar la salida o cómo podría perjudicar a ciertas personas. Asegúrese de que los conjuntos de datos que usa para entrenar y los datos que recopila de los usuarios sean lo suficientemente ricos como para medir la equidad. Considere cómo supervisará la imparcialidad como parte del mantenimiento regular del modelo. Establezca un umbral de equidad y cree un plan sobre cómo ajustaría o volvería a capacitar el modelo si se vuelve menos justo con el tiempo.
Como un trabajador tecnológico nuevo o experimentado que desarrolla herramientas basadas en inteligencia artificial, nunca es demasiado temprano o demasiado tarde para considerar cómo sus herramientas son percibidas e impactan a sus usuarios. La tecnología de IA tiene el potencial de llegar a millones de usuarios a escala y puede aplicarse en casos de uso de alto riesgo. Tener en cuenta la experiencia del usuario de manera integral, incluida la forma en que la salida de IA afectará a las personas, no solo es una buena práctica, sino que puede ser una necesidad ética.
Source link