En un desarrollo interesante a raíz de una controversia parcial sobre su algoritmo de recorte, Twitter ha dicho que está considerando otorgar a los usuarios poder de toma de decisiones sobre cómo se ven las vistas previas de tweets, diciendo que quiere disminuir su dependencia del recorte de imágenes basado en aprendizaje automático.
Sí, lo leiste bien. Una empresa de tecnología está afirmando que, de hecho, es posible que automatizar ciertas decisiones no sea lo más inteligente: reconocer tácitamente que eliminar la agencia humana puede generar daño.
Como informamos el mes pasado, la plataforma de microblogging encontró que su algoritmo de recorte de imágenes atrajo la atención crítica después de Doctor. estudiante Colin Madland notó que el algoritmo solo mostraba su propia imagen (masculina blanca) en la vista previa, recortando repetidamente la imagen de un miembro negro de la facultad.
Irónicamente, había estado discutiendo un tema de sesgo similar con los fondos virtuales de Zoom.
Gorjeo respondió a las críticas en ese momento diciendo que había probado el sesgo antes de enviar el modelo de aprendizaje automático y que “no había encontrado evidencia de sesgo racial o de género”. Pero agregó: “A partir de estos ejemplos, queda claro que tenemos más análisis por hacer. Continuaremos compartiendo lo que aprendemos, qué acciones tomamos, y abriremos nuestro análisis para que otros puedan revisar y replicar ”.
Ahora se le da seguimiento con detalles adicionales sobre sus procesos de prueba en un entrada en el blog donde sugiere que podría dejar de usar un algoritmo para cultivos de vista previa en el futuro.
Twitter también admite que debería haber publicado detalles de su proceso de prueba de sesgos. antes de el lanzamiento de la herramienta de recorte algorítmico, para que sus procesos pudieran haber sido interrogados externamente. “Esto fue un descuido”, admite.
Al explicar cómo funciona el modelo, Twitter escribe: “El sistema de recorte de imágenes se basa en la prominencia, que predice dónde las personas pueden mirar primero. Para nuestro análisis de sesgo inicial, probamos la preferencia por pares entre dos grupos demográficos (blanco-negro, blanco-indio, blanco-asiático y hombre-mujer). En cada ensayo, combinamos dos caras en la misma imagen, con su orden aleatorio, luego calculamos el mapa de prominencia sobre la imagen combinada. Luego, ubicamos el máximo del mapa de prominencia y registramos en qué categoría demográfica aterrizó. Repetimos esto 200 veces para cada par de categorías demográficas y evaluamos la frecuencia de preferencia de una sobre la otra “.
“Si bien nuestros análisis hasta la fecha no han mostrado prejuicios raciales o de género, reconocemos que la forma en que recortamos las fotos automáticamente significa que existe un potencial de daño. Deberíamos haber hecho un mejor trabajo anticipando esta posibilidad cuando diseñamos y construimos este producto por primera vez. Actualmente estamos llevando a cabo análisis adicionales para agregar más rigor a nuestras pruebas, estamos comprometidos a compartir nuestros hallazgos y estamos explorando formas de abrir nuestro análisis para que otros puedan ayudarnos a mantener nuestra responsabilidad ”, agrega.
Sobre la posibilidad de alejarse del recorte algorítmico de imágenes en favor de dejar que los humanos tengan voz, Twitter dice que “comenzó a explorar diferentes opciones para ver qué funciona mejor en la amplia gama de imágenes que la gente tuitea todos los días”.
“Esperamos que dar a las personas más opciones para recortar imágenes y obtener una vista previa de cómo se verán en el redactor de tweets pueda ayudar a reducir el riesgo de daño”, agrega, sugiriendo que las vistas previas de tweets podrían incluir controles visuales para los usuarios en el futuro.
Tal movimiento, en lugar de inyectar ‘fricción’ en la plataforma (que presumiblemente sería la típica preocupación de los técnicos sobre agregar otro paso al proceso de twittear), podría abrir nuevas posibilidades creativas / tonales para los usuarios de Twitter al proporcionar otra capa de matiz que envuelve tweets. Diga permitiendo a los usuarios crear vistas previas de “huevos de pascua” que ocultan deliberadamente un detalle visual clave hasta que alguien hace clic; o qué se concentra en un elemento en particular para enfatizar un punto en el tweet.
Dada la popularidad de las imágenes de broma ‘mitad y mitad’ que juegan con el formato de recorte de vista previa de WhatsApp de la aplicación de mensajería, que requiere un clic para expandir la vista de manera predecible, es fácil ver bromas y memes visuales similares que se activan en Twitter, si se proporciona a los usuarios con las herramientas adecuadas.
La conclusión es que dar a los humanos más agencia significa que estás invitando a la creatividad. y dejar que la diversidad anule el sesgo. Lo que debería ser beneficioso para todos. Así que es genial ver a Twitter entretenerse con la idea de suspender uno de sus algoritmos. (Atrévete a sugerir que la plataforma también eche un vistazo de cerca y crítico al trabajos algorítmicos alrededor los ‘tweets principales’, los ‘tweets de tendencia’ y el contenido ‘popular / relevante’ que sus algos a veces eligen inyectar, sin solicitarlo, en las líneas de tiempo de los usuarios, todo lo cual puede generar una mezcla heterogénea de daños).
Volviendo al recorte de imágenes, Twitter dice que, como regla general, se comprometerá con “los principios de diseño ‘lo que ves es lo que obtienes’”, es decir, “la foto que ves en el redactor de tweets es lo que se verá en el tweet ”, aunque se advierte, es probable que todavía haya algunas excepciones, como las imágenes que no tienen un tamaño estándar.
En esos casos, dice que experimentará con la forma en que se presentan tales imágenes, con el objetivo de hacerlo de una manera que “no pierda el punto focal previsto por el creador ni reste la integridad de la foto”. Una vez más, será bueno mostrar cualquier funcionamiento algorítmico en público.