En un desarrollo interesante a raíz de una controversia parcial sobre su algoritmo de recorte, Twitter ha dicho que está considerando otorgar a los usuarios poder de toma de decisiones sobre cómo se ven las vistas previas de tweets, diciendo que quiere disminuir su dependencia del recorte de imágenes basado en el aprendizaje automático.
Sí, lo leiste bien. Una empresa de tecnología está afirmando que, de hecho, es posible que automatizar ciertas decisiones no sea lo más inteligente: reconocer tácitamente que eliminar la agencia humana puede generar daño.
Como informamos el mes pasado, la plataforma de microblogging descubrió que su algoritmo de recorte de imágenes atraía la atención crítica después de Doctor. estudiante Colin Madland notó que el algoritmo solo mostraba su propia imagen (masculina blanca) en la vista previa, recortando repetidamente la imagen de un miembro negro de la facultad.
Irónicamente, había estado discutiendo un tema de sesgo similar con los fondos virtuales de Zoom.
Twitter respondió a las críticas en ese momento diciendo que había probado el sesgo antes de enviar el modelo de aprendizaje automático y que “no había encontrado evidencia de sesgo racial o de género”. Pero agregó: “A partir de estos ejemplos, queda claro que tenemos más análisis por hacer. Continuaremos compartiendo lo que aprendemos, qué acciones tomamos, y abriremos nuestro análisis para que otros puedan revisar y replicar ”.
Ahora ha hecho un seguimiento con detalles adicionales sobre sus procesos de prueba en un entrada en el blog donde sugiere que podría dejar de usar un algoritmo para obtener una vista previa de los cultivos en el futuro.
Twitter también admite que debería haber publicado detalles de su proceso de prueba de sesgo antes de lanzar la herramienta de recorte algorítmico, para que sus procesos pudieran haber sido interrogados externamente. “Esto fue un descuido”, admite.
Vimos sus Tweets sobre el daño causado por la forma en que se recortan las imágenes en Twitter.
Hoy compartimos cómo probamos el sesgo en nuestros sistemas y cómo planeamos confiar menos en el recorte automático y brindarle más opciones sobre cómo aparecen las imágenes en los Tweets:
https://t.co/tiSreeoGOA
– Soporte de Twitter (@TwitterSupport) 1 de octubre de 2020
Al explicar cómo funciona el modelo, Twitter escribe: “El sistema de recorte de imágenes se basa en la prominencia, que predice dónde las personas pueden mirar primero. Para nuestro análisis de sesgo inicial, probamos la preferencia por pares entre dos grupos demográficos (blanco-negro, blanco-indio, blanco-asiático y hombre-mujer). En cada ensayo, combinamos dos caras en la misma imagen, con su orden aleatorio, luego calculamos el mapa de prominencia sobre la imagen combinada. Luego, ubicamos el máximo del mapa de prominencia y registramos en qué categoría demográfica aterrizó. Repetimos esto 200 veces para cada par de categorías demográficas y evaluamos la frecuencia de preferencia de una sobre la otra “.
“Si bien nuestros análisis hasta la fecha no han mostrado prejuicios raciales o de género, reconocemos que la forma en que recortamos las fotos automáticamente significa que existe un potencial de daño. Deberíamos haber hecho un mejor trabajo al anticiparnos a esta posibilidad cuando diseñamos y construimos este producto por primera vez. Actualmente estamos realizando análisis adicionales para agregar más rigor a nuestras pruebas, estamos comprometidos a compartir nuestros hallazgos y estamos explorando formas de abrir nuestro análisis para que otros puedan ayudarnos a mantenernos responsables ”, agrega.
Sobre la posibilidad de alejarse del recorte algorítmico de imágenes en favor de dejar que los humanos tengan voz, Twitter dice que ha “comenzado a explorar diferentes opciones para ver qué funciona mejor en la amplia gama de imágenes que la gente tuitea todos los días”.
“Esperamos que dar a las personas más opciones para recortar imágenes y obtener una vista previa de cómo se verán en el redactor de tweets puede ayudar a reducir el riesgo de daño”, agrega, lo que sugiere que las vistas previas de tweets podrían incluir controles visuales para los usuarios en el futuro.
Tal movimiento, en lugar de inyectar “fricción” en la plataforma (que presumiblemente sería la típica preocupación de los técnicos acerca de agregar otro paso al proceso de twittear), podría abrir nuevas posibilidades creativas / tonales para los usuarios de Twitter al proporcionar otra capa de matiz que envuelve tweets. Diga al permitir a los usuarios crear vistas previas de “huevos de Pascua” que ocultan deliberadamente un detalle visual clave hasta que alguien hace clic; o que se centran en un elemento en particular para enfatizar un punto en el tweet.
Dada la popularidad de las imágenes de broma “mitad y mitad” que juegan con el formato de recorte de vista previa de WhatsApp de la aplicación de mensajería, que requiere un clic para expandir la vista de manera predecible, es fácil ver chistes y memes visuales similares que se activan en Twitter, en caso de que proporcione a los usuarios con las herramientas adecuadas.
La conclusión es que dar a los humanos más agencia significa que estás invitando a la creatividad y permitiendo que la diversidad anule los prejuicios. Lo que debería ser beneficioso para todos. Así que es genial ver a Twitter entretenerse con la idea de suspender uno de sus algoritmos. (Atrévete a sugerir que la plataforma también eche un vistazo de cerca y crítico a la trabajos algorítmicos alrededor Los “tweets principales”, los “tweets de tendencia” y el contenido “popular / relevante” que sus algos a veces eligen inyectar, sin solicitarlo, en las líneas de tiempo de los usuarios, todo lo cual puede generar una mezcla heterogénea de daños).
Volviendo al recorte de imágenes, Twitter dice que, como regla general, se comprometerá con “los principios de diseño de ‘lo que ves es lo que obtienes’”, también conocido como “la foto que ves en el redactor de tweets es como se verá”. en el tweet ”, aunque se advierte que es probable que todavía haya algunas excepciones, como las imágenes que no tienen un tamaño estándar.
En esos casos, dice que experimentará con la forma en que se presentan tales imágenes, con el objetivo de hacerlo de una manera que “no pierda el punto focal previsto por el creador ni le quite la integridad de la foto”. Una vez más, será bueno mostrar cualquier funcionamiento algorítmico en público.