Como prometió repetidamente el CEO de Twitter, Elon Musk, Twitter ha abrió una parte de su código fuente a la inspección pública, incluido el algoritmo que utiliza para recomendar tweets en las líneas de tiempo de los usuarios.
En GitHub, Twitter publicó dos repositorios contiene código para muchas partes que hacen que la red social funcione, incluido el mecanismo que Twitter usa para controlar los tweets que los usuarios ven en la línea de tiempo For You. En una publicación de blog, Twitter caracterizó la medida como un “primer paso para ser[ing] más transparente” mientras que al mismo tiempo “[preventing] riesgo” para el propio Twitter y las personas en la plataforma.
En una sesión de Twitter Spaces hoy, Musk aclaró:
“Nuestro lanzamiento inicial del llamado algoritmo será bastante vergonzoso, y la gente encontrará muchos errores, pero los corregiremos muy rápidamente”, dijo Musk. “Incluso si no estás de acuerdo con algo, al menos sabrás por qué está ahí y que no estás siendo manipulado en secreto… El análogo, aquí, al que aspiramos es el gran ejemplo de Linux como un sistema operativo de código abierto… Uno puede, en teoría, descubrir muchos exploits para Linux. En realidad, lo que sucede es que la comunidad identifica y corrige esos exploits”.
En ese segundo punto de la publicación del blog sobre la prevención de riesgos, los lanzamientos de código abierto no incluyen el código que impulsa las recomendaciones de anuncios de Twitter o los datos utilizados para entrenar el algoritmo de recomendación de Twitter. Además, incluyen pocas instrucciones sobre cómo inspeccionar o usar el código, lo que refuerza la idea de que los lanzamientos están estrictamente enfocados en los desarrolladores.
“[We excluded] cualquier código que comprometa la seguridad y privacidad del usuario o la capacidad de proteger nuestra plataforma de los malos actores, lo que incluye socavar nuestros esfuerzos para combatir la explotación y manipulación sexual infantil”, escribió Twitter. Es un poco de mensajes mixtos que vienen solo semanas después Twitter despedido mucho de su IA ética y personal de confianza y seguridad, que era responsable de la moderación del contenido, entre otras tareas relacionadas con la seguridad del usuario. Sin embargo, la empresa insiste en que “[took] pasos para garantizar que la seguridad y la privacidad del usuario estén protegidas” con el lanzamiento del código de hoy.
Un diagrama que muestra cómo funciona la canalización de recomendaciones de Twitter. Créditos de imagen: Gorjeo
Twitter dice que está trabajando en herramientas para administrar las sugerencias de código de la comunidad y sincronizar los cambios con su repositorio interno. Presumiblemente, estarán disponibles en una fecha futura; no hay señales de ellos en el presente.
“Vamos a buscar sugerencias, no solo sobre errores, sino también sobre cómo debería funcionar el algoritmo”, dijo Musk en la sesión de Spaces. “Va a ser un proceso en evolución. No esperaría que fuera un movimiento ascendente continuo… pero estamos muy abiertos a lo que podría mejorar la experiencia del usuario”.
A primera vista, el algoritmo es bastante complejo, pero no necesariamente sorprendente desde un punto de vista técnico. Se compone de múltiples modelos, incluido un modelo para detectar contenido “no seguro para el trabajo” o abusivo, determinar la probabilidad de que un usuario de Twitter interactúe con otro usuario y calcular la “reputación” de un usuario de Twitter. (No está claro a qué se refiere exactamente “reputación”; la documentación de alto nivel no es clara al respecto). Varias redes neuronales son responsables de clasificar los tweets y recomendar cuentas a seguir, mientras que un componente de filtrado oculta los tweets para… perdonen el jerga: “apoyar el cumplimiento legal, mejorar la calidad del producto, aumentar la confianza del usuario, proteger los ingresos mediante el uso de tratamientos de productos visibles y filtrados duros y una clasificación descendente de granularidad gruesa”.
Línea de tiempo For You de Twitter, impulsada por un algoritmo de recomendación. Créditos de imagen: Gorjeo
en una ingenieria entrada en el blogTwitter revela más sobre el canal de recomendaciones, que afirma que se ejecuta aproximadamente cinco mil millones de veces al día:
“Intentamos extraer los mejores 1500 tuits de un grupo de cientos de millones… Hoy, la línea de tiempo For You consta del 50 % [tweets from people you don’t follow] y 50% [tweets from people you follow] en promedio, aunque esto puede variar de un usuario a otro”, escribió Twitter. “Clasificación [tweets] se logra con una red neuronal de ~48 millones de parámetros que se entrena continuamente en las interacciones de tweets para optimizar el compromiso positivo (por ejemplo, me gusta, retweets y respuestas)”.
Los usuarios de Twitter no ven los 1500 tuits completos, por supuesto. Se filtran según las restricciones de contenido y otros criterios y factores considerados por los modelos, como si los tuits tienen “retroalimentación negativa” y si son principalmente del mismo usuario de Twitter o de usuarios que han sido bloqueados o silenciados.
gizmodo notas Esa única cosa que no parece haberse hecho pública es la lista de VIP que Twitter envía a los usuarios. Esta semana, Plataformas reportado que Twitter tiene una lista rotativa de usuarios notables, incluido el YouTuber Mr. Beast y el fundador del Daily Wire, Ben Shapiro, que utiliza para monitorear los cambios en el algoritmo de recomendación al aumentar la visibilidad de estos “usuarios avanzados” aparentemente a voluntad.
Hay más evidencia de que el algoritmo puede tratar los tweets de manera diferente según la fuente. La investigadora Jane Manchun Wong señaló que el algoritmo de Twitter etiqueta específicamente si el autor del tuit es Elon Musk y tiene otras etiquetas que indican si el autor es un “usuario avanzado” y si es republicano o demócrata.
Durante la sesión de Spaces esta tarde, un ingeniero de Twitter dijo que las etiquetas se usaban solo para métricas. Pero Musk, quien dijo que no estaba al tanto de las etiquetas antes de hoy, dijo que no deberían estar allí.
“Definitivamente no debería estar dividiendo a la gente en republicanos y demócratas, eso no tiene sentido”, dijo Musk.
El lanzamiento del código fuente se produce después de varias controversias relacionadas con ajustes al algoritmo de recomendación de Twitter en los últimos meses. De acuerdo a Plataformas, en febrero, Musk pidió a los ingenieros de Twitter que reconfiguraran el algoritmo para que sus tuits fueran más vistos. (Twitter luego revirtió este cambio, al menos un poco). En noviembre, Twitter comenzó a mostrar a los usuarios más tweets de personas que no siguen, un movimiento que la plataforma intentó antes de la adquisición de Musk, pero luego revirtió después de una reacción violenta de los usuarios.