Instagram está activando un sistema que Detecta automáticamente comentarios crueles, ofensivos y acosadores y asegúrate de que las personas nunca los vean.. El nuevo sistema se basa en el trabajo que Facebook e Instagram han realizado con DeepText, un motor de clasificación de texto destinado a ayudar a las máquinas a interpretar las palabras tal como se usan en contexto para combatir el spam.
Como Reportado por primera vez por cable, el sistema de Instagram sigue el uso exitoso de la tecnología de la red social para combatir el spam, que comenzó en octubre del año pasado. Después de entrenar el sistema con aportes humanos sobre cómo identificar el spam, al equipo le gustaron los resultados, aunque no dicen exactamente cuánto redujo su implementación el spam en comparación con los métodos anteriores.
Basándose en el éxito de ese sistema, el equipo quería ver si podía abordar un problema aún más complicado: comentarios mezquinos, odiosos y acosadores. ¿Quizás estás familiarizado con Internet? Si es así, también puede ser consciente de que termina proporcionando el medio de entrega de muchas invectivas hirientes, lanzadas con un abandono imprudente y poca consideración por su impacto final.
Los contratistas entrenaron a DeepText para identificar comentarios negativos y categorizarlos en segmentos amplios como “intimidación, racismo o acoso sexual”, según Wired. Se dice que los calificadores analizaron al menos dos millones de comentarios en total antes de la puesta en marcha de hoy del software, y cada uno de ellos ha sido calificado al menos dos veces para garantizar una clasificación correcta.
Una vez que el sistema entre en funcionamiento, lo que el informe dice que sucederá hoy, ingresar comentarios hostiles debería hacer que desaparezcan (aunque seguirá apareciendo para el cartel original, para evitar que intenten anular los filtros mediante intentos repetidos). El filtro está debutando en inglés solo al principio, pero todos los evaluadores empleados en el proyecto son al menos bilingües, e Instagram también está expandiendo su filtro de spam a otros idiomas, lo que significa que es probable que implementen esta herramienta para más regiones con el tiempo. también.
Como anécdota, Instagram ya es una red social a la que acuden muchos amigos porque es más amigable que la mayoría de los otros foros sociales de Internet; Si este sistema resulta efectivo, podría convertirse en un refugio aún mayor, lo que probablemente sea bueno para la permanencia del usuario a largo plazo.