Instagram y sus usuarios se benefician de la propiedad de la aplicación por parte de Facebook, que invierte toneladas en nuevas tecnologías de inteligencia artificial. Ahora que la IA podría ayudar a que Instagram sea más tolerable para los humanos. Hoy, Instagram anunció un nuevo conjunto de funciones contra el acoso cibernético. Lo más importante es que ahora puede usar el aprendizaje automático para escanear ópticamente las fotos publicadas en la aplicación para detectar el acoso y enviar la publicación a los moderadores de la comunidad de Instagram para su revisión. Eso significa que los acosadores no podrán simplemente garabatear notas amenazantes o difamatorias y luego publicar una foto de ellos para evitar los filtros de texto de Instagram para el acoso.
En su primera publicación de blog Dirigiéndose directamente a los usuarios de Instagram, el líder recién nombrado de la división, Adam Mosseri, escribe: “No hay lugar para el acoso en Instagram. . . Como nuevo director de Instagram, me enorgullece aprovechar nuestro compromiso de hacer de Instagram una comunidad amable y segura para todos “. El filtro para fotos y subtítulos se implementará durante las próximas semanas.
Instagram lanzó el filtrado de texto para el acoso en mayo, pero eso podría haber empujado a los trolls a atacar a las personas a través de imágenes. Ahora, su clasificador de intimidación puede identificar el acoso en las fotos, incluidos los insultos al carácter, la apariencia, el bienestar o la salud de una persona. Instagram confirma que el filtro de imagen funcionará en noticias e historias. “Aunque esta actualización solo se enfoca en fotos, estaremos trabajando para agregar protecciones para videos, incluido IGTV, muy pronto”, me dice un portavoz.
Los usuarios de Instagram verán la configuración “Ocultar comentarios ofensivos” predeterminada en su configuración. También pueden optar por enumerar manualmente las palabras que desean filtrar de sus comentarios y pueden optar por filtrar automáticamente las palabras informadas con más frecuencia. Con el texto, es en blanco y negro, por lo que Instagram puede bloquear palabras clave. Con imágenes, no permitirá que la IA juegue al verdugo y, en su lugar, usa el filtro para dirigir las publicaciones a los moderadores humanos que hacen la llamada final.
Mientras tanto, Instagram está ampliando su filtro proactivo para el acoso en los comentarios del feed, Explore y el perfil para proteger también las transmisiones en vivo. Está lanzando un efecto de cámara “Bondad” en asociación con Maddie Ziegler, mejor conocida como la versión infantil bailarina de Sia de su video musical “Chandelier”. El efecto llena tu imagen de corazones y comentarios positivos en diferentes idiomas mientras te pide que etiquetes a un amigo que te importa. Será visible en la bandeja de efectos de la cámara de los usuarios si siguen a Ziegler, o si ven que un amigo lo usa, pueden probarlo ellos mismos.
Para que Instagram siga siendo la aplicación favorita de los adolescentes, no puede permitir que esta comunidad vulnerable sea victimizada. Se ha hablado mucho de que Facebook interfiere con Instagram después de que los cofundadores de la aplicación de fotos renunciaron. Pero la enorme organización de ingeniería de la empresa matriz ofrece economías de escala en Instagram que desbloquean tecnología como este filtro de intimidación que una startup independiente podría no ser capaz de desarrollar.