Después de enfrentar críticas por no haber proteger a los usuarios de cuentas abusivas, Instagram ha estado introduciendo constantemente nuevas herramientas de seguridad en los últimos años. Hoy, la compañía está lanzando nuevas herramientas para mejorar sus filtros para mensajes directos, bloquear otras cuentas de alguien que haya bloqueado y alentar a las personas a enviar respuestas más conscientes.
La compañía presentó su función “Palabras ocultas” el año pasado para permitirle filtrar mensajes directos abusivos usando palabras clave y emojis. Meta está ampliando esta herramienta para cubrir las respuestas a las Historias. La plataforma dice que estos DM abusivos irán directamente a la carpeta Solicitudes ocultas; es extraño que Instagram no los elimine por completo.
Créditos de imagen: Instagram
La función de filtro ahora intentará detectar errores ortográficos intencionales, como usar “1” en lugar de “i” en mensajes directos abusivos. Esto es para atrapar a los perpetradores que quieren engañar a la IA haciendo ajustes simples a sus mensajes. Sin embargo, la compañía no especificó si esta filtración también funciona cuando las personas envían abusos en forma abreviada.
Aparte de esto, la función ahora también admite la detección en los idiomas farsi, turco, ruso, bengalí, marathi, telugu y tamil. Además, Instagram está agregando palabras que a menudo se usan para enviar spam o estafar a las personas a sus listas de filtros.
Instagram también está ampliando el alcance de su herramienta de bloqueo preventivo. El año pasado, introdujo esta función para bloquear cuentas nuevas de alguien a quien ya habías bloqueado. Ahora, esta función también bloqueará las cuentas que la persona ya pueda tener. La compañía dijo que sus pruebas iniciales sugieren que las personas necesitarán bloquear cuatro millones de cuentas menos cada semana.
Créditos de imagen: Instagram
En 2020, la plataforma comenzó a mostrar advertencias cuando algunos intentaron publicar un comentario potencialmente abusivo en una publicación.
El año pasado presentó una advertencia redactada enérgicamente por comentarios inapropiados que infrinjan sus reglas. La compañía está introduciendo nuevos empujones para los usuarios que están a punto de publicar un comentario dañino para recordarles que tengan cuidado. Estos nudges actualmente son compatibles con los idiomas inglés, portugués, español, francés, chino y árabe. No está claro cómo la compañía separará estos nuevos empujones de las advertencias redactadas enérgicamente.
Créditos de imagen: Instagram
En particular, Twitter también lanzó un nuevo aviso de respuesta el año pasado para reducir los comentarios ofensivos.
Además, la compañía mostrará recordatorios para ser respetuoso cuando los usuarios intenten enviar mensajes directos a los creadores. Un estudio publicado por El Centro para contrarrestar el odio digital a principios de este año señaló que Instagram no protege a las mujeres de alto perfil de los DM abusivos.
Créditos de imagen: Instagram
Este nuevo conjunto de funciones se basa en las herramientas que Instagram ya había introducido en su aplicación. Entonces, la compañía podría haber encontrado alguna evidencia de que están trabajando de manera efectiva.
Esto se suma a las herramientas de seguridad infantil que evitan que vean contenido dañino. La semana pasada, la compañía amplió su herramienta de verificación de edad impulsada por IA para brindar una experiencia más segura a los adolescentes en sus mercados más grandes: India y Brasil.