Instagram está probando una nueva forma de filtrar mensajes desnudos no solicitados enviados a través de mensajes directos, lo que confirma los informes del desarrollo publicados por el investigador de la aplicación. Alejandro Paluzzi a principios de esta semana. Las imágenes indicaban que Instagram estaba trabajando en una tecnología que taparía las fotos que pudieran contener desnudez, pero señalaron que la empresa no podría acceder a las fotos por sí misma.
El desarrollo fue reportado por primera vez por el borde e Instagram confirmó la función a TechCrunch. La compañía dijo que la función se encuentra en las primeras etapas de desarrollo y aún no la está probando.
“Estamos desarrollando un conjunto de controles de usuario opcionales para ayudar a las personas a protegerse de mensajes directos no deseados, como fotos que contienen desnudez”, dijo a TechCrunch la portavoz de Meta, Liz Fernández. “Esta tecnología no le permite a Meta ver los mensajes privados de nadie, ni se comparten con nosotros ni con nadie más. Estamos trabajando de cerca con expertos para garantizar que estas nuevas funciones preserven la privacidad de las personas y les den control sobre los mensajes que reciben”, agregó.
Las capturas de pantalla de la función publicada por Paluzzi sugieren que Instagram procesará todas las imágenes para esta función en el dispositivo, por lo que no se envía nada a sus servidores. Además, puedes elegir ver la foto si crees que es de una persona de confianza. Cuando la función se implemente ampliamente, será una configuración opcional para los usuarios que deseen eliminar los mensajes con fotos de desnudos.
El año pasado, Instagram lanzó controles DM para habilitar filtros basados en palabras clave que funcionan con palabras, frases y emojis abusivos. A principios de este año, la compañía introdujo un filtro de “Contenido sensible” que mantiene ciertos tipos de contenido, incluidos desnudos y violencia gráfica, fuera de la experiencia de los usuarios.
Las redes sociales han lidiado mal con el problema de las fotos de desnudos no solicitadas. Si bien algunas aplicaciones como Bumble han probado herramientas como Desenfoque impulsado por IA para este problemalos gustos de Twitter han tenido problemas para detectar material de abuso sexual infantil (CSAM, por sus siglas en inglés) y desnudez no consentida a gran escala.
Debido a la falta de pasos sólidos desde las plataformas, los legisladores se han visto obligados a mirar este tema con ojos severos. Por ejemplo, el próximo proyecto de ley de seguridad en línea del Reino Unido tiene como objetivo convertir el flasheo cibernético en un delito. El mes pasado, California aprobó una regla que permite a los receptores de material gráfico no solicitado para demandar a los remitentes. texas pasó una ley sobre flasheo cibernético en 2019contándolo como un “delito menor” y resultando en una multa de hasta $500.