Meta explica su enfoque de la seguridad del usuario tras el retraso en la implementación del cifrado de extremo a extremo

Meta (anteriormente Facebook) anunció recientemente sus planes para retrasar la implementación del cifrado de extremo a extremo* en su servicio de mensajería hasta algún momento de 2023, citando preocupaciones de los defensores de la seguridad infantil que advirtió el cambio protegería a los abusadores de la detección. Hoy, la compañía ofreció más detalles sobre cómo planea abordar la necesidad de prevención de daños junto con el eventual despliegue del cifrado de extremo a extremo.

Si bien la tecnología podría escanear mensajes privados no cifrados para detectar patrones de comportamiento maliciosos, ese no es el caso en un entorno cifrado de extremo a extremo, explicó Meta. En cambio, la compañía planea usar inteligencia artificial y aprendizaje automático para observar las partes no cifradas de su plataforma, como perfiles de usuario y fotos, en busca de otras señales que puedan indicar actividad maliciosa. Por ejemplo, si un adulto configuró nuevos perfiles y siguió tratando de comunicarse con menores que no conocía, o si comenzó a enviar mensajes a una gran cantidad de extraños, la empresa podría intervenir para tomar medidas. dijo una publicación del blog Meta.

Meta también implementó recientemente una serie de mayores protecciones para las cuentas que pertenecen a menores, incluida la configuración predeterminada de cuentas privadas o “solo para amigos” en Facebook e Instagram. Este año también introdujo características que restringirían que los usuarios adultos de Instagram pudieran contactar a los adolescentes que aún no los seguían. Y en Messenger, ahora están apareciendo avisos de seguridad que brindan consejos para detectar actividades sospechosas y cómo tomar medidas como bloquear, informar, ignorar o restringir a otros usuarios, desarrollados con aprendizaje automático. Durante el último mes, más de 100 millones de usuarios han visto los consejos. Meta dice que este tipo de función también podría funcionar en un entorno cifrado de extremo a extremo.

La compañía también citó la variedad de funciones para el usuario que les permiten controlar mejor quién puede comunicarse con ellos a través de su bandeja de entrada. Los creadores que buscan un mayor alcance pueden querer menos controles, pero querrán filtrar el abuso y el spam, mientras que las personas con cuentas privadas pueden querer restringir completamente el contacto solo a las personas que conocen. Otras funciones de mensajería desenfocan imágenes y videos y bloquean enlaces de solicitudes de mensajería (conversaciones iniciadas por personas que no conoce).

Meta también señaló que, a principios de este año, hizo una cambio a sus características de informes que facilitan el informe de contenido por violar las políticas de explotación infantil al agregar una opción que dice “involucra a un niño” durante el flujo de informes, y hace que los informes sean más accesibles. La compañía dice que, como resultado, ha visto un aumento de casi el 50% año tras año en los informes. Cuando se denuncian los mensajes, esa parte de la conversación se descifra para que la empresa pueda tomar medidas, como denunciar intentos de explotación infantil a las fuerzas del orden o NCMEC, por ejemplo. Meta dice que ahora también está advirtiendo a los usuarios que volver a compartir imágenes de explotación infantil, incluso con indignación, es dañino y lanzó una campaña de “infórmelo, no lo comparta” para educar a los usuarios.

La compañía ya había explicado en detalle gran parte de estos procedimientos y planes en el contexto de responder a las consultas de los reguladores y la reacción violenta de los defensores de la seguridad infantil que están preocupados de que la explotación infantil aumente en un entorno cifrado de extremo a extremo. Pero Meta ha sostenido que la combinación de escanear los datos no cifrados de los usuarios y las funciones de informes existentes le permitirán tomar medidas en caso de abuso, incluso cuando los mensajes están cifrados. De hecho, así consigue detectar el abuso en WhatsApp, que ya utiliza cifrado de extremo a extremo. Eso dijo recientementetambién, que una revisión de casos históricos mostró que aún podría proporcionar información a las fuerzas del orden, incluso si los chats en cuestión hubieran sido encriptados de extremo a extremo.

Los problemas relacionados con la mensajería cifrada van más allá de si los reguladores deben permitir o no que Meta la implemente. Si bien la publicación de Meta de hoy parece argumentar que E2EE no evitará que la empresa mantenga seguros a los usuarios, un ex empleado de Meta recientemente acusó a la compañía de planificar el cambio a un sistema E2EE en un “cronograma absurdamente acelerado”, lo que llevó a las renuncias de los miembros del equipo de seguridad infantil que entienden que las protecciones de seguridad infantil habrían empeorado demostrablemente, debido a la falta de una hoja de ruta y un plan para las protecciones en un entorno E2EE . Los problemas específicos que el empleado, David Thiel, planteó en su hilo de Twitter no fueron abordados por la publicación de Meta, que simplifica demasiado lo que se necesita para crear realmente un entorno seguro para los usuarios al tiempo que permite comunicaciones cifradas.

Actualización, 2/12/21: Meta dice que esto no es un retraso, aunque así es como lo han informado los medios hasta ahora.