Él gobierno del Reino Unido ha nombrado cinco proyectos que obtuvieron financiamiento público bajo un desafío de “seguridad tecnológica” anunciado en septiembre, cuando el Ministerio del Interior dijo que quería alentar a la industria tecnológica y la academia a desarrollar nuevas tecnologías de escaneo/IA que podrían implementarse de principio a fin. poner fin a los servicios cifrados (e2ee) para detectar material de abuso sexual infantil (CSAM).
Varios servicios de mensajería convencionales ya utilizan e2ee, como WhatsApp, propiedad de Facebook, e iMessage de Apple.
El Ministerio del Interior ha afirmado que está buscando un término medio que no requiera que los proveedores de servicios digitales abandonen el uso del cifrado de extremo a extremo, pero que aún permita que el material CSAM sea detectado y pasado a las fuerzas del orden, también sin la seguridad. siendo retrocedido. Al menos esa es la afirmación.
El Safety Tech Challenge Fund está siendo administrado por el Departamento de Digital, Cultura, Medios y Deporte (DCMS), y luego del anuncio de los premios de financiación ayer, el ministro digital, Chris Philp, dijo en un comunicado: “Es completamente posible para las redes sociales”. plataformas de medios para utilizar el cifrado de extremo a extremo sin obstaculizar los esfuerzos para acabar con el abuso infantil. Pero no han tomado medidas para abordar este problema, por lo que estamos interviniendo para ayudar a desarrollar las soluciones necesarias. No es aceptable implementar E2EE sin garantizar que las medidas de aplicación y protección infantil aún estén vigentes”.
Los cinco proyectos a los que el gobierno del Reino Unido les otorgó £ 85,000 iniciales a cada uno, con £ 130,000 adicionales potencialmente disponibles para dividirse entre los proyectos “más fuertes” (lo que eleva la financiación total a £ 555,000), son los siguientes:
Firma de análisis forense digital con sede en Edimburgo Análisis forense cian e inteligencia de riesgo en tiempo real enfocada pensamiento nítidoen asociación con la Universidad de Edimburgo y la organización sin fines de lucro Fundación de Vigilancia de Internetque desarrollará un complemento que se integrará en las plataformas sociales encriptadas para “detectar el abuso sexual infantil comparando el contenido con material ilegal conocido” Creador de aplicaciones de control parental SafeToNet y la Universidad Anglia Ruskin, que desarrollará un conjunto de tecnologías de IA de moderación de video en vivo que pueden ejecutarse en cualquier dispositivo inteligente, y están destinadas a “prevenir la filmación de desnudez, violencia, pornografía y abuso sexual infantil en tiempo real, como se está haciendo”. producido” Empresa de seguridad empresarial GalaxKeycon sede en St Albans, que trabajará con el fabricante de software de moderación de contenido basado en Poole Análisis de imagen y firma de garantía de identidad digital y edad Yoti para “desarrollar un software que se centre en la privacidad del usuario, la detección y la prevención del abuso sexual infantil y el comportamiento depredador, y la verificación de la edad para detectar el abuso sexual infantil antes de que llegue a un entorno E2EE, evitando que se cargue y comparta” Startup de moderación de contenido DragonflaIcon sede en Edimburgo, que también trabajará con Yoti para combinar su tecnología de detección de desnudez AI en el dispositivo con las tecnologías de garantía de edad de este último, con el fin de “detectar nuevas imágenes indecentes dentro de los entornos E2EE” firma de análisis forense digital con sede en Austria T3K-Forense también ganó fondos del gobierno del Reino Unido para implementar su tecnología de detección de abuso sexual infantil basada en inteligencia artificial en teléfonos inteligentes para detectar material recién creado, proporcionando lo que el gobierno factura como “un conjunto de herramientas que las plataformas sociales pueden integrar con sus servicios E2EE”.
Los proyectos ganadores serán evaluados al final de una fase de entrega de cinco meses por un evaluador externo, que según el gobierno analizará los criterios de éxito, incluida la “viabilidad comercial para determinar la capacidad de implementación en el mercado y el impacto a largo plazo”.
En una declaración conjunta, DCMS y el Ministerio del Interior también promocionaron el próximo proyecto de ley de seguridad en línea, que, según afirmaron, transformará la forma en que se trata el contenido en línea ilegal y dañino al imponer un nuevo deber de cuidado en las redes sociales y otras empresas tecnológicas hacia sus usuarios del Reino Unido. .
“Esto significará que habrá menos contenido ilegal, como abuso y explotación sexual infantil en línea, y cuando aparezca, se eliminará más rápido. El deber de cuidado seguirá aplicándose a las empresas que opten por utilizar el cifrado de extremo a extremo”, agregaron.
La guía previa publicada por DCMS este verano instó a las empresas de redes sociales y mensajería a “prevenir” el uso de cifrado e2e en cuentas de niños. Por lo tanto, el gobierno parece estar evolucionando en su enfoque (o su mensaje) y apostando por que las herramientas de detección de MASI integradas se integren en el cifrado e2e y sean capaces de llevar a cabo la detección de contenido.
Suponiendo, por supuesto, que cualquiera de los proyectos mencionados entregue la funcionalidad de detección/prevención de CSAM a niveles aceptables de precisión (es decir, evitando cualquier falso positivo ruinoso).
Otro punto destacado es la cuestión de si las nuevas tecnologías de inteligencia artificial/escáner podrían generar vulnerabilidades o incluso puertas traseras integradas en los sistemas cifrados e2e, lo que socavaría la seguridad de todos.
También está la cuestión de si los ciudadanos del Reino Unido estarán contentos con el escaneo obligatorio del estado de sus dispositivos electrónicos, dados todos los problemas de privacidad y libertad que conlleva.
Si bien el público del Reino Unido en general ha estado feliz de respaldar la noción de mejorar la seguridad de los niños en línea, podría estar bastante menos contento de descubrir que eso significa un escaneo general de dispositivos, especialmente si las tecnologías novedosas terminan enviando alertas a las fuerzas del orden público sobre las vacaciones/baños inocentes de las personas. chasquidos de tiempo.
La reacción política en torno a la falla en la tecnología de “seguridad” podría ser rápida y sustancial.
El fabricante de iPhone Apple suspendió el lanzamiento de su propia tecnología de escaneo CSAM en el dispositivo, “NeuralHash”, este otoño después de una reacción negativa de privacidad.
Source link