La aplicación de Tumblr se arrancó de la App Store de iOS hace unos días debido a un problema con la pornografía infantil que se abría paso más allá de la tecnología de filtrado de la aplicación, según un informe de CNET, que Tumblr luego confirmó.
La desaparición de la aplicación fue la primera manchado el 16 de noviembre y la ayuda de Tumblr documentación también había confirmado que la empresa estaba “trabajando para resolver un problema con su aplicación iOS”. El comunicado decía que Tumblr esperaba volver a tenerlo completamente funcional pronto.
Sin embargo, ni Tumblr ni Apple habían dicho cuál era el problema hasta que CNET confirmó a través de fuentes que estaba relacionado con la pornografía infantil.
Tumblr luego emitió una declaración en la que explicaba que descubrió contenido durante una auditoría que no estaba incluido en la base de datos de la industria que estaba usando para filtrar el material de abuso sexual infantil y que no apareciera en su aplicación.
Esa declaración dice lo siguiente:
Estamos comprometidos a ayudar a construir un entorno en línea seguro para todos los usuarios, y tenemos una política de tolerancia cero cuando se trata de medios que presentan explotación y abuso sexual infantil. Como se trata de un problema de toda la industria, trabajamos en colaboración con nuestros pares y socios de la industria como [the National Center for Missing and Exploited Children] (NCMEC) para monitorear activamente el contenido subido a la plataforma. Cada imagen cargada en Tumblr se escanea en una base de datos de la industria de material conocido de abuso sexual infantil, y las imágenes que se detectan nunca llegan a la plataforma. Una auditoría de rutina descubrió contenido en nuestra plataforma que aún no se había incluido en la base de datos de la industria. Eliminamos inmediatamente este contenido. Las salvaguardas de contenido son un aspecto desafiante de operar plataformas escaladas. Estamos evaluando continuamente los pasos adicionales que podemos tomar para mejorar y no hay una prioridad más alta para nuestro equipo.
A partir del 19/11/18, 7:45 pm EST, la página de ayuda de Tumblr dice que la compañía está trabajando para restaurar su aplicación en la App Store. También incluyó la declaración anterior.
La compañía ha tenido problemas con ser bloqueada fuera de los EE. UU. En el pasado por albergar material para adultos, pero esta es la primera vez que se retira de la App Store debido a pornografía infantil.
El problema es un ejemplo de confiar en una base de datos, en lugar de una combinación de algoritmos, tecnología de inteligencia artificial y moderación humana para administrar el filtrado de contenido.
[Disclosure: Tumblr is owned by TechCrunch parent company, Oath]Source link