Explotación ilegal de niños Las imágenes son fáciles de encontrar en el motor de búsqueda Bing de Microsoft. Pero aún más alarmante es que Bing sugerirá palabras clave relacionadas e imágenes que proporcionen a los pedófilos más pornografía infantil. Siguiendo una sugerencia anónima, TechCrunch encargó un informe de la empresa de seguridad en línea AntiToxin para investigar. Los resultados fueron alarmantes.
Las búsquedas de Bing pueden devolver imágenes ilegales de abuso infantil
La investigación descubrió que términos como "niños pornográficos", "pornografía del PC" (una abreviatura conocida de "pornografía infantil") y "niños desnudos de la familia" surgieron todos como imágenes ilegales de explotación infantil. E incluso las personas que no buscan este tipo de imágenes desagradables podrían ser conducidas a él por Bing.
Cuando los investigadores buscaron "Omegle Kids", refiriéndose a una aplicación de video chat popular entre los adolescentes, las sugerencias de autocompletado de Bing incluyeron "Omegle Kids Girls 13" que reveló una gran cantidad de pornografía infantil cuando se realizaron búsquedas. Y si un usuario hace clic en esas imágenes, Bing les mostró más imágenes ilegales de abuso infantil en su función Imágenes similares. Otra búsqueda de "Omegle para 12 años" incitó a Bing a sugerir que se buscara "Kids On Omegle Showing", que incluyó más contenido criminal.
La función Imágenes similares de Bing puede sugerir imágenes adicionales de abuso infantil ilegal
La evidencia muestra una falla masiva por parte de Microsoft para vigilar adecuadamente su motor de búsqueda Bing y para evitar que las búsquedas e imágenes sugeridas ayuden a los pedófilos. Búsquedas similares en Google no produjeron imágenes tan claramente ilegales o tan relacionadas con el contenido como lo hizo Bing. Las compañías de Internet como Microsoft Bing deben invertir más en la lucha contra este tipo de abuso a través de soluciones de tecnología escalable y moderadores humanos. No hay excusa para que una compañía como Microsoft, que obtuvo $ 8,8 mil millones en ganancias en el último trimestre, esté por debajo de las medidas de seguridad.
TechCrunch recibió una sugerencia anónima sobre el inquietante problema en Bing después de mis informes del mes pasado sobre los chats del grupo de comercio de imagen de explotación infantil de WhatsApp, las aplicaciones de terceros de Google Play que hacen que estos grupos sean fáciles de encontrar y cómo estas aplicaciones funcionaron en las redes de anuncios de Google y Facebook. Para hacerse el dinero y las plataformas. A raíz de esos informes, WhatsApp prohibió a más de estos grupos y sus miembros, Google eliminó las aplicaciones de descubrimiento de grupo de WhatsApp de Google Play y tanto Google como Facebook impidieron que las aplicaciones publicaran sus anuncios, y estos últimos aceptaron reembolsar a los anunciantes.
Búsqueda insegura
Siguiendo con la información anónima, TechCrunch encargó a AntiToxin investigar el problema de Bing, que realizó una investigación desde el 30 de diciembre de 2018 hasta el 7 de enero de 2019 con la supervisión legal adecuada. Las búsquedas se realizaron en la versión de escritorio de Bing con la "Búsqueda segura" desactivada. AntiToxin se fundó el año pasado para crear tecnologías que protegen las redes contra la intimidación, los depredadores y otras formas de abuso. [Disclosure: The company also employs Roi Carthy, who contributed to TechCrunch from 2007 to 2012.]
El CEO de AntiToxin, Zohar Levkovitz, me dice que “Hablando como padres, debemos esperar que las compañías de tecnología responsables se dupliquen, e incluso se tripliquen para garantizar que no agreguen toxicidad a un entorno en línea que ya es peligroso para los niños. Y como CEO de AntiToxin Technologies, quiero dejar en claro que estaremos a su entera disposición para ayudar a cualquier compañía que haga de esto su prioridad ". El informe completo, publicado por primera vez, se puede encontrar aquí e incluido. abajo:
TechCrunch proporcionó una lista completa de consultas de búsqueda problemáticas a Microsoft junto con preguntas sobre cómo sucedió esto. El vicepresidente de productos de Bing & AI de Microsoft, Jordi Ribas, dijo lo siguiente: "Claramente, estos resultados fueron inaceptables según nuestros estándares y políticas, y apreciamos que TechCrunch nos haya informado. Actuamos de inmediato para eliminarlos, pero también queremos evitar cualquier otra violación similar en el futuro. Estamos enfocados en aprender de esto para poder realizar cualquier otra mejora necesaria ".
Una consulta de búsqueda sugerida por Bing descubre imágenes ilegales de abuso infantil
Microsoft afirma que asignó un equipo de ingeniería que solucionó los problemas que revelamos y ahora está trabajando para bloquear cualquier consulta similar, así como sugerencias de búsqueda relacionadas con problemas e imágenes similares. Sin embargo, AntiToxin descubrió que si bien algunos términos de búsqueda de su informe ahora están correctamente prohibidos o limpiados, otros siguen apareciendo contenido ilegal.
La compañía me dice que está cambiando sus opciones de marcado de Bing para incluir un conjunto más amplio de categorías que los usuarios pueden informar, incluido el "abuso sexual infantil". Cuando se le preguntó cómo podría haber ocurrido el fallo, un portavoz de Microsoft nos dijo que "WLo indexamos todo, al igual que Google, y hacemos el mejor trabajo posible para analizarlo. Usamos una combinación de PhotoDNA y moderación humana, pero eso no nos permite perfeccionarnos en todo momento. Estamos comprometidos a mejorar todo el tiempo ".
BELLEVUE, WA – 30 DE NOVIEMBRE: CEO de Microsoft, Satya Nadella (Foto de Stephen Brashear / Getty Images)
El portavoz de Microsoft se negó a revelar cuántos moderadores humanos trabajan en Bing o si planeaba aumentar su personal para reforzar sus defensas. Pero luego intentaron objetar esa línea de razonamiento diciendo:Tengo la sensación de que dices que hemos arruinado totalmente aquí y siempre hemos sido malos, y claramente no es el caso en el contexto histórico ". La verdad es que se arruinó totalmente aquí, y el hecho que fue pionera en la tecnología de detección de imágenes ilegales, PhotoDNA, que es utilizada por otras compañías de tecnología, no cambia eso.
El problema de la pornografía infantil de Bing es otro ejemplo de compañías tecnológicas que se niegan a reinvertir adecuadamente las ganancias que obtienen para garantizar la seguridad de sus propios clientes y de la sociedad en general. El público ya no debería aceptar estas deficiencias como repercusiones de gigantes de la tecnología que priorizan de manera irresponsable el crecimiento y la eficiencia. Las soluciones tecnológicas están demostrando insuficientes garantías, y se necesitan más centinelas humanos. Estas compañías deben pagar ahora para protegernos de los peligros que han desatado, o el mundo estará atascado pagando con su seguridad.
Source link