Como parte de su mayor compromiso para combatir el “ciberflashing”, la aplicación de citas Bumble está fuente abierta es una herramienta de inteligencia artificial que detecta imágenes lascivas no solicitadas. Debutado por primera vez en 2019, Private Detector (tomemos un momento para dejar que ese nombre se asiente) desenfoca los desnudos que se envían a través de la aplicación Bumble, lo que le da al usuario en el extremo receptor la opción de abrir la imagen.
“Aunque, afortunadamente, la cantidad de usuarios que envían imágenes lascivas en nuestras aplicaciones es una minoría insignificante, solo el 0,1 %, nuestra escala nos permite recopilar el mejor conjunto de datos de la industria de imágenes lascivas y no lascivas, adaptado para lograr el mejor desempeño posible en la tarea”, escribió la compañía en un comunicado de prensa.
Ahora disponible en GitHub, una versión refinada de la IA está disponible para uso comercial, distribución y modificación. Aunque no es exactamente tecnología de punta para desarrollar un modelo que detecte imágenes de desnudos, es algo que las empresas más pequeñas probablemente no tienen tiempo para desarrollar por sí mismas. Entonces, otras aplicaciones de citas (o cualquier producto donde las personas puedan enviar fotos de penes, ¿también conocido como Internet completo?) Podrían integrar esta tecnología en sus propios productos, ayudando a proteger a los usuarios del contenido lascivo no deseado.
Desde que lanzó Private Detector, Bumble también ha trabajado con los legisladores estadounidenses para hacer cumplir las consecuencias legales por enviar desnudos no solicitados.
“Es necesario abordar este problema más allá del ecosistema de productos de Bumble y participar en una conversación más amplia sobre cómo abordar el problema de las fotos lascivas no solicitadas, también conocidas como ciberflashing, para hacer de Internet un lugar más seguro y amable para todos”, agregó Bumble.
Cuando Bumble introdujo por primera vez esta IA, la compañía afirmó que tenía un 98 % de precisión.
Source link