Si eres algo famoso en varias redes sociales, es probable que estés expuesto a discursos de odio en tus respuestas o comentarios. La startup francesa Bodyguard lanzó recientemente su aplicación y servicio en inglés para que pueda ocultar contenido tóxico de sus ojos. Ha estado disponible en francés durante algunos años y la compañía ha atraído a 50.000 usuarios hasta ahora.
“Hemos desarrollado una tecnología que detecta el discurso de odio en Internet con una precisión del 90% al 95% y solo el 2% de falsos positivos”, me dijo el fundador y director ejecutivo Charles Cohen.
La empresa ha comenzado con una aplicación móvil que cualquiera puede usar. Después de descargar la aplicación y conectarla con sus redes sociales favoritas, elige el nivel de moderación. Hay varias categorías, como insultos, vergüenza corporal, acoso moral, acoso sexual, racismo y homofobia. Puede seleccionar si es una prioridad baja o una prioridad máxima para cada categoría.
Después de eso, no es necesario que vuelva a abrir la aplicación. Bodyguard escanea las respuestas y los comentarios de sus servidores y decide si algo está bien. Por ejemplo, puede ocultar comentarios, silenciar usuarios, bloquear usuarios, etc. Cuando abres Instagram o Twitter de nuevo, es como si esos comentarios de odio nunca hubieran existido.
Actualmente, la aplicación es compatible con Twitter, YouTube, Instagram y Twitch. Desafortunadamente, no puede procesar contenido en Snapchat y TikTok debido a las limitaciones de la API.
Detrás de escena, la mayoría de los servicios de moderación dependen en gran medida del aprendizaje automático o la moderación basada en palabras clave. Bodyguard ha optado por un enfoque diferente. Limpia algorítmicamente un comentario e intenta analizar el contenido de un comentario contextualmente. Puede determinar si un comentario es ofensivo para usted, para un tercero, para un grupo de personas, etc.
Más recientemente, la startup ha lanzado un producto B2B. Otras empresas pueden usar una API impulsada por Bodyguard para moderar comentarios en tiempo real en sus plataformas sociales o en sus propias aplicaciones. La empresa cobra a sus clientes utilizando un enfoque tradicional de software como servicio.
Source link