La plataforma de chat en línea Discord está comprando Sentropy, una compañía que fabrica software con tecnología de inteligencia artificial para detectar y eliminar el acoso y el odio en línea.
Discord actualmente utiliza un enfoque de moderación de “niveles múltiples”, confiando en un equipo de moderación humano interno, así como en mods voluntarios y administradores para crear reglas básicas para servidores individuales. Un equipo de Confianza y Seguridad dedicado a proteger a los usuarios y dar forma a las políticas de moderación de contenido comprendía el 15% de la fuerza laboral de Discord en mayo de 2020.
Discord planea integrar los propios productos de Sentropy en su conjunto de herramientas existente y la compañía también incorporará al grupo de liderazgo de la compañía más pequeña. Los términos del acuerdo no se dieron a conocer, pero la adquisición es una señal de que tomarse en serio el contenido tóxico y el acoso no es solo lo correcto, también es un buen negocio.
“La tecnología y los procesos de T&S no deben usarse como una ventaja competitiva”, dijo el CEO de Sentropy, John Redgrave, en un entrada de blog sobre el anuncio. “Todos merecemos seguridad digital y física, y los moderadores merecen mejores herramientas para ayudarlos a realizar uno de los trabajos más difíciles en línea de manera más efectiva y con menos impactos dañinos”.
Discord no siempre ha tenido la reputación de tomarse en serio el contenido peligroso. Los grupos de extrema derecha vinculados a la violencia del mundo real anteriormente prosperaron en la plataforma. Discord tomó medidas enérgicas contra el odio y el extremismo luego de la manifestación Unite the Right en Charlottesville, que dejó muerta a la manifestante antirracista Heather Heyer.
Para febrero de 2018, la empresa estaba Purga de grupos neonazis y supremacistas blancos, limpiando la plataforma en su viaje para trascender sus raíces de juego y convertirse en una red social convencional. Ahora, Discord cuenta con 150 millones de usuarios activos mensuales y se está posicionando como un hogar cómodo para todo tipo de comunidades mientras mantiene su base de usuarios principal de jugadores.
En una publicación de blog, Redgrave explicó la conexión natural de la compañía con Discord:
Discord representa la próxima generación de empresas sociales, una generación en la que los usuarios no son el producto que se vende, sino el motor de la conectividad, la creatividad y el crecimiento. En este modelo, la privacidad y la seguridad del usuario son características esenciales del producto, no una ocurrencia tardía. El éxito de este modelo depende de la integración de la confianza y la seguridad de la próxima generación en cada producto. No tomamos esta responsabilidad a la ligera y nos sentimos honrados de trabajar a la escala de Discord y con los recursos de Discord para aumentar la profundidad de nuestro impacto.
Sentropy se lanzó furtivamente el verano pasado con un sistema de inteligencia artificial diseñado para detectar, rastrear y limpiar plataformas de acoso y abuso en línea. La compañía surgió entonces con $ 13 millones en fondos de patrocinadores notables, incluido el cofundador de Reddit, Alexis Ohanian, y su firma de capital de riesgo Initialized Capital, King River Capital, Horizons Ventures y Playground Global.
Sentropy ofrecerá a los clientes empresariales existentes que utilicen sus productos de software el servicio Detect and Defend hasta finales de septiembre. La compañía cerró su panel de control gratuito para el consumidor, Sentropy Protect, a principios de este mes.
Los productos de Sentropy se concibieron como herramientas independientes de las redes sociales en lugar de soluciones específicas de la plataforma. Parece que incluso bajo el ala de Discord, el equipo planea compartir ideas sobre cómo construir espacios en línea más seguros con Internet en general.
“Estamos emocionados de ayudar a Discord a decidir cómo podemos compartir de manera más efectiva con el resto de Internet las mejores prácticas, tecnología y herramientas que hemos desarrollado para proteger nuestras propias comunidades”, dijo Redgrave.
El futuro de Discord se ve brillante. La compañía se alejó de una posible adquisición por parte de Microsoft a principios de este año que supuestamente la valoró en alrededor de $ 10 mil millones. Discord parece contenta de seguir siendo independiente por ahora y podría trazar un camino hacia una OPI En un futuro no muy lejano.
Source link