Spectrum Labs recauda $ 32 millones para la moderación de contenido basada en IA que monitorea miles de millones de conversaciones diariamente en busca de toxicidad

Spectrum Labs recauda $ 32 millones para la moderación de contenido basada en IA que monitorea miles de millones de conversaciones diariamente en busca de toxicidad

Dos años después de la pandemia, las conversaciones en línea siguen siendo para muchos de nosotros las principales interacciones que tenemos todos los días, y colectivamente tenemos miles de millones de ellas. Pero como muchos de nosotros hemos descubierto, no todas son experiencias positivas y absolutamente limpias. Hoy, una startup llamada laboratorios de espectro – que proporciona tecnología de inteligencia artificial a los proveedores de plataformas para detectar y cerrar intercambios tóxicos en tiempo real (específicamente, 20 milisegundos o menos) – anuncia una financiación de 32 millones de dólares. Planea usar el dinero para continuar invirtiendo en su tecnología para duplicar su creciente negocio de consumo y avanzar en una nueva área, brindando servicios a las empresas para sus conversaciones internas y de cara al cliente, brindando no solo una forma de ayudar a detectar cuando la toxicidad se infiltra en los intercambios, sino para proporcionar un seguimiento de auditoría de la actividad para un mayor seguimiento e iniciativas de confianza y seguridad.

“Aspiramos a ser los líderes en el lenguaje donde importa la civilidad”, dijo el director ejecutivo Justin Davis en una entrevista.

Intel Capital lidera la ronda, con la participación de Munich Re Ventures, Gaingels, OurCrowd, Harris Barton y los patrocinadores anteriores Wing Venture Capital, Greycroft, Ridge Ventures, Super{set} y Global Founders Capital. Greycroft lideró la ronda anterior de $10 millones de Spectrum en septiembre de 2020, y la compañía ahora ha recaudado $46 millones en total.

Davis, quien cofundó la compañía con Josh Newman (el CTO), dijo que Spectrum Labs no está divulgando la valoración, pero el tamaño comercial de la compañía hoy habla de cómo le ha ido.

Actualmente, Spectrum Labs trabaja con poco más de 20 grandes plataformas, que incluyen las empresas de redes sociales Pinterest y The Meet Group, el sitio de citas Grindr, el wiki de entretenimiento de Jimmy Wales Fandom, Riot Games y la plataforma de aprendizaje electrónico Udemy, que a su vez tienen millones de clientes que envían miles de millones de mensajes entre sí, ya sea en salas de chat abiertas o en conversaciones privadas más directas.

Su tecnología se basa en el lenguaje natural y funciona en tiempo real tanto en interacciones basadas en texto como en interacciones de audio.

Davis señala que su trabajo de audio se “lee” como audio, no se transcribe a texto primero, lo que les da a los clientes de Spectrum un salto significativo para responder a la actividad y contrarrestar lo que Davis denominó “La naturaleza de la voz del Salvaje Oeste”, debido a cuán lentas suelen ser las respuestas para aquellos que no usan la tecnología de Spectrum: una plataforma tiene que esperar a que los usuarios marquen el contenido dudoso, luego la plataforma tiene que encontrar ese audio en las transcripciones y luego puede tomar medidas, un proceso que podría llevar días.

Esto es aún más importante dado que los servicios basados ​​en voz, con el auge no solo de los podcasts, sino también de servicios como Clubhouse y Spaces en Twitter, están creciendo en popularidad.

Ya sea texto o audio, Spectrum escanea estos intercambios en busca de contenido tóxico que cubre más de 40 perfiles de comportamiento que creó inicialmente en consulta con investigadores y académicos de todo el mundo y continúa perfeccionando a medida que ingiere más datos de toda la web. Los perfiles cubren parámetros como el acoso, la incitación al odio, el extremismo violento, las estafas, el grooming, la solicitación ilegal y el doxing. Actualmente admite escaneo en casi 40 idiomas, me dice Davis, y agrega que podría funcionar con cualquier idioma, aunque Davis me dice que no hay límite de idioma.

“Técnicamente podemos cubrir cualquier idioma en cuestión de semanas”, dijo.

Los ejemplos más visibles de toxicidad en línea han sido en la esfera del consumidor, donde se han manifestado en foros abiertos y más intimidación y discurso de odio en línea privados y otras actividades ilegales, un área en la que Spectrum Labs continuará trabajando e invirtiendo en tecnología. para detectar enfoques cada vez más complicados y sofisticados de los malos actores. Un enfoque para Spectrum Labs será trabajar en formas de mejorar la forma en que los propios clientes también pueden desempeñar un papel en la decisión de lo que hacen y definitivamente no quieren ver, junto con los controles y las herramientas para el equipo de confianza y seguridad de una plataforma. Esta es un área complicada, y podría decirse que una de las razones por las que la toxicidad se ha ido de las manos es porque tradicionalmente las plataformas han querido adoptar un enfoque de libertad de expresión y no intervenir en el contenido, ya que la otra cara de la moneda es que pueden también ser acusado de censurar, un debate que todavía se desarrolla en gran medida en la actualidad.

“Existe una tensión natural entre lo que implementa la política y lo que los usuarios quieren y están dispuestos a aceptar”, dijo Davis. La opinión de su compañía es que el trabajo de una plataforma “es mantener lo peor de lo peor, pero también proporcionar controles al consumidor para que seleccionen lo que quieren ver con el tiempo”.

Además de eso, Spectrum planea moverse más hacia los servicios empresariales.

La oportunidad en la empresa es interesante, ya que incluye no solo cómo las personas dentro de una empresa conversan entre sí (lo que en gran medida podría tomar una forma similar a los servicios orientados al consumidor que Spectrum Labs ya brinda), sino también cómo una empresa interactúa con el mundo exterior en áreas como ventas, servicio al cliente y marketing, y luego aprovechar la información que recopila Spectrum Labs en sus análisis para alterar potencialmente cómo opera cada una de esas áreas posteriormente.

Sin duda, este no es un segmento de mercado que haya sido ignorado. Los competidores de Spectrum aquí incluirán otra startup en el espacio de monitoreo de conversaciones, Aware, que se enfoca exclusivamente en empresas. (luzmientras tanto, es otro competidor en la esfera del consumo.)

Y seguramente habrá otros. La última vez que escribimos sobre Spectrum Labs notamos que los fundadores y el equipo fundador provenían de Krux, una empresa de tecnología de marketing que fue adquirida por Salesforce (donde trabajaron antes de irse para fundar Spectrum Labs). No me sorprendería ver a Salesforce asumiendo un papel más interesado en esta área en el futuro, sobre todo porque está creando un conjunto de herramientas muy amplio para ayudar a las empresas a administrar sus negocios de manera más eficiente, no solo limitado a CRM; pero también porque Bret Taylor, quien una vez fundó otra red social y solía ser el CTO de Facebook, ahora está ayudando a dirigir el programa, y ​​bien puede tener un control especialmente informado sobre cómo se pueden usar y abusar de los foros de comunicaciones.

Por ahora, para abordar tanto los problemas de los consumidores como los de las empresas, Intel se presenta como un inversionista estratégico en esta ronda, me dice Davis. El plan será integrar la tecnología de Spectrum Labs para trabajar más de cerca con los diseños de chips de Intel, lo que aumentará aún más la velocidad a la que funciona, e Intel podrá usarlo como un punto de venta único con los posibles clientes de hardware de Intel como ellos mismos dan una mayor prioridad a los problemas de confianza y seguridad.

“Creemos que la tecnología de comprensión del lenguaje natural de Spectrum Labs tiene el potencial de convertirse en la plataforma central que impulsa las iniciativas de confianza de miles de empresas en todo el mundo”, dijo Mark Rostick, vicepresidente y director general sénior de Intel Capital, en un comunicado. “A medida que la confianza digital y las operaciones éticas emergen como un factor clave para ayudar a las organizaciones a diferenciarse, vemos una gran oportunidad para construir una capa tecnológica de confianza y seguridad en las operaciones empresariales”.


Source link