La moderación de contenidos sigue siendo un tema polémico en el mundo de los medios online. Nuevas regulaciones y preocupación pública Es probable que lo mantengamos como una prioridad durante muchos años más. Pero IA armada y otros avances tecnológicos hacen que sea cada vez más difícil abordarlo. Una startup de Cambridge, Inglaterra, llamada IA unitaria cree que ha encontrado una mejor manera de abordar el desafío de la moderación: mediante el uso de un enfoque “multimodal” para ayudar a analizar el contenido en el medio más complejo de todos: el video.
Hoy, Unitary anuncia una financiación de 15 millones de dólares para capitalizar el impulso que ha estado viendo en el mercado. La Serie A, liderada por el principal capital de riesgo europeo, Creandum, con la participación también de Paladin Capital Group y Plural, se produce en un momento en que el negocio de Unitary está creciendo. La cantidad de videos que clasifica ha aumentado este año de 2 millones a 6 millones por día (que cubren miles de millones de imágenes) y la plataforma ahora está agregando más idiomas además del inglés. Se negó a revelar los nombres de los clientes, pero dice que el ARR ahora asciende a millones.
Unitary está utilizando los fondos para expandirse a más regiones y contratar más talento. Unitary no revela su valoración; anteriormente recaudó menos de $ 2 millones y otros $8 millones en financiación inicial; Otros inversores incluyen a gente como Carolyn Everson, la ex ejecutiva de Meta.
En los últimos años ha habido docenas de nuevas empresas que han aprovechado diferentes aspectos de la inteligencia artificial para crear herramientas de moderación de contenido.
Y cuando lo piensas, la magnitud del desafío en video es una aplicación adecuada para ello. Ningún ejército de personas podría por sí solo analizar las decenas y cientos de zettabytes de datos que se crean y comparten en plataformas como YouTube, Facebook, Reddit o TikTok, por no hablar de los sitios de citas, plataformas de juegos, herramientas de videoconferencia y otros lugares donde aparecen vídeos, que en conjunto representan más del 80% de todo el tráfico online.
Ese ángulo es también el que interesó a los inversores. “En un mundo en línea, existe una inmensa necesidad de un enfoque impulsado por la tecnología para identificar contenido dañino”, dijo Christopher Steed, director de inversiones de Paladin Capital Group, en un comunicado.
Aún así, es un espacio abarrotado. OpenAI, Microsoft (usando su propia IA, no la de OpenAI), Hive, ActiveFence / Spectrum Labs, Oterlu (ahora parte de Reddit), Sentropy (ahora parte de Discord) y Amazon. reconocimiento son sólo algunos de los muchos que se utilizan.
Desde el punto de vista de Unitary AI, las herramientas existentes no son tan efectivas como deberían ser cuando se trata de video. Esto se debe a que las herramientas que se han creado hasta ahora normalmente se centran en analizar datos de un tipo u otro (por ejemplo, texto, audio o imagen), pero no en combinación, simultáneamente. Eso conduce a muchas banderas falsas (o, por el contrario, a ninguna bandera).
“Lo innovador de Unitary es que tenemos modelos multimodales genuinos”, dijo la directora ejecutiva Sasha Haco, quien cofundó la empresa con el director de tecnología James Thewlis. “En lugar de analizar solo una serie de cuadros, para comprender los matices y si un video es [for example] artístico o violento, debes poder simular la forma en que un moderador humano mira el video. Lo hacemos analizando texto, sonido e imágenes”.
Los clientes establecen sus propios parámetros sobre lo que quieren moderar (o no), y Haco dijo que normalmente usarán Unitary junto con un equipo humano, que a su vez ahora tendrá que hacer menos trabajo y enfrentar menos estrés.
La moderación “multimodal” parece muy obvia. ¿Por qué no se ha hecho antes?
Haco dijo que una de las razones es que “se puede llegar bastante lejos con el modelo más antiguo, sólo visual”. Sin embargo, significa que hay un hueco en el mercado para crecer.
La realidad es que los desafíos de la moderación de contenidos han seguido afectando a las plataformas sociales, las empresas de juegos y otros canales digitales donde los usuarios comparten los medios. Últimamente, las empresas de redes sociales han señaló un alejamiento de políticas de moderación más fuertes; Las organizaciones de verificación de datos son perdiendo impulso; y quedan dudas sobre el ética de moderación cuando se trata de contenidos dañinos. El apetito por la lucha ha disminuido.
Pero Haco tiene un historial interesante cuando se trata de trabajar en temas difíciles e inescrutables. Antes de Unitary AI, Haco, que tiene un doctorado en física cuántica, trabajó en la investigación de agujeros negros con Stephen Hawking. (Aparentemente puedes verla en un documental de Netflix sobre la primera imagen de un agujero negro, tomada con el Event Horizon Telescope). Tenía la necesidad de cambiar su enfoque para trabajar en problemas terrestres, que pueden ser tan difíciles de entender como un monstruo de gravedad del espacio-tiempo.
Su “epifanía”, dijo, fue que había tantos productos disponibles en moderación de contenido, tanto ruido, pero todavía nada había coincidido con lo que los clientes realmente querían.
Mientras tanto, la experiencia de Thewlis se está poniendo a trabajar directamente en Unitary: también tiene un doctorado en visión por computadora de Oxford, donde su especialidad eran “métodos para la comprensión visual con menos anotaciones manuales”.
(“Unitario” es una doble referencia, creo. La startup está unificando una serie de parámetros diferentes para comprender mejor los videos. Pero también puede referirse a la carrera anterior de Haco: los operadores unitarios se utilizan para describir un estado cuántico, que en sí mismo es complicado e impredecible, al igual que el contenido en línea y los humanos).
La investigación multimodal en IA lleva años en marcha. Pero parece que estamos entrando en una era en la que vamos a empezar a ver muchas más aplicaciones del concepto. Caso en cuestión: Meta la semana pasada hizo referencia a la IA multimodal varias veces en su discurso de apertura de Connect en el que presentaba una vista previa de sus nuevas herramientas de asistente de IA. Por lo tanto, Unitary abarca esa interesante intersección entre la investigación de vanguardia y la aplicación en el mundo real.
“Conocimos a Sasha y James por primera vez hace dos años y quedamos increíblemente impresionados”, dijo Gemma Bloemen, directora de Creandum y miembro de la junta directiva, en un comunicado. “Unitary se ha convertido en uno de los primeros líderes claros en el importante campo de la seguridad del contenido de la IA, y estamos muy emocionados de respaldar a este equipo excepcional mientras continúan acelerando e innovando en la tecnología de clasificación de contenido”.
“Desde el principio, Unitary tuvo una de las IA más poderosas para clasificar contenido dañino. Ya este año, la compañía ha acelerado a 7 cifras de ARR, algo casi inaudito en esta etapa inicial del viaje”, dijo Ian Hogarth, socio de Plural y también miembro de la junta directiva.
Source link