Decir, una empresa emergente con 50 empleados que está desarrollando una plataforma para crear y optimizar sistemas impulsados por IA, anunció hoy que cerró una ronda de financiamiento Serie B de $25 millones liderada por Insight Partners con la participación de Square Peg, Emerge, Jibe Ventures, Fort Ross Ventures e ICON que elevan el total recaudado de la compañía a $ 55,1 millones. Los fondos se utilizarán para expandir las actividades de lanzamiento al mercado de Deci, así como para respaldar los esfuerzos de investigación y desarrollo de la compañía, según el cofundador y director ejecutivo Yonatan Geifman.
Las empresas se enfrentan a varios obstáculos a la hora de crear modelos de IA que analicen texto, audio e imágenes para implementarlos en sus aplicaciones y servicios. El costo es enorme: entrenar un solo modelo en hardware comercial puede costar Decenas de miles de dólares, si no más. Si bien las nuevas generaciones de chips y aceleradores de IA diseñados a medida han ayudado a reducir un poco la carga, crear un modelo desde cero todavía no es tarea fácil.
Geifman propone la búsqueda de arquitectura neuronal (NAS) como solución. NAS, una familia de técnicas en las que Deci se basa en gran medida, puede ayudar a descubrir automáticamente modelos óptimos de bajo costo para un problema determinado. Deci no es único en esto: el servicio Vertex AI de Google aprovecha NAS para optimizar el rendimiento de los modelos en tareas específicas especificadas por el cliente. Pero Geifman argumenta que la plataforma de Deci ofrece acceso a capacidades NAS a un costo menor.
En 2019, Geifman cofundó Deci junto con Ran El-Yaniv y el empresario Jonathan Elial. Geifman y El-Yaniv se conocieron en el departamento de informática de Technion, donde Geifman era candidato a doctorado y El-Yaniv profesor.
“Tecnología patentada de Deci [can generate] nuevos modelos de clasificación de imágenes que… brindan una mejora de más del doble en el tiempo de ejecución, junto con una precisión mejorada, en comparación con los modelos más potentes disponibles públicamente”, dijo Geifman a TechCrunch en un correo electrónico. “Esto significa que las aplicaciones de IA que anteriormente solo podían implementarse en GPU grandes y costosas, ahora pueden implementarse en CPU”.
Créditos de imagen: Decir
Esas son afirmaciones elevadas. Pero Deci cuenta con el respaldo de Intel, que en marzo pasado anunció una colaboración tecnológica y comercial estratégica con la startup para optimizar el aprendizaje automático en los procesadores Intel. La asociación condujo a la creación de un modelo que acelera el rendimiento de las tareas de respuesta a preguntas en las CPU Intel y un modelo de clasificación de imágenes para los procesadores Cascade Lake que “reduce significativamente la sobrecarga de cómputo”, afirma Geifman.
Geifman le dijo anteriormente a TechCrunch que uno de los clientes de Deci, un proveedor de videoconferencias, usó la plataforma para implementar una función que difumina los fondos en los dispositivos de los usuarios. Otros recurrieron a Deci para crear mejores modelos para su propia computación interna, incluso cuando teóricamente tienen las GPU y la capacidad de cómputo disponibles para ejecutar cualquier cosa.
“Deci se creó para empoderar a los desarrolladores y eliminar los cuellos de botella relacionados con la producción en todo el ciclo de vida de la IA”, dijo Geifman. “El impacto comercial de esta capacidad se traduce en… una reducción del tiempo de producción y la capacidad de desbloquear nuevos casos de uso de IA y abordar nuevos segmentos de mercado en dispositivos con recursos limitados”.
Geifman también señala que los modelos comprimidos pueden ayudar a las empresas a ahorrar en costos de cómputo de inferencia, es decir, los costos de servir modelos una vez que se han implementado. Debido en parte a la popularidad de los modelos de hospedaje en la nube, más de un tercio de las empresas experimentan regularmente sobrecostos en la nube de hasta un 40 %, según un encuesta por el proveedor de software de observabilidad Pepperdata.
Si bien Geifman afirma que el negocio de Deci continúa creciendo, la startup enfrenta desafíos, incluidas las limitaciones técnicas de NAS. (NAS, que es difícil de evaluarpuede ser costoso y llevar mucho tiempo). Además, Deci también compite con varias empresas que desarrollan formas de hacer que los modelos sean más eficientes, como OctoML, Neural Magic y OmniML.
Los próximos meses serán una prueba de la robustez de Deci frente a los vientos en contra.
“Si bien no podemos revelar la valoración, podemos decir que aumentó significativamente en comparación con la ronda anterior. Debido al crecimiento en el negocio de Deci y las oportunidades de expansión del producto en dominios adicionales como el procesamiento del lenguaje natural, entre otros, nuestros inversionistas existentes decidieron redoblar sus esfuerzos para respaldar ese crecimiento”, dijo Geifman. “No hemos visto un impacto importante [from recent economic developments]. Nuestro enfoque se ha centrado en gran medida en la empresa, mientras que la desaceleración ha afectado principalmente a las empresas medianas y nuevas empresas”.
La directora general de Insight Partners, Lonne Jaffe, miembro de la junta de Deci, agregó en un correo electrónico con TechCrunch: “La poderosa tecnología de Deci le permite ingresar sus modelos de IA, datos y hardware de destino, ya sea que el hardware esté en el borde o en la nube, y lo guía en la búsqueda de modelos alternativos que generarán una precisión predictiva similar con una eficiencia enormemente mejorada… [It’s a value add because] tener una infraestructura más eficiente para los sistemas de IA puede hacer que los productos de IA sean cualitativamente diferentes y mejores, no solo más baratos y rápidos de ejecutar”.