David Lazovsky y Preet Virk, tecnólogos con experiencia en ingeniería de semiconductores y fotónica, se dieron cuenta hace varios años de que las cargas de trabajo de inteligencia artificial y aprendizaje automático encontrarían rápidamente un problema de “movimiento de datos”. Cada vez más, predijeron, se volvería un desafío mover datos hacia y desde el hardware de cómputo a medida que los modelos de IA superaban lo que podía mantenerse en el troquel de cualquier chip de memoria.
Su solución, diseñada por Phil Winterbottom, anteriormente investigador en los distinguidos Bell Labs, era una tecnología de interconexión óptica para la transmisión de datos de cómputo a cómputo, de cómputo a memoria y en el chip. Junto con Winterbottom, Lazovsky y Virk fundaron una startup, IA celestial, para comercializar la tecnología. Y ahora esa puesta en marcha está atrayendo grandes patrocinadores.
Celestial AI anunció hoy que recaudó $ 100 millones en una ronda de Serie B dirigida por IAG Capital Partners, Koch Disruptive Technologies y el fondo Xora Innovation de Temasek. El tramo, que lleva el total recaudado de Celestial AI a más de $ 165 millones, se utilizará para respaldar la producción de la plataforma fotónica de Celestial al expandir los departamentos de ingeniería, ventas y marketing técnico de la compañía, según el director ejecutivo Lazovsky.
Celestial tiene alrededor de 100 empleados en la actualidad, un número que Lazovsky espera que aumente a 130 para fin de año.
“Hoy en día, la computación y la memoria están estrechamente relacionadas. La única forma de agregar más memoria de ancho de banda alto es agregar más cómputo, ya sea que se requiera o no el cómputo adicional”, dijo Lazovsky a TechCrunch por correo electrónico. “La tecnología de Celestial permite la desagregación de la memoria”.
En un centro de datos, la memoria suele ser una de las más caro recursos, en parte porque no siempre se utilizan de manera eficiente. Debido a que la memoria está ligada a la computación, es un desafío, ya veces imposible, debido a las restricciones de ancho de banda y la latencia altísima, para los operadores “desagregar” y agrupar la memoria en el hardware dentro del centro de datos.
Según un interno Según un estudio de Microsoft, hasta el 25 % de la memoria en Azure queda “varada” o sobrante después de alquilar los núcleos de los servidores a las máquinas virtuales. La reducción de esta memoria varada podría reducir los costos del centro de datos entre un 4 % y un 5 %, según la empresa. estimado — ahorros potencialmente significativos en el contexto de una operación multimillonaria.
Celestial, que comenzó como una empresa de cartera de The Engine, la firma de capital de riesgo que se separó del MIT en 2016, desarrolló una solución ostensible en su arquitectura basada en fotónica, que se adapta a sistemas de múltiples chips. Al usar la luz para transferir datos, la tecnología de Celestial puede transmitir información dentro de los chips y de chip a chip, lo que hace que tanto la memoria como la computación estén disponibles para la IA y otras cargas de trabajo.
Créditos de imagen: Celestial
Celestial también afirma que su tecnología puede reducir la cantidad de electricidad necesaria para el movimiento de datos, aumentando indirectamente el rendimiento de un chip. Por lo general, los chips dedican una parte de la electricidad que extraen al movimiento de datos entre sus circuitos, lo que quita la electricidad que el chip puede dirigir a las tareas informáticas. La fotónica de Celestial reduce la potencia requerida para el movimiento de datos, lo que permite que un chip, al menos en teoría, aumente su potencia de cómputo.
La tecnología fotónica de Celestial, que es compatible con la mayoría de los estándares de interconexión de la industria (por ejemplo, CXL, PCIe), ofrece un ancho de banda 25 veces mayor y una latencia y un consumo de energía 10 veces menores que las alternativas ópticas, afirma la empresa.
“Con el crecimiento de la IA, especialmente los modelos de lenguaje grande (LLM) y las cargas de trabajo del motor de recomendación, hay un cambio hacia la computación acelerada”, dijo Lazovsky. “El problema clave en el futuro es la capacidad de la memoria, el ancho de banda de la memoria y el movimiento de datos, es decir, la interconectividad de chip a chip, que es lo que estamos abordando con el tejido fotónico de Celestial”.
Celestial ofrece su producto de interconexión a través de un programa de licencias y dice que está comprometido con varios clientes de “primer nivel”, incluidos hiperescaladores y empresas de procesadores y memorias.
El producto de interconexión parece ser la prioridad número uno para Celestial. La compañía vende su propio chip acelerador de IA, denominado Orion, construido sobre la arquitectura fotónica de Celestial. Pero como dijeron los inversores a TechCrunch en un artículo reciente para TC+, los chips fotónicos de IA aún tienen que superar los desafíos de ingeniería que los harían prácticos a escala. A menos que Celestial se haya topado con avances en las áreas de conversión de datos a analógicos y regeneración de señales, los principales obstáculos para los chips fotónicos actuales, es poco probable que Orion esté mucho más avanzado que la competencia.
Aparte del chip, Celestial tiene una serie de competidores en un mercado de circuitos integrados fotónicos que podría tendrá un valor de $ 26.42 mil millones para 2027.
Ayar Labs, que fabrica soluciones de chips basadas en principios de redes ópticas, ha recaudado más de $200 millones en capital de riesgo desde su fundación en 2015. Renovus, otro rival, obtuvo recientemente una inversión de $73,9 millones.
Sin embargo, podría haber una consolidación en el futuro en el espacio más amplio de interconexión óptica. Hace unos tres años, Marvell compró Inphi, una especialista en redes ópticas, por $ 10 mil millones. Después de un período de calma, el año pasado Microsoft adquirió Lumenisity, una empresa emergente que desarrolla cables ópticos de alta velocidad para centros de datos y redes de operadores.
Tanto Inphi como Lumenisity apuntaban a diferentes casos de uso con su tecnología. Pero vale la pena señalar el entusiasmo de Big Tech en torno a la óptica y la fotónica.
“Nuestra tecnología fotónica es realmente diferenciada y única con características superiores”, dijo Lazovsky. “Dado el crecimiento de las cargas de trabajo generativas de IA debido a los LLM y las presiones que ejerce sobre las arquitecturas de los centros de datos actuales, la demanda de conectividad óptica está aumentando rápidamente para respaldar la transición de la infraestructura del centro de datos de computación general a la computación acelerada”.
Samsung Catalyst, Smart Global Holdings, Porsche Automobil Holding SE, The Engine Fund, imec.xpand, M Ventures y Tyche Partners también participaron en la Serie B de Celestial.
Source link