A medida que las empresas se mueven cada vez más para aprovechar el aprendizaje automático para administrar sus negocios de manera más eficiente, el hecho es que se necesita una gran cantidad de energía para construir, probar y ejecutar modelos en producción. Neurouna solución MLOps de pila completa en etapa inicial, está construyendo un enfoque más ecológico.
Hoy, la compañía anunció una solución en la nube de IA con cero emisiones junto con un socio finlandés de infraestructura en la nube en el norte.
La compañía dice que atNorth está proporcionando un centro de datos con certificación ISO 27001 de nivel 3, que ejecuta sistemas DGX y HGX con tecnología Nvidia A100. El centro de datos ofrece 80MW de capacidad de energía, que funciona completamente con energía geotérmica e hidroeléctrica. Además, debido a su ubicación cerca del Ártico, proporciona esencialmente enfriamiento gratuito, lo que brinda a neu.ro una solución de eficiencia energética para que los clientes construyan modelos de aprendizaje automático utilizando su solución.
El cofundador de la empresa, Max Prasolov, dice que, después de investigar el problema, descubrieron que la informática y las telecomunicaciones consumen alrededor del 9% del consumo total de energía en todo el mundo, una cifra que, según sugiere su investigación, podría duplicarse en la próxima década. Creen que la construcción de modelos de aprendizaje automático será una parte cada vez mayor de eso, y decidieron asociarse con atNorth para reducir su propia huella de emisiones de carbono.
“Decidimos trasladar todas nuestras operaciones y todos nuestros experimentos a la nube de cero emisiones. Y el objetivo no es ser carbono neutral porque [know that we could] comprar créditos y compensar [our usage]. La pregunta es cómo [achieve] cero emisiones? Nosotros [realized] gastamos tanta energía y tanto poder de cómputo para entrenar nuestros modelos para los clientes, y entendemos que esa es definitivamente la mayor huella de carbono que [are producing]”, dijo Praslov.
Mientras la empresa estaba en ello, ideó una forma a través de su solución de software para construir modelos de una manera más eficiente, lo que a su vez reduce la cantidad de energía necesaria y permite a la empresa ofrecer una solución aún más sostenible.
En términos del producto en sí, la empresa ofrece un servicio nativo de la nube flexible en el que proporcionan algunas de las herramientas, pero dejan suficiente espacio para que las empresas completen con las piezas que creen que funcionan mejor para ellas.
“La forma en que lo abordamos es que, en lugar de intentar construir cada herramienta que se necesita construir, desde la ingestión de datos hasta el monitoreo, la explicabilidad y la construcción de motores de canalización, etc., nos centramos en la interoperabilidad. Construimos lo que no se ha construido y nos conectamos al universo de herramientas basadas en Kubernetes que ya existen”, explicó el cofundador de la empresa, Arthur McCallum.
La startup actualmente tiene una solución comercial, pero está trabajando en una versión de código abierto de la pila que se lanzará en breve, probablemente antes de fin de año. El objetivo de la compañía es proporcionar una solución de inteligencia artificial basada en la nube para proveedores de nube más pequeños más allá de los tres grandes de Amazon, Microsoft y Google. Esto incluiría proveedores regionales en todo el mundo.
Neu.ro se lanzó en 2019 y presentó su primera versión de la solución el año pasado. Ha recaudado $ 2.3 millones en fondos iniciales hasta el momento, según la compañía.
Source link