Run:AI lleva la virtualización a las GPU que ejecutan cargas de trabajo de Kubernetes

Run:AI lleva la virtualización a las GPU que ejecutan cargas de trabajo de Kubernetes

A principios de la década de 2000, VMware presentó al mundo los servidores virtuales que permitieron a TI hacer un uso más eficiente de la capacidad inactiva del servidor. Hoy dia, Ejecutar: IA está introduciendo ese mismo concepto en las GPU que ejecutan proyectos de aprendizaje automático en contenedores en Kubernetes.

Esto debería permitir que los equipos de ciencia de datos tengan acceso a más recursos de los que normalmente obtendrían si simplemente asignaran una cierta cantidad de GPU disponibles. El director ejecutivo y cofundador de la empresa, Omri Geller, dice que su empresa cree que parte del problema para llevar los proyectos de IA al mercado se debe a la asignación estática de recursos que frena a los equipos de ciencia de datos.

“Muchas veces, esas fuentes informáticas importantes y costosas están inactivas, mientras que, al mismo tiempo, otros usuarios pueden necesitar más poder de cómputo, ya que necesitan ejecutar más experimentos y no tienen acceso a los recursos disponibles porque son parte. de una asignación estática”, explicó Geller.

Para resolver ese problema de asignación de recursos estáticos, Run:AI ideó una solución para virtualizar esos recursos de GPU, ya sea en las instalaciones o en la nube, y dejar que TI defina por política cómo se deben dividir esos recursos.

“Existe la necesidad de enfoques de virtualización específicos para la IA y la orquestación y programación gestionadas activamente de esos recursos de GPU, al mismo tiempo que se brinda visibilidad y control sobre esos recursos informáticos a las organizaciones de TI y los administradores de IA”, dijo.

Run:AI crea un grupo de recursos, que se asigna en función de las necesidades. Créditos de imagen Run:AI

Run:AI creó una solución para cerrar esta brecha entre los recursos que TI proporciona a los equipos de ciencia de datos y lo que necesitan para ejecutar un trabajo determinado, al mismo tiempo que le da a TI cierto control sobre la definición de cómo funciona.

“Realmente ayudamos a las empresas a sacar mucho más provecho de su infraestructura, y lo hacemos abstrayendo realmente el hardware de la ciencia de datos, lo que significa que puede simplemente ejecutar su experimento sin pensar en el hardware subyacente, y en cualquier momento puede consumir toda la potencia informática que necesite”, dijo.

Si bien la empresa aún se encuentra en sus primeras etapas y la situación económica actual está afectando duramente a todos, Geller ve un lugar para una solución como Run:AI porque brinda a los clientes la capacidad de aprovechar al máximo los recursos existentes, al tiempo que hace que la ciencia de datos los equipos funcionan de manera más eficiente.

También tiene una visión realista a largo plazo en lo que respecta a la adquisición de clientes durante este tiempo. “Estos son tiempos difíciles para todos”, dice. “Tenemos planes para asociaciones de mayor duración con nuestros clientes que no están optimizadas para los ingresos a corto plazo”.

Run:AI se fundó en 2018. Ha recaudado 13 millones de dólares, según Geller. La empresa tiene su sede en Israel y oficinas en los Estados Unidos. Actualmente cuenta con 25 empleados y unas pocas decenas de clientes.


Source link