La nueva herramienta de Amazon simplifica la entrega de modelos de aprendizaje automático en contenedores

La nueva herramienta de Amazon simplifica la entrega de modelos de aprendizaje automático en contenedores

Como parte de la ráfaga de anuncios que saldrán esta semana de AWS re: inventarAmazon anunció el lanzamiento de Operadores de Amazon SageMaker para Kubernetesuna forma para que los científicos y desarrolladores de datos simplifiquen la capacitación, el ajuste y la implementación de modelos de aprendizaje automático en contenedores.

Empaquetar modelos de aprendizaje automático en contenedores puede ayudar a ponerlos a trabajar dentro de las organizaciones más rápido, pero llegar allí a menudo requiere mucha administración adicional para que todo funcione. Se supone que Amazon SageMaker Operators for Kubernetes facilitará la ejecución y administración de esos contenedores, la infraestructura subyacente necesaria para ejecutar los modelos y los flujos de trabajo asociados con todo ello.

“Si bien Kubernetes brinda a los clientes control y portabilidad, ejecutar cargas de trabajo de ML en un clúster de Kubernetes presenta desafíos únicos. Por ejemplo, la infraestructura subyacente requiere una gestión adicional, como la optimización de la utilización, el costo y el rendimiento; cumplir con los requisitos reglamentarios y de seguridad apropiados; y garantizar una alta disponibilidad y confiabilidad”, Aditya Bindal de AWS escribió en una publicación de blog presentando la nueva característica.

Cuando combina eso con los flujos de trabajo asociados con la entrega de un modelo de aprendizaje automático dentro de una organización a escala, se convierte en parte de una canalización de entrega mucho más grande, una que es difícil de administrar entre departamentos y una variedad de requisitos de recursos.

Esto es precisamente lo que Amazon SageMaker Operators for Kubernetes ha diseñado para ayudar a los equipos de DevOps a hacer. “Amazon SageMaker Operators for Kubernetes cierra esta brecha y los clientes ahora se ahorran todo el trabajo pesado de integrar sus flujos de trabajo de Amazon SageMaker y Kubernetes. A partir de hoy, los clientes que utilizan Kubernetes pueden hacer una simple llamada a Amazon SageMaker, un servicio modular y totalmente administrado que facilita la creación, capacitación e implementación de modelos de aprendizaje automático (ML) a escala”, escribió Bindal.

La promesa de Kubernetes es que puede orquestar la entrega de contenedores en el momento adecuado, pero si no ha automatizado la entrega de la infraestructura subyacente, puede aprovisionar en exceso (o en defecto) y no proporcionar la cantidad correcta de recursos necesarios para ejecutar. el trabajo. Ahí es donde esta nueva herramienta, combinada con SageMaker, puede ayudar.

“Con los flujos de trabajo en Amazon SageMaker, los recursos informáticos están preconfigurados y optimizados, solo se aprovisionan cuando se solicitan, se escalan según sea necesario y se apagan automáticamente cuando se completan los trabajos, lo que ofrece una utilización cercana al 100 %”, escribió Bindal.

Los operadores de Amazon SageMaker para Kubernetes están disponibles hoy en determinadas regiones de AWS.


Source link