La nueva herramienta de Amazon simplifica la entrega de modelos de aprendizaje automático en contenedores

La nueva herramienta de Amazon simplifica la entrega de modelos de aprendizaje automático en contenedores

Como parte de la oleada de anuncios que saldrán esta semana de AWS re: Invent, Amazon anunció el lanzamiento de los Operadores Amazon SageMaker para Kubernetes, una forma para que los científicos y desarrolladores de datos simplifiquen la capacitación, el ajuste y la implementación de modelos de aprendizaje automático en contenedores.

Empaquetar modelos de aprendizaje automático en contenedores puede ayudar a ponerlos a trabajar dentro de las organizaciones más rápido, pero llegar allí a menudo requiere mucha administración adicional para que todo funcione. Amazonas Se supone que los Operadores de SageMaker para Kubernetes facilitan la ejecución y administración de esos contenedores, la infraestructura subyacente necesaria para ejecutar los modelos y los flujos de trabajo asociados con todos ellos.

“Si bien Kubernetes brinda a los clientes control y portabilidad, ejecutar cargas de trabajo de ML en un clúster de Kubernetes presenta desafíos únicos. Por ejemplo, la infraestructura subyacente requiere una administración adicional, como la optimización de la utilización, el costo y el rendimiento; cumplir con los requisitos de seguridad y reglamentarios apropiados; y garantizar una alta disponibilidad y confiabilidad ", escribió Aditya Bindal de AWS en una publicación de blog presentando la nueva función.

Cuando combina eso con los flujos de trabajo asociados con la entrega de un modelo de aprendizaje automático dentro de una organización a escala, se convierte en parte de una tubería de entrega mucho más grande, que es difícil de administrar en todos los departamentos y una variedad de requisitos de recursos.

Esto es precisamente lo que los operadores de Amazon SageMaker para Kubernetes han sido diseñados para ayudar a los equipos de DevOps. “Los operadores de Amazon SageMaker para Kubernetes cierran esta brecha, y los clientes ahora se ahorraron todo el trabajo pesado de integrar sus flujos de trabajo de Amazon SageMaker y Kubernetes. A partir de hoy, los clientes que usan Kubernetes pueden hacer una simple llamada a Amazon SageMaker, un servicio modular y totalmente administrado que facilita la construcción, capacitación e implementación de modelos de aprendizaje automático (ML) a escala ", escribió Bindal.

La promesa de Kubernetes es que puede organizar la entrega de contenedores en el momento correcto, pero si no ha automatizado la entrega de la infraestructura subyacente, puede sobreaprovisionar (o no) y no proporcionar la cantidad correcta de recursos necesarios para ejecutar el trabajo. Ahí es donde esta nueva herramienta combinada con SageMaker puede ayudar.

"Con los flujos de trabajo en Amazon SageMaker, los recursos informáticos están preconfigurados y optimizados, solo aprovisionados cuando se solicitan, escalados según sea necesario y se cierran automáticamente cuando se completan los trabajos, ofreciendo una utilización cercana al 100%", escribió Bindal.

Los operadores de Amazon SageMaker para Kubernetes están disponibles hoy en regiones seleccionadas de AWS.


Source link