El éxito de los grandes modelos de lenguaje como GPT ha provocado un frenesí de desarrolladores ansiosos por crear aplicaciones impulsadas por IA. Pero crear servicios de inteligencia artificial puede ser complicado, especialmente debido a la escasez de desarrolladores calificados para satisfacer la creciente demanda en estos días.
Ahí es donde chaoyu yanguno de los primeros ingenieros de software en Databricks, el megaunicornio de datos, entra. Junto con sus cofundadores, creó el marco de desarrollo de IA BentoMLque acaba de anunciar una ronda de financiación semilla.
Yang, en una entrevista con TechCrunch, explicó que los servicios de inteligencia artificial de hoy en día a menudo se basan en múltiples modelos de aprendizaje automático, lo que complica su gestión y operación. Muchos programadores que ingresan a la refriega provienen de una experiencia de desarrollo de aplicaciones o full-stack, lo que significa que a menudo carecen de las habilidades para construir la infraestructura de IA requerida, lo que resulta en un proceso de desarrollo prolongado.
Una aplicación de IA de demostración como Visual ChatGPT de Microsoft, una actualización del chatbot que le permite producir respuestas a partir de mensajes de texto e imágenes, por ejemplo, puede tardar al menos de tres a seis meses en estar lista para la producción, dijo Yang.
Si bien los gigantes tecnológicos como Microsoft disfrutan de la destreza financiera y el capital humano para entrenar modelos de IA y ponerlos en uso en el mundo real, las empresas más pequeñas, en palabras de Yang, están recopilando “datos valiosos que pueden beneficiarse enormemente de la IA” pero “carecen de los recursos construir la infraestructura para el desarrollo”.
BentoML, que proporciona una API de alto nivel que abstrae los detalles de la infraestructura necesaria para ejecutar modelos de IA en la nube, pertenece a un campo de herramientas como SageMaker que quiere allanar el camino para desarrollar servicios de IA. Es el llamado marco de aplicación de IA, un conjunto de herramientas que facilitan la creación, el envío y el escalado de aplicaciones de IA, como un kit de herramientas de construcción que se usa para construir una casa.
Específicamente, BentoML está dirigido a científicos de datos que entrenan modelos de IA, ingenieros de DevOp que administran su ciclo de vida y desarrolladores que realmente crean aplicaciones sobre los modelos.
Con BentoML, los desarrolladores pueden hacer que Visual ChatGPT sea escalable y rentable para su uso en producción en tan solo dos días, dijo Yang. Los usuarios también han utilizado el marco para ejecutar el generador de arte Stable Diffusion y LLM de código abierto en la nube.
Yang comparó su empresa con Vercel, que se enfoca en atender a los desarrolladores front-end y fue valorada por última vez en más de mil millones de dólares. BentoML pretende ser el Vercel para la IA, dijo.
Si bien Yang predijo que la IA eventualmente estaría más lista para la producción, admitió que no creía que la ola de aplicaciones de la IA llegaría tan pronto. El fundador espera que los desarrolladores de aplicaciones de IA representen más del 90 % de los usuarios de la plataforma en el futuro.
“Si me preguntas hace un año, diría que probablemente el 90 % de las empresas estarían entrenando sus propios modelos, pero los modelos básicos que surgieron recientemente son tan poderosos que pueden funcionar bien incluso con un conjunto de datos que nunca antes se había utilizado. visto antes”, dijo.
“En lugar de centrarse en la capacitación de modelos, los desarrolladores ahora solo necesitan trabajar en el ajuste y la ingeniería de productos, que en sí mismos presentan un cuello de botella debido a la escasez de desarrolladores centrados en la IA”.
BentoML fue de código abierto en 2019 y luego introdujo una versión SaaS autohospedada para clientes empresariales. Ha estado adquiriendo usuarios de forma orgánica a través de su comunidad de código abierto, que cuadruplicó su membresía a más de 3000 durante el año pasado, con los gigantes de las redes sociales de Corea del Sur, Line y Naver, entre sus primeros usuarios.
Yang se negó a revelar el tamaño de los ingresos de la empresa.
Los inversores están tomando nota de la tracción de BentoML en la comunidad de desarrolladores. La startup recientemente recaudó $ 9 millones de su ronda de financiación inicial dirigida por DCM Ventures, con la participación de Bow Capital. El socio general de DCM, Hurst Lin, se unió al directorio de BentoML después de la ronda.
El exuberante mercado de la IA ha sido de gran ayuda para BentoML, pero la industria que cambia rápidamente también dificulta que el equipo haga malabarismos con los objetivos a corto y largo plazo, admitió Yang.
“Es posible que tenga que construir cosas que sigan la tendencia actual, pero a largo plazo, por supuesto, queremos tener nuestro propio foso. La pregunta es cómo equilibramos nuestro tiempo y recursos humanos entre los dos”.
Source link