A fines del año pasado, Microsoft anunció el lanzamiento de Azure OpenAI Service, un producto totalmente administrado y centrado en la empresa, diseñado para brindar a las empresas acceso a las tecnologías del laboratorio de inteligencia artificial OpenAI con funciones de gobierno adicionales. Inicialmente solo por invitación como parte de Azure Cognitive Services, el servicio permite el acceso a la API de OpenAI a través de la plataforma Azure para aplicaciones como la traducción de idiomas y el autocompletado de texto.
Ahora, coincidiendo con Build e impulsado por las nuevas innovaciones de OpenAI, Microsoft está expandiendo Azure OpenAI Service para admitir casos de uso adicionales. El servicio se encuentra en versión preliminar de acceso limitado, lo que significa que los clientes que deseen utilizarlo pueden solicitar el acceso de pago por uso. Anteriormente, Azure OpenAI Service solo estaba disponible mediante invitación.
“Queremos ayudar a los clientes a pasar de la etapa de experimentación al uso de esta tecnología como parte central de su negocio para crecer realmente”, dijo Eric Boyd, vicepresidente corporativo de la plataforma de IA de Microsoft, en una entrevista telefónica con TechCrunch.
Modelos completamente administrados
Construidos por OpenAI, los modelos que impulsan Azure OpenAI Service, incluido GPT-3, se pueden personalizar para realizar tareas, desde traducir lenguaje natural a código hasta generar respuestas a preguntas. GPT-3 ha estado disponible públicamente desde mediados de 2020 a través de la API de OpenAI. Pero Azure OpenAI Service agrega capas adaptadas a la empresa además de los modelos que la API no incluye, incluida una mayor capacidad de escalado, redes privadas y administración de acceso.
Por ejemplo, las empresas pueden usar Azure OpenAI Service para ejecutar modelos en regiones geográficas particulares por motivos de cumplimiento o administrar de forma centralizada los puntos finales de API y usar claves proporcionadas por el cliente para el cifrado. Azure OpenAI Service también aparentemente hace que la facturación sea más conveniente para los clientes existentes de Azure al cobrar por el uso del modelo en una sola factura, en lugar de hacerlo por separado con la API de OpenAI.
Si bien los clientes anteriormente podían ajustar los modelos en Azure OpenAI Service usando ejemplos de sus propios datos, las capacidades de ajuste se están expandiendo con las actualizaciones del servicio, dijo Boyd. “Puedes tomar el OpenAI estándar y [get] mayor eficiencia y eficacia sobre resultados reales”, agregó. “Traemos la gama completa de modelos [from OpenAI] … para que las empresas no tengan que empezar de cero para obtener resultados realmente precisos”.
Las mejoras se deben en parte a InstructGPT, una familia de modelos basados en GPT-3 desarrollados recientemente por OpenAI que tienen menos probabilidades de generar texto problemático y se alinean más estrechamente con la intención del usuario. Debido a la forma en que se desarrollan los sistemas de IA, se descubrió que las versiones anteriores de los modelos desarrollados por OpenAI producían texto tóxico, como colocar palabras como “travieso” o “aspirado” cerca de los pronombres femeninos e “Islam” cerca de palabras como “terrorismo”. Si bien InstructGPT no es perfecto, su desempeño en las pruebas internas en OpenAI fue lo suficientemente sólido como para que la empresa lo convirtiera en el modelo de generación de lenguaje predeterminado en la API de OpenAI.
Otra nueva colección de modelos en Azure OpenAI Service, llamados modelos de incrustación, están diseñados para funcionar bien en tareas como la similitud de texto, la búsqueda de texto y la búsqueda de código. La similitud de texto captura la similitud semántica entre fragmentos de texto, mientras que la búsqueda de texto y código encuentra información en los archivos para satisfacer un conjunto de criterios.
Boyd dijo que un cliente de Azure OpenAI Service, CarMax, usó los modelos para clasificar y resumir reseñas de autos en su mercado en expansión. Los resúmenes destacan temas populares sobre automóviles individuales y presentan “respuestas autorizadas” a preguntas específicas.
Mientras tanto, la cooperativa de suministros rurales con sede en Nueva Zelanda, Farmlands, aprovechó Azure OpenAI Service para resumir las interacciones de los clientes, clasificándolas como “neutrales”, “negativas” o “positivas” y extrayendo palabras clave. Farmlands también está probando un chatbot y descripciones de productos generadas por IA, ambos con tecnología de Azure OpenAI Service, para su tienda de comercio electrónico.
Más allá de los ajustes mejorados y los nuevos modelos, Azure OpenAI Service ahora ofrece acceso a Codex, que puede generar código con un aviso en lenguaje natural. (Codex se lanzó en la API de OpenAI en agosto pasado). Codex se puede usar para tareas de programación, incluida la transpilación, la explicación del código y la refactorización de código en lenguajes que abarcan Python, JavaScript, Go, Perl, PHP, Ruby, Swift y TypeScript.
Boyd dijo que ha visto ejemplos de clientes que usan Codex para comunicarse directamente con la API de Minecraft, entre otras aplicaciones.
Por último, Azure OpenAI Service tiene un nuevo sistema de “IA responsable” diseñado para filtrar contenido relacionado con sexo, violencia, odio y autolesiones. El sistema intenta detectar patrones de abuso o daño por parte de un usuario de un modelo que, cuando se detecta, solicita a un equipo de Microsoft dedicado a trabajar con los clientes para investigar y bloquear el abuso si es necesario. El equipo también es responsable de actualizar los filtros de contenido a medida que se utilizan nuevas formas de incitación al odio y calumnias.
“El nuevo sistema de IA responsable en Azure OpenAI Services incluye filtrado automático de contenido para ofrecer contenido de mayor calidad a los clientes. Para las API donde la generación de contenido dañino es una preocupación, está activada de forma predeterminada. Los clientes no pueden optar por no participar”, aclaró un portavoz de Microsoft por correo electrónico. “El filtrado de contenido está alineado con la política de contenido de Microsoft que rige el uso del servicio Azure OpenAI. Los filtros de contenido bloquean contenido en cuatro categorías actualmente: sexual/para adultos, violencia, odio y autolesiones. Cada uno de estos filtros se basa en un modelo de aprendizaje automático desarrollado específicamente para ese tema. Para ayudar a garantizar que Azure OpenAI Service se use para los fines previstos, el sistema de IA responsable también verifica el contenido que puede estar relacionado con el uso indebido del sistema, como la generación de desinformación. Esos filtros se desarrollan en base a la información de Bing Threat Intelligence y las alertas resultantes se envían a un equipo de revisores humanos para investigar”.
Acceso limitado
La adopción de Azure OpenAI Service ha sido sólida, según Boyd, con compañías Fortune 500 anónimas que utilizan el servicio. Cuando se le preguntó acerca de una disponibilidad más amplia, Boyd dijo que Azure OpenAI Service permanecerá con acceso limitado en el futuro previsible.
Solo las empresas que planean implementar casos de uso “bien definidos” pueden suscribirse al servicio, dijo Boyd, y deben demostrar que van a utilizar los modelos de manera “confiable”. Microsoft proporciona pautas y patrones de diseño de la experiencia del usuario y una “nota de transparencia” que describe los límites, los usos previstos y las características del servicio Azure OpenAI.
“Las pautas de diseño se basan en nuestra Kit de herramientas HAX pero están diseñados para brindar una guía más específica para las aplicaciones de IA generativa”, continuó el portavoz. “La nota de transparencia para el servicio Azure OpenAI se publicará pronto. Será similar a otras notas de transparencia para Azure Cognitive Services, encontradas aquí. Las notas de transparencia son parte de un esfuerzo más amplio en Microsoft para poner en práctica nuestros principios de IA”.
Mirando hacia el futuro, Boyd dijo que Microsoft continuará trabajando en estrecha colaboración con OpenAI para desarrollar y descubrir formas de comercializar las tecnologías del laboratorio. Microsoft mantiene una estrecha relación con OpenAI, ya que invirtió mil millones de dólares en el laboratorio en 2020 y obtuvo la licencia exclusiva de GPT-3. Microsoft mantiene una “supercomputadora de IA” en Azure que OpenAI usa para entrenar sus modelos, y la compañía ha integrado GPT-3 y Codex en varios de sus servicios, incluidos Power Apps y Copilot de GitHub.
“Definitivamente hablamos con OpenAI, y OpenAI también está en contacto con los clientes”, dijo Boyd.
Source link