IA abierta El cofundador y CEO Sam Altman se sentó para una amplia entrevista con este editor a fines de la semana pasada, respondiendo preguntas sobre algunas de sus inversiones personales más ambiciosas, así como sobre el futuro de OpenAI.
Había mucho que discutir. El equipo que ahora tiene ocho años ha dominado la conversación nacional desde que lanzó ChatGPT, un chatbot que responde preguntas como una persona, en noviembre. Los productos de OpenAI no solo han asombrado a los usuarios; Según los informes, la compañía está en conversaciones para supervisar la venta de acciones existentes a nuevos inversores a un precio $ 29 mil millones valoración a pesar de su comparativamente ingresos nominales. Mientras tanto, preocupado educadores son cada vez más bloqueando acceso a ChatGPT debido al temor de que los estudiantes lo usen para hacer trampa.
Altman se negó a hablar sobre los tratos comerciales actuales de la compañía y disparó un poco como un tiro de advertencia cuando se le hizo una pregunta relacionada durante nuestra reunión.
Sin embargo, reveló un poco sobre los planes de la compañía en el futuro. Por un lado, además de ChatGPT y el popular generador de arte digital del equipo, DALL-E, Altman confirmó que también llegará un modelo de video, aunque dijo que “no querría hacer una predicción competente sobre cuándo”, y agregó. que “podría ser muy pronto; es un proyecto de investigación legítimo. Podría llevar un tiempo.
Altman dejó en claro que la asociación en evolución de OpenAI con Microsoft, que primero invirtió en OpenA en 2019 y hoy temprano confirmó sus planes incorporar herramientas de IA como ChatGPT en todos sus productos no es un pacto exclusivo.
Además, Altman confirmó que OpenAI puede crear sus propios productos y servicios de software, además de otorgar licencias de su tecnología a otras empresas. Eso es notable para los observadores de la industria que se han preguntado si OpenAI algún día podría competir directamente con Google a través de su propio motor de búsqueda. (Cuando se le preguntó acerca de este escenario, Altman dijo: “Cada vez que alguien habla de que una tecnología es el final de otra empresa gigante, por lo general está mal. La gente olvida que puede hacer un contraataque aquí, y son bastante inteligentes, bastante competentes. ”)
En cuanto a cuándo OpenAI planea lanzar la cuarta versión de GPT, el modelo de lenguaje sofisticado en el que se basa ChatGPT, Altman solo dijo que el producto tan esperado “saldrá en algún momento cuando estemos seguros de que podemos [release] de forma segura y responsable.” También trató de moderar las expectativas con respecto a GPT-4, diciendo que “no tenemos un AGI real”, es decir, inteligencia artificial general, o una tecnología con su propia inteligencia emergente, en comparación con los modelos actuales de aprendizaje profundo de OpenAI que resuelven problemas e identifican patrones. a través de prueba y error.
“Pienso [AGI] es más o menos lo que se espera de nosotros” y GPT-4 “va a decepcionar” a la gente con esa expectativa, dijo.
Mientras tanto, cuando se le preguntó cuándo Altman espera ver la inteligencia artificial general, postuló que está más cerca de lo que uno podría imaginar, pero también que el cambio a “AGI” no será tan abrupto como algunos esperan. “Cuanto más nos acercamos [to AGI]me cuesta más responder porque creo que va a ser mucho más borroso y una transición mucho más gradual de lo que la gente piensa”, dijo.
Naturalmente, antes de concluir, dedicamos un tiempo a hablar sobre la seguridad, incluido si la sociedad tiene suficientes medidas de protección para la tecnología que OpenAI ya ha lanzado al mundo. (Muchos críticos creen que no. Google, en particular, se ha mostrado reacio a lanzar su propio chatbot de IA, LaMDA, por preocupaciones sobre su “riesgo reputacional.”)
Altman dijo aquí que OpenAI tiene “un proceso interno en el que tratamos de romper cosas y estudiar los impactos. Utilizamos auditores externos. tenemos externo equipos rojos. Trabajamos con otros laboratorios y tenemos organizaciones de seguridad que analizan las cosas”.
Al mismo tiempo, dijo, la tecnología está llegando, de OpenAI y de otros lugares, y la gente necesita comenzar a descubrir cómo vivir con ella, sugirió. “Hay cambios sociales que ChatGPT va a causar o está causando. Uno importante que está ocurriendo ahora tiene que ver con su impacto en la educación y la integridad académica, todo eso”. Aun así, argumentó, “a partir de estos [product releases] ahora [makes sense]donde lo que está en juego todavía es relativamente bajo, en lugar de simplemente publicar lo que tendrá toda la industria en unos pocos años sin tiempo para que la sociedad se actualice”.
De hecho, los educadores, y quizás también los padres, deberían entender que no se puede volver a meter al genio en la botella. Si bien Altman dijo que OpenAI y otros equipos de IA “experimentarán” con tecnologías de marca de agua y otras técnicas de verificación para ayudar a evaluar si los estudiantes están tratando de hacer pasar una copia generada por IA como propia, también insinuó que centrarse demasiado en este escenario en particular es fútil. “Puede haber formas en las que podamos ayudar a los maestros a ser un poco más propensos a detectar el resultado de un sistema similar a GPT, pero, sinceramente, una persona determinada los esquivará y no creo que sea algo que la sociedad pueda hacer. o debería confiar en el largo plazo.”
No será la primera vez que las personas se adapten con éxito a cambios importantes, agregó. Señalando las calculadoras que “cambiaron lo que evaluamos en las clases de matemáticas” y Google mismo, que hizo que la necesidad de memorizar hechos fuera mucho menos importante, Altman observó que los modelos de aprendizaje profundo representan “una versión más extrema” de ambos desarrollos. Pero argumentó que “los beneficios también son más extremos. Escuchamos de maestros que, comprensiblemente, están muy nerviosos por el impacto de esto en la tarea. También escuchamos mucho de maestros que dicen: ‘Vaya, este es un tutor personal increíble para cada niño’”.
Para ver la conversación completa sobre OpenAI y los puntos de vista en evolución de Altman sobre la mercantilización de la IA, las regulaciones y por qué la IA va “exactamente en la dirección opuesta” a la que muchos imaginaron que iría hace cinco o siete años, vale la pena ver el clip a continuación.
También escuchará a Altman abordar los mejores y peores escenarios cuando se trata de la promesa y los peligros de la IA.
¿La versión corta? “El buen caso es tan increíblemente bueno que suenas como una persona realmente loca para empezar a hablar de eso”, había dicho. “Y el caso malo, y creo que es importante decir esto, es, como, luces apagadas para todos nosotros”.
Source link