ChatGPT es un “motor de adivinanzas muy sofisticado” que probablemente no le robará el trabajo

ChatGPT ha hecho estallar recientemente Internet con su capacidad para replicar el habla humana. Desarrollado por Open AI, un laboratorio de investigación de inteligencia artificial en San Francisco, California, el chatbot ha dado paso a titulares que afirman que puede escribir ensayos de nivel universitario, depurar código con éxito e incluso aprobar el examen de la barra. No es broma. Pero, ¿cómo funciona? ¿Debería usted De Verdad ¿Te preocupa que la seguridad de tu trabajo desaparezca de la noche a la mañana?

Para saber más y calmar nuestros nervios, hablamos con Sameer Singh, profesor asociado de informática en la Universidad de California Irvine; Singh trabaja en algoritmos de aprendizaje automático, así como en otros modelos que analizan texto para imitar las idiosincrasias de la escritura humana, como ChatGPT.

Qué exactamente Es ChatGPT?

Transformador de preentrenamiento generativo (o ChatGPT) es un complemento para Open AI que aprovecha una red neuronal que ha sido entrenada para responder a las indicaciones generadas por el usuario. Por ejemplo, le hice a ChatGPT la dolorosa pregunta existencial “¿Cuál es el significado de la vida?” y respondió con lo que ves a continuación:

Si bien las oportunidades para usar ChatGPT parecen infinitas, estas son algunas de las formas en que hemos experimentado con él:

• Generación de recetas
• Recomendando regalos
• Proponiendo ideas para el arte de la IA
• Escribir música (letras y melodías)
• Escribir rutinas de comedia.
• Traducir idiomas

Por supuesto, todas estas actividades se relacionan con los trabajos. Entonces, ¿deberíamos preocuparnos de que ChatGPT se convierta en el próximo gran guionista y deje sin trabajo a la mitad de Hollywood? “Creo que algunas personas pueden estar pensando eso, pero solo necesitan jugar con eso durante diez minutos”, dice Singh, aparentemente imperturbable. “No está sucediendo”.

Singh resumió ChatGPT como un “motor de adivinanzas muy sofisticado”, y creemos que eso lo dice todo.

Por un lado, ChatGPT aún no puede verificar ninguna de sus respuestas. Puede que suenen correctos, pero el modelo de lenguaje subyacente es simplemente adivinar qué palabras suenan correctamente, en lugar de encontrar la respuesta correcta definitiva a su consulta. Es por eso que definitivamente no recomendamos confiar en ChatGPT para escribir su trabajo final por usted. (Bueno, eso y el plagio).

¿Cómo funciona ChatGPT?

ChatGPT usa lo que se llama una red neuronal para dar sentido a la escritura y luego usa ese conocimiento para volverse realmente bueno con las palabras. Si bien eso puede parecer complicado, en realidad es solo una cuestión de codificar y decodificar información. Las redes “neuronales” son algoritmos que están entrenados para replicar la forma en que las neuronas del cerebro humano se comunican entre sí. Nuestros cerebros se basan en experiencias pasadas para descubrir cómo funciona nuestro mundo; ChatGPT se entrena utilizando interacciones humanas reales para ayudar al chatbot a predecir resultados y encontrar patrones en el lenguaje.

La verdadera pieza de fiesta de ChatGPT es su capacidad para responder a nuestras horribles preguntas a medias. No actúes como si no le hubieras pedido que escribiera una rutina de comedia stand-up sobre el queso de la tienda de comestibles. (Porque definitivamente tengo, ver más abajo).

Este mensaje parece tonto, pero te hace preguntarte cómo ChatGPT sabe tanto sobre el queso de las tiendas de comestibles. Alerta de spoiler: en realidad no sabe nada al respecto. Cuando escupió la rutina dolorosamente mediocre anterior, en realidad no estaba extrayendo información de bases de datos sobre queso; no es tan sofisticado. Hay un montón de capacitación guiada para el modelo de lenguaje para engañarlo y hacerle creer que realmente sabe sobre queso, y realmente sobre cualquier cosa sobre la que tenga dudas. Así es cómo:

1 El primer proceso consiste en analizar la mayor cantidad posible de texto disponible públicamente, básicamente todo lo que pueda encontrar en línea. “Toma una secuencia de palabras, oculta cuál debería ser la siguiente palabra y trata de adivinarla”, dice Singh. “Si se equivoca, entonces se actualiza a sí mismo para adivinarlo correctamente”. Para formular correctamente las oraciones, el modelo de lenguaje utiliza un modelo de recompensa para probar lo correcto y lo incorrecto.

Una publicación reciente del blog Open AI habla sobre cómo se creó esta intuición utilizando entrenadores humanos de IA que interactuaron directamente con el modelo de lenguaje. Luego, sus respuestas a una pregunta dada se compilaron y compararon con la respuesta generada por IA; después de que se probaron varias otras respuestas de IA, más entrenadores humanos intervinieron para clasificarlas según su corrección. Estos datos permiten a ChatGPT afinar su modelo de lenguaje a través de la optimización de políticas proximales, una forma de aprendizaje por refuerzo, que es un subconjunto del aprendizaje automático.

Si bien ChatGPT dio sus primeros pasos, todavía no podía caminar por sí solo. Un gran obstáculo es que Internet no es perfecto; una vez que el modelo arma una oración coherente, aún necesita ayuda para distinguir los hechos de la información errónea. Aquí es donde entra el segundo paso del proceso.

2 Como es una mala idea valorar algunas de las tomas de Internet al pie de la letra, hay que hacer algunos ajustes más para orientar el modelo de lenguaje en la dirección correcta. “Es probable que AI encuentre muchos documentos que afirman que Barack Obama nació en Kenia, en lugar de en Hawái”, explica Singh. Sin embargo, es importante tener en cuenta que estos documentos solo se habrían utilizado para tren ChatGPT.

Si le pidiera que me escribiera un artículo sobre Barrack Obama, su respuesta no sería extraída directamente de un artículo en línea. “Cuando le haces una pregunta, en realidad no está buscando la respuesta. … Es solo tratar de adivinar cuál parece ser la respuesta correcta”, dice Singh. Sin embargo, esto es problemático porque el propio explicador de ChatGPT menciona abiertamente que actualmente no hay una fuente de verdad. Señalan que si el modelo de lenguaje es demasiado cauteloso, simplemente rechazará las preguntas que no puede responder, lo que acaba con la novedad.

¿Qué sigue para ChatGPT?

Contrariamente a algunas afirmaciones en las redes sociales, la inteligencia artificial aún está lejos de ser perfecta. Hay más de unas pocas áreas que, según Singh, se pasan por alto en la cobertura de IA.

Uno de los mayores agujeros que se ven en muchos de estos artículos es el hecho de que la información está en constante evolución y será increíblemente difícil para ChatGPT mantenerse al día, explica. “Estos modelos toman mucho tiempo y mucho esfuerzo para entrenar. … Pero eso significa que no se capacitan muy a menudo”, dice Singh. Si bien las habilidades de ChatGPT son definitivamente impresionantes, su conocimiento se limita a los datos de 2021, lo que significa que ChatGPT realmente no sabe nada de lo que sucedió en los años siguientes.

Como puede ver a continuación, no se sabe que Max Verstappen ganó el Campeonato Mundial de Fórmula 1 de 2022:

ChatGPT recientemente se volvió de uso gratuito, lo cual es genial. Sin embargo, el rápido aumento del número de usuarios ha llevado a que el modelo de lenguaje alcance su capacidad máxima, lo que significa que en ocasiones experimentará retrasos y otros errores durante ciertas interacciones. Esto se debe en gran parte al gran tamaño de ChatGPT (miles de millones de palabras y parámetros de entrenamiento) y la cantidad de usuarios que interactúan con él. Es increíble que pueda darte una respuesta en cuestión de segundos, ¿verdad?

💡 ¿Servidor ChatGPT al máximo de su capacidad? Afortunadamente, este problema a menudo se resuelve simplemente esperando e intentándolo nuevamente, o actualizando su navegador.

El otro gran problema es que ChatGPT no sabe nada sobre el usuario. “Estos modelos son útiles para poder tomar lo que digo y poder trabajar con ello, pero no saben nada más sobre mí específicamente”, dice Singh. “Es como hablar con un extraño, en lugar de hablar con alguien que realmente puede ayudarte”. Piensa en tus amigos más cercanos: es probable que hayan desarrollado una comprensión compleja de quién eres y cómo ayudarte de la mejor manera posible; ChatGPT no puede ser tan específico y hace que la experiencia sea mucho menos auténtica.

Entonces, por el momento, es difícil descifrar si ChatGPT será una herramienta útil o solo un truco que recordaremos en otra vida. Nos gusta pensar en ello como la versión 2023 de Google Glass.

Le complacerá saber que escribí este artículo en su totalidad, sin la ayuda (ni obstáculos) de AI. GPT absolutamente puede escribir artículos, pero es difícil replicar la personalidad y otras inflexiones que los humanos pueden inyectar en su escritura, o eso esperamos.

Sin embargo, nos hizo use IA para generar la imagen principal en la parte superior de esta historia. Pero, todavía necesitaba una buena cantidad de interacción humana para escupir esa imagen. Consulte MidJourney AI si desea obtener más información.

Este contenido se importa de la encuesta. Es posible que pueda encontrar el mismo contenido en otro formato, o puede encontrar más información en su sitio web.