- Muchas redes neuronales basadas en lenguaje, como ChatGPT, utilizan medidas de seguridad para proteger a los usuarios de información errónea o sesgada.
- El cofundador de OpenAI, Elon Musk, que dejó la empresa en 2018, ahora quiere crear un rival para ChatGPT.
- The Information informa que los comentarios anteriores de Musk sobre las tendencias de “despertar” de la plataforma podrían significar que su IA tendrá menos salvaguardas que sus competidores.
Actualmente, el mundo está embelesado por los poderes fascinantes e inquietantemente humanos de las redes neuronales de IA basadas en lenguaje como ChatGPT, y Elon Musk, el hombre más rico del mundo, se encuentra entre ellos.
Según un informe de La informaciónMusk está interesado en creando un rival de ChatGPT. Esto podría deberse a una punzada de celos, ya que Musk en realidad cofundó OpenAI, la compañía detrás de ChatGPT, como una organización de investigación sin fines de lucro en 2015, pero dejó el grupo tres años después por un “desacuerdo” con la dirección de la empresa. Ahora, parece que Musk está buscando crear una IA similar para competir contra sus antiguos colegas con una distinción digna de gemir: la IA de Musk probablemente será anti-despertar.
almizcle tiene ambos elogiaron y criticó el éxito de ChatGPT en Twitter, pero el multimillonario tecnológico está registrado como extremadamente cauteloso con los peligros potenciales de la IA y tomó una postura decididamente anti-ChatGPT en diciembre cuando tuiteó: “El peligro de entrenar a la IA para que se despierte, en otras palabras, mienta, es mortal”.
Más Contenido del Mecánica Popular
almizcle es también registrado como un opositor acérrimo de la “virus de la mente despertada”, una enfermedad mental que supuestamente acaba con la civilización (que inventó después de ser abucheado en un show de Dave Chappelle).
Estos dos temores de Musk se han cruzado ya que los desarrolladores de ChatGPT, y chatbots similares como Bard de Google, están diseñando medidas de seguridad para proteger a los usuarios contra los chatbots que dicen cosas que son potencialmente ofensivas o controvertidas. Los medios conservadores también han acusado a algunas de estas salvaguardas de estar “despertadas”.
La información informa que Musk todavía está en el proceso de reclutar personas para unirse a esta nueva empresa de inteligencia artificial, incluido el investigador Igor Babuschkin, quien recientemente dejó DeepMind, la subsidiaria de inteligencia artificial de Alphabet con sede en Gran Bretaña. Aunque el informe afirma además que Babuschkin no se ha registrado oficialmente, dice que está interesado en trabajar con Musk y que el objetivo de Musk no es diseñar una IA con menos salvaguardas de contenido.
A mediados de febrero, Musk respondió a un tuit que supuestamente mostraba a ChatGPT etiquetándolo como “controvertido”, mientras que otras figuras, como el multimillonario Jeff Bezos, no lo eran. Dado que esta salvaguardia en particular apuntaba específicamente a Musk, podría eliminar esta distinción programada de “controversia” y al mismo tiempo proteger a los usuarios de contenido erróneo deliberado.
Y como Musk es dueño de Twitter, es muy probable que cualquier forma que tome esta creación anti-despertar se desate en la plataforma, algo que la historia sugiere que podría ser algo muy malo. En 2016, Microsoft lanzó un chatbot de Twitter llamado “Tay” que, en 24 horas, se convirtió en un desastre racista y fascista. Algunos (incluyendo la IA que impulsa ChatGPT mismo) argumentan que tal vez sea una buena idea que los chatbots tengan al menos alguno restricciones que les impiden desarrollar tendencias psicopáticas.
Incluso con las salvaguardas implementadas, ChatGPT todavía lucha con respuestas racistas y sexistas a las consultas, como lo detalla La bestia diaria en diciembre. Debido a que estas plataformas están diseñadas en millones y millones de textos creados por humanos provenientes de libros y páginas web (no necesariamente la fuente de información más precisa), es inevitable que los sesgos y errores humanos se abran paso en estos sistemas.
No está claro exactamente cómo el sistema de IA potencialmente “anti-despertar” de Musk se diferenciará de la competencia, pero si sigue el rastro con su a menudo criticado asumir la libertad de expresión, podríamos ver el surgimiento de algo parecido a “Tay 2.0”. La fiebre del oro de la IA apenas comienza.
Darren vive en Portland, tiene un gato y escribe/edita sobre ciencia ficción y cómo funciona nuestro mundo. Puedes encontrar sus cosas anteriores en Gizmodo y Paste si buscas lo suficiente.