El CEO de Tesla y SpaceX, Elon Musk, vuelve a hacer sonar una nota de advertencia sobre el desarrollo de la inteligencia artificial. El ejecutivo y fundador tuiteó el lunes por la noche que “todas las organizaciones[anizations] el desarrollo de IA avanzada debe ser regulado, incluido Tesla”.
Musk estaba respondiendo a una nueva Perfil de MIT Technology Review de OpenAI, una organización fundada en 2015 por Musk, junto con Sam Altman, Ilya Sutskever, Greg Brockman, Wojciech Zaremba y John Schulman. Al principio, OpenAI se formó como una organización sin fines de lucro respaldada por $ 1 mil millones en fondos de sus inversores iniciales agrupados, con el objetivo de realizar una investigación abierta sobre IA avanzada con el objetivo de garantizar que se persiguiera en interés de beneficiar a la sociedad, en lugar de dejando su desarrollo en manos de unos pocos pequeños y con intereses limitados (es decir, empresas de tecnología con fines de lucro).
Todas las organizaciones que desarrollan IA avanzada deben estar reguladas, incluida Tesla
— Elon Musk (@elonmusk) 17 de febrero de 2020
En el momento de su fundación en 2015, Musk postulado que el grupo esencialmente llegó a la idea de OpenAI como una alternativa a “sentarse[ting] al margen” o “animar[ing] supervisión regulatoria.” Musk también dijo en 2017 que creía que se debería establecer una regulación para regir el desarrollo de la IA, precedida primero por la formación de algún tipo de agencia de supervisión que estudiaría y obtendría información sobre la industria antes de proponer reglas.
En los años intermedios, mucho ha cambiado, incluido OpenAI. La organización formó oficialmente un brazo con fines de lucro propiedad de una corporación matriz sin fines de lucro en 2019, y aceptó una inversión de mil millones de dólares de Microsoft junto con la formación de una asociación de amplio alcance, aparentemente en contravención de sus principios fundacionales.
Los comentarios de Musk esta semana en respuesta al perfil del MIT indican que está bastante distante de la organización que ayudó a cofundar tanto ideológicamente como en un sentido más práctico y funcional. El fundador de SpaceX también señaló que “debe estar de acuerdo” en que las preocupaciones sobre la misión de OpenAI expresadas el año pasado en el momento del anuncio de Microsoft “son razonables”, y dijo dijo eso “OpenAI debería ser más abierto”. Musk también señaló que “no tiene control y solo tiene una visión muy limitada de OpenAI” y que su “confianza” en Dario Amodei, director de investigación de OpenAI, “no es alta” cuando se trata de garantizar un desarrollo seguro de IA.
Si bien podría ser sorprendente ver a Musk incluir a Tesla en un llamado general a la regulación del desarrollo de IA avanzada, está en consonancia con su postura general sobre el desarrollo de inteligencia artificial. Musk ha advertido repetidamente sobre los riesgos asociados con la creación de una IA que sea más independiente y avanzada, llegando incluso a llámalo un “riesgo fundamental para la existencia de la civilización humana”.
Él también aclarado el lunes que él cree que el desarrollo avanzado de la IA debe ser regulado tanto por los gobiernos nacionales individuales como por los órganos de gobierno internacionales, como la ONU, en respuesta a una pregunta aclaratoria de un seguidor. Claramente, el tiempo no está haciendo nada para mitigar las creencias de Musk sobre la amenaza potencial de la IA: tal vez esto lo anime a intensificar sus esfuerzos con Neuralink para brindarles a los humanos una forma de igualar el campo de juego.