- Una carta abierta, firmada por Elon Musk y más de 1,000 personas con conocimiento, poder e influencia en el espacio tecnológico, pide que se detengan todos los “experimentos gigantes de IA” durante seis meses.
- Cualquier cosa más poderosa que el GPT-4 de OpenAI se considera demasiado arriesgada para la sociedad.
- La IA humana-competitiva se está convirtiendo en una preocupación más real cada día.
Los riesgos que la inteligencia artificial representa para la sociedad alguna vez fueron interrogantes lejanos. Pero no es ningún secreto que el desarrollo de esta tecnología avanza lo suficientemente rápido como para superar los esfuerzos para mitigar sus riesgos. Las barandillas están apagadas.
Elon Musk y más de 1000 personas más se unieron para firmar una carta abierta en la que afirman que creen que esos riesgos son inminentes si no ralentizamos la creación de poderosos sistemas de IA. Los patrocinadores, que incluyen al CEO de Stability AI, Emad Mostaque, investigadores de DeepMind, propiedad de Alphabet, y las mentes históricas de AI, Yoshua Begio y Stuart Russell, se unen, según un Reuters artículo, con el Future of Life Institute, financiado en gran parte por Musk Foundation, Founders Pledge y Silicon Valley Community Foundation.
Y hay urgencia aquí. El grupo pide una pausa de seis meses en todos los “experimentos gigantes de IA”.
Más Contenido del Mecánica Popular
En la carta, los firmantes pedían una pausa de seis meses en el desarrollo de potentes sistemas de IA, definidos como algo más potente que el GPT-4 de OpenAI.
“Los poderosos sistemas de IA deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables”, dice la carta. “La sociedad ha hecho una pausa en otras tecnologías con efectos potencialmente catastróficos en la sociedad. Podemos hacerlo aquí.
Al decir que la IA puede representar un “cambio profundo en la historia de la vida en la Tierra”, los patrocinadores de la carta dicen que actualmente no hay un nivel de planificación y gestión que coincida con este potencial, especialmente porque los laboratorios de IA continúan “fuera de carrera de control para desarrollar y desplegar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de manera confiable”.
A medida que los sistemas de IA se vuelven más capaces de mantenerse al día con las habilidades humanas en las tareas generales, la carta plantea una serie de preguntas de “deberíamos” con respecto a si deberíamos o no dejar que las máquinas inunden los canales de información con propaganda, automatizar trabajos, desarrollar mentes no humanas que Podríamos reemplazar a los humanos, o arriesgarnos a perder el control de la civilización en nuestro hambre de crear redes neuronales cada vez mejores.
Pero, como era de esperar, no todos están de acuerdo. El CEO de OpenAI, Sam Altman, no ha firmado la carta y la investigadora de inteligencia artificial Johanna Bjorklund de la Universidad de Umea dice Reuters la preocupación de AI es todo soplo. “Este tipo de declaraciones están destinadas a generar entusiasmo”, dice Bjorklund. “Está destinado a preocupar a la gente. No creo que haya necesidad de tirar del freno de mano”.
OpenAi ha dicho que en algún momento puede ser importante obtener una revisión independiente antes de comenzar a entrenar sistemas futuros, y para el esfuerzo más avanzado para acordar limitar la tasa de crecimiento de nuevos modelos.
“Estamos de acuerdo”, dice la carta abierta. “Ese punto es ahora”.
Tim Newcomb es un periodista que vive en el noroeste del Pacífico. Cubre estadios, zapatillas, equipo, infraestructura y más para una variedad de publicaciones, incluida Popular Mechanics. Sus entrevistas favoritas han incluido reuniones con Roger Federer en Suiza, Kobe Bryant en Los Ángeles y Tinker Hatfield en Portland.
Source link