- Un miembro del parlamento australiano advirtió que la inteligencia artificial podría traer “riesgos catastróficos” a la humanidad.
- Los analistas de riesgos que ya están preocupados por el cambio climático, la devastación nuclear y más han agregado inteligencia artificial general a la lista.
- El uso de ChatGPT también puede disminuir aún más la capacidad humana para pensar críticamente.
El auge de la inteligencia artificial coincide muy bien con la simplificación de la educación, afirma un miembro del parlamento australiano (MP). Y eso es motivo de preocupación, ya que los analistas de riesgos colocan la inteligencia artificial general (AGI) en lo alto de su lista de preocupaciones mundiales.
“No lleva mucho tiempo, si comienzas a pensar, darte cuenta de que los riesgos disruptivos y catastróficos de AGI indómito son reales, plausibles y fáciles de imaginar”, dijo el parlamentario Julian Hill en un discurso ante el Parlamento australiano, según Los tiempos de la época. “AGI tiene el potencial de revolucionar nuestro mundo de maneras que aún no podemos imaginar, pero si AGI supera la inteligencia humana, podría causar un daño significativo a la humanidad si sus objetivos y motivaciones no están alineados con los nuestros”.
A medida que aumentan las advertencias sobre las capacidades de la IA, la falta de control que los humanos podrían ejercer sobre la AGI es la principal preocupación, especialmente si un “actor malévolo puede aprovechar la AGI para la destrucción masiva”, dice Hill.
Hill dice que los militares ya están buscando AGI como herramienta de guerra. “Un adversario habilitado por AGI podría conquistar Australia o desatar la destrucción a nivel social sin estar restringido por las normas acordadas a nivel mundial”, dice.
Para resaltar su punto sobre el poder creciente de la IA, Hill usó ChatGPT para escribir parte de su discurso sobre cómo la IA estaba limitando las habilidades de pensamiento crítico en la educación a medida que más estudiantes recurrían a algoritmos para hacer el trabajo de clase.
Con el ascenso continuo y meteórico de la inteligencia artificial, lo inesperado se convierte en parte de la ecuación. El control de la tecnología puede proteger a los humanos (y la inteligencia humana) y conducir a cambios transformadores, dice Hill, pero una proliferación desenfrenada de la tecnología podría generar una variedad de consecuencias no deseadas.
“El mensaje clave que quiero transmitir”, dice sobre el control de AGI, “es que tenemos que empezar ahora”. La humanidad puede depender de ello.
Tim Newcomb es un periodista que vive en el noroeste del Pacífico. Cubre estadios, zapatillas, equipo, infraestructura y más para una variedad de publicaciones, incluida Popular Mechanics. Sus entrevistas favoritas han incluido reuniones con Roger Federer en Suiza, Kobe Bryant en Los Ángeles y Tinker Hatfield en Portland.
Source link