El Dr. Stuart Russell, un distinguido investigador de IA y científico informático de UC Berkeley, cree que existe una deficiencia fundamental y que podría poner fin a la civilización en el “modelo estándar” de IA, que se enseña (y el Dr. Russell escribió el libro de texto principal) y aplicado prácticamente en todas partes. El nuevo libro del Dr. Russell, Compatible con los humanos: la inteligencia artificial y el problema del controlargumenta que, a menos que reconsideremos los componentes básicos de la IA, la llegada de la IA sobrehumana puede convertirse en el “último evento en la historia de la humanidad”.
Eso puede parecer un poco descabellado, pero Human Compatible es una explicación cuidadosamente escrita de los conceptos subyacentes a la IA, así como la historia de su desarrollo. Si desea comprender qué tan rápido se está desarrollando la IA y por qué la tecnología es tan peligrosa, Human Compatible es su guía, literalmente comenzando con Aristóteles y terminando con El triunfo de OpenAI Five en Dota 2.
El objetivo de Stuart es ayudar a los no tecnólogos a comprender por qué los sistemas de IA deben diseñarse no solo para cumplir con los “objetivos” que se les asignan, el llamado “Modelo estándar” en el desarrollo de IA actual, sino para operar de manera que “las máquinas necesariamente respeten a los humanos”. : pedirán permiso, aceptarán la corrección y se dejarán desconectar”.
Source link