En una carrera que abarca varias décadas, el investigador y profesor de inteligencia artificial Stuart Russell ha aportado un amplio conocimiento sobre el tema, incluidos libros de texto fundamentales. Se unió a nosotros en el escenario de TC Sessions: Robotics + AI para hablar sobre la amenaza que percibe de la IA y su libro, que propone una solución novedosa.
La tesis de Russell, que desarrolla en “es que el campo de la IA se ha desarrollado sobre la premisa falsa de que podemos definir con éxito los objetivos hacia los que trabajan estos sistemas, y el resultado es que cuanto más poderosos son, peor son capaces. de. Nadie piensa realmente que una IA que fabrica clips consumirá la Tierra para maximizar la producción, pero un algoritmo de prevención del crimen podría muy fácilmente tomar datos y objetivos mal construidos y convertirlos en recomendaciones que causen un daño real.
La solución, sugiere Russell, es crear sistemas que no estén tan seguros de sí mismos, esencialmente, sabiendo lo que no saben o no pueden saber y mirando a los humanos para averiguarlo.
La entrevista ha sido ligeramente editada. Mis comentarios, aunque en gran medida irrelevantes, se mantienen como contexto.
TechCrunch: Bueno, gracias por acompañarnos aquí hoy. Has escrito un libro. Felicitaciones por ello. De hecho, ha sido investigador y autor de IA, profesor durante mucho tiempo. Ha visto esto, el campo de la IA se graduó de un campo de nicho en el que trabajaban los académicos a una prioridad global en la industria privada. Pero me sorprendió un poco la tesis de su libro; ¿De verdad crees que el enfoque actual de la IA es fundamentalmente erróneo?
Estuardo Russell: Así que déjame llevarte un poco atrás, incluso antes de que comenzara a hacer IA. Entonces, Alan Turing, quien, como todos saben, es el padre de la informática, es por eso que estamos aquí, escribió un artículo muy famoso en 1950 llamado “Computing Machinery and Mind”, de ahí proviene la prueba de Turing. Presentó muchos subcampos diferentes de IA, propuso que necesitaríamos usar el aprendizaje automático para crear programas suficientemente inteligentes.
Source link