Inteligencia Artificial

Una entrevista con el Dr. Stuart Russell, autor de ‘Human Compatible, Artificial Intelligence and the Problem of Control’

(El nuevo libro del Dr. Stuart Russell de UC Berkeley, “Compatible con los humanos: la inteligencia artificial y el problema del controlsale a la venta el 8 de octubre. Escribí una reseña, «Human Compatible» es una receta provocativa para repensar la IA antes de que sea demasiado tarde», y lo siguiente en una entrevista que realicé con el Dr. Russell en su UC Berkeley oficina el 3 de septiembre de 2019.)

Ned Desmond: ¿Por qué escribiste Human Compatible?

Dra. Russell: He estado pensando en este problema: ¿y si tenemos éxito con la IA? – de forma intermitente desde principios de los 90. Cuanto más pensaba en ello, más veía que el camino en el que estábamos no termina bien.

(Investigadores de IA) en su mayoría solo hacían cosas de juguete en el laboratorio, o juegos, ninguno de los cuales representaba una amenaza para nadie. Es un poco como un físico jugando con pequeños trozos de uranio. No pasa nada, ¿verdad? Así que haremos más de eso, y todo estará bien. Pero simplemente no funciona de esa manera. Cuando comienza a cambiar a sistemas que son más inteligentes, que operan a escala global y tienen un impacto en el mundo real, como algoritmos comerciales, por ejemplo, o selección de contenido de redes sociales, de repente, está teniendo un gran impacto. en el mundo real, y es difícil de controlar. Es difícil de deshacer. Y eso va a empeorar y empeorar y empeorar.

Sociedad de Dean – 23 de octubre de 2006; stuart russell

Desmond: ¿Quién debería leer Human Compatible?

Dra. Russell: Creo que todos, porque todos se van a ver afectados por esto. A medida que ocurre el progreso hacia el nivel humano (IA), cada gran paso aumentará el impacto por otro factor de 10 u otro factor de 100. La vida de todos se verá radicalmente afectada por esto. La gente necesita entenderlo. Más específicamente, serían los formuladores de políticas, las personas que dirigen las grandes empresas como Google y Amazon, y las personas en IA, disciplinas relacionadas, como la teoría del control, la ciencia cognitiva, etc.

Mi punto de vista básico era que gran parte de este debate se desarrolla sin comprender qué es la IA. Es solo esta poción mágica la que hará que las cosas sean inteligentes. Y en estos debates, la gente no entiende los componentes básicos, cómo encajan, cómo funcionan, cómo se crea un sistema inteligente. Así que el capítulo dos (de Human Compatible fue) algo gigantesco y algunas personas dijeron: «Oh, esto es demasiado para pasar y otros dijeron:» No, absolutamente tienes que mantenerlo «. Así que me comprometí y puse las cosas pedagógicas en los apéndices.

Desmond: ¿Por qué los informáticos tendían a pasar por alto el tema de la incertidumbre en la función objetivo de los sistemas de IA?

Dra. Russell: Curiosamente, en IA, nos tomamos muy en serio la incertidumbre (en la función de toma de decisiones) a partir de los años 80. Antes de eso, la mayoría de la gente de IA dijo que solo trabajáramos en casos en los que tenemos un conocimiento definitivo, y podemos idear planes garantizados.


Source link

Looks like you have blocked notifications!

Neto

Soy Neto, creador de LaNetaNeta.com Me apasiona leer y aprender, disfruto escribir y compartir publicaciones interesantes con el publico.

¿Ya viste esto?

Botón volver arriba