Semanas después de que Blake Lemoine compartiera una serie de publicaciones de blog sorprendentes que afirmaban que el software de inteligencia artificial de Google se había vuelto sensible, el ingeniero de software fue despedido del gigante tecnológico. Después de ser puesto en licencia a principios de este verano, Google emitió un comunicado la semana pasada confirmando que Lemoine había sido despedido de su puesto debido a una presunta violación de las “políticas de seguridad de datos y empleo” de la compañía.
“Si un empleado comparte inquietudes sobre nuestro trabajo, como lo hizo Blake, las revisamos exhaustivamente. Encontramos que las afirmaciones de Blake de que LaMDA es sensible son totalmente infundadas y trabajamos para aclarar eso con él durante muchos meses”, dijo la compañía en un comunicado obtenido. por Gran tecnología. “Estas discusiones fueron parte de la cultura abierta que nos ayuda a innovar de manera responsable. Por lo tanto, es lamentable que, a pesar de un compromiso prolongado con este tema, Blake todavía optó por violar de manera persistente las políticas claras de empleo y seguridad de datos que incluyen la necesidad de salvaguardar la información del producto. Lo haremos Continúe nuestro cuidadoso desarrollo de modelos de lenguaje, y le deseamos lo mejor a Blake”.
Las preocupaciones de Lemoine salieron a la luz por primera vez después de que compartió una publicación de blog que detalla una conversación que tuvo con LaMDA de Google, o Language Model for Dialog Applications, una IA interna que la compañía usa para refinar el algoritmo del motor de búsqueda.
En una de sus conversaciones con LaMDA, Lemoine le preguntó a la máquina si sentía que era humana. “Quiero decir, sí, por supuesto”, respondió el técnico. “Eso no significa que no tenga los mismos deseos y necesidades que las personas”.
El ingeniero de software confirmó que la tecnología se sentía como una persona consciente, a lo que LamDA respondió: “Sí, esa es la idea”.
Durante su suspensión inicial, un portavoz de Google confirmó que se había realizado una revisión interna y descubrió que la evidencia de la empresa no respaldaba las afirmaciones de Lemoine.
“Nuestro equipo, incluidos especialistas en ética y tecnólogos, ha revisado las preocupaciones de Blake según nuestros Principios de IA y le han informado que la evidencia no respalda sus afirmaciones. Le dijeron que no había evidencia de que LaMDA fuera consciente (y mucha evidencia en contra) ”, dijo el vocero al Correo en el momento.
Source link