Una nueva empresa de investigación de IA se lanza hoy de forma sigilosa con un objetivo ambicioso: investigar los fundamentos de la inteligencia humana de los que carecen actualmente las máquinas. Llamó Generalmente inteligenteplanea hacer esto convirtiendo estos fundamentos en una variedad de tareas a resolver y diseñando y probando la capacidad de diferentes sistemas para aprender a resolverlos en mundos 3D altamente complejos creados por su equipo.
“Creemos que, en general, las computadoras inteligentes desbloquearán algún día un potencial extraordinario para la creatividad y el conocimiento humanos”, dijo el director ejecutivo Kanjun Qiu a TechCrunch en una entrevista por correo electrónico. “Sin embargo, a los modelos de inteligencia artificial de hoy en día les faltan varios elementos clave de la inteligencia humana, lo que inhibe el desarrollo de sistemas de inteligencia artificial de uso general que se pueden implementar de manera segura… El trabajo de Generalmente Intelligent tiene como objetivo comprender los fundamentos de la inteligencia humana para diseñar sistemas de inteligencia artificial seguros que pueden aprender y comprender de la misma manera que lo hacen los humanos”.
Qiu, ex jefa de personal de Dropbox y cofundadora de Ember Hardware, que diseñó pantallas láser para auriculares VR, cofundó General Intelligent en 2021 después de cerrar su empresa anterior, Sourceress, una empresa de reclutamiento que usaba IA para rastrear La web. (Qiu culpó a la naturaleza de alta rotación del negocio de abastecimiento de clientes potenciales). El segundo cofundador de Generalmente Inteligente es Josh Albrecht, quien co-lanzó una serie de empresas, incluyendo BitBlinder (una herramienta de torrents para preservar la privacidad) y CloudFab (una herramienta 3D). -empresa de servicios de imprenta).
Si bien es posible que los cofundadores de Generalmente Inteligente no tengan antecedentes tradicionales de investigación de IA (Qiu fue un comerciante algorítmico durante dos años), lograron asegurar el apoyo de varias luminarias en el campo. Entre los que contribuyen al financiamiento inicial de $20 millones de la compañía (más más de $100 millones en opciones) se encuentra Tom Brown, exjefe de ingeniería de GPT-3 de OpenAI; el exdirector de robótica de OpenAI, Jonas Schneider; los cofundadores de Dropbox, Drew Houston y Arash Ferdowsi; y el Instituto Astera.
Qiu dijo que la estructura de financiamiento inusual refleja la naturaleza intensiva en capital de los problemas que Generalmente Inteligente está tratando de resolver.
“La ambición de que Avalon construya cientos o miles de tareas es un proceso intensivo, requiere mucha evaluación y valoración. Nuestra financiación está configurada para garantizar que estamos progresando en la enciclopedia de problemas en los que esperamos que se convierta Avalon a medida que continuamos construyéndolo”, dijo. “Tenemos un acuerdo vigente por $ 100 millones: ese dinero está garantizado a través de una configuración de retiro que nos permite financiar la empresa a largo plazo. Hemos establecido un marco que generará financiamiento adicional a partir de ese retiro, pero no vamos a divulgar ese marco de financiamiento, ya que es similar a divulgar nuestra hoja de ruta”.
Créditos de imagen: Generalmente inteligente
¿Qué los convenció? Qiu dice que es el enfoque de Generalmente Inteligente para el problema de los sistemas de IA que luchan por aprender de otros, extrapolar de manera segura o aprender continuamente de pequeñas cantidades de datos. Generalmente Inteligente construyó un entorno de investigación simulado donde los agentes de IA, entidades que actúan sobre el medio ambiente, entrenan completando tareas cada vez más difíciles y complejas inspiradas en la evolución animal y los hitos cognitivos del desarrollo infantil. El objetivo, dice Qiu, es entrenar a muchos agentes diferentes impulsados por diferentes tecnologías de IA bajo el capó para comprender qué están haciendo los diferentes componentes de cada uno.
“Creemos tal [agents] podría empoderar a los humanos en una amplia gama de campos, incluido el descubrimiento científico, el diseño de materiales, los asistentes personales y tutores y muchas otras aplicaciones que aún no podemos comprender”, dijo Qiu. “El uso de entornos de investigación complejos y abiertos para probar el desempeño de los agentes en una batería importante de pruebas de inteligencia es el enfoque que probablemente nos ayude a identificar y completar los aspectos de la inteligencia humana que faltan en las máquinas. [A] batería estructurada de pruebas facilita el desarrollo de una comprensión real del funcionamiento de [AI]que es esencial para la ingeniería de sistemas seguros”.
Actualmente, Generalmente inteligente se centra principalmente en estudiar cómo los agentes lidian con la oclusión de objetos (es decir, cuando un objeto queda bloqueado visualmente por otro objeto) y la persistencia y la comprensión de lo que sucede activamente en una escena. Entre las áreas más desafiantes que investiga el laboratorio está si los agentes pueden internalizar las reglas de la física, como la gravedad.
El trabajo de Generalmente Intelligent trae a la mente el trabajo anterior de DeepMind y OpenAI de Alphabet, que buscaba estudiar las interacciones de los agentes de IA en entornos 3D similares a los de un juego. Por ejemplo, OpenAI en 2019 exploró cómo las hordas de agentes controlados por IA que se sueltan en un entorno virtual podrían aprender formas cada vez más sofisticadas de esconderse y buscarse unos a otros. DeepMind, mientras tanto, el año pasado agentes capacitados con la capacidad de tener éxito en los problemas y desafíos, incluido el escondite, capturar la bandera y encontrar objetos, algunos de los cuales no encontraron durante el entrenamiento.
Es posible que los agentes de juego no suenen como un avance técnico, pero los expertos de DeepMind, OpenAI y ahora de Generalmente Inteligente afirman que dichos agentes son un paso hacia una IA más general y adaptable capaz de comportamientos físicamente arraigados y relevantes para los humanos, como la IA. que puede alimentar un robot de preparación de alimentos o una máquina clasificadora automática de paquetes.
“De la misma manera que no se pueden construir puentes seguros o diseñar productos químicos seguros sin comprender la teoría y los componentes que los componen, será difícil crear sistemas de IA seguros y capaces sin una comprensión teórica y práctica de cómo los componentes impactan en el entorno. sistema”, dijo Qiu. “El objetivo de Generally Intelligent es desarrollar agentes de inteligencia artificial de propósito general con inteligencia similar a la humana para resolver problemas en el mundo real”.
Créditos de imagen: Generalmente inteligente
De hecho, algunos investigadores han cuestionado si los esfuerzos realizados hasta la fecha hacia sistemas de IA “seguros” son realmente efectivos. Por ejemplo, en 2019, OpenAI lanzó Safety Gym, un conjunto de herramientas diseñadas para desarrollar modelos de IA que respeten ciertas “restricciones”. Pero las restricciones, tal como se definen en Safety Gym, no impedirían, por ejemplo, que un automóvil autónomo programado para evitar colisiones maneje a dos centímetros de otros automóviles en todo momento o haga cualquier otra cantidad de cosas inseguras para optimizar para “evitar colisiones”. restricción.
Dejando a un lado los sistemas centrados en la seguridad, una gran cantidad de nuevas empresas están buscando IA que pueda realizar una amplia gama de tareas diversas. Adept está desarrollando lo que describe como “inteligencia general que permite a los humanos y las computadoras trabajar juntos de manera creativa para resolver problemas”. Por otra parte, el legendario programador informático John Carmack recaudó 20 millones de dólares para su última empresa, Keen Technologies, que busca crear sistemas de IA que teóricamente puedan realizar cualquier tarea que pueda realizar un ser humano.
No todos los investigadores de IA opinan que la IA de propósito general está dentro del ámbito de la posibilidad. Incluso después del lanzamiento de sistemas como Gato de DeepMind, que puede realizar cientos de tareas, desde jugar juegos hasta controlar robots, luminarias como Mila El fundador Yoshua Bengio y el vicepresidente y científico jefe de inteligencia artificial de Facebook, Yann LeCun, han argumentado repetidamente que la llamada inteligencia artificial general no es técnicamente factible, al menos no hoy.
¿Generalmente inteligente probará que los escépticos están equivocados? El jurado está fuera. Pero con un equipo de alrededor de 12 personas y una junta directiva que incluye al miembro fundador del equipo de Neuralink, Tim Hanson, Qiu cree que tiene una oportunidad excelente.
Source link