En vísperas de su 25 aniversario, Mozilla, la organización sin fines de lucro detrás del navegador Firefox, está lanzando una startup centrada en la IA.
Llamado Mozilla.aila misión de la compañía recién creada no es construir cualquier IA, su misión es construir una IA que sea de código abierto y “confiable”, según Mark Surman, presidente ejecutivo de Mozilla y director de Mozilla.ai.
“Al trabajar en una IA confiable durante casi cinco años, sentí constantemente una mezcla de emoción y ansiedad”, dijo a TechCrunch en una entrevista por correo electrónico. “El último mes o dos de anuncios rápidos de inteligencia artificial de grandes tecnologías no ha sido diferente. Está surgiendo una nueva tecnología realmente emocionante: nuevas herramientas que inmediatamente han motivado a artistas, fundadores… todo tipo de personas a hacer cosas nuevas. La ansiedad surge cuando te das cuenta de que casi nadie está mirando las barandillas”.
Surman se refería a la oleada de modelos de IA en los últimos meses que, si bien tienen capacidades impresionantes, tienen implicaciones preocupantes en el mundo real. En el momento del lanzamiento, se podría solicitar al ChatGPT generador de texto de OpenAI que escriba malware, identifique vulnerabilidades en el código fuente abierto y cree sitios web de phishing que se parezcan a los sitios con mucho tráfico. Mientras tanto, la IA de texto a imagen, como Stable Diffusion, ha sido cooptada para crear deepfakes pornográficos, no consensuados y representaciones ultragráficas de violencia.
Los creadores de estos modelos dicen que están tomando medidas para frenar el abuso. Pero Mozilla sintió que no se estaba haciendo lo suficiente.
“Hemos estado trabajando en IA confiable en el lado de la investigación de interés público durante aproximadamente cinco años, con la esperanza de que otros actores de la industria con más experiencia en IA se intensifiquen para construir tecnología más confiable”, dijo Surman. No lo han hecho. Así que decidimos a mediados del año pasado que necesitábamos hacerlo nosotros mismos y encontrar socios con ideas afines para hacerlo junto a nosotros. Luego nos propusimos encontrar a alguien con la combinación adecuada de experiencia en inteligencia artificial académica y de la industria para liderarlo”.
Financiado por una inversión inicial de 30 millones de dólares de la Fundación Mozilla, la organización matriz de Mozilla, Mozilla.ai es una subsidiaria de propiedad total de la Fundación Mozilla, al igual que Mozilla Corporation (la organización responsable del desarrollo de Firefox) y Mozilla Ventures (el VC de la Fundación Mozilla). fondo). Su director gerente es Moez Draief, quien anteriormente fue científico jefe en el laboratorio de IA Noah’s Ark de Huawei y científico jefe global en la consultora Capgemini.
Karim Lakhani de Harvard, Navrina Singh de Credo y Surman serán los miembros iniciales de la junta directiva de Mozilla.ai. Lakhani es presidente y cofundador del Instituto Digital, de Datos y Diseño de Harvard, mientras que Singh es miembro del Comité Asesor Nacional de IA del Departamento de Comercio de EE. UU., que asesora al presidente sobre una variedad de cuestiones éticas de IA.
Surman describe a Mozilla.ai como una empresa de investigación en parte, una comunidad en parte: una empresa emergente dedicada a ayudar a crear una pila de IA de código abierto independiente y confiable. Inicialmente, la prioridad de Mozilla.ai será formar un equipo de alrededor de 25 ingenieros, científicos y gerentes de productos para trabajar en sistemas de recomendación “confiables” y modelos de lenguaje grandes en la línea de GPT-4 de OpenAI. Pero la ambición más amplia de la empresa es establecer una red de empresas aliadas y grupos de investigación, incluidas las nuevas empresas e instituciones académicas respaldadas por Mozilla Ventures, que comparten su visión.
“Creemos que existe un mercado comercial en la IA confiable, y que este mercado necesita crecer si queremos cambiar la forma en que la industria incorpora la IA en las aplicaciones, productos y servicios que todos usamos todos los días”, dijo Surman. “Mozilla.ai, trabajando libremente con muchas empresas aliadas, investigadores y gobiernos, [has] la oportunidad de crear colectivamente una pila de IA de código abierto de ‘confianza primero’. Si tenemos éxito, la corriente principal de la industria aprovecharía esta pila como parte de su kit de herramientas habitual, tal como lo han hecho con la pila de Linux y Apache en las últimas dos décadas”.
Mozilla.ai no lo hará solo, no del todo. Varias organizaciones sin fines de lucro tienen la misión de democratizar las herramientas de IA, incluido el Instituto EleutherAI recientemente formado, financiado por patrocinadores corporativos, incluidos Canva y Hugging Face. También está el Instituto Allen para la IA, fundado por el difunto cofundador de Microsoft, Paul Allen, y el Instituto Alan Turing. Esfuerzos prometedores más pequeños incluyen Cohere For AI de Cohere, una startup de inteligencia artificial, y Distributed AI Research de Timnit Gebru, una organización de investigación descentralizada global.
Es revelador que Mozilla.ai no es una organización sin fines de lucro. Si bien está sujeto a ciertos principios éticos (a saber, la Manifiesto de Mozilla), está abierto a expandir (y, de hecho, pretende expandir) sus exploraciones más exitosas en productos y empresas, además de proyectos de código abierto.
Draief ve esto como una ventaja en lugar de una desventaja, argumentando que le da a Mozilla.ai la flexibilidad de la que carecen las organizaciones sin fines de lucro. A su punto, hay historias de advertencia como OpenAI, que se fundó como una organización sin fines de lucro en 2015, pero luego se vio obligada a hacer la transición a una estructura de “ganancias limitadas” para financiar su investigación en curso.
“La gran pregunta es, ¿cuántas de las nuevas empresas de IA confiables más pequeñas y nuevas podrán permanecer independientes?” Draief le dijo a TechCrunch por correo electrónico. “Está claro que los grandes jugadores, especialmente las plataformas en la nube de Amazon, Google y Microsoft, se apresuran a consolidar el espacio de la IA. Aquí es donde se está haciendo todo el dinero. Y será difícil para las pequeñas empresas no quedar atrapadas en esta consolidación”.
Siguiendo las tendencias de investigación de IA del momento y, no por casualidad, las áreas de investigación mejor financiadas, Mozilla.ai dedicará los próximos meses a desarrollar herramientas que, por ejemplo, permitan a los usuarios interrogar a las fuentes detrás de las respuestas que los chatbots de IA darles. La compañía también buscará crear sistemas que brinden a los usuarios más control sobre la recomendación de contenido AI (es decir, los algoritmos que impulsan los feeds de YouTube, Twitter y TikTok), como sistemas que optimizan un recomendador para valores individuales o comunitarios, basándose en la investigación existente de Mozilla.
Draief no pretende que cambiar la pila de IA de manera significativa sea un proceso rápido. Si bien promete que Mozilla.ai enviará el código “este año”, habla en términos de varios años.
Pero el éxito medible requerirá más que tiempo.
Si la historia es una indicación, los marcos voluntarios y las herramientas únicas no moverán mucho la aguja, si es que lo hacen. El desafío de Mozilla.ai será convencer a la industria de que su visión de una IA confiable es la correcta y adoptar esa visión.
“Las características confiables de IA como estas parecen que deberían ser triviales de agregar, pero todavía las vemos principalmente en el laboratorio”, dijo Draief. “Mozilla.ai trabajará con los investigadores para convertir su trabajo en un código de trabajo y hacer posible su uso junto con herramientas de IA más tradicionales”.
Source link