Si ha estado siguiendo de cerca el progreso de IA abiertala compañía dirigida por Sam Altman cuyas redes neuronales ahora pueden escribir texto original y crear imágenes originales con una facilidad y velocidad asombrosas, puede saltarse esta pieza.
Si, por otro lado, solo ha estado prestando vagamente atención al progreso de la compañía y la creciente tracción que otras compañías de inteligencia artificial llamadas “generativas” están ganando repentinamente y desea comprender mejor por qué, podría beneficiarse de esta entrevista con James Currier, cinco veces fundador y ahora inversionista de riesgo que cofundó la firma NFX hace cinco años con varios de sus amigos fundadores en serie.
Currier cae en el campo de las personas que siguen el progreso de cerca, tan de cerca que NFX ha realizado numerosas inversiones relacionadas en “tecnología generativa”, como él la describe, y está atrayendo más la atención del equipo cada mes. De hecho, Currier no cree que el alboroto sobre esta nueva faceta de la IA no sea tanto una exageración como la comprensión de que el mundo de las startups en general se enfrenta repentinamente a una gran oportunidad por primera vez en mucho tiempo. “Cada 14 años”, dice Currier, “obtenemos una de estas explosiones cámbricas. Tuvimos uno en Internet y en el ’94. Tuvimos uno sobre teléfonos móviles en 2008. Ahora vamos a tener otro en 2022”.
En retrospectiva, esta editora desearía haber hecho mejores preguntas, pero aquí también estoy aprendiendo. A continuación, extractos de nuestro chat, editados por extensión. Puedes escuchar nuestra conversación más larga. aquí.
TC: Hay mucha confusión acerca de la IA generativa, incluyendo qué tan nueva es exactamente o si se ha convertido en la última palabra de moda.
JC: Creo que lo que le sucedió al mundo de la IA en general es que teníamos la sensación de que podíamos tener una IA determinista, que nos ayudaría a identificar la verdad de algo. Por ejemplo, ¿es una pieza rota en la línea de fabricación? ¿Es esa una reunión apropiada para tener? Es donde estás determinando algo usando IA de la misma manera que un ser humano determina algo. Eso es en gran medida lo que la IA ha sido durante los últimos 10 a 15 años.
Los otros conjuntos de algoritmos en IA eran más estos algoritmos de difusión, que estaban destinados a observar grandes corpus de contenido y luego generar algo nuevo a partir de ellos, diciendo: ‘Aquí hay 10,000 ejemplos. ¿Podemos crear el ejemplo número 10.001 que sea similar?’
Esos eran bastante frágiles, bastante quebradizos, hasta hace aproximadamente un año y medio. [Now] los algoritmos han mejorado. Pero lo que es más importante, los corpus de contenido que hemos estado viendo se han vuelto más grandes porque tenemos más poder de procesamiento. Entonces, lo que sucedió es que estos algoritmos se basan en la ley de Moore: [with vastly improved] almacenamiento, ancho de banda, velocidad de computación, y de repente se han vuelto capaces de producir algo que se parece mucho a lo que produciría un humano. Eso significa que el valor nominal del texto que escribirá y el valor nominal del dibujo que dibujará se parece mucho a lo que haría un humano. Y todo eso ha ocurrido en los últimos dos años. Así que no es una idea nueva, pero está recién en ese umbral. Es por eso que todos miran esto y dicen: ‘Vaya, eso es mágico’.
Entonces, ¿fue el poder de cómputo lo que de repente cambió el juego, no alguna pieza de infraestructura tecnológica que antes faltaba?
No cambió repentinamente, solo cambió gradualmente hasta el punto en que nuestra calidad de generación llegó a un punto en el que fue significativo para nosotros. Entonces, la respuesta generalmente es no, los algoritmos han sido muy similares. En estos algoritmos de difusión, han mejorado un poco. Pero en realidad, se trata de la potencia de procesamiento. Luego, hace unos dos años, el [powerful language model] Salió GPT, que era un tipo de cálculo local, luego salió GPT3 donde [the AI company Open AI] haría [the calculation] para ti en la nube; debido a que los modelos de datos eran mucho más grandes, necesitaban hacerlo en sus propios servidores. Usted simplemente no puede permitirse el lujo de hacerlo [on your own]. Y en ese punto, las cosas realmente dieron un salto.
Lo sabemos porque invertimos en un empresa haciendo juegos generativos basados en IA, incluido “AI Dungeon”, y creo que la gran mayoría de todos los cálculos de GPT-3 procedían de “AI Dungeon” en algún momento.
¿Entonces “AI Dungeon” requiere un equipo más pequeño que el que podría necesitar otro creador de juegos?
Esa es una de las grandes ventajas, absolutamente. No tienen que gastar todo ese dinero para albergar todos esos datos, y pueden, con un pequeño grupo de personas, producir decenas de experiencias de juego que aprovechen eso. [In fact] la idea es que va a agregar IA generativa a los juegos antiguos, para que sus personajes que no son jugadores puedan decir algo más interesante que lo que dicen hoy, aunque obtendrá experiencias de juego fundamentalmente diferentes al salir de la IA en los juegos. , en lugar de agregar IA a los juegos existentes.
Entonces, ¿un gran cambio está en la calidad? ¿Se estancará esta tecnología en algún momento?
No, siempre será cada vez mejor. Es solo que las diferencias de los incrementos serán menores con el tiempo porque ya se están volviendo bastante buenos,
Pero el otro gran cambio es que Open AI no era realmente abierto. Ellos generaron esta cosa increíble, pero no estaba abierta y era muy costosa. Así que se juntaron grupos como Stability AI y otras personas, y dijeron: ‘Hagamos versiones de código abierto de esto’. Y en ese momento, el costo se redujo 100 veces, solo en los últimos dos o tres meses.
Estos no son derivados de Open AI.
Toda esta tecnología generativa no se construirá solo en el modelo Open AI GPT-3; eso fue solo el primero. La comunidad de código abierto ahora ha replicado mucho de su trabajo, y probablemente estén ocho meses atrasados, seis meses atrasados, en términos de calidad. Pero va a llegar. Y debido a que las versiones de código abierto cuestan un tercio, una quinta o una vigésima parte del costo de Open AI, verá mucha competencia de precios y verá una proliferación de estos modelos que compiten con Open AI. . Y probablemente terminará con cinco, o seis, u ocho, o tal vez, tal vez 100 de ellos.
Luego, además de eso, se construirán modelos únicos de IA. Por lo tanto, es posible que tenga un modelo de IA que realmente busque hacer poesía, o modelos de IA que realmente observen cómo crea imágenes visuales de perros y pelo de perro, o tendrá uno que esté realmente especializado en escribir correos electrónicos de ventas. Vas a tener una capa completa de estos modelos de IA especializados que luego se crearán específicamente. Luego, además de eso, tendrá toda la tecnología generativa, que será: ¿cómo logra que las personas usen el producto? ¿Cómo consigues que la gente pague por el producto? ¿Cómo consigues que la gente se registre? ¿Cómo consigues que la gente lo comparta? ¿Cómo se crean efectos de red?
¿Quién gana dinero aquí?
La capa de aplicación donde la gente irá después de la distribución y los efectos de red es donde vas a ganar dinero.
Qué decir de las grandes empresas que podrán incorporar esta tecnología a sus redes. ¿No será muy difícil para una empresa que no tiene esa ventaja salir de la nada y ganar dinero?
Creo que lo que estás buscando es algo así como un Twitch donde YouTube podría haberlo integrado en su modelo, pero no lo hicieron. Y Twitch creó una nueva plataforma y una nueva y valiosa parte de la cultura y el valor para los inversores y los fundadores, aunque fue difícil. Así que vas a tener grandes fundadores que van a usar esta tecnología para darles una ventaja. Y eso creará una costura en el mercado. Y mientras los grandes están haciendo otras cosas, podrán construir empresas de miles de millones de dólares.
El New York Times publicó un pieza recientemente presentó un puñado de creativos que dijeron que las aplicaciones generativas de IA que están usando en sus respectivos campos son herramientas en una caja de herramientas más amplia. ¿La gente está siendo ingenua aquí? ¿Corren riesgo de ser reemplazados por esta tecnología? Como mencionaste, el equipo que trabaja en “AI Dungeon” es más pequeño. Eso es bueno para la empresa, pero potencialmente malo para los desarrolladores que, de lo contrario, podrían haber trabajado en el juego.
Creo que con la mayoría de las tecnologías, hay una especie de incomodidad que la gente siente por [for example] robots reemplazando un trabajo en una fábrica de automóviles. Cuando apareció Internet, muchas de las personas que hacían correo directo se sintieron amenazadas de que las empresas pudieran vender directamente y no utilizar sus servicios de publicidad en papel. Pero [after] adoptaron el marketing digital, o la comunicación digital a través del correo electrónico, probablemente tuvieron grandes avances en sus carreras, su productividad aumentó allí, la velocidad y la eficiencia aumentaron. Lo mismo sucedió con las tarjetas de crédito en línea. No nos sentimos cómodos poniendo tarjetas de crédito en línea hasta quizás en 2002. Pero aquellos que adoptaron [this wave in] 2000 a 2003 lo hizo mejor.
Creo que lo que está pasando ahora. Los escritores, diseñadores y arquitectos que piensan en el futuro y adoptan estas herramientas para aumentar su productividad 2x, 3x o 5x lo harán increíblemente bien. Creo que todo el mundo va a terminar en los próximos 10 años viendo un aumento de la productividad. Es una gran oportunidad para que el 90% de las personas simplemente hagan más, sean más, hagan más, se conecten más.
NFX tiene mucho más en su sitio sobre IA generativa eso vale la pena leerlo, por cierto; Eso lo puedes encontrar aquí.
Source link