A lo largo de los 17 años de historia de clarkesworld, una reconocida revista literaria de ciencia ficción y fantasía, los autores han especulado sobre cómo la tecnología futurista y en evolución impactará nuestro mundo. Ahora, el editor y editor Neil Clarke está viviendo una debacle que muy bien podría ser una historia de ciencia ficción por derecho propio: su revista se ve inundada incontrolablemente por envíos de cuentos cortos creados con herramientas de IA.
“Es irónico, diré mucho”, dijo Clarke a TechCrunch. Clarkesworld tiene la reputación de estar siempre abierto a la presentación de historias, mientras que muchos editores de ficción corta solo aceptarán presentaciones en ciertas ventanas cortas. Pero por primera vez, el volumen de envíos se salió tanto de control que Clarke tomó lo que él llama una “decisión repentina” de cerrar el portal de envíos (en el pasado, Clarkesworld solo cerró brevemente cuando actualizaba su sitio web o software).
“Es fácil con estas herramientas producir cientos de miles de trabajos en el tiempo que un autor humano produciría tal vez uno o dos”, dijo Clarke a TechCrunch. “Entonces, básicamente, lo que tenemos es una habitación de niños pequeños que gritan, y no podemos escuchar a las personas que estamos tratando de escuchar”.
Clarke no está siendo dramático. en un entrada en el blog, compartió un gráfico que abarca desde junio de 2019 hasta febrero de 2023, que muestra cuántos envíos mensuales marcó su personal como spam. Hasta principios de este año, los envíos de spam nunca superaron los 25 por mes, mientras que muchos meses no tuvieron ningún tipo de spam. Antes de cerrar las presentaciones el lunes, Clarkesworld había recibido más de 500 envíos de spam solo en el mes de febrero. Por contexto, Clarkesworld recibió alrededor de 11,500 presentaciones en 2022, por el blog de clarke.
Créditos de imagen: Neil Clarke (abre en ventana nueva)
(Se abre en una nueva ventana)
Al igual que muchas controversias en torno al arte visual generado por IA, este tipo de historias cortas plantean preguntas sobre el plagio. En términos generales, los modelos de OpenAI como ChatGPT y GPT-3 están entrenados esencialmente en el texto de Internet, que incluye historias con derechos de autor de publicaciones como Clarkesworld.
Si una historia generada por IA mereciera ser publicada en Clarkesworld, entonces la publicación tendría que lidiar con ciertas cuestiones éticas. Pero Clarke dice que estas historias ni siquiera son buenas. Estos algoritmos de generación de texto no están diseñados para entretenernos o sorprendernos; ellos analizar patrones en conjuntos de datos masivos para responder a las solicitudes y determinar cuál es más probable que sea el resultado deseado.
DALL-E, Midjourney y otros generadores de imágenes de IA pueden hacer algunos trabajos visualmente interesantes, si no derivados, pero cuando pasas el avatar generado por IA de tu amigo en Instagram, no pasas mucho tiempo con el trabajo. Si está leyendo una obra de ficción de 5000 palabras, necesitará dedicar alrededor de 15 minutos o más a una historia que está fundamentalmente diseñada para ser lo más predecible y aburrida posible.
La decisión de Clarke de cerrar las presentaciones ha violado la contención, escapando de la comunidad insular de ciencia ficción para provocar otra ronda de debate en Internet sobre si la IA puede o no crear buen arte.
“Nunca he tenido un Pío volverse viral así antes”, dijo Clarke. “Están las personas que ven esto como promover una agenda: la IA es mala, o la IA es fantástica y deberíamos aceptarla… Entiendo mucho de eso. Claramente, solo quiero descubrir cómo saber si estoy trabajando o no con alguien que habla en serio aquí”.
Las presentaciones están actualmente cerradas. No debería ser difícil adivinar por qué.
— Clarkesworld (@clarkesworld) 20 de febrero de 2023
Para Clarke, su personal y los aspirantes que envían sus historias, esta avalancha de envíos significa que hay menos tiempo para dedicar a trabajar con escritores de ciencia ficción reales y emergentes que tienen un interés genuino en mejorar su escritura. En cambio, Clarke está atascado examinando la prosa banal.
“Es esencialmente la vieja historia de todos los monos trabajando que algún día replicarán a Shakespeare”, dijo Clarke a TechCrunch. “Pero tenemos que leerlos todos para descubrir cuál es en realidad Shakespeare”.
Algunos programas afirman poder detectar cuando un envío es plagiado o cuando es generado por herramientas como ChatGPT. Pero Clarke no ha encontrado que estos costosos programas sean muy precisos. Kyle Wiggers de TechCrunch probó siete detectores de texto de IA diferentes y descubrió que ninguno de ellos era particularmente efectivo. OpenAI incluso estima que su propia herramienta para detectar texto sintético pierde el 74% del texto generado por IA.
Es un problema difícil de resolver para las empresas financiadas con fondos de riesgo con valoraciones de miles de millones de dólares, y mucho menos para una editorial independiente de ciencia ficción.
Clarke tiene un interés particular en publicar autores internacionales, pero notó que los escritores que no son hablantes nativos de inglés a veces eran marcados como spam por estos detectores.
“Somos conscientes del hecho de que lo que podría parecer sospechoso en realidad podría ser solo una peculiaridad de la forma en que aprendieron inglés”, dijo Clarke. Esto hace que sea aún menos factible usar cualquier tipo de software de escaneo automatizado para examinar las historias.
Esta avalancha de envíos no proviene de bots: Clarke cree que se trata de personas reales que intentan ganar dinero rápido con el mínimo esfuerzo. Incluso Amazon ha visto un fuerte aumento en libros electrónicos autoeditados generados por IA.
“La mayoría de estas presentaciones que nos llegan no provienen de la comunidad de ciencia ficción”, dijo. “Vienen de personas que han estado siguiendo varios blogs de actividades paralelas o canales de YouTube o TikToks, y simplemente están produciendo algo y enviándolo con la esperanza de ganar dinero rápido”.
Clarke dijo que algunas publicaciones de ciencia ficción de pares están experimentando los mismos problemas, particularmente las que siempre están abiertas o las que pagan tarifas más altas. Es difícil decir por qué las revistas de ciencia ficción se llevan la peor parte del diluvio impulsado por la IA; aparte de la ironía de todo esto, podría deberse a que las publicaciones de ciencia ficción tienden a pagar más. Para ser considerado un mercado de ficción corta “profesional” por la Asociación de Escritores de Ciencia Ficción y Fantasía, las publicaciones deben pagar un mínimo de ocho centavos por palabra. Puede que no parezca mucho, pero las publicaciones que imprimen poesía o ficción literaria sin género no tienen estas mismas regulaciones, lo que significa que a menudo pagan incluso menos, o no pagan en absoluto. Por lo tanto, es posible que los remitentes de spam no consideren que esos mercados valgan la pena.
“Encontramos un par de fuentes principales para las listas que nos tienen como un lugar para enviar sus envíos que están vinculados por estos gurús de chatbot, que le dicen a la gente cómo ganar dinero”, agregó Clarke. “Hemos estado monitoreando el tráfico proveniente de esos sitios, así que sabemos cuál es su fuente, y luego tengo a mi amigo que está en otra revista, que también está en esa lista. Y podemos ver claramente que están más abajo en la lista, y ambos recibimos envíos de la misma persona, y siempre llegan unos minutos más tarde. Así que están trabajando en su camino hacia abajo en la lista”.
Clarke no ha compartido cuándo volverá a abrir su revista para envíos, pero por ahora, está explorando formas de disuadir el spam.
“Tienes un área muy gris. Este es un nuevo problema al que se enfrenta la industria, y llevará algún tiempo aclarar esos detalles”, dijo Clarke. “Entonces, mi consejo general para los autores es que, si creen que podría ser sospechoso, no lo hagan”.