Las nuevas salvaguardas de AI Dungeon ayudan a proteger contra contenido sexual inapropiado, pero el juego aún es un trabajo en progreso y está lejos de ser coherente.
El juego narrativo experimental basado en texto Mazmorra de IA implementó un nuevo sistema de prueba para evitar que el programa permita o genere contenido sexual que involucre a menores. El desarrollador, Latitude, emitió una declaración sobre el cambio y señaló: “Nos mantenemos fieles a los principios sobre los que se fundó Latitude, que implican promover la libertad de pensamiento y expresión a través de nuestra avanzada plataforma de inteligencia artificial. Al mismo tiempo, tenemos tolerancia cero para el contenido sexual que involucre a menores.. ” Estas medidas eran necesarias, ya que algunos jugadores estaban usando el programa para contenido inapropiado y la IA, lamentablemente, estaba aprendiendo de las peores tendencias de sus usuarios humanos.
La respuesta de Latitude es exhaustiva y, si bien muestra que los desarrolladores parecen tener las prioridades correctas, Mazmorra de IA sigue siendo una experiencia a menudo impredecible. Debido al aprendizaje de la IA, antes de la implementación de estas nuevas salvaguardas, algunos jugadores notaron que las situaciones inofensivas que involucraban a personajes infantiles se sexualizarían sin que ningún jugador los indicara en esa dirección. Mazmorra de IA no entra en un escenario con toda una narrativa imaginada en mente, como un Dungeon Master humano ejecutando un Calabozos y Dragones el juego podría. Mazmorra de IA sabe que ciertas palabras y frases se han asociado en el pasado, y ofrece contenido nuevo en consecuencia, a menudo a expensas de una trama coherente, pero también, antes de las salvaguardas, en algunas direcciones inaceptables.
Pruebas más recientes de Mazmorra de IA mostrar que el sistema parece funcionar, en su mayor parte. Si bien algunos se quejan de las banderas falsas, el contenido inocuo bloqueado debido a preocupaciones del sistema de que podría ser contenido sexual que involucre a menores, estos parecen ser la excepción. En términos generales, las salvaguardas parecen reconocer contenido abiertamente sexual y lo bloquearán en función de la configuración del filtro, y la IA siempre actuará para bloquear dicho contenido que involucre personajes infantiles. Los desarrolladores señalan que esto se hace a través de un sistema automatizado, apropiadamente, no un grupo de personas que leen Mazmorra de IA transcripciones de juegos como el programa de HBO Silicon Valley Equipo de “no un perrito caliente”, buscando manualmente contenido sexual inapropiado.
AI Dungeon se asemeja a los juegos de “Bad Physics”, basados en texto
A pesar de estos cambios, Mazmorra de IA Probablemente todavía no sea adecuado para que jueguen los niños, debido en parte a la naturaleza continua de la moderación de la IA como un trabajo perpetuo en progreso, y los problemas inherentes de Mazmorra de IA generación de historias procedimentales basadas en asociaciones de palabras. Incluso cuando el programa está bien regulado contra el contenido ofensivo, las historias generadas son confusas e incoherentes, la mayoría de las veces. Esta puede ser una experiencia divertida para algunos jugadores, pero también inquietante a veces, ya que la trama y el escenario cambian sin previo aviso o razón, abundan las contradicciones de la historia y rara vez surge una narrativa coherente. La Mazmorra de IA La experiencia es similar a la película de Charlie Kaufman. Estoy pensando en acabar con las cosas, con nombres e historias de fondo que el narrador de IA reasigna constantemente por capricho. Juegos como D&D puede ayudar a los jóvenes a desarrollar habilidades para contar historias y ejercitar la imaginación. Mazmorra de IA puede dar lugar a algunas anécdotas divertidas, pero la naturaleza del programa no se presta actualmente a una narración adecuada ni a la construcción del mundo.
Si bien los videojuegos han recorrido un largo camino en la generación procedimental de mapas y entornos, Mazmorra de IA muestra que tienen un largo camino por recorrer antes de que puedan aproximarse a un narrador humano. Sus historias basadas en texto siguen siendo una rareza peculiar, más parecida al subgénero de “mala física, malos controles”, Simulador de batalla totalmente preciso y Simulador de cirujano, donde el objetivo del juego no es una experiencia inmersiva, sino una representación ridícula del combate y la cirugía, respectivamente. Mazmorra de IA produce historias extrañas que podrían valer la pena reír, y tal vez algún día, la narración de la IA pueda acercarse a la respetabilidad. Al tomar las medidas correctas para proteger a los usuarios y la integridad de su producto del contenido altamente inapropiado, Latitude al menos está trabajando para garantizar que el programa no continúe aprendiendo las peores lecciones de los usuarios humanos y, con suerte, pueda mantener su estado como un experimento en gran medida seguro, aunque extraño, en juegos basados en texto.
Fuente: Latitud