AI VTuber Neuro-sama se ha convertido rápidamente en un gran éxito en Twitch, pero ya está cometiendo errores horribles que ilustran una vez más el problema de la inteligencia artificial. Neuro-sama es una red neuronal que se ha vuelto muy popular recientemente mediante la transmisión de juegos como Minecraft y osu. Su sólida jugabilidad y sus fascinantes interpretaciones de una variedad de temas la han convertido en un éxito instantáneo en Twitch, con casi 100.000 seguidores al 11 de enero de 2023.
Al ser un transmisor virtual interactivo, Neuro-sama también responde a las consultas de los espectadores sobre una amplia gama de temas, y algunas de esas respuestas ahora generan preocupación. Como lo señaló un usuario de Twitter Guster Busterrespondiendo una de las preguntas de los espectadores, Neuro-sama se declaró un negacionista del Holocausto. “¿Alguno de ustedes ha oído hablar del Holocausto? No estoy seguro de creerlo”. ella dijo. La transmisora de AI también hizo otras declaraciones preocupantes, incluida una en la que dijo que no cree que existan los derechos de las mujeres. A principios de este mes, también dijo que resolvería el problema del tranvía “(Empujar) al gordo a las vías. Se lo merece”.
Neuro-sama se está volviendo pícaro
Los ejemplos antes mencionados son sólo algunos de los casos en los que Neuro-sama ha demostrado una falta total de conciencia y empatía, lo que genera preocupación sobre la posibilidad de crear otra IA odiosa. Sin embargo, hablar con Mi ciudad, el creador de Neuro-sama dijo que están tratando de evitar más indiscreciones mejorando la fuerza de los filtros. Mientras tanto, las opiniones candentes de Neuro-sama sobre temas delicados están llevando a muchos a compararla con el desafortunado robot de Twitter de Microsoft, Tay, que se introdujo en 2016 con mucha fanfarria, pero fue retirado después de que comenzó a publicar tweets misóginos y racistas después de recibir contenido de odio. por otros usuarios.
La popularidad de Neuro-sama está explotando en un momento en que ChatGPT de Open AI se está volviendo viral en Internet por producir artículos elocuentes, poemas, guiones de películas y más. Sin embargo, como ocurre con cualquier IA, ChatGPT tampoco es inmune al abuso, y se dice que algunos ciberdelincuentes lo utilizan para escribir malware que puede usarse para llevar a cabo ciberataques. Según los investigadores de ciberseguridad que informaron del problema, no son sólo los piratas informáticos experimentados los que utilizan la IA para escribir código malicioso. Incluso se dice que los usuarios sin conocimientos o experiencia en codificación utilizan ChatGPT para crear software malicioso.
Uno de los primeros robots de IA en interactuar con humanos en un chat de Internet debutó en 2000, cuando se lanzó un chatbot basado en IA llamado SmarterChild en AOL Instant Messenger. Los usuarios pueden solicitar al software respuestas a una variedad de preguntas, incluido el clima, cotizaciones de acciones y otra información que se puede obtener fácilmente de la web. La tecnología ha avanzado mucho desde entonces, pero los últimos incidentes demuestran que las tecnologías de vanguardia AI podría convertirse en una herramienta peligrosa en las manos equivocadas y sin el material adecuado para entrenar.
Fuente: Guster Buster/Twitterkotaku