Sam Altman, director ejecutivo de OpenAI y creador de ChatGPT, cree que a pesar de los beneficios obvios de AI, es necesario regular la tecnología para evitar consecuencias potencialmente peligrosas en el futuro. El nuevo chatbot de OpenAI ha conquistado el mundo y ha fascinado a los entusiastas de la tecnología y a los usuarios de redes sociales con su capacidad para escribir artículos, poemas, guiones de películas y códigos, entre otras cosas. Si bien el servicio se ofrecía originalmente de forma gratuita, la compañía introdujo recientemente un nivel pago que ofrecerá acceso las 24 horas, tiempos de respuesta más rápidos y acceso prioritario a nuevas funciones por 20 dólares al mes. Muchos tecnólogos han advertido contra los posibles peligros de permitiendo el uso de IA sin barreras de seguridad, y la última persona en unirse a esa lista es Sam Altman. Dice que la IA podría convertirse “aterrador” en un futuro no muy lejano si los reguladores y las instituciones no descubren rápidamente cómo prevenir consecuencias no deseadas. Añadió que la generación actual de herramientas de inteligencia artificial aún no es peligrosa, pero “Creo que no estamos tan lejos de los que pueden dar miedo”.
Los peligros de la IA no regulada
Uno de los peligros de AI que Altman mencionó es un sesgo a favor o en contra de creencias políticas particulares. Si bien gran parte del sesgo podría deberse simplemente a los datos, los expertos han advertido que podría haber algún sesgo algorítmico inherente contra los grupos marginados, basado en que los desarrolladores de IA provienen en su mayoría de entornos socioeconómicos y raciales relativamente similares.
Ejemplos recientes con ChatGPT también han demostrado que la tecnología a menudo puede proporcionar datos incorrectos con un grado de confianza que puede llevar a algunas personas a creer en su exactitud. Esto es especialmente preocupante en un momento en el que las noticias falsas y la desinformación están en su punto más alto. Cuando Altman habló de los aspectos “aterradores” de la tecnología, probablemente se refería a algunos de los problemas que ya han surgido en los últimos años, a pesar de que la tecnología aún se encuentra en una etapa temprana. Eso incluye violaciones de la privacidad debido a la vigilancia social con IA, así como el aumento de casos de deepfakes que han causado estragos. Podría llegar a ser casi imposible distinguir entre información creíble y propaganda.
Además de la desinformación rampante, otros desafíos debido a la nueva tecnología emergente son la pérdida de empleos a gran escala y una carrera armamentista de nueva era de armamento impulsado por inteligencia artificial. Si bien el uso omnipresente de AI Parece casi inevitable ahora, los desarrolladores y reguladores deben asegurarse de tapar tantas lagunas como sea posible, permitiendo a las personas disfrutar de los beneficios de la tecnología, sin sufrir sus riesgos no deseados.
Fuente: Sam Altman/Twitter