Una de las organizaciones que ayer suscribió un manifiesto para pedir la suspensión por seis meses de los experimentos con inteligencia artificial (IA) muy avanzada ha denunciado en Estados Unidos a la tecnológica OpenAI, desarrolladora del ChatGPT, por considerar que la tecnología que utiliza, denominada GPT-4, viola la ley de protección de los consumidores.
El Center for AI and Digital Policy (CAIDP) ha presentado una demanda contra OpenAI ante la Comisión de Comercio Federal (FTC, oficial) de Estados Unidos en la que alega que el producto GPT-4 es “sesgado, engañoso y supone un riesgo para la privacidad y la seguridad pública”.
“La FTC tiene la clara responsabilidad de investigar y prohibir las prácticas comerciales injustas y engañosas. Creemos que la FTC debe examinar de cerca OpenAI y GPT-4″, dijo el presidente de CAIDP Marc Rotenberg.
Según Rotenberg, OpenAI no está cumpliendo con las prácticas propuestas por la FTC como la relaiva a la garantía por parte de las compañías de inteligencia artificial de “la solidez empírica de los datos y de los modelos” empleados, así como su transparencia.
La demanda insiste en que esta tecnología no cuenta con las suficientes salvaguardas para limitar la parcialidad y el engaño.
Rotengberg fue una de los empresarios y personalidades que ayer firmaron una carta abierta en la que solicitaron que se suspendan durante seis meses los experimentos con inteligencia artificial muy potente (superior a GPT-4) porque consideran que “pueden plantear profundos riesgos para la sociedad y la humanidad“.
“La sociedad ha hecho una pausa en otras tecnologías con efectos potencialmente catastróficos en la sociedad. Podemos hacerlo aquí. Disfrutemos de una larga pausa veraniega de la IA y no nos apresuremos a caer sin estar preparados”, decía la carta publicada por el organismo sin ánimo de lucro Future of Life Institute.
Entre los firmantes también estaban el director ejecutivo de Tesla, Elon Musk, o el cofundador de Apple Steve Wozniak entre otros que también piden la intervención de los Gobiernos, en caso de que estas empresas no respondan a esta solicitud.
“La IA avanzada podría representar un cambio profundo en la historia de la vida en la tierra, y debería planificarse y gestionarse con el cuidado y los recursos correspondientes”, aseguraba esa misiva que criticaba, además, “que los laboratorios de IA se han enzarzado en una carrera fuera de control para desarrollar y desplegar mentes digitales cada vez más poderosas”.
GPT, siglas en inglés del término transformadores preentrenados generativos, es un tipo de modelo de aprendizaje artificial que se utiliza para generar lenguaje similar al humano. El GPT-4 es mucho más avanzado que los modelos similares anteriores.
El laboratorio OpenAI define el GPT-4 como su “último hito en el esfuerzo para ampliar el aprendizaje profundo”. Este nuevo sistema acepta la recepción de textos e imágenes y genera texto.
Sin embargo, OpenAI asegura que GPT-4 sigue siendo menos capaz que las personas en muchas situaciones reales aunque “muestra un desempeño a nivel humano en varios puntos de referencia académicos y profesionales”.
Source link