“La Inteligencia Artificial (IA) es un riesgo para la celebración de unas elecciones democráticas“, advirtió la subdirectora general de Ciencias Sociales y Humanas de la UNESCO, la mexicana Gabriela Ramos, en una entrevista con EFE en Nairobi.
“Lo sabemos, por la propagación acelerada de ‘deep fakes‘ (ultrafalsos) a través del aumento de los sistemas de IA generativos que aumentan sus capacidades analíticas y producción de resultados”, afirmó Ramos, que esta semana participó en la capital keniana en el Foro Subregional de África del Este sobre Inteligencia Artificial.
Proliferación de noticias falsas
Ramos reconoció que existe una “proliferación de información falsa” que afecta a las elecciones en países de todo el mundo, como los comicios presidenciales de Estados Unidos, que tendrán lugar el próximo 5 de noviembre.
Sin embargo, el país norteamericano “está considerando prohibir las ‘deep fakes’, que son reproducciones falsas aparentemente reales en formato audiovisual o escrito”, aseguró la subdirectora general.
El organismo de la ONU cuenta con un programa de trabajo para que se responsabilicen las plataformas que trabajan con IA.
También con las Recomendaciones Éticas sobre Inteligencia Artificial, un documento de la UNESCO firmado en 2021 por 194 países de todo el mundo, “se están tomando acciones concretas”, señaló.
Foto: EFE
“Si tú lo penalizas, si tú lo conviertes en un crimen, elevas el costo a quienes vayan a utilizar ese tipo de prácticas para influir o para incidir de una manera negativa en las elecciones”, agregó.
Ramos incidió en que no sólo se necesitan soluciones legislativas para garantizar el buen uso de esta tecnología, sino también soluciones técnicas que implican, por ejemplo, “que cualquier imagen, voz, video que se haga con inteligencia artificial de personas reales tengan una marca de agua.”
Este tipo de herramientas y estándares técnicos permitirían que los usuarios puedan identificar la información falsa.
Respuestas jurídicas
También abogó por proporcionar una respuesta jurídica, al recordar que la nueva presidenta de México, Claudia Sheinbaum, fue víctima durante la campaña electoral de un vídeo falso en el que ella invitaba a invertir en una supuesta plataforma financiera.
“Es necesario un mecanismo jurídico establecido bajo el Estado de Derecho, la rendición de cuentas y los regímenes de compensación, para que la presidenta electa de México, en este caso, pueda acudir a una instancia judicial que esté capacitada para perseguir ese delito y exigir responsabilidades“, explicó.
Si se invierten billones de dólares en empresas desarrolladoras como Open AI para lanzar la plataforma de IA Chat GPT, insistió, los gobiernos deben invertir en la capacidad institucional, analítica y personal para proteger a la sociedad.
Por otro lado, la responsable de la UNESCO subrayó que, antes de lanzar al mercado esos productos, las compañías tienen que responsabilizarse desde el inicio.
“¿Los datos son representativos? ¿No están sesgados? ¿Son de calidad? ¿Y tus algoritmos? ¿Qué tipo de marco conceptual estás utilizando?”, se preguntó sobre las bases que se deberían tener en cuenta.
A su juicio, la regulación de esta nueva corriente tecnológica debe gobernarse desde todos los ángulos, incluidas las condiciones laborales de los supervisores de contenido.
“En Kenia, Chat GPT tiene contratados a trabajadores que ganan dos dólares la hora para estar identificando contenido nocivo en la aplicación”, apuntó Ramos, al enfatizar que estos mecanismos de contención de mensajes negativos “no pueden descansar sólo en trabajadores de países en vías de desarrollo y expuestos a esta brutalidad”.
Impacto de la IA en América Latina
Con todo, la IA está capacitada para impactar de forma positiva en las sociedades, remarcó la subdirectora, que planteó que el sector de salud es un área potencial para crear teleconsultas mediante esa tecnología en regiones como América Latina.
“Podría suponer una herramienta de apoyo muy precisa para los profesionales de la salud en el diagnóstico” y para acceder a zonas sin recursos hospitalarios, sugirió.
También puede ser un aliado para afrontar otros retos, como “el tema de la corrupción, que está tan presente en todo el continente”, apuntó la subdirectora en referencia a la región latinoamericana.
O para atajar la discriminación de la mujer, agregó Ramos, quien recordó “con orgullo” que “en México (…) gobierna la primera mujer en la historia del país”.
“Aún te encuentras reuniones empresariales o de gobierno en donde no hay mujeres”, reprochó.
Gabriela Ramos afirmó, además, que la UNESCO trabaja con actores internacionales como el G20 (grupo de países desarrollados y emergentes) y el G7 (EE.UU., Japón, Canadá, Reino Unido, Alemania, Francia e Italia) para adoptar decisiones y acciones que regulen estas tecnologías.
“La IA -concluyó- debe servir para fortalecer los derechos humanos, las libertades fundamentales, la dignidad humana, la sostentabilidad y la justicia social con transparencia y responsabilidad”.
At @UNESCO we believe that an ethical #AI ecosystem cannot be achieved without getting business onboard. African start-ups and businesses play an essential role in ensuring that AI technology is developed with ethical guardrails across the continent.
— Gabriela Ramos (@gabramosp) June 28, 2024