Más información
Paul Nemitz es perro viejo. Lideró la reforma de la legislación de protección de datos de la Unión Europea (que trajo el actual Reglamento General de Protección de Datos), dirigió las negociaciones con Facebook, Microsoft, Twitter y YouTube para un Código de conducta para combatir el discurso de odio ilegal online. Ahora ejerce como asesor principal en el directorado general para Justicia y Consumidores de la Comisión Europea, tras seis años en ese mismo departamento como director del área de Derechos Fundamentales de los Ciudadanos.
Nemitz también es miembro de la Comisión de Política de Medios e Internet del Partido Socialdemócrata de Alemania (SPD), fideicomisario de varias organizaciones y autor del libro Principio humano. Poder, libertad y democracia en la era de la inteligencia artificial. Quiere contrarrestar el poder de las grandes tecnológicas, desmitificar la idea de que la regulación mata a la innovación y avanzar hacia una gobernanza digital transatlántica. Lo cuenta en videoentrevista con EL PAÍS, a su paso por el por el laboratorio de políticas Derechos fundamentales en la inteligencia artificial y las sociedades digitales, organizado por el Club de Madrid.
Pregunta. Es usted la persona detrás del manifiesto transatlántico En defensa de la democracia y el Estado de derecho en la era de la inteligencia artificial. ¿Qué sostiene y que tiene de único frente a otras declaraciones en esta línea?
Respuesta. El mero hecho de ser capaces de ponernos de acuerdo entre personas de diferentes disciplinas científicas y académicas a través del Atlántico es una señal de esperanza. Partimos de la base de que vivimos en un entorno digital muy centralizado en términos de infraestructura y de capacidad de controlar el comportamiento de los individuos. Sin embargo, la democracia se construye exactamente en los principios contrarios: descentralización y división de poderes (legislativo, ejecutivo, judicial, prensa, academia y sociedad civil), y mecanismos correctores.
Desde todos esos frentes se ejerce la compensación de poderes, y debemos garantizar que dicha compensación pueda darse de forma efectiva. El encargado de hacer esto es el Estado, que debemos volver a poner en el centro. En el manifiesto identificamos 17 áreas muy específicas en las que creemos que hay posibilidad de acción conjunta entre Estados Unidos y Europa, en ámbitos como la competencia, los impuestos, la gobernanza de los datos, la transparencia, los derechos humanos, la seguridad nacional…
P. ¿Quiénes están socavando estos poderes correctores?
R. Todos aquellos que dicen que quieren conectar a todo el mundo: Facebook, Google, Microsoft, Amazon… Por ejemplo, Google y Facebook están centralizando la mayoría de los nuevos ingresos publicitarios online de la prensa, quitándoles el dinero. Ahora, de forma muy “gentil” [nótese el tono irónico], están creando programas supuestamente para devolver parte de ese dinero a los medios pero que en realidad crean dependencia y control.
En el ámbito académico, por otra parte, es muy difícil encontrar una institución que estudie el impacto social de internet que no esté recibiendo, de una manera u otra, dinero de estas empresas. Su omnipresencia no se limita a la tecnología: con su dinero llegan a todo aquel lugar donde se construye la opinión pública sobre la tecnología e internet.
P. ¿Cómo se puede corregir esto? ¿Qué está en juego si no se logra?
R. Dos principios importantes. El primero es que en una democracia debe haber una primacía del proceso democrático sobre los mercados y la tecnología. Una de las formas más innovadoras de velar por esa primacía es a través de leyes vinculantes cuyo cumplimiento pueda garantizarse.
El segundo principio es que tenemos que restaurar la democracia porque no superar esta crisis genera dudas sobre si es el mejor sistema para atajar los asuntos importantes de nuestro tiempo. La influencia de las grandes empresas de internet y de la inteligencia artificial [IA] en nuestras vidas es uno de ellos. Internet no puede ser un espacio sin democracia.
P. Internet es global, como lo son las grandes empresas tecnológicas. ¿Es posible una alianza multilateral para democratizarlo?
R. Si la pregunta es si podemos crear un acuerdo multilateral global vinculante a nivel internacional sobre la IA que sea lo más inclusivo posible, debemos ser realistas. Tenemos que preguntarnos cuáles son los problemas nucleares en los que un gran número de gobiernos estarían de acuerdo. A mi juicio son dos: la gobernabilidad y la autodeterminación.
Necesitamos asegurarnos de que la IA no se sale de control: garantizar la supremacía del ser humano y de la democracia sobre la tecnología. Ello requiere de normas y responsabilidades para evitar que los individuos y la sociedad se conviertan en el objeto del control de las máquinas. Creo que es posible que el mundo esté de acuerdo en estos principios, por una cuestión de intereses compartidos: el de los Estados por mantener la gobernabilidad, y el de los humanos por usar la tecnología como su herramienta en lugar de convertirse ellos en la herramienta. Ese sería el fin de la naturaleza humana.
P. Hasta China está empezando a regular esto.
R. Eso es precisamente porque el poder de las grandes corporaciones es tan grande que está siendo un problema para la gobernabilidad, y la gobernabilidad es un interés común de democracias y de autocracias porque es necesaria en cualquier tipo de estructura estatal.
P. Mencionaba antes las leyes como mecanismo “innovador” de velar por la primacía de la democracia. Muchos afirman que, lejos de ello, la regulación coarta la innovación.
R. El mantra de que la ley mata la innovación es falso. Es el mito más simple y equivocado en cualquier discusión sobre regulación. La historia muestra que la regulación sirve a la innovación. Por ejemplo, la regulación sobre seguridad garantiza que la tecnología sea aceptable para la sociedad e incentiva a las compañías a innovar para aumentar la seguridad y reducir su precio. No tendríamos un ambiente de progreso en la innovación tecnológica si no hubiéramos tenido una agenda de políticas públicas. La ley, a diferencia de los mercados, crea incentivos para innovar en áreas que sirven al interés público. Ello, además, redistribuye recursos, incluidos los de empresas privadas.
Aquellos que hablan de desarrollar IA por el bien común no pueden decir al mismo tiempo que no quieren leyes. Cuando se habla de la regulación como un obstáculo para la innovación, como algo a evitar, hay que volver a entender que la ley es un instrumento para expresar lo que la democracia quiere alcanzar, para modelar la sociedad. Por tanto, esta debe prevalecer sobre un modelado social dirigido por los intereses empresariales y de la tecnología.
P. No hay gigante tecnológico que se precie que no cuente con una lista de principios de desarrollo de una IA ética, la cumplan o no. Usted aboga por ir más allá.
R. En una democracia todas las cuestiones importantes que están relacionadas con el cumplimiento de los derechos fundamentales deben ser tratadas por el parlamento. Ese principio de la esencialidad debe aplicarse también a los límites entre lo que puede entrar en el campo de la ética y lo que requiere de normas con legitimidad democrática que puedan hacerse cumplir.
Si identificamos que la IA supone un alto riesgo contra los derechos fundamentales o la democracia, haciendo posible por ejemplo la microsegmentación y manipulación de las personas en procesos electorales, tenemos la obligación legal de tomar las medidas necesarias para evitar que pase. Y también para evitar consecuencias no intencionadas o usos no pensados de esas tecnologías, de modo que quienes las hayan creado y puesto en el mercado tengan obligaciones jurídicas.
P. Hablando de obligaciones legales, ¿qué opina de la reciente multa de 225 millones de euros a WhatsApp por parte de la Comisión para la Protección de Datos de Irlanda (DPC) por no informar a sus usuarios de cómo compartía los datos con Facebook? Ha habido quejas por la inacción de la DPC, a pesar de recibir decenas de miles de denuncias cada año. Además, la DPC fue forzada a aumentar la cuantía de la multa, pues inicialmente planeaba cifrarla en 50 millones.
R. Europa es una construcción complicada y las autoridades de protección de datos de determinados países deben entender que son agentes de interés europeo. No pueden ser vistas como sirvientes del interés corporativo o nacional. Sus decisiones en relación con empresas como Google o Facebook afectan a los ciudadanos de toda Europa.
Además, me gustaría recordar que las multas más duras en este sentido se han dado en EE UU, en concreto una de 5.000 millones de dólares contra Facebook por parte de la Comisión Federal de Comercio. Es injusto e incorrecto decir que los europeos van contra las empresas estadounidenses. EEUU y Europa comparten problemas con estas compañías. Por eso necesitamos homogeneidad de gobernanza y legislación, como actores prodemocráticos, frente a las cuestiones que tenemos abiertas con estas corporaciones.
Tenemos que refinar la solidaridad de los gobiernos y parlamentos en vista del enorme poder que estas empresas han amasado. Supondrá la vuelta de la democracia al campo tecnológico, donde durante mucho tiempo mucha gente pensó que la ley debería estar ausente. Confío en que seremos capaces de hacerlo. Tenemos lo que se necesita para ello.
Puedes seguir a EL PAÍS TECNOLOGÍA en Facebook y Twitter o apuntarte aquí para recibir nuestra newsletter semanal.