Un “debate” transmitido en vivo ayer entre el CEO de Facebook, Mark Zuckerberg, y un comisionado europeo que da forma a la política digital para el mercado interno, Thierry Breton, sonaba bastante cordial en la superficie, con Breton haciendo varias referencias amistosas a “Mark”, y hablando de “tener diálogo establecer la gobernanza correcta “para las plataformas digitales, mientras que Zuckerberg lo mantuvo respetuoso al dirigirse indirectamente al” comisionado “.
Pero el mensaje subyacente de Europa a Facebook permaneció firme: Cumpla con nuestras reglas o espere que la regulación haga que eso suceda.
Si Facebook opta por invertir en soluciones “inteligentes”, ya sea por reducir de manera “creativa” su factura de impuestos regionales o por eludir los valores y procesos democráticos, la compañía debería esperar que los legisladores respondan en especie, dijo Breton a Zuckerberg.
“En Europa tenemos [clear and strong] valores. Son claros. Y si comprende muy bien el conjunto de nuestros valores sobre los cuales estamos construyendo nuestro continente, año tras año, comprende cómo debe comportarse ”, dijo el comisionado. “Y creo que cuando se está ejecutando una plataforma sistémica, es extremadamente importante comprender estos valores para que podamos anticipar, y aún mejor, trabajar junto con nosotros, construir, año tras año, la nueva gobernanza.
“No haremos esto de la noche a la mañana. Tendremos que construirlo año tras año. Pero creo que es extremadamente importante anticipar lo que podría crear alguna “mala reacción” que nos obligará a regular “.
“Pensemos en los impuestos”, agregó Breton. “Yo mismo he sido CEO y siempre hablo con mi equipo, no trate de ser demasiado inteligente. Pague impuestos donde tenga que pagar impuestos. No llegues a un refugio. Pagar impuestos. No seas demasiado inteligente con los impuestos. Es un tema importante para los países donde opera, así que no sea demasiado inteligente.
“‘ No seas demasiado inteligente “, puede ser algo que necesitemos aprender en los próximos días”.
Trabaja con nosotros, no contra nosotros
El mensaje central que las plataformas necesitan para encajar con las normas europeas, y no al revés, es el que Breton ha estado escuchando desde que asumió un cargo de alto nivel en la Comisión a fines del año pasado.
Aunque ayer tuvo cuidado de tirar su hueso habitual junto a él también, diciendo que no querer tener que regular; su preferencia sigue siendo la cooperación y la “asociación” entre plataformas y reguladores al servicio de los ciudadanos, a menos que, por supuesto, no tenga otra opción. Por lo tanto, el mensaje de Bruselas a la gran tecnología sigue siendo: “Haga lo que le pidamos o haremos leyes que no puede ignorar”.
Esta Comisión, de la que forma parte Bretón, asumió su mandato de cinco años a fines del año pasado, y ha presentado varias piezas de un importante plan de reforma de política digital este año, incluido el intercambio de datos industriales para negocios e investigación; y proponer reglas para ciertas aplicaciones de IA de “alto riesgo”.
Pero un replanteamiento importante de las responsabilidades de la plataforma sigue en proceso. Aunque ayer, Breton se negó a dar nuevos detalles sobre la próxima legislación, diciendo solo que llegaría a finales de año.
La Ley de Servicios Digitales podría tener serias ramificaciones para los negocios de Facebook, lo que explica por qué Zuckerberg hizo tiempo para marcar un video chat con el legislador de Bruselas. Algo que el CEO de Facebook ha rechazado sistemáticamente al parlamento británico, y negó a varios parlamentos internacionales cuando los parlamentarios se unieron obligados a tratar de interrogarlo sobre la desinformación política.
Cerre, un grupo de expertos con sede en Bruselas que se centra en la regulación de las industrias digitales y de redes, organizó la discusión en línea de una hora entre el CEO del gigante tecnológico y un legislador de Bruselas íntimamente involucrado en la configuración del futuro de la regulación de la plataforma regional.
Fue moderado por Cerre, con el DG Bruno Liebhaberg posando y eligiendo las preguntas, con una pareja seleccionada de entregas de audiencia.
Zuckerberg había traído su lista habitual de temas de conversación cada vez que se discute la regulación que podría limitar el alcance y la escala de su imperio global, buscando, por ejemplo, enmarcar las únicas opciones disponibles frente a las reglas digitales como una opción entre los EE. UU. manera o China.
Sin embargo, ese es un marco que no funciona bien en Europa.
La Comisión ha defendido durante mucho tiempo la idea de defender una tercera forma única y europea de regulación tecnológica, diciendo que pondrá barreras en las plataformas digitales para garantizar que operen al servicio de los valores europeos y para que los derechos y libertades de los ciudadanos no sean solo no erosionada por la tecnología pero apoyada activamente. Por eso se habla de “IA confiable”.
(Esa es la retórica de la Comisión al menos; sin embargo, su primer borrador para regular la IA fue mucho más ligero de lo que esperaban los defensores de los derechos, con un enfoque estrecho en las llamadas aplicaciones de ‘alto riesgo’ de la IA: pasar por alto el espectro completo de riesgos de derechos que la automatización puede engendrar)
Parece poco probable que la dicotomía simplista de Zuckerberg de “mi camino o la autopista de China” le gane amigos o influencia entre los legisladores europeos. Implica que simplemente no ha notado, o está ignorando activamente, las ambiciones regionales para defender un estándar de regulación digital propio. Ninguno de los dos impresionará en Bruselas.
El CEO de Facebook también trató de aprovechar el escándalo de uso indebido de datos de Cambridge Analytica, alegando que el episodio es un ejemplo de los riesgos en caso de que se requiera que las plataformas dominantes compartan datos con sus rivales, como si la regulación no cumple con los requisitos de portabilidad para tratar de nivelar el campo de juego competitivo .
Fue demasiada apertura en el pasado lo que llevó a que los datos de los usuarios de Facebook fueran recolectados nefastamente por el desarrollador de la aplicación que trabajaba para Cambridge Analytica, fue su reclamo.
Es poco probable que esa afirmación caiga bien en Europa, donde Zuckerberg se enfrentó a preguntas hostiles de parlamentarios de la UE en 2018, después de que estalló el escándalo, incluidos los llamados a que los ciudadanos europeos sean compensados por el mal uso de sus datos de Facebook.
Mientras tanto, el negocio de Facebook sigue sujeto a múltiples investigaciones en curso relacionadas con el manejo de datos personales de los ciudadanos de la UE. Sin embargo, la única mención de Zuckerberg del RGPD de Europa durante la conversación fue un reclamo de “cumplimiento” del marco de protección de datos paneuropeo, que también sugirió que significa que ha elevado los estándares que ofrece a los usuarios en otros lugares.
Otra área en la que el CEO de Facebook buscó enturbiar el agua y, por lo tanto, presionar para reducir el alcance de las futuras regulaciones de la plataforma paneuropea, fue en torno a qué fragmentos de datos deberían considerarse pertenecientes a un usuario en particular. Y si, por lo tanto, el usuario debe tener el derecho de portarlos a otra parte.
“En general, he estado muy a favor de la portabilidad de datos y creo que sería muy útil contar con la regulación adecuada para hacer cumplir esto. En general, no creo que nadie esté en contra de la idea de que debería poder llevar sus datos de un servicio a otro; creo que todas las preguntas difíciles están en cómo define cuáles son sus datos y, especialmente en el contexto de servicios sociales, ¿cuáles son los datos de otra persona? él dijo.
Dio el ejemplo de cumpleaños de amigos, que Facebook puede mostrar a los usuarios, y se preguntó si un usuario debería poder transferir esos datos a una aplicación de calendario.
“¿Sus amigos necesitan ahora cerrar sesión y cada persona está de acuerdo en que está de acuerdo con que exporte esos datos a su calendario porque si eso tiene que suceder porque en la práctica será demasiado difícil y ningún desarrollador se molestará en construirlo? esa integración “, sugirió. “Y puede ser un poco molesto pedir eso a todos tus amigos. Entonces, ¿dónde trazaríamos la línea sobre cuáles son sus datos y cuáles son sus amigos? Creo que es una pregunta muy crítica aquí.
“Esto no es solo una cosa abstracta. Nuestra plataforma comenzó más abierta y del lado de la portabilidad de datos, y para ser claros, esa es exactamente una de las razones por las que nos metimos en los problemas relacionados con Cambridge Analytica porque nuestra plataforma solía funcionar de la manera en que una persona podía inicie sesión más fácilmente en una aplicación y traiga datos que sus amigos hayan compartido con ellos, bajo la idea de que si su amigo hubiera compartido algo con usted, para que pueda ver y usar eso, debería poder usar eso en un aplicación diferente
“Pero, obviamente, hemos visto las desventajas de eso, que es que si llevas datos que un amigo ha compartido contigo a otra aplicación y esa aplicación termina siendo maliciosa, ahora la información de muchas personas se puede usar de una manera que No esperaba Por lo tanto, entender bien la portabilidad de los datos es extremadamente importante. Y tenemos que reconocer que existen compensaciones directas sobre la apertura y la privacidad. Y si nuestra directiva es que queremos bloquear todo desde una perspectiva de privacidad tanto como sea posible, entonces no será posible tener un ecosistema abierto como queremos. Y eso significará hacer compromisos sobre innovación y competencia e investigación académica, y cosas así “.
La regulación que ayuda a la industria a “equilibrar estos dos valores importantes en torno a la apertura y la privacidad”, como lo expresó Zuckerberg, sería bien recibida en 1 Hacker Way.
Breton siguió este monólogo planteando lo que llamó “la rigidez” de los datos y señalando que “el acceso a los datos es el activo número uno para la economía de la plataforma”.
“Es importante en esta economía de plataforma, pero … ¡pero! – La competencia vendrá. Y tendrá algunas plataformas que permitirán esta portabilidad probablemente más rápido de lo que piensa “, dijo. “Así que creo que ya es importante anticipar al final del día lo que sus clientes están dispuestos a tener”.
“La portabilidad sucederá”, agregó Breton. “No es fácil, no es una forma fácil de encontrar un pase fácil, pero … de lo que estamos hablando es de cómo enmarcar esta cuarta dimensión, el espacio de datos … Todavía estamos al principio. Tomará probablemente una generación. Y llevará tiempo. Pero déjame decirte algo, pero en términos de datos personales, cada vez más los clientes entenderán y solicitarán que los datos personales les pertenezcan. Pedirán portabilidad de una forma u otra “.
Sobre la “desinformación”, que fue el primer tema que Zuckerberg eligió destacar, refiriéndose a ella como desinformación (en lugar de “desinformación” o “falsificaciones”), había venido preparado con un par de estadísticas para respaldar un reclamo que Facebook tiene “Intensificó los esfuerzos” para luchar contra las falsificaciones relacionadas con la crisis del coronavirus.
“En general, hemos podido intensificar los esfuerzos para luchar contra la desinformación. Hemos eliminado cientos de miles de piezas de información errónea dañina. Y nuestro programa independiente de verificación de datos ha arrojado más de 50 millones de advertencias en piezas de contenido que son falsas relacionadas con COVID “, dijo, alegando que el 95% de las veces a las personas se les muestra contenido etiquetado” no terminan haciendo clic a través de “- sugiriendo además” esta es una muy buena colaboración “.
(Si bien, el reverso de un sobre matemático dice que el 5% de 50 millones sigue siendo 2.5 millones de clics en solo ese ejemplo limitado …)
Breton entró más tarde en la conversación con otro deflactor, después de que se le preguntó si el código de práctica actual de la UE sobre desinformación, una iniciativa de autorregulación para la que se han suscrito varias plataformas tecnológicas, es una gobernanza “suficiente”.
“Nunca haremos lo suficiente”, respondió. “Seamos claros. En términos de desinformación, nunca haremos lo suficiente. Esta es una enfermedad del centro. Así que todo lo que hemos hecho tiene que ser seguido “.
“Es un gran problema”, continuó Breton, diciendo que su preferencia como ex CEO es por KPI que “demuestren que estamos progresando”. “Así que, por supuesto, debemos seguir el progreso y si no puedo informar [to other EU institutions and commissioners] con KPI fuertes tendremos que regular, más fuertes “.
Agregó que las plataformas que cooperan en la autorregulación en esta área le dieron razones para ser optimista de que se podrían hacer más progresos, pero enfatizó: “Este tema es extremadamente importante para nuestra democracia. Extremadamente … Así que estaremos extremadamente atentos “.
El comisionado también se encargó de instruir a Zuckerberg que el dinero se detiene con él, como CEO, descartando ligeramente la posibilidad de que el ‘tablero de supervisión’ recién creado de Facebook proporcione algún camuflaje en el frente de la toma de decisiones, después de que Zuckerberg lo había planteado antes en la conversación.
“Cuando eres un CEO al final del día, eres el único responsable, nadie más … Tienes la obligación de hacer tu debida diligencia cuando tomas decisiones”, dijo Breton, después de dispersar un poco de elogio cortés para la junta de supervisión como “una muy buena idea”.
“Entiende lo que estoy tratando de decirte: cuando eres el CEO de una plataforma importante, tienes que tratar con muchas partes interesadas. Por lo tanto, es importante, por supuesto, que tenga organismos, podrían ser organismos asesores, podría ser una junta directiva, podría ser cualquier tipo de cosas, para ayudarlo a comprender lo que estos interesados tienen que decirle porque al final del día el La misión de un CEO es poder escuchar a todos y luego tomar la decisión. Pero al final del día será Mark el responsable.
En otra instrucción directa, Breton advirtió al CEO de Facebook contra jugar “un rol de guardián”.
“Tenga cuidado de ayudar a nuestro mercado interno, no juegue un papel en el que será un jugador sistémico, el guardián controla a los demás para jugar. Ten cuidado con la democracia. Anticipe lo que va a suceder. Ten cuidado con la desinformación. Podría tener un impacto negativo en lo que es extremadamente importante para nosotros, incluidos nuestros valores “, dijo, haciendo un llamamiento a Zuckerberg” para trabajar juntos, diseñar juntos las herramientas y el comportamiento de gobernanza adecuados “, y terminar con un atractivo al estilo de Silicon Valley para ‘construir el futuro juntos’.
El punto ineludible hacia el que Breton estaba trabajando era simplemente “porque algo no está prohibido, no significa que esté autorizado”. En otras palabras, las plataformas deben aprender a pedir reguladores para obtener permiso, y no deben esperar ningún perdón si no lo hacen. Breton concluyó que este principio es especialmente importante para el mercado digital y la sociedad de la información en general.
Un punto bajo particular para Zuckerberg durante la conversación llegó antes, cuando Liebhaberg había pedido su evaluación de la efectividad de las medidas de moderación de contenido que Facebook ha tomado hasta ahora, y específicamente en términos de cuán rápido está eliminando contenido ilegal y / o dañino. (Relacionado: la semana pasada, Francia se convirtió en el último país de la UE en aprobar una ley que exige que las plataformas eliminen rápidamente contenido ilegal como el discurso de odio).
Zuckerberg hizo un guiño a su habitual tema de conversación de “libre expresión frente a moderación de contenido”, antes de pasar a una afirmación de progreso en la moderación de contenido “cada vez más proactiva” mediante el uso de inteligencia artificial (“IA”) y lo que él llamó “humano sistemas “.
“En los últimos años … hemos actualizado todos nuestros sistemas de revisión de contenido hasta ahora … nuestro objetivo principal en este punto es qué porcentaje del contenido que será dañino pueden nuestros sistemas identificar y eliminar de manera proactiva antes de que alguien vea eso”. ? Parte de eso es IA y parte de eso son sistemas humanos “, dijo, refiriéndose a las hasta 30,000 personas que Facebook paga para usar su cerebro y ojos para moderación de contenido como” sistemas humanos “.
“Si una persona tiene que verlo e informarnos, no vamos a atrapar todo nosotros mismos, pero en general si alguien tiene que informarnos a nosotros, eso significa que deberíamos estar un poco mejor en el futuro”. Así que todavía hay mucha innovación por hacer aquí “, continuó Zuckerberg, y agregó:” Estamos mejorando mucho en esto. Creo que nuestros sistemas están mejorando continuamente “.
Su uso del plural de “sistemas” en este punto sugiere que estaba incluyendo seres humanos en su cálculo.
Sin embargo, no mencionó el costo de salud mental que implica el trabajo de moderación para las miles de personas de las que depende el negocio de Facebook para captar alrededor del 20% del discurso de odio que se reconoce que sus sistemas de IA aún no pueden identificar. (No ofreció ninguna métrica de rendimiento sobre cómo los sistemas de IA (in) efectivos están en la identificación proactiva de otros tipos de contenido a los que los moderados humanos están expuestos rutinariamente para que los usuarios de Facebook no tengan que hacerlo, como imágenes de violación, asesinato y violencia. )
La semana pasada, Facebook pagó $ 52 millones para resolver una demanda presentada por 11,000 moderadores de contenido actuales y anteriores que desarrollaron problemas de salud mental, incluido el TEPT en el trabajo.
The Verge informó que, según los términos del acuerdo, cada moderador recibirá $ 1,000 que pueden gastarse como quieran, pero que Facebook tiene la intención de financiar en parte el tratamiento médico, como buscar un diagnóstico relacionado con cualquier problema de salud mental que pueda estar sufriendo un moderador. .
Source link