El exjefe de confianza y seguridad de Twitter advirtió que la plataforma ahora conocida como X está trazando un rumbo de colisión con el libro de reglas digitales reiniciado de la Unión Europea, la Ley de Servicios Digitales (DSA), que conlleva sanciones de hasta el 6% de la facturación anual global. por infracciones confirmadas del régimen de gobernanza en línea.
Hablando durante un escenario entrevista en la Conferencia del Código esta semana, Yoel Roth destacó la decisión de X en mayo de retirarse del Código de Prácticas sobre Desinformación de la UE, además de citar comentarios recientes de la comisaria Vera Jourova que destacó la plataforma como la peor para la difusión de desinformación, prediciendo un choque con los reguladores del bloque es ahora “inevitable”.
“El tiempo regulatorio avanza mucho más lento que el tiempo de Internet. Por eso creo que vamos a ver efectos retardados aquí. Pero es inevitable”, sugirió. “Si la Unión Europea ha demostrado algo es que está dispuesta y es capaz de regular a las grandes empresas y presionarlas para que respeten las leyes de la Unión Europea. Entonces, si tuviera que hacer una predicción, sería que no será ahora mismo (tal vez ni siquiera dentro de un año), pero habrá consecuencias.
“La pregunta es ¿cuánto daño se producirá entre ahora y entonces a las personas que trabajan en empresas -como yo- a la calidad de la conversación en Twitter, a la plataforma misma? Creo que hay mucho que se puede hacer antes de que la regulación se ajuste a la realidad y eso es lo que realmente me preocupa”.
X marca el impar
Recordando lo que estaba pensando cuando dejó Twitter el año pasado, poco tiempo después de que la adquisición de Elon Musk marcara el comienzo de una nueva era de drama en la plataforma, Roth dijo que había creído que los factores comerciales y regulatorios actuarían como una limitación sobre lo que el nuevo propietario podría hacer. en materia de daños a la confianza y la seguridad.
Pero dijo que sus suposiciones resultaron ser erróneas, citando el éxodo de anunciantes que Musk ha presidido y la decisión de retirar la plataforma del Código de desinformación de la UE. “Son la única plataforma grande que puede hacerlo”, señaló. “Y precisamente hoy, la Comisaria Jourova ha dicho que Twitter está tentando al destino, que es un blanco fácil para la aplicación de la ley. Y está bien, también me equivoqué en ese punto”.
En abril, justo antes de que Musk retirara X del Código, la UE designó a la plataforma como VLOP (plataforma en línea muy grande) según la DSA, lo que significa que tiene el requisito legal de abordar amenazas sistémicas como la desinformación.
El bloque también ha dejado claro que sus reguladores tratarán el cumplimiento del Código de Desinformación (no legalmente vinculante) como una señal que tiene en cuenta al evaluar si las plataformas más grandes cumplen con la DSA (legalmente vinculante).
Por lo tanto, ignorar las amenazas sociales que plantea la desinformación corre el riesgo de recibir sanciones importantes en la UE. Y no sólo financiero; Además de grandes multas, la DSA faculta a la Comisión para bloquear servicios que incumplan repetidamente el reglamento; por lo que existe la posibilidad adicional, si X se atrinchera en una trayectoria imprudente y no puede demostrar que está abordando problemas de seguridad, que En última instancia, podría perder el acceso al mercado de la UE.
En otras señales preocupantes para la seguridad electoral en Twitter, La información informó a principios de esta semana que Musk había eliminado a la mitad de los miembros restantes del equipo de integridad electoral, en contra de las afirmaciones de la compañía, y repetido recientemente por su CEO Linda Yaccarinoque está ampliando sus esfuerzos para abordar las amenazas a las elecciones.
También esta semana se supo que la plataforma ha eliminado silenciosamente una opción heredada para informar información engañosa sobre política, aunque, como señalamos en nuestra cobertura, los usuarios de X en la UE todavía pueden encontrar una opción para informar “efectos negativos en el discurso cívico o las elecciones”. (bajo una opción específica de la región para “denunciar contenido ilegal de la UE”). Por lo tanto, no ha bloqueado por completo la capacidad de los usuarios de la UE de informar sobre preocupaciones sobre la integridad de las elecciones.
Sin embargo, sin suficiente personal interno para manejar los informes, está claro que X no podrá abordar eficazmente la desinformación política ni obtener visibilidad sobre las amenazas en desarrollo a las elecciones, incluso en la UE.
Bajo Musk, la propia política de “Integridad Cívica” de la plataforma técnicamente prohíbe “manipular o interferir en elecciones u otros procesos cívicos”, pero como sabemos por cómo sucedieron las cosas en el antiguo Twitter durante años, antes de la conversión extremadamente gradual del liderazgo anterior a “conversacional”, salud”: tener una política y hacerla cumplir son dos cosas muy diferentes.
Amenaza a la integridad electoral
Roth planteó el destino del equipo de integridad electoral durante la entrevista del Código. “Los últimos empleados que quedaban en Twitter y que tenían experiencia en seguridad electoral fueron despedidos sumariamente”, dijo. “Cuando entré en este año y la gente empezó a preguntarme qué predices sobre 2024, pensé, mira, todavía queda una persona en Twitter en Dublín, que por sí sola ha evitado que las elecciones mundiales se descarrilen. Lo contraté yo mismo. Es brillante. Mientras pueda aguantar, habrá esperanza. [But he’s been] “Me despidieron sumariamente, así que no soy muy optimista al respecto”.
El empleado que mencionó es Aaron Rodericks, codirector de confianza y seguridad y disrupción de amenazas de X, con sede en Dublín.
Según un informe en Piedra rodanteRodericks fue objeto de acoso por parte de personas influyentes de derecha luego de una publicación de trabajo que hizo en LinkedIn anunciando el hecho de que estaba buscando reclutar ocho empleados más para el equipo de integridad electoral en X.
Una serie de ataques en línea, por parte de cuentas que incluyen Mike Benz‘s, acusó al miembro del personal de X de ser un “cómplice de la censura”; sugirió que estaba intentando reclutar agentes de la CIA para trabajar en X; y afirmó que le habían gustado los tweets que criticaban a Musk, poco después de lo cual la compañía inició un proceso disciplinario contra él. Luego, la semana pasada, prensa irlandesa informó que Rodericks había obtenido una orden judicial temporal del Tribunal Superior. Su relato de las acciones de X como “completa farsa” persuadió al tribunal para que dictara una orden judicial que suspendiera temporalmente el procedimiento disciplinario.
Hemos confirmado que Rodericks sigue siendo técnicamente un empleado de X, pero la disputa legal continúa. Y, claramente, no está en condiciones de llevar a cabo el trabajo que estaba haciendo internamente sobre la integridad electoral antes de que un puñado de trolls de derecha comenzaran una campaña de acoso selectivo en un intento por presionar los botones de Musk y lograr que lo despidieran.
La comprensión de que Musk estaba tomando decisiones arbitrarias en lugar de seguir “el estado de derecho” fue la gota que colmó el vaso para Roth el año pasado, cuando tomó la decisión de irse. “Todo esto me parece como una empresa que ha abandonado el Estado de derecho”, dijo durante la entrevista. “No sólo las leyes del país, como la Ley de Servicios Digitales, sino también las leyes que se impuso a sí misma: los principios operativos que guiaron a la empresa”.
Sin confianza
Roth también reveló que las amenazas de muerte que recibió después de dejar Twitter el año pasado no se han eliminado de la plataforma, lo que socava las afirmaciones de la directora ejecutiva Linda Yaccarino de que X está avanzando para mejorar la seguridad.
“Animo a Twitter a que eche un vistazo a las amenazas de muerte contra mí”, dijo Roth. “Las amenazas de muerte que fueron inspiradas por el líder de la empresa. Están todos todavía ahí. Twitter no los eliminó. Miles de ellos. Todavía están en la plataforma hoy”.
Durante la entrevista, Roth también hizo caso omiso de un estudio que X publicó en mayo, en asociación con una empresa externa llamada Sprinklr, que afirmaba que hay una prevalencia muy baja de discurso de odio en inglés en la plataforma, diciendo que las afirmaciones son “completamente no auditable”, por lo que simplemente no se puede confiar en él.
En particular, bajo el liderazgo de Musk, X también ha hecho que sea mucho más difícil y costoso para los investigadores acceder a datos para realizar estudios independientes, a pesar de que la DSA impone requisitos en plataformas más grandes para respaldar la investigación de interés público sobre los efectos algorítmicos. Así que, una vez más, va en contra de la dirección que los reguladores de la UE exigen con su reglamento digital.
“Por cualquier medida [safety on Twitter] “Es peor, excepto por la medida de Twitter”, argumentó Roth. “Hemos visto, esta misma semana, un estudio realizado por investigadores de Europa que habla sobre la prevalencia y difusión de la desinformación en todas las plataformas principales. Les daré una idea de qué plataforma tiene el mayor grado de difusión: es Twitter. También hemos visto investigaciones que sugieren que la prevalencia del discurso de odio y el abuso en la plataforma es mayor. Hemos visto investigación independiente eso sugiere que ISIS ha logrado un retorno del 70% en Twitter. Esto no es libertad de expresión. Esto es ISIS, ¿verdad? Como si no estuviéramos hablando de las áreas grises de la moderación de contenido”.
“La revisión por pares es un dolor de cabeza. Todo académico te lo dirá. Pero la razón por la que existe es para que puedas responder estas preguntas de una manera empírica satisfactoria. Se puede decir que si hablamos de discurso de odio, se define de manera rigurosa. No sabemos eso sobre los datos de Twitter”, añadió. “Simplemente no hay manera de saberlo. No lo haces”.
La liquidación del equipo de comunicaciones de la empresa fue otra de las primeras “reformas” de Twitter de Musk. Desde entonces, la plataforma normalmente ha ignorado las solicitudes de comentarios de la prensa y/o ha enviado una respuesta automática sin sentido. (Su última respuesta automática dice: “Ocupado ahora, vuelva a consultar más tarde”.) Pero el director ejecutivo Yaccarino, que fue entrevistado en la conferencia Code poco después de Roth, rechazó la evaluación de Roth y repitió la afirmación de que la seguridad en X ha mejorado desde que Musk tomó encima.
Además, en una ligera desviación del habitual bloqueo de X ante las consultas de la prensa, cuando enviamos un correo electrónico pidiendo una respuesta a las inquietudes de Roth, además de la respuesta automática antes mencionada, recibimos una (breve) respuesta de Joe Benarroch, ex NBCUniversal. ejecutiva (y ex colega de Yaccarino allí) a quien convenció para unirse a ella en su nuevo empleador este verano. “Linda abordó esto en el escenario de Code”, sugirió, y agregó: “Si la memoria no me falla, mucho de lo que Yoel discutió fue similar a los puntos que planteó en Code hace un año”.