La Unión Europea ha ampliado su advertencia sobre contenidos ilegales y desinformación dirigidos a la guerra entre Israel y Hamas que circulan en las plataformas de redes sociales a Meta, la empresa matriz de Facebook e Instagram.
Ayer, el comisario de Mercado Interior del bloque, Thierry Breton, publicó una carta urgente a Elon Musk, propietario de X (anteriormente Twitter), planteando preocupaciones de que la plataforma se esté utilizando para difundir contenidos ilegales y difundir desinformación potencialmente dañina tras los ataques sorpresa del sábado a Israel por los terroristas de Hamás con base en la Franja de Gaza.
La carta de Breton al fundador de Meta, Mark Zuckerberg, que también hecho público a través de una publicación en X, tiene un tono un poco menos urgente que la misiva de ayer a Musk. Pero al gigante de las redes sociales también se le han dado 24 horas para responder a las preocupaciones de la UE sobre el mismo tipo de riesgos de contenido.
“Tras los ataques terroristas llevados a cabo por Hamás contra Israel, estamos viendo un aumento de contenidos ilegales y desinformación que se difunden en la UE a través de determinadas plataformas”, escribe el comisario de la UE. “Les pediría que estén muy atentos para garantizar el estricto cumplimiento de la DSA [Digital Services Act] normas sobre condiciones de servicio, sobre el requisito de una acción oportuna, diligente y objetiva tras avisos de contenido ilegal en la UE, y sobre la necesidad de medidas de mitigación proporcionadas y efectivas.
“Los invito urgentemente a que se aseguren de que sus sistemas sean efectivos. No hace falta decir que también espero que esté en contacto con las autoridades competentes encargadas de hacer cumplir la ley y con Europol, y que se asegure de responder con prontitud a cualquier solicitud”.
El #DSA está aquí para proteger la libertad de expresión contra decisiones arbitrarias y, al mismo tiempo, proteger a nuestros ciudadanos y democracias.
mis peticiones para #MetaMark Zuckerberg tras los ataques terroristas de Hamás contra Israel y sobre la lucha contra la desinformación en las elecciones en la UE ⤵️ pic.twitter.com/RnetUriRJX
— Thierry Bretón (@ThierryBreton) 11 de octubre de 2023
Se contactó a Meta para obtener una respuesta a la advertencia de Breton y preguntarle sobre los pasos que está tomando para garantizar que pueda responder de manera efectiva a los riesgos de contenido relacionados con eventos violentos en Israel y Gaza, pero al momento de escribir este artículo no había respondido.
Actualizar: Meta nos ha enviado por correo electrónico esta declaración, atribuida a un portavoz de la empresa:
Después de los ataques terroristas de Hamas contra Israel el sábado, establecimos rápidamente un centro de operaciones especiales dotado de expertos, incluidos hebreo y árabe fluidos, para monitorear de cerca y responder a esta situación en rápida evolución. Nuestros equipos trabajan las 24 horas del día para mantener nuestras plataformas seguras, tomar medidas sobre el contenido que viola nuestras políticas o las leyes locales y coordinarse con verificadores de datos externos en la región para limitar la difusión de información errónea. Continuaremos este trabajo a medida que se desarrolle este conflicto.
Actualización 2: Meta también ha publicado un entrada en el blog con más detalles de las medidas que está tomando en respuesta a los riesgos que surgen de la guerra entre Israel y Hamas, como el bloqueo de hashtags y la imposición de restricciones en Facebook Live e Instagram Live para personas que previamente hayan violado ciertas políticas.
“También somos conscientes de las amenazas de Hamás de difundir imágenes de los rehenes y nos las tomamos muy en serio”, escribe también Meta. “Nuestros equipos están monitoreando esto de cerca y eliminarían rápidamente cualquier contenido de este tipo (y las cuentas detrás de él), almacenando el contenido en nuestros sistemas para evitar que se vuelvan a compartir copias”.
También nos comunicamos con la Comisión para preguntarle si tiene inquietudes relacionadas con otras plataformas de redes sociales.
Desde los sangrientos ataques del sábado, ha habido informes de videos gráficos subidos a plataformas Meta. En un informe de la televisión israelí, que ha estado circulando en un clip compartido en las redes socialesuna mujer contó cómo ella y su familia se enteraron de que su abuela había sido asesinada por terroristas de Hamás después de que grabaron un vídeo de su cadáver con su teléfono y lo subieron a su cuenta de Facebook.
Ojo a la desinformación electoral
La carta del bloque a Meta no se centra únicamente en los riesgos derivados de la guerra entre Israel y Hamás. También revela que a la Comisión le preocupa que Meta no esté haciendo lo suficiente para abordar la desinformación dirigida a las elecciones europeas.
“Personalmente, cuando nos reunimos en San Francisco en junio, les llamé la atención sobre el hecho de que Meta tendría que prestar especial atención a este tema para poder cumplir con la DSA, y el tema se cubrió ampliamente en la prueba de estrés realizada por nuestro equipos en julio”, escribe Breton. “Sin embargo, si bien hemos observado las medidas adoptadas por Meta para aumentar las medidas de mitigación en el período previo a las recientes elecciones en Eslovaquia (como una mayor cooperación con autoridades independientes, mejoras en los tiempos de respuesta y una mayor verificación de datos), también hemos estado “He tenido conocimiento de informes sobre un número significativo de falsificaciones profundas y contenido manipulado que circularon en sus plataformas y algunos todavía aparecen en línea”.
“Les recuerdo que la DSA exige que el riesgo de amplificación de imágenes y hechos falsos y manipulados generados con la intención de influir en las elecciones se tome extremadamente en serio en el contexto de las medidas de mitigación”, añade, solicitando una respuesta de Zuckerberg, “sin retraso” – y que contiene “detalles de las medidas que ha tomado para mitigar tales falsificaciones profundas, también a la luz de las próximas elecciones en Polonia, Países Bajos, Lituania, Bélgica, Croacia, Rumania y Austria, y las elecciones al Parlamento Europeo”.
La DSA, una regulación paneuropea centrada en la moderación de contenidos, aplica las obligaciones y controles de gobernanza más profundos a plataformas más grandes (las llamadas plataformas en línea muy grandes o VLOP), 19 de las cuales fueron designadas por la Comisión en abril, incluida Meta. Facebook e Instagram, de propiedad privada, con requisitos adicionales para evaluar y mitigar los riesgos sistémicos asociados al uso de algoritmos e inteligencia artificial. Esto significa que se espera que los VLOP sean proactivos a la hora de identificar y mitigar riesgos sistémicos como la desinformación política, además de actuar rápidamente ante informes de contenido ilegal como el terrorismo.
Las sanciones por una violación confirmada del régimen incluyen multas de hasta el 6% de la facturación anual global, lo que, en el caso de Meta, podría significar una multa de varios miles de millones.
Los deepfakes políticos se han convertido en un área de especial preocupación para la Comisión, ya que los avances en la IA generativa han abaratado y facilitado la producción de este tipo de desinformación. El mes pasado, el bloque dijo que se reuniría con el gigante de la inteligencia artificial OpenAI para discutir el tema. Pero el papel que pueden desempeñar las plataformas de redes sociales en la difusión rápida y amplia de este tipo de falsificaciones también está claramente en el radar de la UE.