La decisión de Google de bloquear el lanzamiento de la aplicación Truth Social en Play Store por problemas de moderación de contenido plantea la pregunta de por qué Apple no ha tomado medidas similares sobre la versión iOS de la aplicación que ha estado disponible en App Store desde febrero. De acuerdo a un informe de Axios, Google encontró numerosas publicaciones que violaban sus políticas de contenido de Play Store, bloqueando el camino de la aplicación para publicarse en su plataforma. Pero algunos de estos mismos tipos de publicaciones parecen estar disponibles en la aplicación iOS, encontró TechCrunch.
Esto podría desencadenar una nueva revisión de la aplicación iOS de Truth Social en algún momento, ya que las políticas de Apple y Google están en gran medida alineadas en términos de cómo las aplicaciones con contenido generado por el usuario deben moderar su contenido.
Axios informó por primera vez esta semana La decisión de Google de bloquear la distribución de la aplicación Truth Social en su plataforma, tras una entrevista dada por el CEO de la aplicación, Devin Nunes. El excongresista y miembro del equipo de transición de Trump, ahora director ejecutivo de redes sociales, sugirió que el retraso con el lanzamiento de la aplicación para Android estaba del lado de Google y dijo: “Estamos esperando que nos aprueben, y no sé qué está pasando”. hasta la vista.”
Pero esta fue una caracterización errónea de la situación, dijo Google. Después de que Google revisó el último envío de Truth Social a Play Store, encontró múltiples violaciones de políticas, sobre las cuales informó a Truth Social el 19 de agosto. Google también informó a Truth Social sobre cómo se podrían abordar esos problemas para poder ingresar a Play Store. , señaló la compañía.
“La semana pasada, Truth Social respondió reconociendo nuestros comentarios y diciendo que están trabajando para abordar estos problemas”, compartió un portavoz de Google en un declaración. Esta comunicación entre las partes fue una semana antes de la entrevista de Nunes, donde insinuó que la pelota ahora estaba en la cancha de Google. (El subtexto de sus comentarios, por supuesto, fue que los medios conservadores estaban siendo censurados por Big Tech una vez más).
El problema en cuestión aquí se deriva de Google política para aplicaciones que cuentan con contenido generado por el usuarioo CGU. De acuerdo con esta política, las aplicaciones de esta naturaleza deben implementar una “moderación de UGC sólida, efectiva y continua, que sea razonable y coherente con el tipo de UGC alojado por la aplicación”. La moderación de Truth Social, sin embargo, no es sólida. La empresa lo ha dicho públicamente. se basa en un sistema de moderación de IA automatizado, Hive, que se utiliza para detectar y censurar contenido que viola sus propias políticas. En su sitio web, Truth Social señala que los moderadores humanos “supervisan” el proceso de moderación, lo que sugiere que utiliza una combinación estándar de inteligencia artificial y moderación humana. (Cabe destacar que la firma de inteligencia de la tienda de aplicaciones Apptopia le dijo a TechCrunch que la aplicación móvil Truth Social no está usando Hive AI. Pero dice que la implementación podría ser del lado del servidor, lo que estaría más allá del alcance de lo que puede ver).
El uso de la moderación impulsada por IA de Truth Social no significa necesariamente que el sistema sea suficiente para cumplir con las propias políticas de Google. La calidad de los sistemas de detección de IA varía y, en última instancia, esos sistemas imponen un conjunto de reglas que la propia empresa decide implementar. Según Google, varias publicaciones de Truth Social que encontró contenían amenazas físicas e incitaciones a la violencia: áreas que la política de Play Store prohíbe.
Créditos de imagen: Listado de Play Store de Truth Social
Entendemos que Google señaló específicamente el idioma en su Política de contenido generado por el usuario y Política de contenido inapropiado al tomar su determinación sobre Verdad Social. Estas políticas incluyen los siguientes requisitos:
Las aplicaciones que contienen o cuentan con UGC deben:
Requerir que los usuarios acepten los términos de uso y/o la política de usuario de la aplicación antes de que los usuarios puedan crear o cargar UGC.
Defina el contenido y los comportamientos inaceptables (de una manera que cumpla con las Políticas del programa para desarrolladores de Play) y prohíbalos en los términos de uso de la aplicación o en las políticas del usuario.
Implemente una moderación de UGC sólida, efectiva y continua, que sea razonable y coherente con el tipo de UGC alojado por la aplicación.
Y:
Discurso de odio: no permitimos aplicaciones que promuevan la violencia o inciten al odio contra individuos o grupos por motivos de raza u origen étnico, religión, discapacidad, edad, nacionalidad, condición de veterano, orientación sexual, género, identidad de género, casta, estado migratorio. , o cualquier otra característica que se asocie a la discriminación o marginación sistémica.
Violencia: no permitimos aplicaciones que representen o faciliten la violencia gratuita u otras actividades peligrosas.
Contenido terrorista: no permitimos aplicaciones con contenido relacionado con el terrorismo, como contenido que promueva actos terroristas, incite a la violencia o celebre ataques terroristas.
Y si bien los usuarios pueden publicar inicialmente dicho contenido (ningún sistema es perfecto), una aplicación con contenido generado por el usuario como Truth Social (o Facebook o Twitter, para el caso) debería poder eliminar esas publicaciones de manera oportuna. moda para ser considerado en cumplimiento.
Mientras tanto, la aplicación Truth Social no está técnicamente “prohibida” en Google Play; de hecho, Truth Social está todavía en la lista para preordenar hoy, como también señaló Nunes. Todavía podría hacer cambios para cumplir, o podría elegir otro medio de distribución.
Mientras Truth Social decide su curso para Android, un examen de las publicaciones en la versión de iOS de Truth Social reveló una variedad de contenido antisemita, incluida la negación del Holocausto, así como publicaciones que promueven el ahorcamiento de funcionarios públicos y otros (incluidos los de la comunidad LGBTQ+ ), publicaciones que abogan por la guerra civil, publicaciones en apoyo de la supremacía blanca y muchas otras categorías que parecerían estar en violación de las propias políticas de Apple en torno a contenido objetable y aplicaciones UGC. Pocos estaban detrás de una pantalla de moderación.
No está claro por qué Apple no ha tomado medidas contra Truth Social, ya que la empresa no ha comentado. Una posibilidad es que, en el momento del envío original de Truth Social a la tienda de aplicaciones de Apple, la nueva aplicación tenía muy poco contenido para que lo analizara un equipo de revisión de aplicaciones, por lo que no tenía ningún contenido infractor para marcar. Truth Social usa pantallas de filtrado de contenido en iOS para ocultar algunas publicaciones detrás de una advertencia de clic, pero TechCrunch descubrió que el uso de esas pantallas era desordenado. Si bien las pantallas de contenido ocultaron algunas publicaciones que parecían infringir las reglas de la aplicación, las pantallas también ocultaron muchas publicaciones que no contenían contenido objetable.
Suponiendo que Apple no tome medidas, Truth Social no sería la primera aplicación en salir del ecosistema en línea pro-Trump y encontrar un hogar en la App Store. Varias otras aplicaciones diseñadas para atraer a la derecha política con nobles promesas sobre la ausencia de censura también han obtenido luz verde de Apple.
Las redes sociales Gettr y Parler y la aplicación para compartir videos Rumble atraen aproximadamente a la misma audiencia con reclamos similares de moderación y están disponibles para descargar en la App Store. Gettr y Rumble están disponibles en Google Play Store, pero Google eliminó a Parler en enero de 2021 por incitar a la violencia relacionada con el ataque al Capitolio y no lo ha restablecido desde entonces.
Las tres aplicaciones tienen vínculos con Trump. Gettr fue creado por el exasesor de Trump, Jason Miller, mientras que Parler se lanzó con la bendición financiera de la principal donante de Trump, Rebekah Mercer, quien asumió un papel más activo en la dirección de la empresa después del ataque del 6 de enero al Capitolio de EE. UU. Al final del año pasado, Rumble llegó a un acuerdo de contenido con la compañía de medios del expresidente Trump, Trump Media & Technology Group (TMTG), para proporcionar contenido de video para Truth Social.
Muchas redes sociales estuvieron implicadas en el ataque del 6 de enero, tanto las principales redes sociales como las aplicaciones que atienden explícitamente a los partidarios de Trump. En Facebook, los teóricos de la conspiración electoral acudieron en masa a grupos populares y se organizaron abiertamente en torno a hashtags como #RiggedElection y #ElectionFraud. Los usuarios de Parler ocuparon un lugar destacado entre los alborotadores que irrumpieron en el Capitolio de EE. UU. y gizmodo identificó a algunos de esos usuarios a través de metadatos de GPS adjuntos a sus publicaciones de video.
Hoy, Truth Social es un refugio para grupos políticos e individuos que fueron expulsados de las principales plataformas por temor a que pudieran incitar a la violencia. El expresidente Trump, quien fundó la aplicación, es la figura más destacada entre las personas sin plataforma que se instalaron allí, pero Truth Social también ofrece un refugio para QAnonuna teoría de conspiración política similar a un culto que ha sido explícitamente excluida de las principales redes sociales como Twitter, YouTube y Facebook debido a su asociación con actos de violencia.
Solo en los últimos años, eso incluye a un padre de California que dijo que disparó a sus dos hijos con un arpón debido a su creencia en los delirios de QAnonun hombre de Nueva York que mató a un jefe de la mafia y apareció con una “Q” escrita en la palma de su mano en la corte y varios incidentes de terrorismo doméstico que precedió al ataque al Capitolio. A fines de 2020, Facebook y YouTube endurecieron las reglas de su plataforma para limpiar el contenido de QAnon después de años de permitir que floreciera. En enero de 2021, solo Twitter tomó medidas enérgicas contra una red de más de 70 000 cuentas que compartían contenido relacionado con QAnon, y otras redes sociales siguieron su ejemplo y se tomaron la amenaza en serio a la luz del ataque al Capitolio.
A informe publicado esta semana por el regulador de medios NewsGuard detalla cómo el movimiento QAnon está vivo y bien en Truth Social, donde varias cuentas verificadas continúan promoviendo la teoría de la conspiración. El expresidente Trump, el director ejecutivo de Truth Social y exrepresentante de la Cámara de Representantes, Devin Nunes, y Patrick Orlando, director ejecutivo del patrocinador financiero de Truth Social, Digital World Acquisition Corporation (DWAC), han promovido el contenido de QAnon en los últimos meses.
A principios de esta semana, el expresidente Trump lanzó una bombardeo de publicaciones que promocionan explícitamente a QAnon, citando abiertamente la teoría de la conspiración vinculada a la violencia y el terrorismo doméstico en lugar de confiar en un lenguaje codificado para hablar con sus partidarios como lo ha hecho en el pasado. Esa escalada, junto con la investigación federal en curso sobre el supuesto mal manejo de información clasificada de alto riesgo por parte de Trump, una situación que ya inspiró la violencia en el mundo real, aumenta las apuestas en una aplicación social donde el expresidente puede comunicarse abiertamente con sus seguidores en tiempo real. tiempo.
Que Google tome una acción preventiva para mantener a Truth Social fuera de Play Store mientras Apple, hasta ahora, le permite operar es un cambio interesante en las políticas de los dos gigantes tecnológicos sobre la moderación y vigilancia de la tienda de aplicaciones. Históricamente, Apple ha tomado una mano más dura en la moderación de la App Store, eliminando aplicaciones que no cumplían con los estándares, mal diseñadas, demasiado adultas, demasiado spam, o simplemente operando en un área gris que Apple decide más tarde que ahora necesita aplicación. No está claro por qué Apple no interviene en este caso en particular, pero la compañía ha sido objeto de un intenso escrutinio federal en los últimos meses por su enfoque intervencionista en el lucrativo mercado de aplicaciones.