Un organismo asesor del gobierno del Reino Unido sobre IA y ética de datos ha recomendado controles más estrictos sobre cómo los gigantes de la plataforma pueden usar la orientación de anuncios y la personalización de contenido.
Las preocupaciones sobre las tácticas de focalización llamativas en gran medida no reguladas de las plataformas en línea, ya sea a través de la entrega de “contenido personalizado” o “anuncios microdirigidos” a individuos o grupos de usuarios, incluyen el riesgo de generar comportamientos adictivos; la explotación y/o discriminación de grupos vulnerables; la amplificación de la desinformación; e interferencia electoral, por nombrar algunos.
en un reporte publicado hoy, el Centro de Ética e Innovación de Datos (CDEI) establece una serie de recomendaciones para las plataformas que utilizan herramientas de orientación para determinar qué contenido o anuncios se muestran a los usuarios. Argumenta que estas recomendaciones ayudarán a generar confianza pública en los servicios digitales, incluidos los que brinda el sector público.
“La mayoría de la gente no quiere que se detenga la focalización. Pero sí quieren saber que se está haciendo de manera segura y ética. Y quieren más control”, escribe el presidente Roger Taylor en un resumen ejecutivo.
“Nuestro análisis del entorno regulatorio demuestra brechas significativas en su supervisión regulatoria”, continúa el informe. “Nuestro análisis de las actitudes del público muestra la mayor preocupación e interés por el uso de la orientación en línea en grandes plataformas.
“Nuestra investigación demuestra que los sistemas de orientación en línea utilizados por las plataformas de redes sociales (como Facebook y Twitter), las plataformas para compartir videos (como YouTube, Snapchat y TikTok) y los motores de búsqueda (como Google y Bing) plantean las mayores preocupaciones en estas áreas. ”
El organismo asesor, que fue anunciado por el gobierno liderado por los conservadores en 2017 para ayudar a diseñar políticas para regular el uso de IA y tecnologías basadas en datos, pide que los gigantes de la orientación en línea cumplan con estándares más altos de responsabilidad sobre el uso de la orientación. instrumentos.
Las regulaciones actuales son inadecuadas para cubrir la orientación en línea, según su análisis, mientras que califica la autorregulación y el statu quo de “insostenibles”.
Los encuestados en una encuesta realizada por el CDEI estaban abrumadoramente a favor (61 por ciento) de otorgar a un regulador independiente la supervisión del uso de sistemas de orientación en línea frente a solo el 17 por ciento que prefería que continuara la autorregulación.
El gobierno del Reino Unido estableció un plan para regular una serie de daños en línea en un Libro Blanco publicado el año pasado, que propone que se establezca un deber de cuidado en las plataformas para proteger a los usuarios de una variedad de daños, como contenido inapropiado para la edad o material que fomenta conductas dañinas como la autolesión o los trastornos alimentarios.
El CDEI sugiere que este marco propuesto podría ayudar a cerrar algunas de las brechas regulatorias que señala su informe “si la focalización en línea se reconoce dentro del ámbito de competencia del regulador independiente” (al tiempo que advierte que aún dejaría una serie de brechas en la regulación de la publicidad política).
El informe también pide una mayor transparencia en la forma en que funcionan los sistemas de focalización en línea “para que la sociedad pueda comprender mejor los impactos de estos sistemas y las respuestas políticas puedan basarse en evidencia sólida”.
Otra recomendación clave es que los usuarios de Internet tengan un mayor control sobre la forma en que son dirigidos para que la personalización se ajuste mejor a sus preferencias.
“La focalización en línea ha ayudado a colocar a un puñado de empresas de plataformas en línea globales en posiciones de enorme poder para predecir e influir en el comportamiento. Sin embargo, los mecanismos actuales para hacerlos rendir cuentas son inadecuados”, escribe el CDEI. “Hemos revisado los poderes de los reguladores existentes y concluimos que no se puede confiar en la aplicación de la legislación existente y la autorregulación para cumplir con las expectativas públicas de una mayor responsabilidad”.
“La industria y el público reconocen que existen límites para la autorregulación y que el statu quo es insostenible. Ahora es el momento de tomar medidas reglamentarias que tomen medidas proporcionadas para aumentar la responsabilidad, la transparencia y el empoderamiento de los usuarios”, agrega.
El CDEI no propone ninguna restricción específica en sí mismo, sino que aboga por un régimen regulatorio que “promueve[s] responsabilidad y transparencia y salvaguarda[s] derechos humanos por diseño”.
También recomienda que se aplique un código de práctica a las plataformas y servicios que utilizan sistemas de focalización en línea, exigiendo que adopten “estándares de gestión de riesgos, transparencia y protección de las personas que puedan ser vulnerables, para que puedan rendir cuentas por los impacto de los sistemas de focalización en línea en los usuarios”.
El futuro regulador de daños en línea debería tener el deber legal de proteger y respetar la libertad de expresión y la privacidad, también sugiere, escribiendo que: “La regulación de la orientación en línea debe desarrollarse para salvaguardar la libertad de expresión y la privacidad en línea, y para promover los derechos humanos. normas internacionales basadas”.
El regulador también necesitará poderes de recopilación de información para evaluar el cumplimiento del código, según las recomendaciones, incluido el poder de exigir que los expertos independientes tengan acceso seguro a los datos de las plataformas para permitir más pruebas de cumplimiento de su código.
“Los sistemas de orientación en línea pueden tener un efecto negativo en la salud mental, por ejemplo, como un posible factor en la ‘adicción a Internet’. Podrían contribuir a problemas sociales, incluida la radicalización y la polarización de puntos de vista políticos. Estos son temas de gran preocupación pública, donde los riesgos de daño no se conocen bien, pero el impacto potencial es demasiado grande para ignorarlo”, advierte el informe.
“Recomendamos que el regulador facilite la investigación académica independiente sobre temas de gran interés público, y que tenga el poder de exigir que las plataformas en línea brinden a los investigadores independientes un acceso seguro a sus datos. Sin esto, el regulador y otros formuladores de políticas no podrán desarrollar políticas basadas en evidencia e identificar las mejores prácticas”.
Otra recomendación es que se requiera que las plataformas mantengan archivos de publicidad en línea “para brindar transparencia a los tipos de publicidad personalizada que presentan riesgos sociales particulares”, como los anuncios políticos; empleo y otras oportunidades similares en las que pueda haber riesgo de discriminación ilegal; y para productos con restricción de edad.
Un archivo de anuncios es una de las medidas de autorregulación que las plataformas publicitarias, incluido Facebook, han desarrollado e implementado en los últimos años, ya que el escrutinio de sus sistemas se ha incrementado a raíz del escándalo de segmentación de anuncios políticos de Cambridge Analytica que se llevó a cabo utilizando el sistema de Facebook. herramientas publicitarias y datos de usuario.
Aunque dichos archivos todavía tienden a ofrecer solo una visibilidad limitada a los usuarios, los investigadores han criticado duramente a Facebook por no proporcionar las herramientas adecuadas para apoyar el estudio académico de su plataforma.
Sobre el “control más significativo” para los usuarios sobre cómo se dirigen, el Centro sugiere apoyo para un nuevo mercado en ‘intermediarios de datos’ de terceros para permitir que los intereses de los usuarios estén representados en múltiples servicios y nuevas aplicaciones de seguridad de terceros.
También pide mecanismos formales de coordinación entre el futuro regulador de daños en línea y el organismo de control de datos del Reino Unido (ICO) y la Autoridad de Mercados y Competencia (CMA). El informe señaló otros trabajos relacionados que están llevando a cabo la ICO y la CMA, incluido el Código de Diseño Apropiado para la Edad de la ICO; y el estudio de mercado de la CMA sobre plataformas en línea y publicidad digital.
Este último expresó su preocupación a fines del año pasado sobre el poder de mercado de los gigantes tecnológicos, presentando una variedad de posibles intervenciones en su informe provisional, incluida la solicitud de opiniones sobre la ruptura de los gigantes de la plataforma.
Source link