A veces, las noticias falsas viven dentro de Facebook como fotos y videos diseñados para impulsar campañas de desinformación, en lugar de estar fuera del sitio en artículos de noticias que pueden generar sus propios ingresos publicitarios. Para combatir a estos entrometidos motivados políticamente en lugar de económicamente, Facebook tiene que ser capaz de detectar noticias falsas dentro de las imágenes y el audio que acompaña a los videoclips. Hoy es en expansión su programa de verificación de datos de fotografías y videos de cuatro países a sus 23 socios de verificación de datos en 17 países.
“Muchos de nuestros socios de verificación de datos externos tienen experiencia en la evaluación de fotos y videos y están capacitados en técnicas de verificación visual, como la búsqueda inversa de imágenes y el análisis de metadatos de imágenes, como cuándo y dónde se tomó la foto o el video”, dice el gerente de producto de Facebook. Antonia Woodford. “A medida que obtengamos más calificaciones de los verificadores de datos en fotos y videos, podremos mejorar la precisión de nuestro modelo de aprendizaje automático”.
El objetivo es que Facebook pueda detectar automáticamente imágenes manipuladas, imágenes fuera de contexto que no muestran lo que dicen que hacen, o afirmaciones de texto y audio que son demostrablemente falsas.
En el épico manifiesto de seguridad de 3260 palabras de anoche, el director ejecutivo de Facebook, Mark Zuckerberg, explicó que “la definición de éxito es que detenemos los ciberataques y las operaciones de información coordinadas antes de que puedan causar daño”. Eso significa usar IA para buscar de manera proactiva noticias falsas en lugar de esperar a que los usuarios las marquen. Para eso, Facebook necesita datos de entrenamiento de IA que se producirán como un escape de las operaciones de verificación de datos de fotos y videos de sus socios.
Facebook está desarrollando herramientas tecnológicas para ayudar a sus verificadores de hechos en este proceso. “Usamos el reconocimiento óptico de caracteres (OCR) para extraer texto de fotos y comparar ese texto con los titulares de los artículos de los verificadores de hechos. También estamos trabajando en nuevas formas de detectar si una foto o un video ha sido manipulado ”, señala Woodford, refiriéndose a los DeepFakes que usan software de edición de video con IA para hacer que alguien parezca que dice o hace algo que no ha hecho.
Los memes de imágenes fueron una de las formas más populares de desinformación utilizada por los interferentes electorales del IRA ruso. El problema es que, dado que se pueden volver a compartir tan fácilmente y no requieren que las personas abandonen Facebook para verlos, pueden obtener una distribución viral de usuarios desprevenidos que no se dan cuenta de que se han convertido en peones en una campaña de desinformación.
Facebook podría usar el alto nivel de recursos técnicos necesarios para construir una IA de detección de memes de noticias falsas como un argumento de por qué Facebook no debería dividirse. Con Facebook, Messenger, Instagram y WhatsApp combinados, la compañía obtiene economías de escala cuando se trata de combatir el flagelo de la desinformación.
Source link