Para echar un vistazo a la miseria generada por la IA que se acelera rápidamente en nuestras pantallas gracias a los desarrollos en los medios sintéticos que están impulsando formas de engaño cada vez más sofisticadas, consulte este clip del campeón de financiación al consumo del Reino Unido, Martin Lewis, aparentemente aprovechando una oportunidad de inversión respaldada por Elon Musk.
Excepto, por supuesto, que el metraje (también incrustado en el tweet a continuación) es un deepfake generado por IA y la oportunidad de inversión es una estafa que no está respaldada por Lewis (o Musk). El primero también insiste en no aparecer nunca en anuncios que respalden productos o servicios de terceros, aunque eso no impide que los estafadores se apropien indebidamente repetidamente de su imagen para los anuncios de las redes sociales con el fin de engañar a las personas para que se desprendan de su dinero…
ADVERTENCIA. ESTA ES UNA ESTAFA DE CRIMINALES QUE TRATAN DE ROBAR DINERO. POR FAVOR COMPARTE.
Esto es aterrador, es la primera estafa profunda de video falso que he visto conmigo en él. El gobierno y los reguladores deben dar un paso al frente para evitar que las grandes tecnológicas publiquen falsificaciones tan peligrosas. La gente perderá dinero y arruinará vidas. https://t.co/ZzaBELg1kg
— Martín Lewis (@MartinSLewis) 6 de julio de 2023
Per Lewis, quien fue entrevistado sobre el deepfake en Buenos días Gran Bretaña de ITV (GMB), el video de él cobrando una estafa de inversión ha estado circulando en Facebook. Y chico, está furioso por eso, dado que ya se tomó la molestia de demandar al gigante tecnológico por inacción por anuncios fraudulentos que mostraban su imagen, iniciando un litigio por difamación en 2018 en un intento por usar su celebridad para avergonzar al gigante tecnológico para que hiciera algo. para detener a los estafadores.
“Esto está circulando en Facebook en este momento”, dijo Lewis sobre el video falso. “Este, hasta donde yo sé, es el primer anuncio de estafa deepfake que hemos visto. Ciertamente es el primero conmigo adentro. Es un desarrollo absolutamente aterrador. Estas son solo las primeras etapas de la tecnología. Y solo van a mejorar”.
“Estoy visceralmente enojado por esto”, agregó. “La gente sabrá que he estado haciendo campaña por una regulación adecuada de los anuncios fraudulentos durante años”.
Lewis resolvió su demanda por difamación contra Facebook en 2019 después de que acordó realizar algunos cambios en la forma en que opera, diciendo que ofrecería un botón de informe de anuncios a los usuarios del Reino Unido para que les resulte más fácil informar anuncios dudosos. También se comprometió a aportar fondos por valor de 3 millones de libras esterlinas para ayudar a establecer un servicio de asesoramiento sobre estafas para los ciudadanos.
Pero, por supuesto, eso es una gota en el océano de dinero que los británicos pierden habitualmente con los estafadores. (El año pasado, las pérdidas para los consumidores y las empresas del Reino Unido por fraude y estafas financieras afectaron un récord de 1.300 millones de libras esterlinas.)
También es una caída en el océano de los ingresos de la matriz de Facebook, Meta (las ganancias de todo el año para 2022 fueron de $ 116,61 mil millones), que genera al vender acceso a herramientas de orientación de anuncios de comportamiento que funcionan con su seguimiento generalizado y creación de perfiles de usuarios web. .
Las herramientas publicitarias de Meta esencialmente están haciendo el trabajo pesado para los estafadores detrás de anuncios como Lewis deepfake, ya que, una vez que los estafadores han elaborado un mensaje engañoso atractivo, pueden conectarlo directamente a las herramientas de orientación publicitaria a gran escala que ofrece para garantizar que la estafa llegue. en los feeds de los usuarios que son más susceptibles (y vulnerables) a ser engañados, aprovechando la vigilancia masiva continua de Meta de los usuarios de la web para llegar a nuevas víctimas.
Cuando se le pidió una respuesta al deepfake, un portavoz de Meta le dijo a TechCrunch que estaba investigando.
La compañía también nos envió esta declaración, afirmando:
No permitimos este tipo de anuncios en nuestras plataformas y nuestros equipos eliminaron proactivamente el video original. También eliminamos varios anuncios imitados que usaban las mismas imágenes.
Sin embargo, Meta no brindó una respuesta directa cuando le preguntamos cómo había permitido que otra estafa con el gusto explícito de Lewis, aunque, esta vez, los movimientos falsos y las conversaciones con una voz que suena muy parecida a la real, se subiera a su sitio web. plataforma.
Si bien Lewis nombra y avergüenza directamente a Facebook/Meta, el defensor de los consumidores también está enojado con el gobierno del Reino Unido por no abordar el problema de los anuncios fraudulentos.
En la entrevista con GMB, criticó la falta de respuesta del gobierno luego de dos consultas sobre anuncios en línea. Y aunque el proyecto de ley de seguridad en línea se amplió para cubrir los anuncios fraudulentos el año pasado, luego de una campaña de personas como Lewis, también atacó la cantidad de tiempo que lleva aprobar la legislación, y el proyecto de ley aún se abre camino en el parlamento, dejando la web del Reino Unido. Mientras tanto, los usuarios están a merced de la tibia aplicación de las plataformas publicitarias de sus propios T&C.
“Todavía tenemos un salvaje oeste absoluto en las redes sociales y otras plataformas publicitarias de Big Tech que permite a los estafadores salirse con la suya con impunidad”, advirtió Lewis, y agregó: “Lo que quiero que todos recuerden es que cada vez que vean uno de esos anuncios uno de las grandes empresas tecnológicas se le paga para promocionar ese anuncio. Y esto destruye a las personas vulnerables, y a muchas vidas de personas no vulnerables”.