Los deepfakes de IA se están volviendo tan buenos que un anuncio fraudulento de MrBeast pasó por alto la tecnología de moderación de anuncios de TikTok para terminar en la plataforma.
En el anuncio, el creador enormemente influyente parecía estar ofreciendo a 10.000 espectadores un iPhone 15 Pro por sólo 2 dólares. En la mayoría de los casos, esto sería un claro indicio de una estafa, pero viniendo de MrBeast, en realidad podría ser creíble.
MrBeast (un joven de 25 años llamado Jimmy Donaldson con más suscriptores que cualquier otro individuo en YouTube) se hizo famoso creando vídeos de acrobacias cada vez más absurdos en los que regalaba a la gente casas y coches sin condiciones (siempre que aceptaran ser en su vídeo). O, más recientemente, pedirá a personas de “todos los países de la Tierra” que compitan por un premio de 250.000 dólares en una serie de minijuegos de tipo olímpico.
Entonces, si no estás particularmente al tanto de detectar estafas y estás navegando por TikTok a altas horas de la noche cuando no estás pensando con claridad, podría ser posible que MrBeast compre 10,000 iPhones para regalar a través de un anuncio de TikTok. . Después de todo, él literalmente ha regalado iPhones a personas desprevenidas que hacen truco o trato.
Mucha gente está recibiendo este anuncio fraudulento mío de deepfake… ¿están las plataformas de redes sociales preparadas para manejar el aumento de los deepfakes de IA? Este es un problema grave pic.twitter.com/llkhxswQSw
— Señor Bestia (@MrBeast) 3 de octubre de 2023
Para ser caritativo, esto podría explicar cómo se aprobó el anuncio deepfake en TikTok. TikTok utiliza una combinación de moderación humana y, irónicamente, tecnología asistida por inteligencia artificial para revisar los anuncios antes de publicarlos. Entonces, esencialmente, la IA de TikTok luchó contra la IA detrás de este deepfake de MrBeast y perdió.
TikTok le dijo a TechCrunch que eliminó el anuncio a las pocas horas de ser publicado porque violaba las políticas publicitarias de TikTok. TikTok no prohíbe por completo a los anunciantes utilizar medios sintéticos o manipulados, pero la plataforma exige que los anunciantes revelen muy claramente si están utilizando este tipo de tecnología.
TikTok no es el único que utiliza IA para moderar anuncios. Meta dice Se basa “principalmente en tecnología automatizada”, pero, al igual que TikTok, utiliza revisores humanos para entrenar su inteligencia artificial y, a veces, revisa anuncios manualmente.
Los deepfakes engañosos no son nuevos, pero a medida que la IA se vuelve especialmente popular entre los inversores y consumidores, el acceso a la tecnología se vuelve más fácil que nunca. Si bien celebridades famosas de Internet como MrBeast atraen a las generaciones más jóvenes, los consumidores mayores también se dejan engañar. Solo esta semana, el actor Tom Hanks y la presentadora de CBS Gayle King advirtieron a sus seguidores que están siendo falsificados en anuncios fraudulentos.
“¡¡TENER CUIDADO!!” escribió Tom Hanks en Instagram. “Hay un vídeo que promociona un plan dental con una versión mía de IA. No tengo nada que ver con eso.”
La FTC ya ha emitido advertencias sobre el marketing deepfake, pero la práctica ha resultado difícil de regular a escala. Y a medida que se acercan las elecciones mundiales, las consecuencias de esta publicidad engañosa podrían volverse más nefastas.