Sorprendiendo literalmente a nadie, la combinación de cheques azules pagados y la IA generativa hace que sea muy fácil difundir información errónea. El lunes por la mañana, una imagen aparentemente generada por IA de una explosión en el Pentágono circuló por Internet, a pesar de que el evento en realidad no sucedió.
En aproximadamente media hora, la imagen apareció en una cuenta de Twitter verificada llamada “Bloomberg Feed”, que podría confundirse muy fácilmente con una cuenta real afiliada a Bloomberg, especialmente porque tenía una marca azul. Esa cuenta ha sido suspendida desde entonces. La red de noticias controlada por el estado ruso RT también compartió la imagen, según las capturas de pantalla que los usuarios capturaron antes de que se eliminara el tweet. Varias cuentas de Twitter con cientos de miles de seguidores, como DeItaone, OSINTdefensor y Gráfico de ballenas compartió. Incluso un cadena de televisión india informó de la falsa explosión del Pentágono. No está claro de inmediato dónde se originó esta imagen falsa y la noticia.
El mejor ejemplo de los peligros en el sistema de pago para verificar: esta cuenta, que tuiteó una foto (muy probablemente generada por IA) de una historia (falsa) sobre una explosión en el Pentágono, a primera vista parece una noticia legítima de Bloomberg. alimentar. pic.twitter.com/SThErCln0p
—Andy Campbell (@AndyBCampbell) 22 de mayo de 2023
Esta está lejos de ser la primera vez que una imagen falsa ha engañado con éxito a Internet, pero hay más en juego cuando el evento falso es una explosión en un edificio del gobierno de EE. UU., en lugar de que el Papa lleve un abrigo de Balenciaga. Algunos han informado que la imagen falsa podría estar vinculada a un movimiento de 25 puntos básicos del S&P 500, pero la caída no duró mucho y no hay forma de demostrar que fue completamente el resultado de este engaño. El incidente plantea la pregunta de cómo se podría usar la IA generativa para jugar con el mercado de valores en el futuro; después de todo, Reddit lo hizo.
La desinformación es un problema tan antiguo como Internet, pero el crecimiento simultáneo de la IA generativa y el cambio en el sistema de verificación de Twitter lo convierte en un terreno especialmente fértil. Desde el primer momento, el plan del propietario de Twitter, Elon Musk, de eliminar los cheques azules existentes de su estado y dejar que cualquiera pague por el símbolo ha sido un desastre. Incluso si sabemos que los cheques azules ya no indican legitimidad, es difícil romper un hábito visual que ha cultivado durante casi 15 años: si ve una cuenta llamada “Bloomberg Feed” que tiene un cheque azul que publica sobre un ataque al Pentágono , probablemente estés predispuesto a pensar que es real. A medida que se vuelve cada vez más difícil detectar imágenes falsas, solo continuaremos viendo informes de noticias falsas como este en el futuro.