papa balenciaga. Explosiones falsas del Pentágono. Cada vez es más difícil diferenciar las imágenes generadas por IA de las reales, a veces con efectos desastrosos.
Una solución sigue siendo difícil de alcanzar. Pero Microsoft está haciendo un intento con nuevas características de procedencia de medios que debutarán en su conferencia anual Build.
Con el lanzamiento de Bing Image Creator and Designer, la aplicación web similar a Canva de Microsoft que puede generar diseños para presentaciones, carteles y más para compartir en las redes sociales y otros canales, las nuevas capacidades de procedencia de medios permitirán a los consumidores verificar si se generó una imagen o un video. por IA, dice Microsoft. Usando métodos criptográficos, las capacidades, programadas para implementarse en los próximos meses, marcarán y firmarán contenido generado por IA con metadatos sobre el origen de la imagen o el video.
No es tan sencillo como una marca de agua visible. Para leer la firma, los sitios deberán adoptar la especificación interoperable Coalition for Content Provenance and Authenticity (C2PA), una especificación creada con aportes de Adobe, Arm, Intel, Microsoft y la plataforma de medios visuales Truepic. Solo entonces el sitio podrá alertar a los consumidores cuando el contenido haya sido generado por IA, modificado o creado por Designer o Image Creator.
Entonces, la pregunta es, ¿los esfuerzos de Microsoft harán una gran diferencia cuando tantas herramientas de generación de imágenes no han adoptado estándares de procedencia de medios similares? C2PA cuenta con el respaldo de Adobe, que recientemente lanzó su propia gama de herramientas generativas de inteligencia artificial, incluida una integración con el chatbot Bard de Google. Pero uno de los jugadores más destacados en el espacio de la IA generativa, Stability AI, no ha mostrado su voluntad de adoptar una especificación como la que propone Microsoft.
Dejando a un lado los estándares, la decisión de Microsoft de adoptar un mecanismo de seguimiento de la procedencia de los medios está en línea con las tendencias más amplias de la industria a medida que se afianza la IA generativa. En mayo, Google dijo que usaría metadatos incrustados para señalar medios visuales creados por modelos generativos de IA. Por separado, Shutterstock y la startup de IA generativa MidJourney adoptaron pautas para incrustar un marcador de que el contenido fue creado por una herramienta de IA generativa.
Source link