En asociación con Google Cloud, Google DeepMind (la división de investigación de IA de Google) es lanzamiento una herramienta para marcar con marcas de agua e identificar imágenes generadas por IA, pero solo imágenes creadas por el modelo de generación de imágenes de Google.
La herramienta, llamada SynthID y disponible en versión beta para usuarios selectos de Vertex AI (la plataforma de Google para crear aplicaciones y modelos de IA) incorpora una marca de agua digital directamente en los píxeles de una imagen, haciéndola aparentemente imperceptible para el ojo humano pero detectable mediante un algoritmo. . SynthID solo es compatible con Imagen, el modelo de conversión de texto a imagen de Google, que está disponible exclusivamente en Vertex AI.
Google previamente dijo que incorporaría metadatos para señalar los medios visuales creados por modelos generativos de IA. SynthID, obviamente, va un paso más allá.
“Si bien la IA generativa puede desbloquear un enorme potencial creativo, también presenta nuevos riesgos, como permitir a los creadores difundir información falsa, ya sea intencionalmente o no”, escribe DeepMind en una publicación de blog. “Ser capaz de identificar el contenido generado por IA es fundamental para que las personas sepan cuándo interactúan con los medios generados y para ayudar a prevenir la difusión de información errónea”.
Créditos de imagen: Mente profunda
DeepMind afirma que SynthID, que desarrolló y se asoció con Google Research (el equipo de investigación y desarrollo de Google) para perfeccionarlo, permanece vigente incluso después de modificaciones como agregar filtros a las imágenes o cambiar los colores y comprimir las imágenes en gran medida. La herramienta aprovecha dos modelos de IA, uno para marcas de agua y otro para identificación, que fueron entrenados juntos en un conjunto “diverso” de imágenes, dice DeepMind.
SynthID no puede identificar imágenes con marcas de agua con un 100% de confianza. Pero la herramienta distingue entre casos en los que una imagen puede contener una marca de agua y una imagen que es muy probable que la contenga.
“SynthID no es infalible contra manipulaciones extremas de imágenes, pero proporciona un enfoque técnico prometedor para capacitar a personas y organizaciones para trabajar con contenido generado por IA de manera responsable”, escribe DeepMind en la publicación del blog. “Esta herramienta también podría evolucionar junto con otros modelos y modalidades de IA más allá de las imágenes, como audio, vídeo y texto”.
Las técnicas de marcas de agua para el arte generativo no son nuevas. La startup francesa Imatag, lanzada en 2020, ofrece una herramienta de marca de agua que, según afirma, no se ve afectada al cambiar el tamaño, recortar, editar o comprimir imágenes, similar a SynthID. Otra empresa, Steg.AI, emplea un modelo de IA para aplicar marcas de agua que sobreviven al cambio de tamaño y otras ediciones.
Pero está aumentando la presión sobre las empresas de tecnología para que proporcionen una manera de dejar claro que las obras fueron generadas por IA.
Recientemente, la Administración del Ciberespacio de China emitió regulaciones que exigen que los proveedores de IA generativa marquen el contenido generado (incluidos los generadores de texto e imágenes) sin afectar el uso del usuario. Y en audiencias recientes del comité del Senado de Estados Unidos, la senadora Kyrsten Sinema (I-AZ) enfatizado la necesidad de transparencia en la IA generativa, incluido el uso de marcas de agua.
En mayo, en su conferencia anual Build, Microsoft se comprometió a poner marcas de agua en imágenes y vídeos generados por IA “utilizando métodos criptográficos”. En otros lugares, Shutterstock y la startup de IA generativa Midjourney adoptaron pautas para incrustar un marcador que indique que el contenido fue creado por una herramienta de IA generativa. Y DALL-E 2 de OpenAI, una herramienta de conversión de texto a imagen, inserta una pequeña marca de agua en la parte inferior derecha de las imágenes que genera.
Pero hasta ahora, un estándar común de marcas de agua, tanto para crear marcas de agua como para detectarlas, ha demostrado ser difícil de alcanzar.
SynthID, al igual que las otras tecnologías propuestas, no será útil para ningún generador de imágenes que no sea Imagen, al menos no en su forma actual. DeepMind dice que está considerando poner SynthID a disposición de terceros en un futuro próximo. Pero si los terceros (especialmente los que desarrollan generadores de imágenes de IA de código abierto, que carecen de muchas de las barreras de seguridad de los generadores cerrados detrás de una API) adoptarán la tecnología es otra cuestión completamente distinta.
Source link