A medida que más creadores recurren a la IA para su expresión artística, también hay un impulso más amplio por la transparencia en torno a cuándo la IA estuvo involucrada en la creación de contenido. Para abordar esta preocupación, TikTok anunció hoy que lanzará una nueva herramienta que permitirá a los creadores etiquetar su contenido generado por IA y comenzará a probar otras formas de etiquetar el contenido generado por IA automáticamente.
La compañía dice que sintió la necesidad de introducir etiquetas de IA porque el contenido de IA puede potencialmente confundir o engañar a los espectadores. Por supuesto, TikTok ya había actualizado su política para abordar los medios sintéticos, que requieren que las personas etiqueten el contenido de IA que contiene imágenes, audio o videos realistas, como deepfakes, para ayudar a los espectadores a contextualizar el video y evitar la difusión de información engañosa. La política de TikTok le permite eliminar imágenes realistas de IA que no se divulgan.
Sin embargo, fuera del caso extremo de usar IA para engañar intencionalmente a los usuarios, algunos contenidos generados por IA pueden estar en la línea entre parecer real o falso. En esta área gris, los usuarios finales generalmente aprecian una mayor transparencia para saber si el contenido que están viendo ha sido editado en gran medida o creado con IA.
Créditos de imagen: Tik Tok
La nueva herramienta de TikTok que se presenta ahora no solo facilitará a los creadores el cumplimiento de esta política existente en torno a los medios sintéticos, sino también el etiquetado de cualquier otro contenido que haya sido generado completamente con IA o editado significativamente con IA. La herramienta estará disponible para los creadores al subir el video, y TikTok no espera que los creadores vuelvan a etiquetar sus videos anteriores.
Cuando el creador use la nueva herramienta, TikTok mostrará un mensaje debajo del nombre de usuario en el video indicando que el creador ha etiquetado el video como generado por IA.
Sin embargo, TikTok no penalizará a los creadores por no etiquetar su contenido de IA como si no estuviera incluido en la política de medios sintéticos existente.
Créditos de imagen: Tik Tok
Además, TikTok dice que está trabajando para desarrollar una forma de detectar y etiquetar automáticamente contenido de IA. Esta semana, comenzará a probar una etiqueta “generada por IA” que eventualmente se aplicará a cualquier contenido que detecte que fue editado o creado con IA.
La compañía se negó a compartir detalles sobre cómo su tecnología buscará posible contenido de IA, y señaló que compartir esos detalles podría permitir que los malos actores eviten sus capacidades de detección. Sin embargo, TikTok dijo que probará diferentes modelos de detección de IA y que está “evaluando” asociaciones de procedencia diseñadas para ayudar a las plataformas a detectar mejor la IA al incorporar etiquetas de IA en el contenido mismo.
Etiquetar la IA se está convirtiendo en una práctica más común para las grandes plataformas y tanto OpenAI como Google han anunciado sus propias capacidades de detección de IA en los últimos meses. Instagram también parece ser trabajando en una característica que resalta cuándo el contenido se ha creado o editado con IA. Y la UE está presionando para que las plataformas etiqueten el contenido de IA como regla general en su lucha contra la desinformación.
Como resultado de su nuevo impulso por la transparencia, TikTok ahora también cambiará el nombre de todos sus efectos que usan IA incluyendo explícitamente “AI” en sus nombres. Eso es algo que anteriormente se negaba a revelar. De hecho, cuando el filtro Bold Glamour de TikTok se volvió viral debido a lo grande que era una hazaña técnica en términos de transformar las caras de los usuarios, algunos sospecharon que el filtro no estaba usando AR (realidad aumentada), sino AI. Sin embargo, TikTok se negó a responder a las preguntas de la prensa preguntando si el producto era IA en ese momento.
Con los nuevos cambios de etiquetado, los usuarios ahora podrán determinar de un vistazo cuáles de los filtros de TikTok utilizan IA. La compañía dice que sus directrices actualizadas para Creadores de la casa de efectos les pedirá que hagan lo mismo.
TikTok señala que consultó con sus Consejos Asesores de Seguridad al desarrollar sus nuevas etiquetas de IA, así como con expertos de la industria, incluido el Dr. David G. Rand del MIT, cuya investigación ha examinado cómo responden los usuarios a diferentes tipos de etiquetas de IA. Con ese fin, TikTok abordó el término “generado por IA”, que se entiende ampliamente en todos los grupos demográficos.
También lanzará videos educativos y otros recursos de alfabetización mediática durante las próximas semanas para ayudar a los usuarios a comprender mejor la IA.
Las actualizaciones siguen a otras iniciativas que TikTok ha tomado en torno a la IA en los medios, incluido su compromiso de febrero con la Asociación sobre IA. Prácticas responsables para medios sintéticos, un código de mejores prácticas de la industria para la transparencia de la IA y la innovación responsable, dijo la compañía. También se asoció con la organización sin fines de lucro. Momento Digital en agosto organizar mesas redondas con jóvenes para conocer sus perspectivas sobre los avances de la IA en línea.
Las etiquetas de IA comenzarán a implementarse hoy, pero es posible que no las vea de inmediato hasta que se complete el lanzamiento.