Un GIF de insulto racial se deslizó en la biblioteca de calcomanías de GIPHY a principios de este mes, lo que provocó que Instagram y Snapchat abandonaran sus integraciones de GIPHY. Ahora Instagram se está reactivando después de que GIPHY confirmara que revisó su biblioteca de GIF cuatro veces y revisará de manera preventiva cualquier GIF nuevo que agregue. Snapchat dijo que no tenía nada que compartir en este momento sobre si reactivará GIPHY.
“Hemos estado en contacto cercano con GIPHY a lo largo de este proceso y estamos seguros de que han implementado medidas para garantizar que los usuarios de Instagram tengan una buena experiencia”, dijo un portavoz de Instagram a TechCrunch. GIPHY le dijo a TechCrunch en un comunicado que “Para cualquiera que se haya visto afectado: lo sentimos. Asumimos toda la responsabilidad por este evento reciente y bajo ninguna circunstancia
GIPHY aprueba o apoya este tipo de contenido. . . También finalizamos una investigación completa de nuestros sistemas y procesos de moderación de contenido y realizamos cambios específicos en nuestro proceso para garantizar que algo así no vuelva a suceder”.
Primero informamos que Instagram estaba construyendo una integración GIPHY en enero antes de que se lanzara una semana después, y Snapchat agregó una función similar en febrero. Pero no pasó mucho tiempo antes de que las cosas salieran mal. Visto por primera vez por un usuario en el Reino Unido alrededor del 8 de marzo, el GIF incluía un insulto racial. Hemos compartido una versión censurada de la imagen a continuación, pero advertencia, aún incluye contenido gráfico que puede ser ofensivo para algunos usuarios.
Cuando se le preguntó, Snapchat le dijo a TechCrunch: “Hemos eliminado GIPHY de nuestra aplicación hasta que podamos estar seguros de que esto nunca volverá a suceder”. Instagram no sabía que el GIF racista estaba disponible en su integración GIPHY hasta que TechCrunch lo informó, lo que provocó el cierre de la función en una hora. Un portavoz de Instagram le dijo a TechCrunch: “Este tipo de contenido no tiene cabida en Instagram”. Después de 12 horas de silencio, GIPHY respondió a la mañana siguiente y nos dijo: “Después de investigar el incidente, esta pegatina estaba disponible debido a un error en nuestros filtros de moderación de contenido que afectaba específicamente a las pegatinas GIF”.
El fiasco destaca los riesgos de que las principales plataformas trabajen con desarrolladores externos para incorporar contenido externo y colaborativo a sus aplicaciones. Snapchat históricamente se resistió a trabajar con desarrolladores establecidos, pero recientemente ha establecido más asociaciones, particularmente en torno a lentes de realidad aumentada y proveedores de servicios de marketing. Si bien es una manera fácil de brindar más entretenimiento y herramientas de expresión creativa, las integraciones de los desarrolladores también obligan a las empresas a confiar en la calidad y la seguridad de las cosas que no controlan por completo. A medida que Instagram y Snapchat compiten por usuarios de todo el mundo, tendrán que sopesar los riesgos y las recompensas de permitir que los desarrolladores entren en sus jardines.
La declaración completa de GIPHY se encuentra a continuación.
CAMBIOS EN LA MODERACIÓN DE STICKERS DE GIPHY
Antes de entrar en detalles, queremos tomarnos un momento y disculparnos sinceramente por el
pegatina profundamente ofensiva descubierta por un usuario el 8 de marzo de 2018. Para cualquier persona afectada:
lo lamentamos. Asumimos toda la responsabilidad por este evento reciente y bajo ninguna circunstancia
GIPHY aprueba o apoya este tipo de contenido.
El contenido se eliminó de inmediato y, después de una investigación, se encontró un error en nuestro contenido.
filtros de moderación que afectan a las pegatinas. Este error se solucionó de inmediato y todas las pegatinas se volvieron a colocar.
moderado
También hemos terminado una investigación completa sobre nuestros sistemas y procesos de moderación de contenido.
y hemos realizado cambios específicos en nuestro proceso para garantizar que algo así no suceda
de nuevo.
LOS CAMBIOS
Después de corregir el error en nuestros filtros de moderación de contenido y confirmar que la etiqueta fue
detectado con éxito, volvimos a moderar toda nuestra biblioteca de pegatinas 4x.
También hemos agregado otro nivel de moderación GIPHY antes de que se apruebe cada pegatina en
la biblioteca. Esta es ahora una adición permanente a nuestro proceso de moderación.
Esperamos que esto asegure que las pegatinas GIPHY siempre sean divertidas y seguras sin importar dónde estés.
verlos.
EL FUTURO Y MÁS ALLÁ
Se supone que los GIF y las pegatinas hacen de Internet un lugar mejor y más entretenido.
GIPHY se compromete a asegurarse de que siempre sea así. A medida que GIPHY continúa creciendo, estamos
vamos a seguir buscando maneras de mejorar nuestra experiencia de usuario. Por favor, háganos saber cómo
puede ayudar en: support@giphy.com.
Equipo Giphy.
Source link