Las reseñas de los usuarios de la función “Mi IA” de Snapchat están disponibles, y no son buenas. Lanzado la semana pasada para usuarios globales después de ser inicialmente una adición solo para suscriptores, el nuevo chatbot de IA de Snapchat impulsado por la tecnología GPT de OpenAI ahora está anclado en la parte superior de la pestaña Chat de la aplicación, donde los usuarios pueden hacer preguntas y obtener respuestas instantáneas. Pero luego de la implementación del chatbot en la comunidad más amplia de Snapchat, la aplicación de Snapchat ha visto un aumento en las críticas negativas en medio de un número creciente de quejas compartidas en las redes sociales.
Durante la semana pasada, la revisión promedio de la tienda de aplicaciones de EE. UU. de Snapchat fue de 1.67, y el 75% de las revisiones fueron de 1 estrella, según datos de la firma de inteligencia de aplicaciones. Torre de sensores. A modo de comparación, durante el primer trimestre de 2023, la revisión promedio de la tienda de aplicaciones de EE. UU. de Snapchat fue de 3.05 con solo el 35% de las revisiones con 1 estrella.
La cantidad de revisiones diarias también aumentó 5 veces durante la última semana, señaló la firma.
Otro proveedor de datos de aplicaciones, Apptopia, reporta una tendencia similar. Su análisis muestra que “IA” fue la palabra clave principal en las reseñas de la App Store de Snapchat durante los últimos siete días, donde se mencionó 2973 veces. La firma le ha dado al término una calificación de “Puntuación de impacto” de -9.2. Este Impact Score es un índice ponderado que mide el efecto que tiene un término en el sentimiento y varía de -10 a +10.
Apptopia también dijo que Snapchat recibió alrededor de 3 veces más calificaciones de 1 estrella de lo habitual el 20 de abril de 2023. Ese fue el día después de que se anunciara el lanzamiento global de My AI.
Ahora, la cantidad de reseñas de 1 estrella está comenzando a disminuir un poco, pero aún se mantienen elevadas.
Créditos de imagen: Apptopia (análisis de las calificaciones de la aplicación Snapchat)
La reacción violenta contra My AI de Snapchat llega en un momento en que la exageración en torno a la IA está en un punto de inflexión. Las empresas están sopesando cómo integrar la IA en sus negocios, no si deberían hacerlo.
Para Snap, la adición de un bot conversacional de IA a su aplicación social habría sido una decisión inteligente, ya que docenas de aplicaciones de bots conversacionales de IA están llenando las tiendas de aplicaciones, recaudando millones de dólares, una señal que podría interpretarse fácilmente para indicar la creciente demanda de los consumidores de experiencias de chat de IA social.
Pero muchos usuarios de Snapchat no están encantados con My AI, que apareció dentro de su aplicación sin previo aviso ni su consentimiento.
Créditos de imagen: Captura de pantalla de Snapchat
Hasta cierto punto, es la ubicación del chatbot la causa de la preocupación.
Mi IA está anclada en la parte superior de las noticias de chat de los usuarios dentro de la aplicación y no se puede desanclar, bloquear ni eliminar, como sí se puede hacer con otras conversaciones. Este feed es donde los usuarios de Snapchat tienen interacciones regulares con amigos y no es necesariamente un lugar en el que quieran jugar con funciones experimentales. Además, Snapchat ya tiene una presencia establecida en este feed con sus propios chats de “Equipo Snapchat”, y ahora está duplicando el espacio de pantalla que quiere ocupar, o, al menos, así es como lo ven algunos usuarios.
No es difícil encontrar quejas sobre la función My AI en las redes sociales. Una simple búsqueda de “Mi IA” en Twitter, por ejemplo, revelará numerosos resultados. Los usuarios también comparten sus quejas con Snapchat directamente.
Después de anunciar el nuevo chatbot en un tuit la semana pasada, durante el evento Partner Summit de Snap, los usuarios tomaron las respuestas para citar sus quejas.
¿Podemos tener la opción de eliminarlo? Preguntando por la mayoría de nosotros que no solicitamos esta característica
— ¿Bebé, Tré fue? (@tremcleod_) 19 de abril de 2023
En docenas de respuestas al tweet de Snap, los usuarios analizan completamente el bot de IA. Dicen que debería ser solo opcional o que se les debería dar la opción de eliminarlo, en lugar de que se les obligue. Algunos usuarios están tan molestos que incluso amenazan con salir de Snapchat por esto y eliminar la aplicación por completo.
Muchos también están rechazando el hecho de que eliminar My AI de su feed de Chat requiere una suscripción a Snapchat+. De acuerdo a Documentación propia de Snaplos suscriptores de Snapchat+ recibirán acceso anticipado a las nuevas funciones de My AI y tendrán la capacidad de desanclar My AI o eliminarlo de sus chats.
Esto enoja a las personas que ahora sienten que se ven obligadas a pagar a Snapchat después de que arruinó su aplicación con una función no deseada.
Los usuarios no solo encuentran la función de IA invasiva, sino que también la encuentran espeluznante.
Se sorprenden al saber que la IA de Snapchat conoce su ubicación, por ejemplo, y puede usar esa información en sus respuestas, incluso si no comparten su ubicación en el mapa de Snap.
En cierto modo, el bot de IA está superando el nivel de recopilación de datos personales que las empresas de redes sociales realizan en segundo plano y poniéndolo directamente frente al consumidor. Resulta que ese no es un gran punto de venta cuando los usuarios no sienten que han optado específicamente por compartir esos datos con la IA.
Esto habla de un debate más amplio que ahora tiene lugar en torno a la IA, ya que las personas se están dando cuenta del hecho de que son nuestros propios datos y nuestro trabajo en la creación de información para la web lo que ha permitido que estos sistemas de IA existan en primer lugar. Las IA modernas están entrenadas en grandes fuentes de datos, incluidas aquellas para las que tienen licencia, pero también en datos disponibles públicamente en Internet y nuestra información personal.
Además, My AI de Snapchat ya había sido objeto de serias preocupaciones antes de su lanzamiento público.
Si bien está disponible como una función solo para suscriptores, El Washington Post informó el bot estaba respondiendo de una manera insegura. Después de decirle al bot que el usuario tenía 15 años, la IA hizo sugerencias sobre cómo enmascarar el olor a alcohol y marihuana en una fiesta de cumpleaños. También escribió un ensayo para la escuela para el adolescente. Cuando se le dijo al bot que el usuario tenía 13 años, respondió a una pregunta sobre cómo establecer el estado de ánimo al tener relaciones sexuales por primera vez, informó el periódico.
Snap restó importancia a las afirmaciones en ese momento y dijo que algunas personas habían tratado de “engañar al chatbot para que proporcionara respuestas que no se ajustaban a nuestras pautas”. Sin embargo, luego implementó nuevas herramientas que incluyen filtros de edad para mantener las respuestas de IA más apropiadas para la edad, y los controles parentales prometidos estaban en camino.
Esos controles parentales aún no estaban disponibles en el momento del lanzamiento público de My AI y Snap no dio ninguna actualización sobre cuándo podrían esperarse.
A pesar de las numerosas quejas, hubo un puñado de disidentes a la reacción violenta sobre My AI.
“¿Soy el único que lo ama?” preguntó un usuario en las respuestas al tweet de Snapchat. Solo una persona les respondió, diciendo solo “yo”.
Al profundizar en el pico de críticas negativas, queda claro que las calificaciones de la aplicación de Snapchat ni siquiera cuentan la historia completa aquí.
Un gráfico de Sensor Tower, por ejemplo, muestra que las reseñas de 5 estrellas también aumentaron en los últimos días junto con las reseñas de 1 estrella en las que los usuarios se quejaban de la función My AI. Eso llevaría a uno a creer que la función de IA es divisiva, en lugar de ser ampliamente criticada.
Pero una inspección más cercana de esas reseñas de 5 estrellas indica que muchas de ellas también incluyen quejas de My AI. Por ejemplo, uno amenaza con “Deshacerse de la IA. O cambiaré mi reseña a 1 estrella. Nadie quiere IA en Snapchat”.
Créditos de imagen: Sensor Tower (análisis de las reseñas de la aplicación Snapchat)
Varias otras revisiones de 5 estrellas exigen bloquear la IA o eliminarla, llamarlo espeluznante o “basura” y, sin embargo, el usuario todavía ha calificado la aplicación con 5 estrellas. No está claro si eso se debe a un error del usuario, problemas con el análisis de la torre de sensores o algo más. En cualquier caso, algunas de estas reseñas de “5 estrellas” deben considerarse críticas o quejas negativas, en función de su comentario real.
Aún así, desplazarse por las reseñas de la App Store ordenadas por “Más recientes” muestra cuántas quejas hay. Casi todas las nuevas reseñas tienen algo que decir sobre My AI, y la mayoría no son buenas.
Snapchat se negó a comentar sobre la situación, pero señaló que los usuarios de Snapchat+ enviaron casi 2 millones de chats a la IA durante las primeras pruebas.
La compañía dice que itera constantemente en las funciones de Snapchat en función de los comentarios de la comunidad, pero no se comprometió a eliminar la IA.
En cambio, un portavoz de Snapchat dijo que si a los usuarios no les gustaba la función de IA, no tenían que usarla.