Es comprensible que, cuando las cosas cambian tan rápido como lo hacen en estos días, nuestras ideas sobre cómo funcionan las cosas tarden un poco en ponerse al día con la forma en que realmente funcionan. Un malentendido que vale la pena aclarar, ya que es muy sensible, es la sugerencia de que Apple (o Google, o quien sea) está en algún lugar manteniendo una carpeta especial en la que se guardan todas tus fotos traviesas. Tienes razón en sospechar, pero afortunadamente, no es así como funciona.
Lo que estas empresas están haciendo, de una forma u otra, es analizar tus fotos en busca de contenido. Usan sofisticados algoritmos de reconocimiento de imágenes que pueden reconocer fácilmente cualquier cosa, desde perros y botes hasta rostros y acciones.
Cuando se detecta un perro, se agrega una etiqueta de “perro” a los metadatos que el servicio rastrea en relación con esa foto, junto con cosas como cuándo tomó la foto, su configuración de exposición, ubicación, etc. Es un proceso de muy bajo nivel: el sistema en realidad no sabe qué es un perro, solo las fotos con ciertos números asociados (correspondientes a varias características visuales) obtienen esa etiqueta. Pero ahora puedes buscar esas cosas y puede encontrarlas fácilmente.
Este análisis generalmente ocurre dentro de una caja de arena, y muy poco de lo que determinan los sistemas se hace fuera de esa caja de arena. Hay excepciones especiales, por supuesto, para cosas como la pornografía infantil, para las cuales se han creado clasificadores muy especiales y que están específicamente autorizados para llegar fuera de la caja de arena.
Antes, el sandbox necesitaba ser lo suficientemente grande como para abarcar un servicio web; solo se etiquetaban las fotos con su contenido si las subía a Google Photos, iCloud o lo que sea. Ese ya no es el caso.
Debido a las mejoras en los mundos del aprendizaje automático y la potencia de procesamiento, los mismos algoritmos que alguna vez tuvieron que vivir en granjas de servidores gigantes ahora son lo suficientemente eficientes como para ejecutarse directamente en su teléfono. Así que ahora sus fotos obtienen la etiqueta de “perro” sin tener que enviarlas a Apple o Google para su análisis.
Podría decirse que este es un sistema mucho mejor en términos de seguridad y privacidad: ya no está utilizando el hardware de otra persona para examinar sus datos privados y confiar en ellos para mantenerlos privados. Aún debe confiar en ellos, pero hay menos partes y pasos en los que confiar: una simplificación y un acortamiento de la “cadena de confianza”.
Pero expresar esto a los usuarios puede ser difícil. Lo que ven es que sus fotos privadas, quizás muy privadas, han sido clasificadas y clasificadas sin su consentimiento. Es un poco difícil de creer que esto sea posible sin una empresa metiendo la nariz allí.
Estoy en una “caja de cartón” a la derecha, al parecer.
Parte de eso es culpa de la interfaz de usuario. Cuando busca en la aplicación Fotos en iPhone, muestra lo que buscó (si existe) como una “categoría”. Eso sugiere que las fotos están “en” una “carpeta” en algún lugar del teléfono, presumiblemente etiquetadas como “automóvil” o “traje de baño” o lo que sea. Lo que tenemos aquí es una falla en comunicar cómo funciona realmente la búsqueda.
La limitación de estos algoritmos de clasificación de fotos es que no son particularmente flexibles. Puede entrenar a uno para que reconozca los 500 objetos más comunes que se ven en las fotos, pero si su foto no tiene uno de esos, no se etiqueta en absoluto. Las “categorías” que ve en la lista cuando busca son aquellos objetos comunes que los sistemas están entrenados para buscar. Como se señaló anteriormente, es un proceso bastante aproximado, en realidad solo un nivel de confianza de umbral de que algún objeto está en la imagen. (En la imagen de arriba, por ejemplo, la imagen mía en una cámara anecoica estaba etiquetada como “cartón”, ¿supongo que porque las paredes parecen cartones de leche?)
Todo el asunto de las “carpetas” y la mayoría de las ideas sobre cómo se almacenan los archivos en los sistemas informáticos de hoy son anacrónicas. Pero aquellos de nosotros que crecimos con el sistema de carpetas anidadas estilo escritorio a menudo todavía pensamos de esa manera, y es difícil pensar en un contenedor de fotos como algo más que una carpeta, pero las carpetas tienen ciertas connotaciones de creación, acceso y administración. que no se aplican aquí.
Tus fotos no se colocan en un contenedor con la etiqueta “traje de baño”, solo se compara el texto que escribiste en el cuadro con el texto en los metadatos de la foto, y si se detectaron trajes de baño, enumera esas fotos.
Esto no significa que las empresas en cuestión estén completamente exentas de todo cuestionamiento. Por ejemplo, ¿qué objetos y categorías buscan estos servicios, qué se excluye y por qué? ¿Cómo se entrenaron sus clasificadores? ¿Son igualmente efectivos en, por ejemplo, personas con diferentes colores de piel o géneros? ¿Cómo controlas o desactivas esta función? Si no puedes, ¿por qué no?
Afortunadamente, me he puesto en contacto con varias de las empresas tecnológicas líderes para hacer algunas de estas mismas preguntas y detallaré sus respuestas en una próxima publicación.
Source link