Duplex de Google, que llama a las empresas en su nombre e imita a un ser humano real, ums y ahs incluidos, ha generado cierta controversia entre los defensores de la privacidad. ¿Google no viola la ley de consentimiento de dos partes al grabar la voz de una persona y enviarla a un centro de datos para su análisis, que requiere que todos en una conversación acepten ser grabados? La respuesta no es clara de inmediato, y el silencio de Google no ayuda.
Tomemos como ejemplo la ley de California, ya que ese es el estado donde Google tiene su sede y donde usó el sistema. Código Penal artículo 632 prohíbe grabar cualquier “comunicación confidencial” (definida más o menos como cualquier conversación no pública) sin el consentimiento de todas las partes. (El Comité de Reporteros por la Libertad de Prensa tiene una buena guía estado por estado a estas leyes).
Google ha proporcionado muy pocos detalles sobre cómo funciona realmente Duplex, por lo que intentar responder a esta pregunta implica una cierta cantidad de especulación informada.
Para empezar, voy a considerar todas las llamadas telefónicas como “confidenciales” a los efectos de la ley. Lo que constituye una expectativa razonable de privacidad está lejos de resolverse, y algunos dirán que no existe tal expectativa al programar una cita con un salón. Pero, ¿qué pasa con el consultorio de un médico o si necesita dar detalles personales por teléfono? Si bien algunos casos extremos pueden calificarse como públicos, es más simple y seguro (para nosotros y para Google) tratar todas las conversaciones telefónicas como confidenciales.
Como segunda suposición, parece claro que, como la mayoría de los servicios de Google, el trabajo de Duplex se lleva a cabo en un centro de datos en algún lugar, no localmente en su dispositivo. Básicamente, existe un requisito en el sistema de que el audio de la otra parte se grabe y se envíe de alguna forma a ese centro de datos para su procesamiento, momento en el cual se formula y habla una respuesta.
A primera vista suena mal para Google. No hay forma de que el sistema obtenga el consentimiento de quien conteste el teléfono. Eso estropearía toda la interacción: “Esta llamada está siendo realizada por un sistema de Google que utiliza reconocimiento y síntesis de voz; su voz será analizada en los centros de datos de Google. Presione 1 o diga ‘Acepto’ para dar su consentimiento”. Habría colgado después de unas dos palabras. La idea es enmascarar el hecho de que es un sistema de inteligencia artificial, por lo que obtener el consentimiento de esa manera no funcionará.
Pero hay margen de maniobra en cuanto al requisito de consentimiento en cómo se graba, transmite y almacena el audio. Después de todo, existen sistemas que pueden tener que almacenar temporalmente una grabación de la voz de una persona sin su consentimiento; piense en una llamada de VoIP que almacena audio en caché durante una fracción de segundo en caso de pérdida de paquetes. Incluso hay un recorte específico en la ley para los audífonos, que si lo piensa, de hecho “graba” conversaciones privadas. Las copias temporales producidas como parte de un servicio legal y benéfico no son objeto de esta ley.
Esto se debe en parte a que la ley trata de prevenir las escuchas telefónicas y las escuchas telefónicas, y no impide ninguna representación grabada de una conversación que no esté explícitamente autorizada. La intención legislativa es importante.
“Hay un poco de incertidumbre legal allí, en el sentido de qué grado de permanencia se requiere para constituir escuchas ilegales”, dijo Mason Kortz, de la Universidad de Harvard. Centro Berkman Klein para Internet & Sociedad. “La gran pregunta es qué se envía al centro de datos y cómo se retiene. Si se mantiene en la condición de que la conversación original sea comprensible, eso es una violación”.
Por ejemplo, es posible que Google guarde una grabación de la llamada, tal vez con fines de capacitación de IA, tal vez para garantizar la calidad, tal vez para los propios registros de los usuarios (en caso de disputa de horario en el salón, por ejemplo). Retienen otros datos a lo largo de estas líneas.
Pero sería una tontería. Google tiene un ejército de abogados y el consentimiento habría sido una de las primeras cosas que abordaron en la implementación de Duplex. Para las demostraciones en el escenario, sería bastante simple obtener el consentimiento proactivo de las empresas con las que se iban a comunicar. Pero para el uso real por parte de los consumidores, el sistema debe diseñarse teniendo en cuenta la ley.
¿Cómo sería un dúplex funcional pero legal? La conversación probablemente tendría que ser deconstruida y descartada de forma permanente inmediatamente después de la entrada, de la misma manera que el audio se almacena en caché en un dispositivo como un audífono o un servicio como la transmisión de voz digital.
Un ejemplo más cercano de esto es Amazon, que podría haber violado COPPA, una ley que protege los datos de los niños, cada vez que un niño le pide a un Echo que toque una canción de Raffi o que haga una división larga. La FTC decidió que mientras Amazon y las empresas en esa posición conviertan inmediatamente los datos en texto y luego los eliminen, no hay daño y, por lo tanto, no hay violación. Eso no es un análogo exacto al sistema de Google, pero no obstante es instructivo.
“Con un diseño cuidadoso, puede ser posible extraer las funciones que necesita sin conservar el original, de una manera en la que es matemáticamente imposible recrear la grabación”, dijo Kortz.
Si ese proceso es verificable y no hay posibilidad de espionaje (no hay posibilidad de que ningún empleado de Google, oficial de la ley o pirata informático pueda ingresar al sistema e interceptar o recopilar esos datos), entonces, potencialmente, Duplex podría considerarse una grabación transitoria benigna en el ojo del ley.
Sin embargo, eso supone mucho. Frustrantemente, Google podría aclarar esto con una oración o dos. Es sospechoso que la compañía no haya abordado esta pregunta obvia ni siquiera con una sola frase, como Sundar Pichai agregó durante la presentación que “sí, cumplimos con las leyes de consentimiento de grabación”. En lugar de que la gente se pregunte si, se preguntarán cómo. Y, por supuesto, todos todavía nos estaríamos preguntando por qué.
Nos comunicamos con Google varias veces sobre varios aspectos de esta historia, pero para una empresa con productos tan habladores, seguro que se callaron rápidamente.
Source link