DeepMind touts predictive healthcare AI ‘breakthrough’ trained on heavily skewed data

Google se enfrenta a una nueva demanda colectiva en el Reino Unido por el escándalo de datos de pacientes de DeepMind NHS

Google se enfrenta a una nueva demanda de estilo de acción de clase en el Reino Unido en relación con un escándalo de datos de salud que estalló en 2016, cuando se supo que su división de IA, DeepMind, había pasado datos de más de un millón de pacientes como parte de un proyecto de desarrollo de aplicaciones del Royal Free NHS Trust en Londres, sin el conocimiento o consentimiento de los pacientes.

Posteriormente, el Trust fue sancionado por el organismo de control de protección de datos del Reino Unido que descubrió, a mediados de 2017, que había infringido la ley de protección de datos del Reino Unido cuando firmó el acuerdo de intercambio de datos de 2015 con DeepMind. Sin embargo, la empresa de tecnología, que había sido contratada por Trust para ayudar a desarrollar un contenedor de aplicaciones para un algoritmo del NHS para alertar a los médicos sobre los primeros signos de lesión renal aguda (también conocida como la aplicación Streams), evitó la sanción ya que Trust había sido directamente responsable de enviándole los datos de los pacientes.

Por lo tanto, es interesante que este litigio privado tenga como objetivo a Google y DeepMind Technologies, varios años después. (Sin embargo, si prevalece una reclamación por daños y perjuicios contra una de las empresas más valiosas del mundo, es probable que haya muchas más ventajas que los litigios dirigidos a un fideicomiso de atención médica financiado con fondos públicos).

Mishcon de Reya, el bufete de abogados que ha sido contratado para representar al único reclamante nombrado, un hombre llamado Andrew Prismall, quien dice que presenta la demanda en nombre de aproximadamente 1,6 millones de personas cuyos registros se pasaron a DeepMind, dijo que el litigio buscará daños y perjuicios por uso ilegal de los registros médicos confidenciales de los pacientes. La demanda se presenta ante el Tribunal Superior de Justicia de Inglaterra y Gales.

El bufete de abogados también confirmó que Royal Free no está siendo demandado.

“El reclamo es por uso indebido de información privada por parte de Google y DeepMind. Esto está bajo el derecho consuetudinario”, nos dijo una vocera del Mishcon de Reya. “También podemos confirmar que se trata de una reclamación por daños y perjuicios”.

Un reclamo similar, anunciado en septiembre pasado, fue descontinuado, según la portavoz, quien confirmó: “Este es un nuevo reclamo por el mal uso de la información privada”.

En una declaración sobre por qué está demandando a Google/DeepMind, Prismall dijo: “Espero que este caso pueda lograr un resultado justo y un cierre para los muchos pacientes cuyos registros confidenciales fueron, sin el conocimiento de los pacientes, obtenidos y utilizados por estas grandes empresas tecnológicas. .”

“Esta afirmación es particularmente importante ya que debería proporcionar una claridad muy necesaria en cuanto a los parámetros adecuados en los que las empresas de tecnología pueden acceder y hacer uso de la información de salud privada”, agregó Ben Lasserson, socio de Mishcon de Reya, en otro el apoyo a la declaración.

La firma señala que el litigio está siendo financiado por un acuerdo de financiación de litigios con Litigation Capital Management Ltduna entidad con sede en Sydney, Australia, que describe como un administrador de activos alternativo que se especializa en soluciones de financiamiento de disputas a nivel internacional.

Se contactó a Google para comentar sobre el nuevo traje, pero al momento de escribir este artículo, el gigante de la tecnología publicitaria no había respondido.

Ha habido una aceptación de los litigios de estilo de acción de clase dirigidos a los gigantes tecnológicos por el mal uso de los datos en Europa, aunque algunos se han centrado en tratar de presentar reclamaciones en virtud de la ley de protección de datos.

Uno de esos casos, una demanda colectiva de consumidores de larga duración en el Reino Unido contra Google relacionada con una anulación histórica de la configuración de privacidad de los usuarios de Safari, fracasó en la Corte Suprema del Reino Unido el año pasado. Sin embargo, Prismall (ahora) está demandando por daños y perjuicios bajo el derecho consuetudinario por uso indebido de información privada, por lo que el fracaso de ese caso anterior en el Reino Unido no tiene necesariamente una gran relevancia aquí.

Sin embargo, parece explicar por qué se descontinuó la demanda anterior y se presentó una nueva. “Es correcto que el reclamo anterior se presentó sobre la base de una violación de la Ley de Protección de Datos y el nuevo reclamo se presenta por un uso indebido de información privada”, nos dijo la portavoz de Mishcon de Reya cuando le preguntamos sobre esto.

Si bien el escándalo de datos de pacientes de DeepMind NHS puede parecer una noticia (muy) antigua, hubo muchas críticas a la respuesta regulatoria en ese momento, ya que el Trust en sí no enfrentó nada más que daños a la reputación.

Por ejemplo, no se le ordenó decirle a DeepMind que eliminara los datos del paciente, y DeepMind pudo continuar firmando acuerdos con otros NHS Trusts para implementar la aplicación a pesar de que se desarrolló sin una base legal válida para usar los datos del paciente en El primer lugar.

Y aunque DeepMind se defendió de las preocupaciones de privacidad relacionadas con su matriz de tecnología publicitaria Google, alegando que esta última no tendría acceso a los datos médicos confidenciales después de que estalló el escándalo, posteriormente entregó su división de salud a Google, en 2018, lo que significa que el gigante de la tecnología publicitaria asumió directamente la función de suministrar y respaldar la aplicación para NHS Trusts y procesar los datos de los pacientes… (Lo cual puede ser la razón por la cual tanto Google como DeepMind Technologies se mencionan en la demanda).

También estaba la cuestión del memorando de entendimiento firmado entre DeepMind y Royal Free, que establecía un plan de cinco años para construir modelos de IA utilizando datos de pacientes del NHS. Aunque DeepMind siempre afirmó que no se habían procesado datos de pacientes para IA.

En un giro adicional a la saga el verano pasado, Google anunció que cerraría la aplicación Streams, que, en ese momento, todavía estaba siendo utilizada por Royal Free NHS Trust. The Trust afirmó que continuaría usando la aplicación a pesar de que Google anunció su intención de desmantelarla, lo que planteó dudas sobre la seguridad de los datos del paciente una vez que Google retiró el soporte (por ejemplo, parches de seguridad).

Si bien es posible que el gigante tecnológico haya esperado dejar atrás toda la saga cerrando silenciosamente Streams, ahora tendrá que defenderse en los tribunales, generando nueva publicidad para el escándalo de uso indebido de datos del NHS de 2015, u ofrecer un acuerdo para hacer que el el traje se va tranquilamente. (Y los financiadores de litigios, presumiblemente, están olfateando suficientes oportunidades de cualquier manera).

La reacción contra los gigantes tecnológicos que dominan el mercado continúa alimentando otros tipos de demandas colectivas. A principios de este año, por ejemplo, se inició una demanda importante contra la matriz de Facebook, Meta, en busca de miles de millones en daños por presunto abuso de la ley de competencia del Reino Unido. Pero el jurado está deliberando sobre qué, o si, prevalecerán las acciones representativas dirigidas a los hábitos de procesamiento de datos de los gigantes tecnológicos.


Source link