El guardián de datos de salud del Reino Unido, National Data Guardian (NDG), ha publicado correspondencia entre su oficina y el guardián de privacidad nacional que informó el hallazgo de ICO en 2017 de que un acuerdo de intercambio de datos entre un NHS Trust y DeepMind propiedad de Google violó la ley .
El intercambio fue publicado luego de una solicitud de Libertad de Información por parte de TechCrunch.
En el otoño de 2015, Royal Free NHS Trust y DeepMind firmaron un acuerdo para compartir datos en el que los registros médicos de 1,6 millones de personas pasaron silenciosamente a la compañía de IA sin que se les pidiera su consentimiento a los pacientes.
El alcance del acuerdo de intercambio de datos, aparentemente para desarrollar una aplicación de gestión de tareas clínicas, solo fue revelado por el periodismo de investigación. Eso desencadenó el escrutinio regulatorio, y la eventual conclusión de la ICO de que no había base legal para que los datos se transfirieran en primer lugar.
A pesar de eso, la aplicación en cuestión, Streams, que no contiene (actualmente) ninguna IA pero utiliza un algoritmo del NHS para detectar daño renal agudo, ha seguido utilizándose en los hospitales del NHS.
DeepMind también anunció desde entonces que planea transferir su división de salud a Google. Aunque, hasta donde sabemos, aún no hay fideicomisos del NHS que hayan firmado nuevos contratos para Streams con el gigante publicitario.
Paralelamente a la publicación de su correspondencia histórica con el ICO, Dame Fiona Caldicott, NDG, escribió una publicación en el blog en la que expresa una posición reguladora clara de que las "expectativas razonables" de los pacientes deben regir los usos de la atención no directa para los datos de salud de las personas. – en lugar de que los proveedores de atención médica dependan de si los médicos piensan que desarrollar una aplicación de este tipo es una gran idea.
El ICO había pedido orientación al NDG sobre cómo aplicar el deber de confidencialidad del derecho consuetudinario, como parte de su investigación sobre el acuerdo de intercambio de datos del Royal Free NHS Trust con DeepMind for Streams.
En una auditoría posterior de Streams que fue requerida por el regulador, el bufete de abogados del fideicomiso, Linklaters, argumentó que una decisión sobre si se ha incumplido un deber de confidencialidad debe juzgarse desde el punto de vista de la conciencia del clínico, en lugar de expectativas razonables del paciente.
Caldicott escribe que ella está firmemente en desacuerdo con ese "argumento clave".
"Es mi firme opinión que la perspectiva del paciente es lo más importante cuando se hacen juicios sobre el uso de su información confidencial. Mi carta al Comisionado de Información expone mis pensamientos sobre este asunto con cierto detalle ”, dice ella, impresionando la necesidad de innovación sanitaria para respetar la confianza de los pacientes y el público.
“Defiendo tecnologías innovadoras y nuevos tratamientos que funcionan con datos. La integración de los campos emergentes, como la genómica y la inteligencia artificial, es muy prometedora y cambiará enormemente la cara de la medicina para pacientes y profesionales de la salud … Pero mi creencia en la innovación se combina con una creencia igualmente fuerte de que estos avances deben introducirse de una manera que respeta la confidencialidad de las personas y no ofrece sorpresas sobre cómo se utilizan sus datos. En otras palabras, se deben cumplir las expectativas razonables del público ".
"Las expectativas razonables de los pacientes son la piedra angular del deber de confianza del derecho consuetudinario", agrega. “Los proveedores que están introduciendo nuevas tecnologías basadas en datos, o se asocian con terceros para ayudar a desarrollarlas y probarlas, han pedido una guía más clara sobre el respeto de la protección de datos y la confidencialidad. Tengo la intención de trabajar con el Comisionado de Información y otros para mejorar el asesoramiento disponible para que la innovación pueda llevarse a cabo de manera segura: de conformidad con la ley común y las expectativas razonables de los pacientes.
"El Guardián Nacional de Datos actualmente está apoyando a la Autoridad de Investigación en Salud para aclarar y actualizar la orientación sobre el uso legal de los datos del paciente en el desarrollo de tecnologías de atención médica".
Nos comunicamos con Royal Free NHS Trust y DeepMind para comentar la opinión del NDG. Al momento de escribir esto ninguno había respondido.
Paralelamente, Bloomberg informó esta semana que el cofundador de DeepMind, Mustafa Suleyman, se encuentra actualmente con licencia de la compañía. (Suleyman tiene desde tuiteado que el descanso es temporal y por razones "personales", para "recargar", y que "espera volver pronto a la silla de montar en DeepMind").
La compañía de investigación de IA recientemente promocionó lo que consideró como un "avance" en la atención médica predictiva, diciendo que había desarrollado un modelo de IA para predecir la misma condición que la aplicación Streams pretende alertar. Aunque el modelo se construyó utilizando datos estadounidenses del Departamento de Asuntos de Veteranos que sesga abrumadoramente a los hombres.
Como escribimos en ese momento, el episodio subraya el valor potencial encerrado en los datos del NHS, que ofrece datos clínicos a nivel de población que el NHS podría usar para desarrollar sus propios modelos de IA. De hecho, una revisión del sector de ciencias de la vida encargada por el gobierno en 2017 solicitó una estrategia para "capturar para el Reino Unido el valor de los algoritmos generados con datos del NHS".
El gobierno del Reino Unido también está impulsando un enfoque de "tecnología primero" para la prestación de servicios del NHS.
A principios de este mes, el gobierno anunció que redirigirá £ 250 millones en fondos públicos para que el NHS establezca un laboratorio de inteligencia artificial que trabajará para expandir el uso de tecnologías de inteligencia artificial dentro del servicio.
El otoño pasado, el secretario de salud, Matt Hancock, expuso su primera visión tecnológica de la provisión de atención médica futura, diciendo que quería aplicaciones y servicios de "tecnología de salud" para apoyar la "atención preventiva, predictiva y personalizada".
Por lo tanto, ciertamente hay crecientes oportunidades para desarrollar soluciones de atención médica digital para apoyar el Servicio Nacional de Salud del Reino Unido.
Además de, ahora, una guía normativa más clara de que el desarrollo de aplicaciones que quiere estar informado por los datos del paciente primero debe ganarse la confianza de las personas a las que espera servir.