La reciente incursión de DeepMind en la provisión de software como servicio a los hospitales del Reino Unido ha llegado al final de su carrera.
La división de inteligencia artificial, propiedad de Google, acaba de anunciar que dejará de proporcionar alertas clínicas y una aplicación de atención médica de gestión de tareas para centrarse en la investigación, entregando el equipo que realiza la entrega diaria de las transmisiones a su matriz, Google.
Ha sido un viaje fenomenal ver a Streams pasar de la idea inicial a la implementación en vivo, y escuchar cómo ha ayudado a cambiar la vida de los pacientes, las enfermeras y los médicos que los tratan. https://t.co/rTcFMebuFp
– Mustafa Suleyman (@mustafasuleymn) 13 de noviembre de 2018
Anunciando la mudanza en un entrada en el blog titulado “Escalar Streams con Google”, escriben los cofundadores de DeepMind: “Nuestra visión es que Streams se convierta ahora en un asistente con tecnología de inteligencia artificial para enfermeras y médicos de todo el mundo, combinando los mejores algoritmos con un diseño intuitivo, todo respaldado por pruebas rigurosas. El equipo que trabaja en Google, junto con colegas brillantes de toda la organización, ayudará a hacer realidad esta visión “.
La zambullida de DeepMind en 2015 en el espacio de las aplicaciones de salud siempre pareció una salida curiosa para un especialista en inteligencia artificial porque, a pesar de la cita anterior, la aplicación Streams no usa ninguna inteligencia artificial.
Más bien, utiliza un algoritmo del Servicio Nacional de Salud. El diseño de la aplicación también se subcontrató a un estudio de aplicaciones con sede en el Reino Unido.
Sin embargo, DeepMind comenzó su incursión en la salud con grandes ambiciones de aplicar IA a los datos de los pacientes, firmando silenciosamente un acuerdo expansivo para compartir datos más un memorando de entendimiento con un NHS Trust para obtener acceso a millones de registros médicos completos (y totalmente identificables) de pacientes. como informamos en ese momento.
También hizo una solicitud de ética en 2015 con la Autoridad de Investigación Sanitaria del NHS para aplicar IA a los datos del paciente. A través de más tarde dijo Rápidamente se dio cuenta de que los “problemas más urgentes” de los médicos eran más fundamentales que una necesidad imperiosa de apresurarse a realizar experimentos con IA. (Y DeepMind siempre ha sostenido que los datos de los pacientes que obtuvo en virtud de su acuerdo con Royal Free NHS Trust, con quien se desarrolló conjuntamente la aplicación Streams, nunca se utilizaron para IA).
El proyecto Streams se enfrentó a una gran controversia en mayo de 2016 cuando surgieron detalles más completos sobre el alcance y los términos del intercambio de datos que sustenta la aplicación, y se comenzaron a hacer preguntas sobre el debido proceso de gobernanza de datos, las bases legales para el intercambio de datos y el papel y el potencial de Google. interés en los registros médicos de las personas.
Después de un año, el acuerdo inicial de intercambio de datos entre DeepMind y Royal Free fue descartado y reemplazado por un contrato más estricto. (Usted puede descargue una versión redactada del contrato publicado por DeepMind aquí.)
Luego, el año pasado, el organismo de control de protección de datos del Reino Unido dictaminó que el primer acuerdo había violado la ley del Reino Unido, y el comisionado de información dijo que los pacientes “no hubieran esperado razonablemente” que sus registros médicos confidenciales se usaran para desarrollar una aplicación.
Aunque para entonces la aplicación Streams ya se había implementado en los hospitales Royal Free. Y DeepMind había firmado algunos acuerdos más con NHS Trusts para usar la aplicación.
También se supo que DeepMind estaba proporcionando Streams to Trusts de forma esencialmente gratuita durante los primeros cinco años. Y un panel de revisores externos contratados por DeepMind con el objetivo de impulsar la confianza advirtió en su revisión anual a principios de este año del riesgo de que “ejerza[ing] poder de monopolio excesivo ”como resultado de una infraestructura de transmisión y acceso a datos incluida con la aplicación Streams.
Todo el episodio abrió una caja de Pandora de problemas de gobernanza de datos, privacidad y confianza, que DeepMind ahora parece estar volcando directamente a Google, que ahora estará completamente en el marco como proveedor de aplicaciones de salud (y manejador de datos de pacientes) detrás de Streams.
“El equipo de Streams permanecerá en Londres, bajo el liderazgo del ex cirujano e investigador del NHS, el Dr. Dominic King”, escriben ahora los cofundadores de DeepMind. “Estamos totalmente comprometidos con todos nuestros socios del NHS y con el cumplimiento de nuestros proyectos actuales y más. Trabajaremos en estrecha colaboración con ellos mientras planificamos la transición del equipo, y la gobernanza de la información y la seguridad siguen siendo nuestras principales prioridades. Los datos de los pacientes permanecen bajo el estricto control de nuestros socios, y todas las decisiones sobre su uso seguirán recayendo en ellos “.
Añaden que el papel de DeepMind de ahora en adelante se centrará en la investigación, en lugar de software como servicio, diciendo: “Como organización de investigación, DeepMind continuará trabajando en la investigación de salud fundamental con socios en el mundo académico, el NHS y más. Cuando tengamos resultados prometedores que puedan tener un impacto a gran escala, trabajaremos en estrecha colaboración con Streams y los equipos de investigación traslacional de Google sobre cómo implementar ideas de investigación en entornos clínicos “.
Por lo tanto, Google deberá implementar y escalar la provisión de cualquier IA de salud que DeepMind desarrolle en el futuro. (Y en el frente de la escala, Google podría sentirse animado por el nuevo ministro de salud del Reino Unido que es muy pro-aplicación).
Al igual que la tarea de ganarse la confianza de los pacientes, que bien puede resultar el mayor desafío aquí.
El problema de la confianza también fue señalado por los revisores independientes de DeepMind el año pasado, cuando escribieron en su informe anual: “Por lo que podemos determinar, DMH [DeepMind Health] no comparte sus datos con Google, pero la percepción pública de que este podría ser el caso, ahora o en el futuro, será difícil de superar y tiene el potencial de retrasar o socavar el trabajo que podría ser de gran beneficio potencial para los pacientes “.
No está claro si Google contratará un panel de revisores independientes para supervisar su provisión de Streams en el futuro, como lo había hecho DeepMind. Le hemos pedido a la empresa que confirme su intención con respecto a la supervisión.
Actualizar: Un portavoz ahora nos ha dicho: “El Panel de Revisores Independientes era una estructura de gobierno para DeepMind Health como entidad del Reino Unido. Ahora Streams formará parte de un esfuerzo global, es poco probable que esta sea la estructura adecuada en el futuro “.