La empresa de Google, Deep Mind, llegó a un acuerdo con hospitales del Reino Unido para usar sus datos, pero esto podría ser ilegal.
Un trato entre los hospitales de Gran Bretaña y la empresa de Inteligencia Artificial de Google, Deep Mind, parecen haber llegado a un acuerdo para que esta última use los datos de sus hospitales. Pero todo esto podría ser ilegal, pues no cumple con la protección de datos estipulada por las leyes británicas. La Ofician de Información del Comisionado (ICO – Information Commissioner’s Office), quiere regular esto después de un año de investigaciones del acuerdo, en donde se ha visto a DeepMind procesar 1.6 millones de registros de pacientes que son ciudadanos británicos y que pertenecen al Royal Free Trust, un grupo de tres hospitales londinenses.
El trato se llevó a cabo originalmente en el 2015 y desde entonces se ha trabajado sobre un nuevo acuerdo que es mayor que el anterior en atribuciones. Al día de hoy DeepMind y Royal Free dijeron que los datos fueron compartidos para desarrollar una aplicación llamada Streams, la cual podría alertar a los doctores si los pacientes estuviesen en riesgo por una condición llamada daño agudo del riñón. Una investigación de New Scientist ha revelado que los términos del acuerdo fueron mucho más amplios que lo que se había implicado originalmente. DeepMind incluso ha hecho nuevos tratos para poder implementar Streams en otros hospitales del Reino Unido.
Hoy, ICO dijo que ha encontrado «un número de dificultades» con el acuerdo, particularmente con respecto a los pacientes, a los cuales no se les ha informado en el cómo se usarían sus datos personales. En un comunicado de prensa, la comisionada Elizabeth Denham, dijo que «el precio de la innovación no necesita erosionar los derechos fundamentales de la privacidad».
A los pacientes no se les preguntó su consentían tener sus datos procesados por DeepMind. La información compartida incluye detalles del sobreuso de drogas, abortos, y si los pacientes eran seropositivos. DeepMind y Royal Free argumentaron que los pacientes han dado su «consentimiento implícito» para compartir porque esta información podría ser usada para enviar «cuidados directos» a través de la app Streams.
Hoy la regulación en el tema sugieren que ambas instituciones no fueron demasiado lejos. «Los pacientes podrían no haber esperado que su información se usara de esta manera y Royal Free Trust debió haber sido más transparente con los pacientes de lo que han sido», dice Denham.
El contrato siempre fue claro en lo que respecta a los datos privados, que nunca se compartirían con la empresa padre de DeepMind, Google, la cual compró la firma en el 2014. No habría análisis de máquinas que aprenden o herramientas de la Inteligencia Artificial para revisar la información compartida, incluso a pesar de que DeepMind está involucrada en dos tratos separados con hospitales ingleses para desarrollar algoritmos de la IA para mejorar los tratamientos de cáncer y de enfermedades de los ojos.
DeepMind dice que es bienvenida la resolución de ICO sobre el caso y admite que ha cometido un número de errores durante el trato original. la compañía indica que podría haber explicado mejor el trato, a pacientes y al público, sobre las reglas a aplicar en los datos de los pacientes.
En un artículo del blog de ICO, se aclara que aunque la idea sea la de innovar, instituciones como la Royal Free Trust no puede omitir seguir la ley. Se ha pedido a RFT que firme un nuevo acuerdo que esté en concordancia con la ley y la comisión.
Referencias: The Verge