动态 | DeepMind与NHS陷“隐私门”,剑桥学者列举三大问题质疑数据安全

从 AlphaGo 开始步入人们视线,人工智能公司 DeepMind 的一举一动总是饱受关注,而在去年,DeepMind 与英国国家医疗服务体系 NHS 旗下基金会 Royal Free London 签订了为期五年的合同,NHS 旗下的三家伦敦医院将向 DeepMind 分享 172 万患者的医疗数据。

这自然引发了对隐私问题的讨论和担忧,DeepMind 一直声称隐私与信任是它们首要考虑的问题,所有数据会被加密且不会与母公司谷歌分享,但依然有不少学者质疑 DeepMind 此言的真实性。

其中剑桥大学学者 Julia Powles 当属反对声音最激烈的一个,在与 Hal Hodson 合写的一篇名为《Google DeepMind and healthcare in an age of algorithms》中,她质疑 DeepMind 在数据及隐私保护上的意愿。

在提及这一争端之前,我们先和 AI 科技评论回顾一下 DeepMind 与 NHS 合作的大致过程。

  • 在 2015 年 7 月,Royal Free London 旗下公立医院的医生与谷歌 DeepMind 公司开始有了初步接触。值得一提的是,DeepMind 此前并没有任何提供健康服务的经历或经验。
  • 而在 2015 年 11 月,Royal Free 的一些敏感医疗数据就已经开始传输到 DeepMind 的所持有的第三方服务器上。而 NHS 作为获得 Royal Free 大量基金支持的英国国家医疗服务体系,自然也掌控着英国国民健康信息的大量数据。
  • 随后在 2016 年 1 月,DeepMind 公开宣布与 Royal Free 合作,将利用后者所提供的数据开发一款名为 Streams 的应用以辅助急性肾损伤 (AKI)。
  • 2016 年 9 月,DeepMind 三大创始人之一 Mustafa Suleyman 与 Royal Free 的 Subir Mondal 签署了一份八页的信息共享协议(ISA),这份时效五年的协议显示,Royal Free 是数据的实际控制方,而 DeepMind 只是一个数据处理方。
  • 而在 2016 年 10 月,DeepMind 声明公司将保护 Royal Free 患者的敏感数据,比如 AKI 的管理数据与直接护理内容,它们表示,这些数据的范围比起协议中所约束的内容范围只会更窄,不会更宽。谷歌也强调 DeepMind 只是在为控制肾脏疾病开发相关应用。

但这样的声明并不能让 Julia Powles 满意,她在报告中指出了 DeepMind 可能存在的三个问题:

首先是 DeepMind 是否可以被视为一个数据处理方,并直接对病人护理产生影响的问题。根据 DeepMind 的官方资料显示,Royal Free 至少有 26 名医生及护士在使用 Streams,平均每天会向 11 个置身 AKI 风险的患者发出健康警报。

Powles 在报告中提到,「为何这样一家由数据挖掘兼广告巨头谷歌全资拥有的 AI 公司,能够构建一个以数据集成用户为基础的 App?不论是 DeepMind 还是 Royal Free London,都没有对这个问题进行正面回答。」

其次,数据如何在法律保护下进行使用?目前所收集到的声明都只是两个合作机构的一面之词,她并没有了解到任何关于数据使用的监督文件或是具有法律约束力的客观文件。Powles 表示,公众并没有了解数据去向的渠道或权利,因此也无法得知他们所说的是否属实。

第三点是,相关的设备及算法是否已经按照法规在监管机构取得授权/许可?根据 DeepMind 及 Royal Free 的声明,它们采用的是一个为 AKI 服务的「国有算法」(national algorithm),它能够对血液水平进行测试,并结合 Royal Free 的数据(已经在 DeepMind 存储、利用及传输),决定是否需要向医生的移动设备发送相关的健康警报。根据 Powles 的了解,DeepMind 并没有获得研究批准机构(HRA)或是保密咨询机构(CAG)的授权和许可。

作为回应,DeepMind 与 Royal Free 联合发表了一项声明,指出 Julia Powles 的这篇报告「完全歪曲了 NHS 如何利用技术处理数据的事实。」

「这篇文章犯了一系列重大的事实和分析错误,而且臆想我们并没有签署类似的数据协议。……事实上,该国的每一个信托机构都会根据同样的法律与监管制度,使用 IT 系统帮助临床医生获取患者的以往及当前的信息。"

看热闹不嫌事大的 BBC 记者 Jane Wakefield 还邀请双方在一个公开场合进行回应,并表示,「自然,我们非常关心谷歌与 DeepMind 进军医疗领域,毕竟它此前并没有涉足过,此外,这些公司并不属于传统专业的卫生信息技术与基础设施提供商,这些举动如果不加以澄清和说明,无疑会伤害公众的感情。」

不可否认的是,NHS 的确曾与一些第三方企业签署了一系列信息共享协议,DeepMind 此前曾经推测协议的款项达到 1500 项,但 NHS 只是表示并不准确,但没有给出更详细的数据。

目前该应用主要是由英国信息办公室(ICO,Information Commissioner's Office)进行调查,而国立数据监管机构(NDG)也对数据进行监控。ICO 最近则表示,他们的调查已经接近尾声,并声称会和 NDG 继续保持合作,与 Royal Free 及 DeepMind 进行定期联络,要求获得 Stream 的开发信息。

DeepMind 在 2 月份也已经表示,坦承希望与患者建立更友好的联系,并愿意设立相关的讨论社区。它在一项关于患者参与 Streams 项目的战略文件中也提及,「如果患者与医生能够协商做出决策,效果会变得更好。」AI科技评论也将持续关注 DeepMind 的后续动态。

原文发布于微信公众号 - AI科技评论(aitechtalk)

原文发表时间:2017-03-21

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏互联网数据官iCDO

玩转VR广告营销

作者:朱玉雪 本文长度3351字 ,建议阅读7分钟。 本文将从VR+广告营销的角度,全面解读这两者之间能迸发出怎样的火花。 VR的心路历程有哪些 VR是我的名字...

3018
来自专栏罗超频道

运营商和OTT:拥抱成常规动作

不知道还有多少人记得去年闹得沸沸扬扬的微信收费事件,运营商与OTT企业之间矛盾到达巅峰。微信与广东联通合作推出微信沃卡,成为运营商与OTT破冰之举,为此后双方...

3494
来自专栏腾讯数据中心

探寻腾讯云基石,走进腾讯上海青浦数据中心

互联网企业是数据中心建设和应用的大户,现在越来越多的企业选择了第三方数据中心,也成为了产业的发展趋势,在腾讯云的引领下,也正在掀起互联网+云服务的变革。而数据中...

8395
来自专栏SDNLAB

陈雅琪:台湾SDN企业网技术发展

那今天就由我代表介绍我们台湾在SDN企业网的一个发展的现况。我们台湾在企业网络的SDN应用主要分为四个面向,第一个是网络管理,是自身安全的部分,下一个SDN如何...

34513
来自专栏VRPinea

张江VR/AR创新峰会联合专访:大朋VR、东方明珠、康得新对未来VR行业的思考

3337
来自专栏科技向令说

知识分享经济,又一个“约炮”“玩票”的噱头?

自2014 年开始,随着人口红利和市场资源的重新配置,以Uber/Airbnb为代表的共享经济产品在各行各业“横冲直撞”,而人的知识和技能的 “共享经济” 也开...

1455
来自专栏腾讯数据中心

UPS应用:开放共赢 分享未来 ——腾讯数据中心分享日暨数据中心开放日纪实报道

随着互联网的快速发展,云计算和大数据已和我们的日常生活紧密联系在一起,支撑着我们每天在使用的各种互联网产品。作为云计算和大数据背后重要的支撑平台,数据中心逐渐成...

35711
来自专栏PPV课数据科学社区

盘点利用数据统治了所在行业的6家公司

近日在一个数据技术的会议,来自健康、时尚、教育、媒体、交通和商业等领域的六家公司的CEO,分享了他们如何利用数据创造出从未有过的机会,为用户创造了更加个人化的体...

3076
来自专栏腾讯数据中心

2014年腾讯数据中心分享日暨数据中心开放日纪实报道:开放共赢,分享未来

随着互联网的快速发展,云计算和大数据已和我们的日常生活紧密联系在一起,支撑着我们每天在使用的各种互联网产品。作为云计算和大数据背后重要的支撑平台,数据中心逐渐成...

3616
来自专栏知晓程序

独家数据!微信首个双 11,京东、网易严选、蘑菇街……这些小程序卖得怎么样?

双 11 的大幕已经落下,在大型电商平台各自晒出漂亮成绩单的同时,相信也有很多人关注小程序的第一次双 11「考试」。

1074

扫码关注云+社区