动态 | DeepMind与NHS陷“隐私门”,剑桥学者列举三大问题质疑数据安全

从 AlphaGo 开始步入人们视线,人工智能公司 DeepMind 的一举一动总是饱受关注,而在去年,DeepMind 与英国国家医疗服务体系 NHS 旗下基金会 Royal Free London 签订了为期五年的合同,NHS 旗下的三家伦敦医院将向 DeepMind 分享 172 万患者的医疗数据。

这自然引发了对隐私问题的讨论和担忧,DeepMind 一直声称隐私与信任是它们首要考虑的问题,所有数据会被加密且不会与母公司谷歌分享,但依然有不少学者质疑 DeepMind 此言的真实性。

其中剑桥大学学者 Julia Powles 当属反对声音最激烈的一个,在与 Hal Hodson 合写的一篇名为《Google DeepMind and healthcare in an age of algorithms》中,她质疑 DeepMind 在数据及隐私保护上的意愿。

在提及这一争端之前,我们先和 AI 科技评论回顾一下 DeepMind 与 NHS 合作的大致过程。

  • 在 2015 年 7 月,Royal Free London 旗下公立医院的医生与谷歌 DeepMind 公司开始有了初步接触。值得一提的是,DeepMind 此前并没有任何提供健康服务的经历或经验。
  • 而在 2015 年 11 月,Royal Free 的一些敏感医疗数据就已经开始传输到 DeepMind 的所持有的第三方服务器上。而 NHS 作为获得 Royal Free 大量基金支持的英国国家医疗服务体系,自然也掌控着英国国民健康信息的大量数据。
  • 随后在 2016 年 1 月,DeepMind 公开宣布与 Royal Free 合作,将利用后者所提供的数据开发一款名为 Streams 的应用以辅助急性肾损伤 (AKI)。
  • 2016 年 9 月,DeepMind 三大创始人之一 Mustafa Suleyman 与 Royal Free 的 Subir Mondal 签署了一份八页的信息共享协议(ISA),这份时效五年的协议显示,Royal Free 是数据的实际控制方,而 DeepMind 只是一个数据处理方。
  • 而在 2016 年 10 月,DeepMind 声明公司将保护 Royal Free 患者的敏感数据,比如 AKI 的管理数据与直接护理内容,它们表示,这些数据的范围比起协议中所约束的内容范围只会更窄,不会更宽。谷歌也强调 DeepMind 只是在为控制肾脏疾病开发相关应用。

但这样的声明并不能让 Julia Powles 满意,她在报告中指出了 DeepMind 可能存在的三个问题:

首先是 DeepMind 是否可以被视为一个数据处理方,并直接对病人护理产生影响的问题。根据 DeepMind 的官方资料显示,Royal Free 至少有 26 名医生及护士在使用 Streams,平均每天会向 11 个置身 AKI 风险的患者发出健康警报。

Powles 在报告中提到,「为何这样一家由数据挖掘兼广告巨头谷歌全资拥有的 AI 公司,能够构建一个以数据集成用户为基础的 App?不论是 DeepMind 还是 Royal Free London,都没有对这个问题进行正面回答。」

其次,数据如何在法律保护下进行使用?目前所收集到的声明都只是两个合作机构的一面之词,她并没有了解到任何关于数据使用的监督文件或是具有法律约束力的客观文件。Powles 表示,公众并没有了解数据去向的渠道或权利,因此也无法得知他们所说的是否属实。

第三点是,相关的设备及算法是否已经按照法规在监管机构取得授权/许可?根据 DeepMind 及 Royal Free 的声明,它们采用的是一个为 AKI 服务的「国有算法」(national algorithm),它能够对血液水平进行测试,并结合 Royal Free 的数据(已经在 DeepMind 存储、利用及传输),决定是否需要向医生的移动设备发送相关的健康警报。根据 Powles 的了解,DeepMind 并没有获得研究批准机构(HRA)或是保密咨询机构(CAG)的授权和许可。

作为回应,DeepMind 与 Royal Free 联合发表了一项声明,指出 Julia Powles 的这篇报告「完全歪曲了 NHS 如何利用技术处理数据的事实。」

「这篇文章犯了一系列重大的事实和分析错误,而且臆想我们并没有签署类似的数据协议。……事实上,该国的每一个信托机构都会根据同样的法律与监管制度,使用 IT 系统帮助临床医生获取患者的以往及当前的信息。"

看热闹不嫌事大的 BBC 记者 Jane Wakefield 还邀请双方在一个公开场合进行回应,并表示,「自然,我们非常关心谷歌与 DeepMind 进军医疗领域,毕竟它此前并没有涉足过,此外,这些公司并不属于传统专业的卫生信息技术与基础设施提供商,这些举动如果不加以澄清和说明,无疑会伤害公众的感情。」

不可否认的是,NHS 的确曾与一些第三方企业签署了一系列信息共享协议,DeepMind 此前曾经推测协议的款项达到 1500 项,但 NHS 只是表示并不准确,但没有给出更详细的数据。

目前该应用主要是由英国信息办公室(ICO,Information Commissioner's Office)进行调查,而国立数据监管机构(NDG)也对数据进行监控。ICO 最近则表示,他们的调查已经接近尾声,并声称会和 NDG 继续保持合作,与 Royal Free 及 DeepMind 进行定期联络,要求获得 Stream 的开发信息。

DeepMind 在 2 月份也已经表示,坦承希望与患者建立更友好的联系,并愿意设立相关的讨论社区。它在一项关于患者参与 Streams 项目的战略文件中也提及,「如果患者与医生能够协商做出决策,效果会变得更好。」AI科技评论也将持续关注 DeepMind 的后续动态。

原文发布于微信公众号 - AI科技评论(aitechtalk)

原文发表时间:2017-03-21

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏大数据文摘

谷歌进军医疗产业的7种武器

1173
来自专栏机器人网

GE医疗在华推出革命性IGS智能移动介入“机器人”

近日,GE医疗中国隆重推出业界革命性的IGS智能移动介入机器人——DiscoveryIGS730,并发布了心脏、神经、血管、肿瘤四大介入临床解决方案及复合手术室...

35311
来自专栏新智元

王飞跃 | 从Church-Turning Thesis 到 AlphaGo Thesis

? ? 围棋人机大战已经尘埃落定,许多人被AlphaGo 4:1战胜李世乭的壮举所震撼。著名的发明家和企业家、计算机游戏之父、催生苹果计算机的视频游戏公司At...

3486
来自专栏企鹅号快讯

聂卫平说过人工智能不会取代人类 只会让我们生活的更加美好

人工智能AI在大家的印象里好像一直存在于电影,电视剧,动漫里。而对它的出现以及它的一个发展趋势,人类世界对其也是各种猜想,比如会不会机器人强了我们的工作?等等 ...

18410
来自专栏新智元

【专家痛陈AI医学影像三大难点】数据规模小、标注质量差、懂算法的不懂医疗

【新智元导读】中金公司(CICC)此前发布的人工智能相关领域证券研究报告指出,数据获取、数据标注和跨学科人才积累已经成为医疗影像识别进一步推进的三个关键点。深睿...

2616
来自专栏新智元

【吴韧】异构神机测试棋胜职业棋手,围棋 AI 中国不落后

? 测试棋现场 新浪体育讯 3月6日,北京望京SOHO极客帮创投会议室,若干年后,这可能会是个值得纪念的日子,因为这个下午,围棋程序“异构神机”第一次与...

3619
来自专栏新智元

打破深度学习检测视网膜病变世界纪录,IBM认知医疗总监谢国彤北大AI课精彩分享

【新智元导读】据 healio.com 最新报道,IBM Research 采用深度学习,根据国际上临床糖尿病视网膜病变量表,可在20秒内测出病变严重程度,在准...

3573
来自专栏镁客网

《我不是药神》,谁是药神?

也许这就是这部影片带来的社会价值和科技意义:将AI应用在药物研发领域——让抗癌新药不再“天价”。

923
来自专栏腾讯研究院的专栏

马化腾两会议案:关于充分利用互联网等新兴技术推进健康中国建设的建议

  “十二五”时期,我国居民健康水平的提高取得令世人瞩目的成绩。“十三五”时期是我国全面建成小康社会的决胜阶段。中共中央在《关于制定“十三五”规划的建议》明确提...

1629
来自专栏AI科技评论

动态 | MIT推进诊断老年痴呆的认知计算,解决机器学习的黑箱问题

毋庸置疑,人类的寿命正在变长。而伴随而来的老龄化问题,也导致了老年人可能面临认知衰退的威胁,比如老年痴呆等疾病。 根据相关机构的统计显示,美国确认患有老年痴呆的...

3368

扫描关注云+社区