动态 | DeepMind与NHS陷“隐私门”,剑桥学者列举三大问题质疑数据安全

从 AlphaGo 开始步入人们视线,人工智能公司 DeepMind 的一举一动总是饱受关注,而在去年,DeepMind 与英国国家医疗服务体系 NHS 旗下基金会 Royal Free London 签订了为期五年的合同,NHS 旗下的三家伦敦医院将向 DeepMind 分享 172 万患者的医疗数据。

这自然引发了对隐私问题的讨论和担忧,DeepMind 一直声称隐私与信任是它们首要考虑的问题,所有数据会被加密且不会与母公司谷歌分享,但依然有不少学者质疑 DeepMind 此言的真实性。

其中剑桥大学学者 Julia Powles 当属反对声音最激烈的一个,在与 Hal Hodson 合写的一篇名为《Google DeepMind and healthcare in an age of algorithms》中,她质疑 DeepMind 在数据及隐私保护上的意愿。

在提及这一争端之前,我们先和 AI 科技评论回顾一下 DeepMind 与 NHS 合作的大致过程。

  • 在 2015 年 7 月,Royal Free London 旗下公立医院的医生与谷歌 DeepMind 公司开始有了初步接触。值得一提的是,DeepMind 此前并没有任何提供健康服务的经历或经验。
  • 而在 2015 年 11 月,Royal Free 的一些敏感医疗数据就已经开始传输到 DeepMind 的所持有的第三方服务器上。而 NHS 作为获得 Royal Free 大量基金支持的英国国家医疗服务体系,自然也掌控着英国国民健康信息的大量数据。
  • 随后在 2016 年 1 月,DeepMind 公开宣布与 Royal Free 合作,将利用后者所提供的数据开发一款名为 Streams 的应用以辅助急性肾损伤 (AKI)。
  • 2016 年 9 月,DeepMind 三大创始人之一 Mustafa Suleyman 与 Royal Free 的 Subir Mondal 签署了一份八页的信息共享协议(ISA),这份时效五年的协议显示,Royal Free 是数据的实际控制方,而 DeepMind 只是一个数据处理方。
  • 而在 2016 年 10 月,DeepMind 声明公司将保护 Royal Free 患者的敏感数据,比如 AKI 的管理数据与直接护理内容,它们表示,这些数据的范围比起协议中所约束的内容范围只会更窄,不会更宽。谷歌也强调 DeepMind 只是在为控制肾脏疾病开发相关应用。

但这样的声明并不能让 Julia Powles 满意,她在报告中指出了 DeepMind 可能存在的三个问题:

首先是 DeepMind 是否可以被视为一个数据处理方,并直接对病人护理产生影响的问题。根据 DeepMind 的官方资料显示,Royal Free 至少有 26 名医生及护士在使用 Streams,平均每天会向 11 个置身 AKI 风险的患者发出健康警报。

Powles 在报告中提到,「为何这样一家由数据挖掘兼广告巨头谷歌全资拥有的 AI 公司,能够构建一个以数据集成用户为基础的 App?不论是 DeepMind 还是 Royal Free London,都没有对这个问题进行正面回答。」

其次,数据如何在法律保护下进行使用?目前所收集到的声明都只是两个合作机构的一面之词,她并没有了解到任何关于数据使用的监督文件或是具有法律约束力的客观文件。Powles 表示,公众并没有了解数据去向的渠道或权利,因此也无法得知他们所说的是否属实。

第三点是,相关的设备及算法是否已经按照法规在监管机构取得授权/许可?根据 DeepMind 及 Royal Free 的声明,它们采用的是一个为 AKI 服务的「国有算法」(national algorithm),它能够对血液水平进行测试,并结合 Royal Free 的数据(已经在 DeepMind 存储、利用及传输),决定是否需要向医生的移动设备发送相关的健康警报。根据 Powles 的了解,DeepMind 并没有获得研究批准机构(HRA)或是保密咨询机构(CAG)的授权和许可。

作为回应,DeepMind 与 Royal Free 联合发表了一项声明,指出 Julia Powles 的这篇报告「完全歪曲了 NHS 如何利用技术处理数据的事实。」

「这篇文章犯了一系列重大的事实和分析错误,而且臆想我们并没有签署类似的数据协议。……事实上,该国的每一个信托机构都会根据同样的法律与监管制度,使用 IT 系统帮助临床医生获取患者的以往及当前的信息。"

看热闹不嫌事大的 BBC 记者 Jane Wakefield 还邀请双方在一个公开场合进行回应,并表示,「自然,我们非常关心谷歌与 DeepMind 进军医疗领域,毕竟它此前并没有涉足过,此外,这些公司并不属于传统专业的卫生信息技术与基础设施提供商,这些举动如果不加以澄清和说明,无疑会伤害公众的感情。」

不可否认的是,NHS 的确曾与一些第三方企业签署了一系列信息共享协议,DeepMind 此前曾经推测协议的款项达到 1500 项,但 NHS 只是表示并不准确,但没有给出更详细的数据。

目前该应用主要是由英国信息办公室(ICO,Information Commissioner's Office)进行调查,而国立数据监管机构(NDG)也对数据进行监控。ICO 最近则表示,他们的调查已经接近尾声,并声称会和 NDG 继续保持合作,与 Royal Free 及 DeepMind 进行定期联络,要求获得 Stream 的开发信息。

DeepMind 在 2 月份也已经表示,坦承希望与患者建立更友好的联系,并愿意设立相关的讨论社区。它在一项关于患者参与 Streams 项目的战略文件中也提及,「如果患者与医生能够协商做出决策,效果会变得更好。」AI科技评论也将持续关注 DeepMind 的后续动态。

原文发布于微信公众号 - AI科技评论(aitechtalk)

原文发表时间:2017-03-21

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏机器人网

机器人会成为人类的潘多拉魔盒吗?

在百度百家The BIG Talk上,百度副总裁王海峰、康奈尔机器人实验室主任Hod Lipson、MIT电脑与人工智能中心主任Daniela Rus三位顶级人...

3167
来自专栏量子位

Uber地图部门三员大将离职创业,要解决无人驾驶出租车的派单问题

李林 发自 量子位 出品 | 公众号 QbitAI ? 在自动驾驶创业浪潮和自身业务流年不利的夹击下,Uber又损失了三员大将。 据The Informati...

3585
来自专栏IT派

自动驾驶汽车的发展经历了哪些历史性的变革?(附报告)

科研院校、汽车制造厂商、科技公司、无人驾驶汽车创业公司以及汽车零部件供应商在无人驾驶技术领域进行不断地探索。

751
来自专栏镁客网

无人机、无人车与机器人,未来谁更适合当快递员?

1084
来自专栏VRPinea

8.15VR圈大事件︱库克透露苹果正在研发多个AR项目;Magic Leap将在奥斯丁游戏大会发表讲演;日本公司将推虚拟现实购物

3439
来自专栏镁客网

哈佛将研究能够赶上人脑的人工智能系统

1056
来自专栏AI科技评论

业界 | 图灵机器人CEO俞志晨:2045将迎来强人工智能时代

“在同一个赛场,每位运动员都在努力奔跑,可是却不知道有的选手已经坐上了跑车。毫无疑问,这样会跑得更快。” 在昨天的图灵机器人创新大会上,图灵机器人CEO俞志晨这...

2474
来自专栏DT数据侠

DT君世界人工智能大会见闻:医疗AI的大时代已至

赋能(Empower)是这个DT时代,最伟大的科技词汇之一。谷歌掌门人拉里·佩奇、阿里巴巴集团参谋长曾鸣等都提及,未来组织中最重要的功能已经越来越清晰,那就是赋...

762
来自专栏VRPinea

VR广告调查报告: 相比传统广告,VR广告的品牌亲及力和购买意向提升效果更为明显

2807
来自专栏灯塔大数据

2018CES来势汹汹,你应该知道这些新科技趋势~

导读:上一期学习了区块链的相关介绍,今天我们来了解一下关于2018CES的相关内容 2018年1月9日到12日,美国消费技术协会(CTA)在拉斯维加斯举办“国际...

3316

扫码关注云+社区