动态 | DeepMind与NHS陷“隐私门”，剑桥学者列举三大问题质疑数据安全

从 AlphaGo 开始步入人们视线，人工智能公司 DeepMind 的一举一动总是饱受关注，而在去年，DeepMind 与英国国家医疗服务体系 NHS 旗下基金会 Royal Free London 签订了为期五年的合同，NHS 旗下的三家伦敦医院将向 DeepMind 分享 172 万患者的医疗数据。

这自然引发了对隐私问题的讨论和担忧，DeepMind 一直声称隐私与信任是它们首要考虑的问题，所有数据会被加密且不会与母公司谷歌分享，但依然有不少学者质疑 DeepMind 此言的真实性。

其中剑桥大学学者 Julia Powles 当属反对声音最激烈的一个，在与 Hal Hodson 合写的一篇名为《Google DeepMind and healthcare in an age of algorithms》中，她质疑 DeepMind 在数据及隐私保护上的意愿。

在提及这一争端之前，我们先和 AI 科技评论回顾一下 DeepMind 与 NHS 合作的大致过程。

• 在 2015 年 7 月，Royal Free London 旗下公立医院的医生与谷歌 DeepMind 公司开始有了初步接触。值得一提的是，DeepMind 此前并没有任何提供健康服务的经历或经验。
• 而在 2015 年 11 月，Royal Free 的一些敏感医疗数据就已经开始传输到 DeepMind 的所持有的第三方服务器上。而 NHS 作为获得 Royal Free 大量基金支持的英国国家医疗服务体系，自然也掌控着英国国民健康信息的大量数据。
• 随后在 2016 年 1 月，DeepMind 公开宣布与 Royal Free 合作，将利用后者所提供的数据开发一款名为 Streams 的应用以辅助急性肾损伤 (AKI)。
• 2016 年 9 月，DeepMind 三大创始人之一 Mustafa Suleyman 与 Royal Free 的 Subir Mondal 签署了一份八页的信息共享协议（ISA），这份时效五年的协议显示，Royal Free 是数据的实际控制方，而 DeepMind 只是一个数据处理方。
• 而在 2016 年 10 月，DeepMind 声明公司将保护 Royal Free 患者的敏感数据，比如 AKI 的管理数据与直接护理内容，它们表示，这些数据的范围比起协议中所约束的内容范围只会更窄，不会更宽。谷歌也强调 DeepMind 只是在为控制肾脏疾病开发相关应用。

但这样的声明并不能让 Julia Powles 满意，她在报告中指出了 DeepMind 可能存在的三个问题：

首先是 DeepMind 是否可以被视为一个数据处理方，并直接对病人护理产生影响的问题。根据 DeepMind 的官方资料显示，Royal Free 至少有 26 名医生及护士在使用 Streams，平均每天会向 11 个置身 AKI 风险的患者发出健康警报。

Powles 在报告中提到，「为何这样一家由数据挖掘兼广告巨头谷歌全资拥有的 AI 公司，能够构建一个以数据集成用户为基础的 App？不论是 DeepMind 还是 Royal Free London，都没有对这个问题进行正面回答。」

其次，数据如何在法律保护下进行使用？目前所收集到的声明都只是两个合作机构的一面之词，她并没有了解到任何关于数据使用的监督文件或是具有法律约束力的客观文件。Powles 表示，公众并没有了解数据去向的渠道或权利，因此也无法得知他们所说的是否属实。

第三点是，相关的设备及算法是否已经按照法规在监管机构取得授权/许可？根据 DeepMind 及 Royal Free 的声明，它们采用的是一个为 AKI 服务的「国有算法」（national algorithm），它能够对血液水平进行测试，并结合 Royal Free 的数据（已经在 DeepMind 存储、利用及传输），决定是否需要向医生的移动设备发送相关的健康警报。根据 Powles 的了解，DeepMind 并没有获得研究批准机构（HRA）或是保密咨询机构（CAG）的授权和许可。

作为回应，DeepMind 与 Royal Free 联合发表了一项声明，指出 Julia Powles 的这篇报告「完全歪曲了 NHS 如何利用技术处理数据的事实。」

「这篇文章犯了一系列重大的事实和分析错误，而且臆想我们并没有签署类似的数据协议。……事实上，该国的每一个信托机构都会根据同样的法律与监管制度，使用 IT 系统帮助临床医生获取患者的以往及当前的信息。"

看热闹不嫌事大的 BBC 记者 Jane Wakefield 还邀请双方在一个公开场合进行回应，并表示，「自然，我们非常关心谷歌与 DeepMind 进军医疗领域，毕竟它此前并没有涉足过，此外，这些公司并不属于传统专业的卫生信息技术与基础设施提供商，这些举动如果不加以澄清和说明，无疑会伤害公众的感情。」

不可否认的是，NHS 的确曾与一些第三方企业签署了一系列信息共享协议，DeepMind 此前曾经推测协议的款项达到 1500 项，但 NHS 只是表示并不准确，但没有给出更详细的数据。

目前该应用主要是由英国信息办公室（ICO，Information Commissioner's Office）进行调查，而国立数据监管机构（NDG）也对数据进行监控。ICO 最近则表示，他们的调查已经接近尾声，并声称会和 NDG 继续保持合作，与 Royal Free 及 DeepMind 进行定期联络，要求获得 Stream 的开发信息。

DeepMind 在 2 月份也已经表示，坦承希望与患者建立更友好的联系，并愿意设立相关的讨论社区。它在一项关于患者参与 Streams 项目的战略文件中也提及，「如果患者与医生能够协商做出决策，效果会变得更好。」AI科技评论也将持续关注 DeepMind 的后续动态。