解释权条款剥夺深度学习合法性:「最严数据隐私条例」GDPR今日生效

参与:张倩、路、李泽南

《欧盟一般数据保护条例》(General Data Protection Regulation,GDPR)是有关数据隐私的重要新规,它取代了执行 20 余年之久的《欧盟个人资料保护指令》,被认为是对人工智能商业应用方式的一次彻底整改。2018 年 5 月 25 日,在人们的关注之下,GDPR 这一「史上最严隐私条例」终于在欧盟全面实行。

在一些人工智能学者看来,GDPR 的主要条款将摧毁大量数据的价值,而其有关「解释权(right to explanation)」的内容则会让迄今为止出现的大量深度学习应用成为非法。

GDPR 的内容条款:https://www.eugdpr.org/

你肯定听说过 Facebook 和「剑桥分析」公司最近的信息泄露丑闻,以及马克·扎克伯格关于 Facebook 响应《欧盟一般数据保护条例》而在全球范围内做出改变的声明。如果你还没注意到欧洲的举动,那美国参议员 Brian Schatz 的声明可能会让你大吃一惊,他说到:「所有技术平台都应该采用欧盟(数据保护)的做法」,尽管 45 % 的美国公民认为政府对工商业的监管已经「太多」。

GDPR 确实是一件大事。2018 年 5 月 25 日,该条例成为欧盟法律的一部分,它将改善欧盟公民的数据保护情况,这些公民不仅与欧洲的公司有关,还与世界各地的公司有交集。换句话说,无论你的公司是否位于欧盟,只要你的客户或用户中有欧盟国家公民,并且处理他们的数据,GDPR 就会对你的业务产生非常重要的影响。

收到 Email 了?过去几天,大大小小的科技公司正争相推出新版数据隐私条款。

目前看来,许多公司还没来得及处理这一问题,这或许意味着它们正面临着高达 2000 万欧元的罚款——亦或是全球年销售额的 4%,以较大值为准。来自凯捷咨询的调查显示:85%的企业表示他们还没有准备好应对新的法律,其中更有四分之一的公司表示他们将不会在今年年底前做好准备。

另一方面,欧洲数据监管机构已经表示他们将认真对待合规。「从我们的数据中赚钱的公司需要承担更多的责任。」欧洲高级司法官员 Vera Jourova 在本周四表示。据了解,一些隐私权拥护者已经准备对 Facebook、WhatsApp、Instagram 和谷歌等大公司提起诉讼,指控他们违反新规。

在新的规定下,各公司仍然可以正常为客户提供服务,向人们发送电子邮件,并收集和存储他们的数据。公司只需确保他们有这样做的「合法基础」,并尊重希望删除其数据的人的意愿。如果公司未能证明他们一直在正确处理数据,没有在发现安全漏洞 72 小时内及时提出报告,或保存数据的时间超过了必要的期限,都将面临欧盟的处罚。

过去,欧洲监管机构对不遵守规则的大型科技公司一直采取强硬态度。欧盟已经给谷歌开出了总计 24 亿欧元(约合 27 亿美元)的反垄断罚款,并因在 WhatsApp 收购案中误导官员而对 Facebook 罚款 1.1 亿欧元(约合 1.22 亿美元)。

早些时候,GDPR 即将实施引起了很多人工智能学界人士的关注。1 月 28 日,《终极算法》作者、华盛顿大学教授 Pedro Domingos 在社交网络中说道:「自 5 月 25 日起,欧盟将会要求所有算法解释其输出原理,这意味着深度学习成为非法的方式。」

近日,Pedro Domingos 在 Medium 上撰文描述了他对 GDPR 实施的看法:

5 月 25 日,欧盟《一般数据保护条例》(GDPR)生效,该条例旨在通过对数据利用进行严格限制,来终止目前的数字世界乱象。GDPR 不仅影响科技公司,还将影响到所有处理客户数据的公司,也就是说,所有公司。它将影响全世界的数据使用,而不仅仅是在欧洲,将二者脱离开来并不符合实际。GDPR 还被认为是美国及其他国家和地区的榜样。

GDPR 的一项主要条款规定,数据仅可以出于最初收集目的而被使用,且需要用户的明确许可。这将摧毁大量(即使不是最多)数据价值,因为最重要的突破,从 X 光到青霉素,通常来自于对数据意料之外的使用。GDPR 在科研方面有例外情况,不过它仍然有可能成为创新的重要障碍,阻止了有利于客户、且不损害其隐私的数据利用形式。例如,技术公司每天进行数千次实验来提升网站。要求得到每位用户的明确许可会阻碍这些实验的进行,除非许可被给予一般领域。

GDPR 创造了一项新的权利「解释权」(right to explanation),要求每个制定决策的算法必须能够证明决策的正确性。这看起来很合理:谁不想要一个解释呢?比如一份癌症诊断结果。但是这有可能造成严重后果,因为通常要在准确率和可解释性之间进行权衡。我宁愿被一个具备 90% 准确率、但不提供解释的算法来诊断疾病,也不愿被一个只有 80% 的准确率、但是提供解释的算法进行疾病诊断。不同的人会在不同情况下做出不同选择。为什么政府要强制每个人做出同样的选择呢?

GDPR 的另一项权利是「被遗忘权」(right to be forgotten)。例如,用户可以要求谷歌不根据搜索结果记录相关信息。但是一个人的被遗忘权侵犯了所有人的被记住权。在欧洲的情况中,决定什么应该被遗忘的是谷歌。这真的就是我们想要的吗?如果决定权掌握在政府手中,他们还能够抵挡住诱惑,不用它作为审查的挡箭牌吗?

GDPR 的一些条款争议较少。比如可移植性(portability),即在平台之间轻松移动数据,这对数字经济的发展至关重要。但是现在尚不明确 GDPR 实施早期阶段对此是如何规定的,GDPR 无法分辨用户数据和企业数据。对我来说把相册或音乐 iCloud 移动到谷歌云端是一回事,但个人与企业互动记录按要求移动或删除是另一回事。这些记录属于公司最重要的实例属性,通常也是其价值所在。使用户拥有自己的互动记录是更好的做法,用户可以在自己愿意的时候使用这些记录。

造成所有这些问题的根本原因是,GDPR 解决的是一个基本上不存在的问题。如果以抽象的方式询问人们关心隐私的程度,他们自然会说自己非常关心隐私。但是当他们在隐私和个性化之间做出具体的权衡时,隐私的隐含价值是非常低的。与数据窃取相比,我们中有多少人受过数据共享的伤害?Cambridge Analytica 使用 Facebook 数据很容易刺痛人们的神经,但没有证据表明它成功地影响了选举结果。GDPR 假设公司不能自我监管,但他们能做到,因为公司害怕客户抵制。例如,Facebook 在 Cambridge Analytica 丑闻之前很久就吸取了一些教训。

而且反常的是,鉴于人们越来越担心权力集中在少数大型科技公司手中,GDPR 将给小型科技公司带来或多或少的负担,使初创企业的生存和发展更加艰难,直到它们能够挑战谷歌和 Facebook 这些大公司。欧洲应该更多地利用初创企业。

欧洲人喜欢把美国人想象成先开枪后提问的牛仔。但在数字经济方面,欧洲监管机构是非常敏感的,颁布 GDPR 就是在搬起石头砸自己的脚。美国应对此表示哀悼,并对类似 GDPR 的监管敬而远之。

原文发布于微信公众号 - 机器之心(almosthuman2014)

原文发表时间:2018-05-25

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏大数据文摘

2015上半年度金融行业互联网安全报告

2497
来自专栏大数据文摘

国家黑客的9个特征

1315
来自专栏云鼎实验室的专栏

安全报告 | 2018年游戏行业安全监测报告及五大攻击趋势

近日,媒体频频爆出苹果用户帐号被盗刷,用于购买游戏道具等物品,并由此牵出 App Store 及游戏相关黑产的种种。8102年都快过去了,游戏黑客在攻击什么?他...

1063
来自专栏腾讯云安全的专栏

南方日报专访:在“云”端可实现更多安全构想

1723
来自专栏黑白安全

Google+安全漏洞引欧洲关注 德国爱尔兰介入调查

据彭博社报道,搜索巨头谷歌旗下同名社交网络Google+“软件故障”被曝光后,引发欧洲隐私保护机构关注。德国汉堡的数据保护专员约翰内斯·卡斯帕(Johannes...

532
来自专栏腾讯技术工程官方号的专栏

你的智能设备真的安全吗?

作者介绍:《漏洞战争:软件漏洞分析精要》作者,2011年毕业于福建中医药大学中西医骨伤专业,在腾讯安全平台部主要从事安全应急响应工作,涉及终端安全、Web安全、...

2116
来自专栏FreeBuf

盘点2017年的十大安全挑战

转眼间离2017年的结束只有短短几个月了,而2017的上半年对于网络安全专家来说并非白驹过隙。 ? 迄今为止,今年最出名的大新闻当数Shadow Brokers...

27611
来自专栏北京马哥教育

六个诀窍帮你抵御DDoS攻击

随着黑客们隐藏自己的手段愈发高明、攻击招式更为凶狠,各行各业的安全领导者们需要尽快做好准备。如果向全国各大主要银行的CSO们询问近几个月来所遭遇过的分布式拒绝服...

37410
来自专栏区块链

勒索软件攻击受损严重,恐将引发网络军备竞赛升级

2017年5月全球爆发的大规模勒索软件WannaCry攻击事件,对包括英国、俄罗斯、中国、美国等在内的150个国家超过30万台电脑进行了攻击,造成了严重影响。赛...

1770
来自专栏安恒信息

美国海军:伊朗网络攻击比先前报道得更严重 4个月才修复问题

国外媒体报道称,2013年9月份,美国海军最大的未加密计算机网络被黑,据说攻击者直接效 力于伊朗政府,或者是在伊朗领导人许可的情况下发动的攻击。今天美国官员表示...

2754

扫码关注云+社区