人工智能引发欧盟、互联网企业大冲突

神经网络正在改变互联网,受人类大脑神经网络启发的深层数学模型可通过分析大量数据学会如何识别人脸照片、语音命令,并可将文本从一种语言翻译成另一种语言,而这仅仅是一个开始。人工智能也成为了谷歌、脸谱等科技巨头的核心业务,用户通过谷歌搜索引擎查询信息或访问脸谱新闻提要时,人工智能会帮助筛选信息。一方面人工智能正在不断加强网络服务行为,但同时也意味着互联网与欧盟这一全球最大的网络市场之间正在酝酿着一场思想交锋。

2016年,欧盟就包含在线数据在内的个人数据的搜集、存储及使用出台了《一般数据保护条例》,该条例将于2018年开始执行。《一般数据保护条例》将对欧盟国家公民的个人数据提供保护,即使是由世界其他地区的公司搜集到的数据亦如此。“被遗忘权”被写入该条例,有了这项权利,公民可要求在互联网搜索引擎中输入他们的名字后不会显示某些特定的链接。如有互联网公司侵犯了这项权利,则欧盟管理机构将有权按两千万欧元或违规企业的全球收益的百分之四对其处以罚款。

《一般数据保护条例》还限制了欧盟所谓的“自动化个人决策”行为,这对于全球科技巨头企业而言是一个潜在问题。“自动化个人决策”是神经网络的一项功能,牛津大学哲学与社会科学系研究员Bryce Goodman最近发表了一篇论文讨论了这些新规定的潜在影响,认为这些条例主要针对的是机器学习技术。

难以解释

欧盟出台的新条例禁止任何“显著影响”欧盟国家公民的自动化决策行为,包括关于个人工作绩效、经济状况、健康状况、个人偏好、兴趣、可信度、行为、位置或运动的评估技术。与此同时,新条例还制定了所谓的“解释权”,即赋予了欧盟国家公民“审查某项特定服务中如何做出特定算法决策”这一权利。

上述两项规定会对主要的互联网服务产生严重影响,例如,脸谱网的机器学习系统已经能够基于充分的个人数据精准定位广告。更重要的是,机器学习并不完全适用“解释权”。解释神经网络的内部发生机制即便对于专家而言也是一项很难的任务,尽管这些系统能够很好地对数以百万计的数据进行分析,但人们仍难以弄清其中的原理,很难得知究竟是如何得出的最终结果。

帮助起草部分新条例的牛津大学互联网专家Viktor Mayer-Schönberger认为,虽然《一般数据保护条例》关于自动化决策的描述有待进一步解释,但目前的关键问题在于这种说法会对深层神经网络产生何种影响。深层神经网络基于海量数据生成各种复杂算法,而部署系统的人也未必能够明白这些算法。

冲突

Bryce Goodman认为这些新规定与脸谱的核心业务模式形成了冲突,脸谱方面并未就此事回应记者的置评请求,但其中的矛盾已显而易见。脸谱每年可从精准广告定位业务中盈利数十亿美元,而这项业务目前依赖的正是机器学习技术。谷歌也将神经网络技术用于精准广告定位和“有机”搜索,该公司也未回应记者的置评请求。

神经网络这一概念本身就难以解释,这就注定了某些冲突是不可避免的。但Bryce Goodman所指的不仅是这些互联网巨头公司,新兴的机器学习技术正在慢慢从这些巨头公司渗透到互联网行业的其他企业,而欧盟出台的这些新法规将会影响互联网的方方面面,从常用的在线推荐引擎到信用卡、保险业务。

Mayer-Schönberger认为,神经网络并不属于自动决策的范畴,它们更侧重于统计分析。但即便如此,这些科技公司仍面临着“解释权”问题。在他看来,深层神经网络的一个奥妙就在于它们如同一个个“黑匣子”,其工作方式已经超越了人的逻辑,这就意味着未来几年将会有无数采用这项技术的企业会面临欧盟抛出的这一解释难题。而神经网络技术新创公司Skymind的创始人Chris Nicholson表示,做出解释并非不可能,但确实很复杂。

人为干预

解决这一难题的一种方法是由人类决策者进行干预自动化算法。已有不少这样的实例,因为许多服务是将机器学习与其他技术结合使用,包括由人明确定义的规则,这也是谷歌搜索引擎的工作机制。很多时候,算法仅仅是人机交互循环解决方案的一个组成部分。但互联网会发展得越来越自动化,而不是倒退,人为干预不一定是最好的解决方式,有网友认为人类在人工智能问题上太过偏见。

这一观点会随着机器学习技术的发展而变得越加明朗,人们倾向于把他们对人的看法赋在机器上。但机器正在变得越来越重要,这也是目前关于自动驾驶汽车讨论的核心问题,有人认为人不能让机器做道德决策,但也有人认为机器学习会让道路变得更加安全。机器永远不会取代人类,但在某些情况下它们会比人做得更好。

总之,欧盟出台的新规定带来的难题将会扩展到方方面面,机器学习是未来的生活方式,无论是对于信息检索、道路导航、股票交易或恋爱交友。谷歌当前的任务是重新培训其员工,让他们明白这一新的制度。脸谱则提供了各种各样的工具,让公司内部的所有人都能使用机器学习技术。谷歌、微软和亚马逊目前正在通过云计算服务向其他公司提供机器学习技术。

《一般数据保护条例》解决的是数据保护问题,但这仅仅是潜在冲突的一个方面,其他冲突如反垄断法应如何处理机器学习问题?谷歌目前面临的一场官司是有人控告谷歌的网站搜索结果中会对其某些竞争对手加以区别对待,对此谷歌很难辩诉,因为它自己也难以解释机器的决策机制。

原文发布于微信公众号 - 人工智能快报(AI_News)

原文发表时间:2016-10-12

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏PPV课数据科学社区

盘点2015年互联网创业市场十大特点

本主要以这上百只团队为数据来源进行统计分析,总结出2015年互联网创业市场的十大特点: 80后是创业主力军 ? 创业者主要以30-40岁人群为主,占比高达45...

2969
来自专栏数据猿

天云大数据CEO雷涛:2016是大数据的“寒冬”,AI产业化的春天

数据猿导读 随着互联网和大数据技术的高速发展,面向特定领域的人工智能技术已经取得突破性进展,谷歌、微软、百度等巨头积极的在人工智能领域多点布局、抢占产业机遇,这...

2805
来自专栏专知

【业界】吴恩达、LeCun:人工智能首席官CAIO设立是时候了!

【导读】最近,一则关于在企业中设置“首席人工智能官”的报道同时吸引了Yann LeCun,Yoshua Bengio 以及Andrew Ng的关注。 究竟是什么...

2715
来自专栏钱塘大数据

物联网时代八大工业大数据与应用场景

导读: 工业大数据是一个全新的概念,从字面上理解,工业大数据是指在工业领域信息化应用中所产生的大数据。   随着信息化与工业化的深度融合,信息技术渗透到了工业...

3875
来自专栏CSDN技术头条

深度:数据科学,来自业界的诱惑

编者记:本文是一篇非常国际化的文章,译者在翻译的时候,非常严谨和认真,每个字都细细斟酌,是一篇难得的好文章。国外数据科学的文章,在一定程度上对中国数据科学的发展...

2028
来自专栏数据猿

东软集团事业部总监樊建勋:大数据视角下的舆情监测与引导

<数据猿导读> 东软集团事业部总监樊建勋在2016年中国通信大数据会上分享了以“大数据视角下的舆情监测与引导”为主题的演讲。他讲到,舆情这两个字在各行各业都倍加...

2804
来自专栏大数据文摘

深度学习前瞻:吴恩达 + 百度 ;谷歌吗?

2406
来自专栏云计算D1net

教你如何利用大数据思维

在和一些企业家交流时,有几个问题会被常常问到,"没有多少数据怎么办?","大数据都是大公司的事情,我们小公司怎么办?""能不能告诉我,哪些软件或者工具可以解决大...

3905
来自专栏新智元

【CES】IBM CEO 主旨演讲:Watson 将 AI 引入商务世界?

周三晚上,拉斯维加斯的威尼斯人酒店中,IBM首席执行官Ginni Rometty进行了一场消费者电子产品展览(CES)的主旨演讲。 消费者技术协会主席Gary ...

3747
来自专栏AI科技评论

AI安全大牛都来了!智能安全的话题引发学术界/产业界共同聚焦 | CCF-GAIR 2018

2018 全球人工智能与机器人峰会(CCF-GAIR)在深圳召开已进入第二天的议程,活动现场依旧火爆。

972

扫码关注云+社区