人工智能引发欧盟、互联网企业大冲突

神经网络正在改变互联网,受人类大脑神经网络启发的深层数学模型可通过分析大量数据学会如何识别人脸照片、语音命令,并可将文本从一种语言翻译成另一种语言,而这仅仅是一个开始。人工智能也成为了谷歌、脸谱等科技巨头的核心业务,用户通过谷歌搜索引擎查询信息或访问脸谱新闻提要时,人工智能会帮助筛选信息。一方面人工智能正在不断加强网络服务行为,但同时也意味着互联网与欧盟这一全球最大的网络市场之间正在酝酿着一场思想交锋。

2016年,欧盟就包含在线数据在内的个人数据的搜集、存储及使用出台了《一般数据保护条例》,该条例将于2018年开始执行。《一般数据保护条例》将对欧盟国家公民的个人数据提供保护,即使是由世界其他地区的公司搜集到的数据亦如此。“被遗忘权”被写入该条例,有了这项权利,公民可要求在互联网搜索引擎中输入他们的名字后不会显示某些特定的链接。如有互联网公司侵犯了这项权利,则欧盟管理机构将有权按两千万欧元或违规企业的全球收益的百分之四对其处以罚款。

《一般数据保护条例》还限制了欧盟所谓的“自动化个人决策”行为,这对于全球科技巨头企业而言是一个潜在问题。“自动化个人决策”是神经网络的一项功能,牛津大学哲学与社会科学系研究员Bryce Goodman最近发表了一篇论文讨论了这些新规定的潜在影响,认为这些条例主要针对的是机器学习技术。

难以解释

欧盟出台的新条例禁止任何“显著影响”欧盟国家公民的自动化决策行为,包括关于个人工作绩效、经济状况、健康状况、个人偏好、兴趣、可信度、行为、位置或运动的评估技术。与此同时,新条例还制定了所谓的“解释权”,即赋予了欧盟国家公民“审查某项特定服务中如何做出特定算法决策”这一权利。

上述两项规定会对主要的互联网服务产生严重影响,例如,脸谱网的机器学习系统已经能够基于充分的个人数据精准定位广告。更重要的是,机器学习并不完全适用“解释权”。解释神经网络的内部发生机制即便对于专家而言也是一项很难的任务,尽管这些系统能够很好地对数以百万计的数据进行分析,但人们仍难以弄清其中的原理,很难得知究竟是如何得出的最终结果。

帮助起草部分新条例的牛津大学互联网专家Viktor Mayer-Schönberger认为,虽然《一般数据保护条例》关于自动化决策的描述有待进一步解释,但目前的关键问题在于这种说法会对深层神经网络产生何种影响。深层神经网络基于海量数据生成各种复杂算法,而部署系统的人也未必能够明白这些算法。

冲突

Bryce Goodman认为这些新规定与脸谱的核心业务模式形成了冲突,脸谱方面并未就此事回应记者的置评请求,但其中的矛盾已显而易见。脸谱每年可从精准广告定位业务中盈利数十亿美元,而这项业务目前依赖的正是机器学习技术。谷歌也将神经网络技术用于精准广告定位和“有机”搜索,该公司也未回应记者的置评请求。

神经网络这一概念本身就难以解释,这就注定了某些冲突是不可避免的。但Bryce Goodman所指的不仅是这些互联网巨头公司,新兴的机器学习技术正在慢慢从这些巨头公司渗透到互联网行业的其他企业,而欧盟出台的这些新法规将会影响互联网的方方面面,从常用的在线推荐引擎到信用卡、保险业务。

Mayer-Schönberger认为,神经网络并不属于自动决策的范畴,它们更侧重于统计分析。但即便如此,这些科技公司仍面临着“解释权”问题。在他看来,深层神经网络的一个奥妙就在于它们如同一个个“黑匣子”,其工作方式已经超越了人的逻辑,这就意味着未来几年将会有无数采用这项技术的企业会面临欧盟抛出的这一解释难题。而神经网络技术新创公司Skymind的创始人Chris Nicholson表示,做出解释并非不可能,但确实很复杂。

人为干预

解决这一难题的一种方法是由人类决策者进行干预自动化算法。已有不少这样的实例,因为许多服务是将机器学习与其他技术结合使用,包括由人明确定义的规则,这也是谷歌搜索引擎的工作机制。很多时候,算法仅仅是人机交互循环解决方案的一个组成部分。但互联网会发展得越来越自动化,而不是倒退,人为干预不一定是最好的解决方式,有网友认为人类在人工智能问题上太过偏见。

这一观点会随着机器学习技术的发展而变得越加明朗,人们倾向于把他们对人的看法赋在机器上。但机器正在变得越来越重要,这也是目前关于自动驾驶汽车讨论的核心问题,有人认为人不能让机器做道德决策,但也有人认为机器学习会让道路变得更加安全。机器永远不会取代人类,但在某些情况下它们会比人做得更好。

总之,欧盟出台的新规定带来的难题将会扩展到方方面面,机器学习是未来的生活方式,无论是对于信息检索、道路导航、股票交易或恋爱交友。谷歌当前的任务是重新培训其员工,让他们明白这一新的制度。脸谱则提供了各种各样的工具,让公司内部的所有人都能使用机器学习技术。谷歌、微软和亚马逊目前正在通过云计算服务向其他公司提供机器学习技术。

《一般数据保护条例》解决的是数据保护问题,但这仅仅是潜在冲突的一个方面,其他冲突如反垄断法应如何处理机器学习问题?谷歌目前面临的一场官司是有人控告谷歌的网站搜索结果中会对其某些竞争对手加以区别对待,对此谷歌很难辩诉,因为它自己也难以解释机器的决策机制。

原文发布于微信公众号 - 人工智能快报(AI_News)

原文发表时间:2016-10-12

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏AI科技大本营的专栏

CCAI | 清华大学计算机系教授史元春:科幻与创新

清华大学计算机系教授、全球创新学院院长史元春 文/CSDN贾维娣 7 月 22 - 23 日,在中国科学技术协会、中国科学院的指导下,由中国人工智能学会、阿里巴...

33915
来自专栏罗超频道

智能搜索时代:且看知识的力量

前几天,谷歌发布了一个全新的书籍搜索产品:“Talk to Books”,用户可以通过对话的方式得到一本书籍的推荐,比如输入:“What is thebest ...

1043
来自专栏挖掘大数据

总结零售大数据分析应用的四个阶段

要建立数学模型要解决三个问题,首先是数据的量要达到一定的规模和质量;其次是用什么样的算法,如用时间序列还是回归或是人工智能算法;第三是“数据+算法”可以围绕什么...

2217
来自专栏大数据文摘

大数据颠覆新闻生产方式

1798
来自专栏专知

IEEE终身Fellow闵应骅: 人工智能与智能科学

来源:科学网 http://blog.sciencenet.cn/blog-290937-1088590.html 最近看了朱松纯教授2017/9/24在中科院...

35211
来自专栏鹅厂优文

游戏人工智能 读书笔记 (一) 前言与介绍

自人工智能诞生之始,就和游戏紧密的相结合在一起。因为人们通常认为,人类玩游戏的过程是蕴含着人类的智能的。因此,当人们创造出一个能够完成人类的某种游戏的程序,我们...

1583
来自专栏新智元

【彭博】智能市场开源竞赛,谷歌遥遥领先

【新智元导读】彭博社著名科技记者Jark Clark日前撰文,分析谷歌开源深度学习软件TensorFlow对业界影响。开源有益,也让谷歌获得最大好处——让Ten...

3596
来自专栏AI科技评论

专访小 i 机器人CEO朱频频:聊天机器人进入深耕应用场景的时候,什么才是真正的杀手锏?

AI科技评论按:今年的墨尔本IJCAI 2017上, 一众中国公司参会并出现在其白金赞助商名单上,其中的小i机器人是8家赞助商名单中比较特别的一家,或许它的AI...

3144
来自专栏腾讯大讲堂的专栏

2017腾讯创新日 | 科技引领潮流,创新打造未来

创新充满挑战,科技提供更多可能,随着社会的不断前进,科技、创新越来越深入我们的工作和生活中。勇于挑战自我、专研业务技术的腾讯人在6.14日举办了2017年“腾讯...

2876
来自专栏量子位

AI炒股轻松赚大钱?Too naive

夏乙 允中 编译整理 量子位 出品 | 公众号 QbitAI 让AI代替人类炒股,多么美妙的目标。 机器学习技术能在不需要人类预先编写规则的情况下,让计算机从数...

3044

扫码关注云+社区