人工智能引发欧盟、互联网企业大冲突

神经网络正在改变互联网,受人类大脑神经网络启发的深层数学模型可通过分析大量数据学会如何识别人脸照片、语音命令,并可将文本从一种语言翻译成另一种语言,而这仅仅是一个开始。人工智能也成为了谷歌、脸谱等科技巨头的核心业务,用户通过谷歌搜索引擎查询信息或访问脸谱新闻提要时,人工智能会帮助筛选信息。一方面人工智能正在不断加强网络服务行为,但同时也意味着互联网与欧盟这一全球最大的网络市场之间正在酝酿着一场思想交锋。

2016年,欧盟就包含在线数据在内的个人数据的搜集、存储及使用出台了《一般数据保护条例》,该条例将于2018年开始执行。《一般数据保护条例》将对欧盟国家公民的个人数据提供保护,即使是由世界其他地区的公司搜集到的数据亦如此。“被遗忘权”被写入该条例,有了这项权利,公民可要求在互联网搜索引擎中输入他们的名字后不会显示某些特定的链接。如有互联网公司侵犯了这项权利,则欧盟管理机构将有权按两千万欧元或违规企业的全球收益的百分之四对其处以罚款。

《一般数据保护条例》还限制了欧盟所谓的“自动化个人决策”行为,这对于全球科技巨头企业而言是一个潜在问题。“自动化个人决策”是神经网络的一项功能,牛津大学哲学与社会科学系研究员Bryce Goodman最近发表了一篇论文讨论了这些新规定的潜在影响,认为这些条例主要针对的是机器学习技术。

难以解释

欧盟出台的新条例禁止任何“显著影响”欧盟国家公民的自动化决策行为,包括关于个人工作绩效、经济状况、健康状况、个人偏好、兴趣、可信度、行为、位置或运动的评估技术。与此同时,新条例还制定了所谓的“解释权”,即赋予了欧盟国家公民“审查某项特定服务中如何做出特定算法决策”这一权利。

上述两项规定会对主要的互联网服务产生严重影响,例如,脸谱网的机器学习系统已经能够基于充分的个人数据精准定位广告。更重要的是,机器学习并不完全适用“解释权”。解释神经网络的内部发生机制即便对于专家而言也是一项很难的任务,尽管这些系统能够很好地对数以百万计的数据进行分析,但人们仍难以弄清其中的原理,很难得知究竟是如何得出的最终结果。

帮助起草部分新条例的牛津大学互联网专家Viktor Mayer-Schönberger认为,虽然《一般数据保护条例》关于自动化决策的描述有待进一步解释,但目前的关键问题在于这种说法会对深层神经网络产生何种影响。深层神经网络基于海量数据生成各种复杂算法,而部署系统的人也未必能够明白这些算法。

冲突

Bryce Goodman认为这些新规定与脸谱的核心业务模式形成了冲突,脸谱方面并未就此事回应记者的置评请求,但其中的矛盾已显而易见。脸谱每年可从精准广告定位业务中盈利数十亿美元,而这项业务目前依赖的正是机器学习技术。谷歌也将神经网络技术用于精准广告定位和“有机”搜索,该公司也未回应记者的置评请求。

神经网络这一概念本身就难以解释,这就注定了某些冲突是不可避免的。但Bryce Goodman所指的不仅是这些互联网巨头公司,新兴的机器学习技术正在慢慢从这些巨头公司渗透到互联网行业的其他企业,而欧盟出台的这些新法规将会影响互联网的方方面面,从常用的在线推荐引擎到信用卡、保险业务。

Mayer-Schönberger认为,神经网络并不属于自动决策的范畴,它们更侧重于统计分析。但即便如此,这些科技公司仍面临着“解释权”问题。在他看来,深层神经网络的一个奥妙就在于它们如同一个个“黑匣子”,其工作方式已经超越了人的逻辑,这就意味着未来几年将会有无数采用这项技术的企业会面临欧盟抛出的这一解释难题。而神经网络技术新创公司Skymind的创始人Chris Nicholson表示,做出解释并非不可能,但确实很复杂。

人为干预

解决这一难题的一种方法是由人类决策者进行干预自动化算法。已有不少这样的实例,因为许多服务是将机器学习与其他技术结合使用,包括由人明确定义的规则,这也是谷歌搜索引擎的工作机制。很多时候,算法仅仅是人机交互循环解决方案的一个组成部分。但互联网会发展得越来越自动化,而不是倒退,人为干预不一定是最好的解决方式,有网友认为人类在人工智能问题上太过偏见。

这一观点会随着机器学习技术的发展而变得越加明朗,人们倾向于把他们对人的看法赋在机器上。但机器正在变得越来越重要,这也是目前关于自动驾驶汽车讨论的核心问题,有人认为人不能让机器做道德决策,但也有人认为机器学习会让道路变得更加安全。机器永远不会取代人类,但在某些情况下它们会比人做得更好。

总之,欧盟出台的新规定带来的难题将会扩展到方方面面,机器学习是未来的生活方式,无论是对于信息检索、道路导航、股票交易或恋爱交友。谷歌当前的任务是重新培训其员工,让他们明白这一新的制度。脸谱则提供了各种各样的工具,让公司内部的所有人都能使用机器学习技术。谷歌、微软和亚马逊目前正在通过云计算服务向其他公司提供机器学习技术。

《一般数据保护条例》解决的是数据保护问题,但这仅仅是潜在冲突的一个方面,其他冲突如反垄断法应如何处理机器学习问题?谷歌目前面临的一场官司是有人控告谷歌的网站搜索结果中会对其某些竞争对手加以区别对待,对此谷歌很难辩诉,因为它自己也难以解释机器的决策机制。

原文发布于微信公众号 - 人工智能快报(AI_News)

原文发表时间:2016-10-12

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏CDA数据分析师

AI、机器学习和深度学习的未来

虽然尚处在开发和使用的早期阶段,AI、机器学习和深度学习已经影响了我们的生活,工作和娱乐。你是否已经准备好接受和利用这些颠覆性创新了呢? 美国的 Hanson ...

19010
来自专栏人工智能头条

2017年七大 AI 趋势观察

1215
来自专栏新智元

下一代计算:AI 的黄金时代

70 年代的电脑,80 年代的互联网,21世纪初期的智能手机,而现在我们窥见到尚未到来的未来的碎片。我们正处于多个(而不是一个)新时代的入口,智能手机之争...

2628
来自专栏ATYUN订阅号

【业界】注意!投资AI技术不容忽视的5大问题全在这

人工智能是当今社会科技发展的趋势之一,所以对AI的投资也是不容忽视。根据麦肯锡全球研究所(McKinsey Global Institute)最近的估计,201...

3485
来自专栏新智元

华尔街日报:AI 飞速发展,但仍有很长的路要走

【新智元导读】本文作者是一名拥有神经科学和行为生物学学位的资深科技记者/专栏作家,作者认为现在的AI好比正从水母向智慧生物进化的阶段,距离实现拥有真正智能的AI...

3295
来自专栏企鹅号快讯

与AI赛跑?麻省理工发布AI指数 称人类常常“错估”人工智能

原标题:与AI赛跑?麻省理工发布AI指数 称人类常常“错估”人工智能 一份新的报告试图具体衡量人工智能混乱的进展。 ? 人工智能到底有多聪明?进展有多快? 这些...

1815
来自专栏大数据文摘

人工智能将如何改变公司战略:亚马逊思维试验

1633
来自专栏CDA数据分析师

人工智能+媒体=? AI 将如何推动媒体转型

《时代》杂志于 1923 年首次出版,当时的封面是前众议院议长 Joseph G. Cannon 。这一历史性时刻奠定了传统媒体变革的基石。 ? 《时代》杂志...

1965
来自专栏灯塔大数据

一家商业数据分析公司SAS,如何保持了40年的持续增长?

? SAS公司联合创始人兼CEO Jim Goodnight SAS公司成立40年来一直保持增长态势,名字却很朴实,SAS即Statistical Analy...

2614
来自专栏企鹅号快讯

当人类遇到机器人,是威胁还是机遇?

亨利·福特是福特汽车公司的建立者。他也是世界上第一位使用流水线大批量生产汽车的人。他曾说过一句话:「我只想要一双手,为什么每次总有个大脑跟着?」(Why is ...

17510

扫描关注云+社区