为防范 AI 背叛人类,Google、微软等巨头决心联手合作

从《2001:太空漫游》到《黑客帝国》,电影和科幻作家一直都在提醒我们要警惕人工智能,因为它们随时都有可能背叛人类甚至毁灭人类。随着人类在人工智能领域不断取得突破,这种担忧正在越来越多地被人们提及。

现在,Google 母公司 Alphabet、Facebook、微软、IBM 和 亚马逊这 5 家在人工智能领域积极布局的科技巨头也意识到了这个问题,他们正打算为人工智能制定一套成熟的道德标准。

根据《纽约时报》的报道,这 5 家公司近期举行了一场会谈,在人工智能对劳动市场、交通和战争等方面的道德伦理标准展开了讨论。他们还打算成立一个相关的行业协会,这个协会的目的是确保人工智能有利于人类而不是伤害人类,但参会者还没有确定具体的协会名称。

虽然科技巨头们都在积极研究人工智能,但警惕人工智能统治人类的呼声也不绝于科技界。例如在今年 6 月份举办的 Code Conference 上,特斯拉和 Space X 的创始人伊隆·马斯克就曾说过,按照人工智能的发展,未来人类在智力上将被远远抛在后面,并沦落为人工智能的宠物。

去年 7 月,马斯克还资助了未来生命研究所(Future of Life Institute) 1000 万美元,该机构主要评估和分析人工智能带来的风险。

随后史蒂芬·霍金也在一场电视节目里声称硅谷某处的一些实验室正在酝酿一个邪恶的计划,而人工智能将会以比人类更快的速度进化,它们的目标是人类无法预测的。

“一旦机器达到了一种可以自我进化的关键阶段,我们就无法预测它们的使命是否和人类一样了。”霍金说。

对此,谷歌董事长 Eric Schmidt 回应称,人工智能将会以人类的福祉为发展方向,而且将会有一个系统来组织人工智能向不对的方向发展。“我们都看过那些科幻电影。”他说,“但是在现实世界中,人类肯定知道如何在人工智能变得危险的时候关闭掉它的系统。”

不仅是科技公司和民间组织想要让人工智能在道德和法律上走向正规化,政府机构也参与到了这场讨论中。今年 5 月,美国政府在西雅图举办了第一次关于AI法律法规的白宫探讨会。

本次探讨会的主题是“政府应不应该对人工智能进行管理”,但会议并没有就此议题得出结论,更不用说出台具体的监管措施了。

因此,在政府没有做出具体的动作之前,科技公司们已经开始行动了——他们决定自己制定框架,让人工智能研究能够进行下去,并确保它不会伤害人类。

参与本次行业讨论的微软研究人员 Eric Horvitz 曾在斯坦福大学创办过一个叫“人工智能百年研究”的协会,该协会最近发表了其 2016 年的研究报告。

在这份名为《2030 年的人工智能与生活》的报告中,作者认为人工智能“很可能受到监管。”报告称:“研究组达成的共识是,试图监管人工智能的努力常常受到误导,因为我们没有对人工智能这一概念的明确定义,因此在不同领域,我们需要考虑不同的风险。”

这份报告还建议政府机构提升对人工智能的专业认识,并加强在人工智能领域的公共和私人投资。

一份关于本次会议的备忘录显示,这 5 家公司将于 9 月中旬宣布建立监管人工智能的行业组织。有知情人士表示,Alphabet 的子公司 Google DeepMind 要求以独立的身份参与此行业协会。

该协会将以全球网络倡议(Global Network Initiative)等人权组织的模式组建,但更加关注言论自由和隐私权问题。

原文发布于微信公众号 - BestSDK(bestsdk)

原文发表时间:2016-09-03

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏云计算D1net

中小企业云计算信息化建设模式研究

在当今时代,云计算具备快速性、灵活性等等一系列的优点,已经变为当今计算机领域的良好发展趋势。另外,中小企业云计算信息化建设模式的应用能够非常有效地应对传统的中小...

3444
来自专栏罗超频道

智能金融时代如何提升用户体验?中信银行有一个生动案例

10月14日,中信银行联合腾讯云召开“语见·美好未来”发布会,中信银行手机银行推出智能语音服务产品,这是全国首个可以通过手机银行进行纯语音、全流程办理转账等金融...

842
来自专栏人称T客

SaaS说:“读懂资本、践行者的干货,峰会之后再无峰会!”

4月24日2015年SaaS软件峰会4在北京新世纪日航酒店隆重召开。开会不能说明什么,会议的主题也只不过是对内容的梗概,大家都想知道真正的干货是什么。 干货NO...

3516
来自专栏量子位

2018年AI如何发展?普华永道做出了8点预测 | 报告下载

李杉 编译自 PwC ? 人工智能(AI)非常复杂,而且发展迅速。任何人都不可能对未来几年的发展做出准确的预测。 然而,我们却有可能对今年的人工智能趋势做出具...

2309
来自专栏镁客网

线下大数据才是“大蓝海”,但几乎还是处女地,破局之法何在?

1375
来自专栏钱塘大数据

报告丨深度解读VR软件行业:2019年将超过硬件市场规模

导读: Virtuix Omni的“跳票”以及Magic Leap宣布推迟量产,让很多人多VR/AR的C端市场产生了怀疑。VR市场的发展有着背后的逻辑,C端的主...

3737
来自专栏智能相对论

大数据想做驱动多产业发展的“引擎”,还需掌握哪些技巧?

早在1980年,著名未来学家托夫勒在其所著的《第三次浪潮》中就将“大数据”称颂为“第三次浪潮的华彩乐章”,到了现在,大数据的热浪已经覆盖了整个时代。

992
来自专栏VRPinea

乐客VR创始人: VR-PARK将迎来未来最辉煌的10年

41010
来自专栏机器人网

Canalys:未来几年3D打印市场将飞速发展

技术进步和费用逐渐降低将促使3D打印市场从2013年的25亿美元发展至2018年的162亿美元。 Canalys发布对飞速发展的3D打印市场的预测,2013年其...

2575
来自专栏人工智能快报

OECD副秘书长呼吁就人工智能开展全球对话

OECD(经合组织)副秘书长Douglas Frantz发文,指出AI技术影响广泛,行业团体、创业企业、学者和智库都在从各个角度研究这些问题,呼吁举行强有力的、...

3877

扫码关注云+社区

领取腾讯云代金券