剑桥大学在文明5游戏中设定AI毁灭世界,AI突破即时策略游戏防线?

作者:张乾

【新智元导读】 剑桥大学生存风险研究中心发布免费的MOD,让文明5的游戏玩家利用人工智能快速发展,但同时如果不建设人工智能安全实验室,超级AI就会毁灭人类文明。虽然AI在文明5中的表现糟糕,在即时策略游戏中也尚未战胜人类,但人类应该为此庆幸。

最近,剑桥大学生存风险研究中心(The University of Cambridge’s Centre for the Study of Existential Risk,CSER)做了一件防止发生世界末日的事:在游戏文明5中实验让AI毁灭人类。

文明5是一款即时策略(RTS)游戏,玩家带领一个历史悠久的民族不断升级打仗,与其他国家在文化、科学、军事和宗教等领域展开全方面竞争。

CSER发布的是一个免费的MOD,最终将文明5变成一场阻止“天网”的比赛。

在这个MOD中,游戏玩家可以利用人工智能快速发展,但如果不建设人工智能安全实验室,超级AI就会毁灭人类文明。

成败都在超级智能MOD

如果游戏玩家安装了CSER免费的超级智能MOD,科技胜利的目标将从发射航天器到半人马座阿尔法星(Alpha Centauri),变成建立一个安全可靠的高级AI。

游戏玩家不断在文明5中进入更高级的时代,而一旦进入现代时代,玩家需要投入大量的资源来建设人工智能安全实验室,并打击流氓AI元素的影响。如果玩家在利用超级智能获得技术进步的同时能做好AI的检查工作,那么就会取得胜利,最终将离开这个世界走向乌托邦;但如果让流氓AI失去控制,超级智能就会摧毁人性,人类建立的文明就会失败。

文明5中的甘地是个“核弹狂魔”,但跟不受控制的人工智能比起来,就是小巫见大巫。

CSER的研究Shahar Avin在接受The Verge的采访时表示,玩这个MOD的确能激励他更深入地思考AI的危险。 “假设你陷入了两个激进文明之间的纷争,管理人工智能的风险就会变得非常困难,因为你的资源专注于打仗。”Shahar Avin说。

文明5甚至已被纳入高中课程作为学习工具——虽然这可能并不是了解历史的最好方式,但是对于国家之间的基本经济、发展和外交能带来很多教训。

尽管AI在游戏中处理外交时的表现非常糟糕,但就模拟国与国之间完全误解的后果而言,它又是相当准确的。

AI尚未突破即时策略游戏防线

AI不仅在处理文明5中的外交表现糟糕,实际上在即时策略游戏中,整体能力尚不如人类。

在去年的星际争霸AI竞赛中,Facebook悄悄地派出一款叫做CherryPi的AI bot,最终CherryPi在28场比赛里仅排第6。国外科技网站Engadget甚至以Facebook“被业余玩家狂虐”(Facebook’s 'StarCraft' AI was defeated by hobbyists)为题做了报道。

虽然AI在围棋、德州扑克等策略游戏中战胜了人类,但在即时策略游戏始终不能突破人类防线。这由以下几点决定:

1、RTS游戏重在“即时”,每个玩家都在较少的时间内思考行动计划,AI做不到短期决策。在星际争霸中游戏每秒执行24帧,这意味着玩家可以在比赛前每42ms一样快状态变化。而对于棋牌类游戏而言,玩家有几分钟后的时间来思考。

2、AI无法应对突发事件。除了打仗外,玩家还需要考虑经济、局势、侦查等方方面面,不断做出安排。更重要的是,AI在处理突发能力上的表现不足,这也是AI在文明5处理外交时表现糟糕的原因。

3、游戏的公平性限制条件。由于机器在速度和频率上高出人类玩家,因此在某些游戏中,AI被限制在特定条件下与人类“公平”对决的,即APM(每分钟操作数)等操作指标不能超过人类血肉之躯的极限。

总体而言,AI更强调长期规划和推理能力。

不过,虽然AI无法占领即时策略游戏这块高地,CherryPi也未能给Facebook带来像DeepMind一样的赫赫战绩,但人类应该为此庆幸。

试想,如果AI在即时策略游戏中完爆人类,说明AI在政治、军事、社会等各个方面具备了接管能力,如果再加上人类又毫无人工智能安全管理意识,CSER创造的那种最坏结局恐怕是会发生的。

参考资料:

·CSER的报道:

https://gizmodo.com/a-mod-for-civilization-makes-rogue-ai-more-dangerous-th-1821815000

·去年星际争霸AI竞赛报道:

https://mp.weixin.qq.com/s/x0G-LNCano7qjGdpj-fpCQ

·即时策略游戏中的AI技术:

http://blog.csdn.net/tao_wu/article/details/77621012

原文发布于微信公众号 - 新智元(AI_era)

原文发表时间:2018-01-08

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏VRPinea

什么?还在咖啡厅约会?现在流行去“VR咖”好嘛!

2796
来自专栏华章科技

选择创业公司时可能陷入的五个误区

最近有点郁闷,又有候选人把我拒绝了。其实拒和被拒经常发生,并不都导致郁闷,但,候选人以这些理由选择别家公司除外:

562
来自专栏镁客网

「深度」想当有实体的“贾维斯”,智能家居机器人还需跨越多个桎梏

1863
来自专栏罗超频道

腾讯和头条公关在朋友圈互怼,究竟在争什么?

11月17日,今日头条举办了一年一度的生机大会,新任CEO陈林首次亮相,宣布了今日头条内容生态升级。

943
来自专栏互联网杂技

当40岁来临时,中国开发者是什么状态?

在浩瀚的历史长河里,人的生命显得V客核心短暂。即便Google的科学家说人2019年人类会永生,估计大部分人无法享有,人的肉身抗拒不了死亡这个自然规律。 早在春...

3315
来自专栏程序员的知识天地

华人第一打工皇帝,程序员如何逆袭成为人生赢家

1961年,陆奇出生于上海,打小读书就非常努力。并且考上复旦大学,还成为复旦“本科毕业考上研究生的八十人之一”。成绩优异的他硕士毕业后选择就留校当了老师。

2691
来自专栏飞总聊IT

高效能职场发展(序):职场发展是可以学习的

733
来自专栏VRPinea

科隆游戏展创始人: VR只是一个临时解决方案

35810
来自专栏机器人网

创客来了,谁说这些机器人不会改变未来?

---- 7月11日,2015国际智能星创师大赛在深圳举行了最后一场海选,现场参加海选的9个项目中,其中有6个跟机器人相关,机器人在创客中的热度可见一斑。尽管...

2355
来自专栏人人都是极客

【重磅】全球人工智能产品应用博览会Show

为期三天的2018全球人工智能产品应用博览会昨天已经结束,现场参观人员对智能设备的热情非常高。此次的智博会共有来自10个国家的150家企业和人工智能机构参展,集...

1432

扫码关注云+社区

领取腾讯云代金券