挑动AI斗AI,Google发起一场伟大的试验,结果……

量子位 | 舒石 发自 LZYY

未来是我们的,也是你们的,但归根结底可能是AI的。

从简单常规的交通灯,到复杂如国家经济体系,也许不需要多少年之后,人类社会的方方面面都可以借助人工智能进行部分或者全部的控制。人类在畅想未来科技进步的同时,回顾自身的发展历史进程,不禁产生了一个疑问:

这么多AI在一起,能和睦相处么?如果两个AI的目标不一致,它们会斗争还是协作?

Google旗下人工智能公司、AlphaGo的创造者DeepMind,最近就发起了一场“挑动AI斗AI”的试验:把AI们放置到几个“囚徒困境”一般的局面中,看它们如何相处。在这种困境中,自私可以获益,但每个人都自私,大家最终什么也得不到。

具体怎么测试?Google的意见只有一条:要文斗不要武斗。于是DeepMind眉头一皱,想出一个在虚拟游戏世界测试的主意来。

第一个游戏是《Gathering》,屏幕中央堆积着绿色的苹果,一红一蓝两个玩家要比拼谁能更快更多的收集到苹果。一个玩家可以选择使用激光束发起攻击,这样就能暂时把另一个玩家暂时冻结,从而可以趁机收获更多的苹果。

第二个游戏是《Wolfpack》,两个红色玩家需要在充满障碍的环境中围猎第三个蓝色方块。这个游戏并不是先捉到蓝色方块就能得分,而是必须等到两个玩家都在猎物附近时,捉到蓝色方块才能得分。

最后的结论是:AI是会变的,也可能更好斗,也可能更合作。

例如,在《Gathering》游戏中,当苹果供应充足时,AI玩家们并不会用激光攻击彼此,但是当苹果存量减少,AI之间相互冻结的情况立刻增加。最有趣的是,当一个更强大的AI引入游戏中,它更倾向于冻结其他AI,无论有多少苹果。

也就是说,更聪明的AI在任何情况下都是具有侵略性的。

这是否意味着,AI们以“阶级斗争为纲”?其实也不一定。专家猜测在《Gathering》中,追踪对手的行踪并启用激光冻结,需要额外消耗算力,并占用收集苹果的时间。所以只有更高级的AI才能从更复杂的策略中获得回报,不然相安无事最好。

而在《Wolfpack》中,AI玩家越聪明,越知道合作才能共赢。原因同上,学习与其他AI合作进行追踪和围猎,需要消耗更多的计算能力。

进一步补充下结论:AI可能会更好斗,可能会合作,取决于是否获利最大化。

这个结论意味着,AI的行为会随着规则的变化而变化。DeepMind的专家表示,这个试验表明,现代的人工智能技术(深度多代理强化学习),可以应用于解释社会科学中古老的问题,例如“合作”这种行为出现的奥秘。

专家认为经过训练的人工智能,和经济学理论中的“经纪人”很相似。基于这个实验结果,可以更好地理解和控制多个AI同时存在的复杂系统。

还有篇论文

DeepMind为此还发了一篇论文,题目叫《连续社会困境中的多代理强化学习》。点击左下角“阅读原文”,直接把您传送到这篇论文上。

原文发布于微信公众号 - 量子位(QbitAI)

原文发表时间:2017-02-10

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏CDA数据分析师

【技术贴】物理学博士教你怎样分析微博数据,怎样涨粉

网上已经有太多关于怎么增加微博粉丝数,以及怎样让我们发的微博获得更多转发的建议了。我们并不知道这些建议是否有效,因为它们大都是建立在个人感觉上,而缺乏真正有说服...

20080
来自专栏大数据文摘

业界 | 别跟风了!你的公司根本不需要数据科学家

数据科学家不是魔法师,当所需的数据不可得或者质量很差的时候,数据科学家能做的很有限,这已经超过了技术的范畴。企业管理者如果能从全局出发部署数据战略,才能真正解决...

8900
来自专栏互联网数据官iCDO

这五个店铺转化提高的秘密,只有top 10的卖家才知道!

译者:陈明艳 本文长度为4057字,预估阅读时间6分钟。 文章关键词:电商、搜索引擎优化、转化率优化(CRO) 每月至少有一两次,我会与那些想要在内容营销上进行...

29950
来自专栏SDNLAB

物联网中的边缘计算:提高网络效率以减少流量

企业对边缘计算越来越感兴趣,因为随着更多物联网设备的部署,企业需要快速分析和处理它们生成数据的方法。目标是消除将数据传输回云或内部数据中心的需要。

13450
来自专栏新智元

从代码恐惧到开发大牛:开发者“10倍提升”宝典

只要你愿意努力工作,不管你是一个想要引起老板注意、寻求升值的初级开发人员,还是一位想要寻求改变工作节奏的资深开发人员,不管你想从创业公司跳槽去大公司,还是想从大...

8010
来自专栏行者悟空

项目进度估算难题

19420
来自专栏云计算D1net

如何避免云计算的成本超支

优化云计算成本是2018年调查中受访者的首要举措,其中58%的受访者将其列为首要的云计算优先级。尽管如此,研究发现只有少数受访者已经实施了自动化策略来优化云计算...

17320
来自专栏互联网数据官iCDO

5个原因为你解释:为何没人愿意参与你的社交帖子互动?(附解决方案)

引言:2018年,如果你的社交媒体策略没有与你的内容策略相结合,那你就落后了。10%的专业营销人员将社交媒体营销作为最可能在2018年获得丰厚回报的策略,赶紧f...

28050
来自专栏大数据文摘

【牛!】物理学博士教你怎样分析微博数据,怎样涨粉

12730
来自专栏华章科技

剧透人生!你什么时候结婚换工作甚至狗带,Facebook都知道

你关心的这些人生重大节点,有人希望比你提前知道它们何时发生,并基于此对你精准投放广告。

10330

扫码关注云+社区

领取腾讯云代金券