业界 | 谷歌“邪恶”实验:囚徒困境下的 AI,会选择背叛还是合作?

近些年来,人工智能正在一步步走入我们的生活,因此我们必须了解这些聪明的“大脑”在面对两难境地时会如何选择。为此,谷歌的 DeepMind 团队专门进行了针对性的实验。实验中的两款游戏,都是在博弈论中囚徒困境的理论基础上开发的。

所谓的囚徒困境是两个被捕的囚徒之间的一种特殊博弈,两个共谋犯罪的人被关入监狱,不能互相沟通情况。如果两个人都不揭发对方,则由于证据不确定,每个人都坐牢一年;若一人揭发,而另一人沉默,则揭发者因为立功而立即获释,沉默者因不合作而入狱五年;若互相揭发,则因证据确实,二者都判刑两年。由于囚徒无法信任对方,因此倾向于互相揭发,而不是同守沉默。这一经典理论说明了为什么在合作对双方都有利时,保持合作也是困难的。

游戏 1:红蓝色两个 AI 收集绿色苹果

“在现实生活中,无论是合作还是相互攻讦都需要复杂的行为特性,因此 AI 需要掌握执行一系列动作的先后顺序。”DeepMind 团队在博客中写道。“我们将这一全新设定看作连续的社会困境,并利用深层强化学习训练过的AI对其进行研究。”

在实验中,研究人员发现 AI 会逐渐展示自己理性的一面,在必要时它们会选择合作。

在第一个名为“Gathering”的游戏中,参与实验的 AI 们会在同一区域执行收集苹果的任务,它们可以尾随在对手身后用炮弹攻击它们,被击中的玩家会短暂出局。不过,这里有个前提条件,即收集苹果可以得分,但攻击它人则不会。

AI 被扔在这个游戏中数千次,直到它们通过深度强化学习学会理性。研究结果表明,这些家伙有时也会被利益冲昏头脑。

举例来说,当某区域有很多苹果时,AI 们会齐心协力收集苹果来得高分。一旦苹果数量下降,它们就会做出抉择,开始互相攻击以保护自己的胜利果实。

游戏 2:需要两个 AI 紧密配合

第二款游戏名为 Wolfpack,该游戏更需要 AI 们的亲密合作。AI 们需要在混乱的瓦砾堆中寻找猎物。如果你能抓到自己的猎物就能得分,此外猎物被抓到时如果你离猎物很近,也能得分。

在这款游戏中,研究人员发现,随着应对复杂战略能力的提升,AI 们更倾向于相互合作。

通过以上实验也让我们得出一个结论,那就是 AI 会根据自己所处的环境进行抉择,虽然有时它们会为了自己的利益相互攻讦,但大多数时候它们还是倾向于相互合作。

DeepMind 的研究团队表示:“这样的模型让我们能在模拟系统中测试策略和干预措施。”如果一切顺利,未来人类对复杂的多因素系统如经济、交通系统或生态健康都能有一个深刻的把握,因为它们都需要持续的合作。

Via. Dailymail

原文发布于微信公众号 - AI科技评论(aitechtalk)

原文发表时间:2017-02-11

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏VRPinea

PR、AE将支持360°视频编辑,VR影视繁荣即将可期?

3045
来自专栏大数据文摘

[干货] 看见声音的艺术... 震惊!长知识!

1383
来自专栏新智元

硅谷专家解答人工智能 6 个最火爆问题(AI的最大秘密和下个研究中心等)

Siri 的共同创立者 Cheyer 说,在做 Siri 的时候经历了一些有趣的事:当把 Start Over 输入的时候,系统却开始寻找路易安娜的 Ov...

3144
来自专栏PPV课数据科学社区

目标110分!人工智能机器人AI-MATHS将参加今年数学高考!

国产史诗大片系列之《高考2017》明天就要正式上映了: ? 虽然所有演员都是新人,但是为了此次演出可都准备了十几载,诚意十足。 在大家倍感紧张之时,有一位同学却...

3045
来自专栏机器之心

AI 社区有多排外?「外行人」观点引发争议

近日,蒙特利尔 Jewish General Hospital 的生物统计学家 Alexia Jolicoeur-Martineau 在社交网络中抱怨 AI 研...

762
来自专栏哲学驱动设计

仓位管理 V4.3

852
来自专栏ATYUN订阅号

ScriptBook利用AI预测电影剧本是否会带来票房

提供人工智能设备的公司ScriptBook的创始人表示,如果索尼电影公司利用它们的算法而不是人类来评审电影,索尼原本可以在2015年到2017年节省一大笔资金。

1133
来自专栏AI科技评论

业界丨Microsoft Translator 重大更新,“扫一扫”就能免费体验多语言的实时翻译

(图片来源:Cnet) 想象一下,你正在法国沙特尔教堂和来自巴西、中国的游客一同游历——然而大家都不会法语。那么你们如何听得懂解说员的讲解,又和对方轻松交谈呢?...

2856
来自专栏AI科技大本营的专栏

全网首发 | 科技超人马斯克的第四次惊天创举,这一次,他将拿人脑开刀(一)

这是一篇让科技迷们等了大半年的文章。 Tim Urban每每出一篇文章,总能引起科技迷们的狂热追捧。 Sorry,不止科技迷,没有任何基础的路人们,也能一口...

2837
来自专栏PPV课数据科学社区

人工智能真的会取代人类吗?

 “借助人工智能,我们将召唤出恶魔。在所有故事里出现的拿着五芒星和圣水的家伙都确信他能够控制住恶魔,但事实上根本不行。”马斯克的一番话让近来备受业界瞩目的人工智...

34010

扫描关注云+社区