被深蓝击败的国际象棋大师Kasparov:在游戏领域,人类注定要输给机器

在游戏这个领域,人类是注定比不过机器的。

编译 | Rik R 王宇欣 陈韵竹

葡萄牙里斯本——Garry Kasparov 说,早在 20 年前他就已经明白,人类是注定要失败的。那是 1997 年 5 月的纽约,他输掉了一场六局制比赛,对手是 IBM 的 深蓝(Deep Blue),当时世界上最强大的国际象棋计算机。

如今,Kasparov 的失败似乎在情理之中。计算机通过「穷举法(brute force)」计算游戏步数的能力比人类大太多。

但是人们忘记了,深蓝挑战赛分两场,而 Kasparov 赢得了 1996 年在费城举行的第一场。在两场比赛之间,IBM 重新编码了它的计算机,于是 Kasparov 指控 IBM 作弊。(他后来撤回了部分指控。)

如果 Kasparov 在第二场没有失误,走了那关键一步,从而以平局结束第二场比赛,那么他可能已经赢了。

深蓝也在第一场比赛中犯了一个错误,当时 Kasparov 被错误地归因为深蓝的「过人智力」,使它有能力做出违反直觉的操作。

尽管如此,在今年于里斯本举办的网络峰会(Web Summit)上,Kasparov 对 Business Insider 说,那时是他第一次意识到,人类在游戏领域「是注定要失败的。」

「我可以看到这种趋势,」他说,「我可以看到,那就像一条单行道。这就是为什么我宣扬要与机器合作,认识到在游戏领域,人类注定要失败。」

他说,因而他对于人工智能的成功丝毫不感到惊讶,无论是 AlphaGo 还是 Elon Musk 旗下的人工智能打败了 Dota 2 的人类顶尖高手,「因为即使这些机器接受的知识有限,但它们有目标。」

「这和规则的制定有关,」Kasparov 说,「而设置规则意味着有范围可依。只要机器能在一定范围内运行,并且知道最终的目标是什么,即使只有这一条信息,它也足以达到人类无法企及的水平。」

Kasparov 写了一本人工智能方面的书,名为《深度思考:在机器智能结束和人类创造开始的交汇处(Deep Thinking: Where Machine Intelligence Ends and Human Creativity Begins)》。他还是数字安全公司 Avast 的形象大使。

我们的第一个问题是关于穷举法的,以及人工智能是否已经超越了依靠大数据来做决策,而非真正的思考或学习。

「机器在游戏领域占上风,是因为人类会犯错误。」

在对阵深蓝的第二场比赛开始前不久,Kasparov 正在研究棋面。这是计算机程序在历史上的第二次胜利,在经典的象棋游戏中击败了卫冕世界冠军。在这场耗时 3 小时 42 分钟的比赛里,这位来自俄罗斯的大师级棋手赢得了第一场比赛,但在第二场比赛的第 45 步棋后输掉了比赛。

Jim Edwards:你曾经说过,「机器在游戏领域占上风,是因为人类会犯错误。」这意味着,人工智能的主要优势仅仅在于人类会犯错误,而机器不会。现在你还是这样认为吗?

Garry Kasparov:自我说出那句话后,人性并没有改变。人类注定会犯错误,因为在国际象棋、高尔夫等游戏中,我们不能像机器那样稳定发挥,即使是我们中最杰出的那些人也做不到。

Edwards:人工智能的优势仅仅是这种稳定性吗?它不会犯错误?

Kasparov:我想,这得先理解 [美国数学家] 克劳德香农所说的 A 型和 B 型机器之间的区别。

所以,A 型机器应用穷举法,拥有强大的计算能力和一些算法,你可以称之为人工智能,因为它会模仿人类的决策方式。

顺便说一下,所有计算机科学领域的先驱都认为,比如克劳德香农、艾伦图灵、诺伯特韦纳,只有类似人类的 B 型机器才能实现真正的成功和技术突破。

「稳定性对人类来说是致命的,因为即使是最好的选手也不能永远保证会稳定发挥。」

Edwards:那些类似人类的 B 型机器会犯错吗?

Kasparov:所有的机器都会犯错,不要误会我的意思。因为即使是最强大的 A 型机器,穷举法也不能应付一切。

Deep Blue 是 1997 年的竞速之兽,每秒可以计算 200 万步。但是国际象棋游戏中的合法移动步数是 10 到 40(注:在国际象棋中,有时间控制的规则,也就是说每个棋手必须在规定时间内走完一定步数,在国际比赛中,典型的时间控制是每个棋手用 2 个小时完成 40 步。)因而制胜关键并非速度,而取决于机器对 A 点至 B 点所要做的某些评估。机器不是预言者,机器可以赢得一局游戏或实现一个目标。

但这不是解决问题,而是赢得比赛。因而机器也会犯错。但是机器的平均走棋质量相当稳定。稳定性对人类来说是致命的,因为即使是最好的选手也不能永远保证会稳定发挥。即使是在世界冠军赛中,顶尖选手在巅峰对决时都会犯一些明显的错误,而不仅仅是小失误那么简单。

「你知道,这是一条单行道。这也是为什么我说要和机器进行合作的原因,我意识到,在游戏这个领域中,人类是注定比不过机器的。」

11 月在里斯本举办的网络高峰会上,Kasparov 和 Business Insider 的 Jim Edwards 正在进行谈话

Edwards:你写的一个例子是,人类不喜欢放弃皇后,因为皇后是棋盘上最有利的棋子,即使这样做有利于整个棋局。

Kasparov:如果你说的是专业选手,他们会尽一切努力赢得比赛。但是如果我们讨论那种最顶级的象棋比赛,这种情况也会发生,因为选手们也会疲倦。在这种情况下,他们可能会失去警惕性。

从心理上讲,如果比赛中你占据优势,你会这么想:「好了,比赛结束了,」然后你就会放松下来。在与人类选手对弈时,这无关紧要,你前期奠定的优势会让对手无法翻盘。而在面对机器时,你很快就会被击败。这就是为什么一个封闭的系统——游戏也属于封闭的系统——会自动给予机器一定优势。

我从 1997 年就了解了这一点。当你意识到国际象棋计算机选手的绝对性优势时,相较于现代标准,深蓝还相对较弱。如今,机器的力量绝对是可怕的。它们比 Magnus Carlsen 强的不是一星半点,甚至你手机上的免费国际象棋应用都可能比当初的深蓝还要厉害。

我可以看到这样的趋势。你知道,我可以看到这是一条单行道。这也是为什么我说要和机器进行合作的原因,我意识到,在游戏这个领域中,人类是注定比不过机器的。

这也是为什么我对 AlphaGo 或是 Elon Musk 的「Dota」——人工智能选手的胜利丝毫不感到惊讶的缘故,即使这些机器所获得的知识有限,他们有这样一个目标。关于规则的设定。而制定规则就意味着存在一个规则边界。只要明白自身最终目标的机器在边界内运行,即使这是唯一的信息,也足以使机器达到人类无法企及的高度。

「很多人对 AlphaGo 击败人类最好的围棋选手印象深刻,然后是 AlphaGo Zero 在除了规则而没有任何额外信息的情况下击败 AlphaGo,但对我来说,这只能显示出人类对于围棋这一领域知识的掌握是多么可怜。围棋是非常复杂的。」

Edwards:输给深蓝有什么感觉?

Kasparov:输总是不好的。对我来说,我的意思是,不好的感受。对我而言,这只是比赛期间的首次失利。不是机器—仅仅是在国际象棋中。

在我「Deep Thinking」一书中,我承认我有几次失败后的恼羞成怒,并且非常伤心。对于 IBM 这场比赛的组织方式我有很多意见。我现在仍然坚持一些我的批评意见,但是在我的书中,我给与了 IBM 科学团队很多赞誉。毕竟,失败已经是过去的事了。

Edwards:那已经是历史中的时刻了。

Kasparov: 那已经属于历史了,虽然这是一种暴力破解的算法,而不是一个像人类一样的机器——据说 B 型机拥有这种特性,在国际象棋的比赛中取得胜利。但是正如我们发现的那样,国际象棋游戏很容易被具备足够算法、更大数据库和超高速处理器的高性能机器所攻克。

所以,我们在看围棋时,它已经是一种不同的机器了,而是一个深度学习程序。所以这并不是一种非常依赖暴力算法的机器。但是它仍然属于暴力破解的范畴,然而你拥有深度学习的元素。

「很多人对 AlphaGo 击败人类最好的围棋选手印象深刻,然后是 AlphaGo Zero 在除了规则而没有任何额外信息的情况下击败 AlphaGo,但对我来说,这只能显示出人类对于围棋这一领域知识的掌握是多么可怜。围棋是非常复杂的。」

围棋是非常复杂的。当今最棒的人类围棋选手的水平可能就反映了 200 年前世界顶尖选手的水平。如果你向 19 世纪最好的象棋选手展示这种游戏——现代象棋游戏——他们会被震惊到,这些将超出他们的想象。

让我重新回到这一点。这是一个封闭的系统,所以在任何的封闭的系统内,机器将会占据主导地位。任何可以量化的事情,机器都会做的比人类更好,并且我们无法做出这样的假设:你可以自动将从封闭系统内的知识转移到开放式系统中。

「机器能解决任何问题,但它们无法知道哪个问题最切题。」

Edwards: 在深度学习领域,机器学会了自学,这不仅是穷举法而已。你刚刚也提到,给机器定一个目标实在太难了——机器可没什么意图,需要人告诉它们应该做什么。机器本身是没有目标的。

Kasparov: 这和目标的定义有关。

Edwards: 在未来,人工智能的目标有多重要呢?有没有可能给人工智能设定一个目标?

Kasparov: 目标是随着问题产生的,但是机器并不会提问。或者,更确切地说,机器可以提出问题,但是它们无法得知哪个问题是切题的。这就像是一种限制,因为一台机器并不能理解边际收益递减规律。它会不断地询问下去。所以,当有一个意图、一个目标的时候,你就会触碰到机器所到达且停止的零界点。

所以,在不远的将来,我猜测机器能获得意图的可能性很小。我想,这与机器的运作方式是矛盾的,因为现在的机器了解的是可能性。他们可以在模式下工作。但是,意图——仍然需要将开放式系统转移成封闭系统。而且你必须明白什么问题是重要而相关的。

紧随一位康奈尔大学的教授的演讲,我做过一次演说。这位教授当时也谈到这一点,然后说:「机器能解决任何问题,但是它们无法知道哪个问题是切题的。」

「作为生长于苏联的一份子,我足够了解独裁者及其运作方式。我们应该如何面对这样一个事实——处于便利性考虑,我们愿意泄露如此多的个人信息?」

Magnus Carlsen 和 Kasparov

Edwards: 为什么安全性对你而言如此重要?

Kasparov: 它汇集了我生命中的某些元素——同时也是我当下生活的关键利益。它与人工智能技术有关,但也涉及个人权利。多年来,我一直在警告,如果危险分子利用现代技术,将会危害我们的生活方式。

而现在,我的观点是这样的:我们正在面临一个巨大的挑战。让我们抛开普京、金正恩和所有这些恐怖分子和独裁者来考虑。我们的社会正在经历技术带来的巨大变革。我在博客上也提到了许多有关问题,例如自由言论和仇恨言论。

过去,我们常常在生活中能将好坏分开。但现在,我们正处在这样一个环境当中——除非加以严格控制(其实我并不喜欢)是难以区分好坏的。因此,不可能阻止负面信息泛滥成灾,而这是我们不想看到的。我们需要做出一些艰难的选择。所以,在虚假新闻、巨魔工程和恶意玩家当中,我们要决定如何生活和运作。

但也有一个大问题。所以,我觉得,作为人权基金会的主席、作为生长于苏联的一份子,我足够了解独裁者及其运作方式。我们应该如何面对这样一个事实——处于便利性考虑,我们愿意泄露如此多的个人信息?这是因为,我们想要获得益处,却没有意识到,当你和世界紧密相连时,世界也将你的信息掌握在手。那么,掌握巨大个人数据收集的后果是什么呢?而且,这些信息还储存在跨国巨头、公司当中!

我只是想找到一个理论解释——而非解决方案。不过,我建议我们仍然要看到 Google 数据收集和苏联国家安全委员会之间的区别。然而,即使 Google 是个美国公司,如何确保这些信息不会被用来伤害个人呢?

这些问题对我而言很重要。Avast 也正在积极使用人工智能来保护个人客户免受各种恶意软件的侵害。虽然我并不是技术专家,我强烈地感觉到需要这么做。所以,这是在令人兴奋、现代却危险的世界中,保护个人免受各种威胁的方法。

限时干货下载

Step 1:长按下方二维码,添加微信公众号“数据玩家「fbigdata」”

  • 发表于:
  • 原文链接:http://kuaibao.qq.com/s/20180106B0SCD600?refer=cp_1026

扫码关注云+社区