复旦教授徐英瑾：人工智能研究为何需要哲学参与? （上）

[1509331259820_9608_1509331308764.jpg]

人工智能哲学作为一个行当，在国内基本上是还没有确立起来。总体来说国外的情况比我们好一点，马马虎虎算一个哲学分支。举个例子，玛格丽特·博登是研究人工智能哲学的一个比较大牌的人物，一个女哲学家，英国人。她为什么研究比较好？因为她和MIT、卡耐基梅隆这些研究人工智能的重镇有非常密切的联系，和那里的人工智能界的大佬都是私下的朋友。而且玛格丽特除了是哲学专家以外，在计算机、生物学、心理学方面都有相应的学位。我们国家在文科和理科的交汇方面的确做得不是很好。

一、哲学能够为人工智能做些什么？

• 哲学要做的第一件事是思考大问题，澄清基本概念。与哲学家相比较，一般的自然科学家往往只是在自己的研究中预设了相关问题的答案，却很少系统地反思这些答案的合法性。
• 第二，哲学在不同学科的研究成果之间寻找汇通点，而不受某一具体学科视野之局限。

举一个例子，用军事上的比方，哲学更像是战略性思考。如果你是在一个炮兵学院里面，不同的研究炮兵战术的军官会讨论炮兵战术所牵扯到的具体的几何学问题。但是站在战略层面，它可能对于这些非常细微的问题会忽略，更多的会考虑炮兵在军事编制中所扮演的功能角色，站在更高的层面去看。这可能帮助大家理解哲学应该是干什么的。

• 第三，重视论证和辩护，相对轻视证据的约束。

人工智能需要哲学吗？

我个人认为如果说化学家、物理学家和生物学家对哲学的排斥还有一点道理的话，人工智能对哲学的排斥是最没道理。就对于哲学文化的宽容程度而言，AI科学绝对算是个科学界内部的异数。从某种意义上说，该学科本身的诞生，就恰恰是“头脑风暴”般的哲学思辨的产物。

人工智能异数异到什么地步？以至于现在教育部的学科目录里面没有人工智能，这是很有讽刺意味的事。也许以后会形成一级学科，但是现在还没有形成。

我们先看下阿兰·图灵，阿兰·图灵（Alan Turing，1912-1954）在英国哲学杂志《心智》上发表了论文《计算机器和智能》（Turing 1950）。在文中他提出了著名的“图灵测验（Turing Test）”的思想。

[1509331317357_6891_1509331366274.jpg]

此文牵涉到了对于“何为智能”这个大问题的追问，并试图通过一种行为主义的心智理论，最终消弭心理学研究和机器程序设计之间的楚河汉界，同时还对各种敌对意见提供了丰富的反驳意见。这些特征也使得这篇论文不仅成为了AI科学的先声，也成为了哲学史上的经典之作。

1956年发生大事件——Datmouth 会议，在这一年夏天的美国达特茅斯学院（Dartmouth College），一群志同道合的学者驱车赴会，畅谈如何利用刚刚问世不久的计算机来实现人类智能的问题，而洛克菲勒基金会则为会议提供了7500美元的资助（这些美元在当年的购买力可非今日可比的）。

[1509331337574_5995_1509331386511.png]

2006年达特茅斯会议当事人重聚，左起：摩尔、麦卡锡、明斯基、塞弗里奇、所罗门诺夫

在会议的筹备时期，麦卡锡（John McCarthy，1927～）建议学界以后就用“人工智能”一词来标识这个新兴的学术领域，与会者则附议。

参加达特茅斯会议的虽无职业哲学家，但这次会议的哲学色彩依然浓郁。首先，与会者都喜欢讨论大问题，即如何在人类智能水平上实现机器智能（而不是如何用某个特定的算法解决某个具体问题）。

其次，与会者都喜欢讨论不同的子课题之间的关联，追求一个统一的解决方案（这些子课题包括：自然语言处理、人工神经元网络、计算理论以及机器的创造性，等等）。

最后，不同的学术见解在这次会议上自由碰撞，体现了高度的学术宽容度（从麦卡锡完成的会议规划书McCarthy et al. 1955来看， 没有什么证据表明这次形式松散的会议是围绕着任何统一性的、强制性的研究纲领来进行的）。让人欣慰的是，这些“哲学化特质”在美国日后的AI研究中也得到了保留。

为何AI科学对哲学的宽容度相对来得 就比较高？这背后又有何玄机呢？

这首先和AI科学自身研究对象的特殊性相关的。

AI的研究目的，即是在人造机器上通过模拟人类的智能行为，最终实现机器智能。很显然，要做到这一点，就必须对“何为智能”这个问题做出解答。

如果你认为实现“智能”的实质就是去尽量模拟自然智能体的生物学硬件。你就会去努力钻研人脑的结构，并用某种数学模型去重建一个简化的神经元网络（这就是联结主义者所做的）。现在我们都知道有一个类脑研究计划，这种研究有复杂版本和简单版本，复杂版本就是蓝脑计划一样，把大脑运作的信息流程尽量逼真的模拟出来，比较简单的就是简化的神经元网络。

站在专业的研究脑科学的立场上，神经元网络很****不神经，离真正的神经活动来说，它是高度简化，但是站在很宏观的立场上，至少你说神经元网络也是受大脑的启发和影响。这个路线很多人认为是对的，我认为可以做出一些成果，但是不要抱有太高的期望。

如果你认为智能的实质仅仅在于智能体在行为层面上和人类行为的相似。那么你就会用尽一切办法来填满你理想中的智能机器的“心智黑箱”（无论是在其中预装一个巨型知识库，还是让其和互联网接驳，以便随时更新自己的知识——只要管用就行）。

由此看来，正是因为自身研究对象的不确定性，AI研究者在哲学层面上对于“智能”的不同理解，也才会在技术实施的层面上产生如此大的影响。很明显，这种学科内部的基本分歧，在相对成熟的自然科学那里是比较罕见的。

其次，AI科学自身的研究手段，缺乏删除不同理论假设的决定性判决力，这在很大程度上也就为哲学思辨的展开预留了空间。

二、哲学文化渗入AI的几个具体案例

下面我们讲一些案例，这些案例可以证明哲学思维对AI是非常有用的。

霍伯特·德瑞福斯（Hubert Lederer Dreyfus, 1929-），美国加州伯克利分校哲学教授，美国最优秀的现象学家之一，在海德格尔哲学、福柯哲学、梅洛-庞蒂哲学研究方面很有造诣。让人惊讶的是，以欧陆人本主义哲学为背景的德瑞福斯，却写下了AI哲学领域最富争议的一部著作《计算机不能够做什么？》（Dreyfus 1979）以及其修订本（Dreyfus 1992），并使得他在AI领域的社会影响超越了他的学术本行。那么，他为何要转行去写一本关于AI的哲学书呢？

[1509331394005_1265_1509331442893.jpg]

霍伯特·德瑞福斯（Hubert Lederer Dreyfus, 1929-）

Hubert L. Dreyfus，《机械战警》里面出现某个反对机器人有自动开火能力的哲学家和这个哲学家的名字一样的，我认为编剧是故意这么干的，因为他在美国是非常有名的搞人工智能哲学的专家。他为什么要去搞人工智能哲学？

非常有意思，根据他自己和记者的讲法，这和他在麻省理工学院教学时所遭到的一些刺激相关。在1962年就有学生明白地告诉他，哲学家关于人性的思辨现在都过时了，因为闽斯基等AI科学家据说在不久后就可以用工程学的方法实现人类智能的方方面面。

德氏觉得这话近乎于天方夜谭，但是为了做到公允起见，他还是在不久后去了美国的顶级民间智库“蓝德公司”（Rand Corporation）进行调研——因为恰恰在那个时候，司马贺、纽艾尔和肖（Cliff Shaw）等AI界的顶级大腕也正在那里从事研究。经过一段时间的分析以后，德氏最后确定自己对于当时的AI规划的怀疑乃是有根据的，并在1965年扔出了他掷向主流AI界的第一块板砖：《炼金术和AI》（Dreyfus 1965）。

德氏对于主流AI进路的批评意见很多，其中比较有意思的一条是，真实的思维是不能够被明述的程序所穷尽的。比如说你在打网球的时候，是不是得先看到了球，然后计算其入球的角度，计算你的拍子接球的角度以及速度，最后才能够接到球？显然不是这样的，因为由上述计算所带来的运算负荷是很高的，我们人类的大脑未必“消费得起”。

实际上，熟练的网球手仅仅是凭借某种前符号规则的直觉领悟才能够把握到接球的正确时机的——而对于这些直觉本身，传统的程序设计方案却往往是无能为力的。

不过，德氏本人并不认为所有的AI进路都无力解决上述问题。换言之，一些更为新颖的AI进路或许能够对如何把握这些前符号的直观提供方案。他认为，这些进路必须更为忠实地反映身体的结构，以及身体和环境之间的互动关系，而不仅仅是在符号的内部世界中打转。他的这个想法，以后在AI专家布鲁克斯的理论建树中得到了发扬光大。

布鲁克斯在论文《大象不下棋》中以哲学家的口吻评价道：新潮AI是建立在物理根据假设（physical grounding hypothesis）之上的。该假设说的是，为了建立一个足够智能的系统，我们就绝对需要将其表征的根据奠定在物理世界之中。我们关于这一工作路径的经验告诉我们，一旦我们做出了这种承诺，那种对于传统符号表征的要求就会马上变得黯淡无光。

[1509331421537_3849_1509331470418.jpg]

AI专家罗德尼·布鲁克斯

这里的核心命意在于，世界就是认知系统所能有的最好的模型。世界一直能够及时更新自身。它总是包含了需要被了解的一些细节。这里的诀窍就是要让系统以恰当之方式感知世界，而这一点常常就足够了。为了建立体现此假设的模型，我们就得让系统通过一系列感知器和执行器而与世界相联系。而可被打印的字符输入或输出将不再引起我们的兴趣，因为他们在物理世界中缺乏根据。

按照布鲁克斯的看法，AlphaGo打败李世石很伟大吗？他第一个反应是有什么了不起？因为他认为智能的重要性不是在于下棋，举出他的反例是大象不下棋，你造一个人造大象，模拟大象的所有生命活动，其实大象有很复杂的活动。或者海豚不下棋，你造一个人造海豚，下棋算什么本事？什么德州扑克，他都不在乎。他更关心怎么制造智能系统和外部世界由嵌入式的认知，能够把外部世界本身直接当作这样的认知对象，而不是当中造出一个中间的符号。

这种想法在很大程度上具有一定哲学上的创新性，布鲁克斯本身的研究更加注重的是对机器昆虫这种低等动物的行走能力的模拟，对高级智能是比较轻视的。这也是建立在很基本的观察上，人工智能研究的特点是小孩子越是容易做到的事，现在人工智能越难做到。比如很大程度的感知、把握，这是非常困难的。

为何科学训练中缺席哲学训练？

首先，对于处于“学徒期”的科学入门者而言，学会服从既定的研究范式乃是其第一要务，而对这些范式的“哲学式怀疑”则会导致其无法入门，而不是像哲学一样，在这个范式以外还有其他的可能性，有不同意见的交流。

第二，严格的一级、二级、三级学科分类导致学生们忙于如何熟悉特定领域内的研究规范，而无暇开拓视野，浮想联翩。根据我对教育部的分类了解，人工智能在中国是不存在的学科，这是很奇怪的事。

稍微对人工智能这门学科了解的人都知道，大概十几年前搞人工智能的人不敢说自己搞人工智能，怕被扔砖头，大家认为是骗子，现在行情突然发生变化。如果你站在具体学科分类的内部来看学科，你就不容易受到其他学科的思维方式的滋养。

第三，对于权威科学模式的服从，在很大程度上使大家不愿意接受异说。人工智能学科最大的特点是很喜欢攻击对方是异说，现在深度学习起来了，但深度学习的前身是神经元网络，它最大的敌人就是符号AI，符号AI和神经网络之间的关系基本是曹操和刘备的关系，就是汉贼不两立，双方几乎在人脉、资金、学术观点所有地方展开比《甄嬛传》还要激烈的宫争。

现在从整体看来，神经元网络的儿子就是深度学习占据了比较高的位置，历史上它被打压的间很长。我自己观察下来，人工智能中不同的争论是对资金的方向的控制。

传统AI最典型的哲学问题是框架问题：

常识告诉我们，手若抓起了积木，只会改变积木的位置，却不会改变积木的颜色以及大小，因为手抓积木这个动作和被抓对象的颜色以及尺寸无关。但一个AI系统却又如何知道这一点呢？除非你在定义“手抓”动作的时候得说清，这个动作一定不会引起什么。

但这种定义必然是非常冗长的，因为这会逼得你事先将事物的任何方面都罗列清楚，并将这些方面在相应的“框架公理”中予以事先的排除。很显然，对于“手抓”命令的任何一次执行，都会调用到这些公理，这就会使得系统在执行任何一个简单任务的时候都会消耗大量的认知资源。然而，我们又都期盼系统能够用比较少的资源来解决这些看似简单的任务。这就构成了一个巨大的冲突。

语义相关性究竟是怎么一回事情？既然计算机的在句法运作的层面上只能够根据符号的形式特征进行操作，它又是如何理解自然语词之间的内涵性语义关联的？形式逻辑，或者别的形式系统，究竟是否可能以一种简便的方式刻画语义相关性？

你可以预先在逻辑、公理里面说清楚所有事情之间的相关、不相关，但是没有办法写成一个可以执行的程序。你写这样的程序，在任何一种情况下，你的机械手举起任何一块积木，这件事情只会导致它的位移，而不会改变被举起来的积木的颜色。你觉得啰嗦吗？这不是最可怕的，更可怕的是机器会不停问你，会引起这个、引起那个吗？很烦，因为机器不懂我们一下子能把握的相关性和不相关性，这是很恐怖的。

所以丹尼尔·丹尼特写了一篇论文说，如果你用这个原理去造一个拆弹机器人，剪黄线还是剪红线、剪线会引起什么，他想半天，炸弹炸了。因为剪炸弹的线是有时间限制的。你不能想象这个东西是有用的东西。

接《复旦教授徐英瑾：人工智能研究为何需要哲学参与? （下）》