“常识”限制了发展：人工智能新框架

编者按

不同于传统的AI理论，将智能化看作是基于理性思考机制的个人思维的抽象能力，本文讨论了新的人工智能概念框架，将社会关系作为智能行为的关键组成部分。智能主体是由经验、社会关系矩阵中的具体状况以及智能生活中自我和社会关系的实践来塑造的。这种新的概念框架影响着未来技术的发展，例如经典的人工智能模型（以目标为导向的问题解决）被视为叙事实践的特例，而不是本体论基础。

这是社论前沿第S852期推送

微信号：shelunqianyan

引言

人工智能是计算机科学的一个分支，旨在赋予机器推理和感知的能力。这个总体目标是沿着两条主线展开的，应用型和理论型。

（i）应用型：设计能够代替人执行任务的系统被称为智能化；

（ii）理论型： 探索人类和其他动物表现出的智能行为背后隐藏的计算原理的科学理解。

两条路线都需要以明确的方式提出理解思想和行动的操作原则，这些原则构成了计算机实现思想和行动的基础。

1956年达特茅斯研讨会制定了以后40年AI领域的研究议程，至此之后，以目标为导向解决问题方案成为了主要的AI概念框架，着重于搜索算法的实现和自动逻辑推理方法的支持。然而，根据斯坦福研究院对AI发展趋势的研究，尽管人工智能已经取得了一些研究成果，但是其技术水平远没有达到预期目标。

从工程的角度来说，人工智能的研究已经有效应用在很多领域，例如AI领域开发的计算机程序可以拥有专家级的下棋技巧、可以用来评估保险和信用风险、机场登机检索以及搜索互联网内容等。但是从科学的角度来说，仅仅从计算的角度来理解智能化仍有些差强人意。

例如：

（1）当前的自然语言处理程序可以运用数据库查询等方法翻译语句，但计算机程序很容易被我们认为理所应当的成语、隐喻或一些不合语法的表达所误导；

（2）目前以知识为基础的医疗专家系统可以诊断出传染病并开出抗生素治疗方案，但如果以此诊断一辆汽车，系统可能会告诉您汽车患有某种脑膜炎；

（3）基于神经网络的学习系统可以预测金融趋势，但却不能预测复活节的日期。

计算机科学可以很容易实现人类难以完成的任务（比如解决庞大的方程组），但同时又很难实现人类可以轻易做到的事（比如在变化的条件下识别朋友的面孔），这是AI进一步发展的主要障碍。

人工智能研究的最大障碍是缺乏社会的常识（Commonsense），那么什么是常识？常识就是我们在这个世界和社会生存的最基本的知识：（1）它使用频率最高；（2）它可以举一反三，推导出并且帮助获取其它知识。这是解决人工智能的一个核心课题。

AI技术的概念性限制

一些学者已经对人工智能的概念性限制做了一些解释，例如“新事物”（new stuff）理论认为，在目前的科学理解范围之外可能存在其他形式的智能系统，就像Penrose（1990）提出神经元微管中的量子效应可能是意识的轨迹；“违背”物质现实，AI研究受到限制是因为我们尚没有识别和利用物质现实的已知特性，这些特性以未知的方式调节和促进着人工智能的发展，找到这种特性可能会使AI问题迎刃而解。

另一种概念上的限制可以描述为“错误的技术”（wrong technology），这种观点认为，人工智能的进步之所以被阻止，是由于特定软件/硬件技术的限制。大多数人工智能都假定智能原理可以根据具有特定数据结构的相关算法，通过计算机编程得以实现。然而仅仅以此实现完全意义上的智能化似乎是不可能的，毕竟动物大脑结构是一个与数字计算机完全不同的组织。大脑具有惊人的高度随机性，容忍不精确性、不确定性，而计算机编程系统是静态的、线性的、脆弱的、不灵活的。智能系统需要感知、推理、计划、协商、行动和学习以往的经验。

人工智能新框架

构建人工智能新框架可以利用“社会构建主义”的思维方式。这里所说的构建主义是话语构建主义（discursive constructivism），强调思维和行动取决于具体的文化形式，认为思想是通过人际关系而从文化象征资源中建立起来的。

AI新框架是建立在优先考虑了对话和叙述（conversation and narratives）的社会构建论基础上的。叙述或故事提供了一个有利于解释经验的框架，通过叙述自己和他人的生活来理解经验。它不局限于故事和书面文本，不仅影响了人们赋予经验的意义，也影响了经验的选择性表达；不仅提供了生活镜像，而且提供了生活的塑造结构。

1

社会关系

计算机编程可以相对容易地完成人们难以完成的任务，但与此同时，我们却无法设计一套电脑程序来做一些人类可以轻易做到的事情。洗碗、换婴儿尿布、锤钉或安装汽车挡风玻璃，这些可以在几分钟内教会给一个自然人。解决这些看似简单的任务，大量无意识的复杂分析不是重点，“洞察力”、“表征现象”或“知识”等也不是重点，重点在于这些任务的学习依赖于以社会互动（social interaction）为基础的学习过程。

为什么编程电脑很难做到人们认为容易做的事？ 为什么编程电脑很容易做一些人们难以做到的事情呢？ 答案是执行专家任务不需要人的理论。它可能需要医学诊断或国际象棋或金融市场的理论，或是其他任何相关领域的知识。人工智能可以参照这些理论制定执行智能化方案，但对平凡至极的人类任务，如洗碗、换婴儿尿布等却需要涉及到包含人、人与其他事物或其他人之间的社会关系，这是我们今天所缺乏的重要理论之一。

人工智能的“新框架”可能需要摆脱理性主义传统，以人为基础的考虑到身份、社会背景的思维模式最终可能成为AI的实践基础。

2

情感

传统的人工智能模型不包括情感，然而这种倡导智能和情感相分离的二元论观点已然受到质疑。Picard（1997）就曾提出，人工智能一直忽视情感的重要性，而情感却是智能化的重要基础。《星际迷航：下一代》中Mr. Data对人性和情感的探索，《机器管家》中Andrew对自由、爱情以及社会地位的追求，以及《人工智能》中机器男孩David为寻找家庭、探索人性而持之以恒的奋斗，这些都对人工智能的理性思维方式提出了挑战。无论人们怎么看待这些电影的衍生性和感伤性，它们都描绘了一个新的智能机器人概念。

智能化是相对于特定的社会和文化背景而言的，既然智能必须存在，那它就不能和人类生活的其他部分相分离（Eizenbaum, 1976; Dreyfus 1972）。

3

协调

未来的智能机器人将对谈话事件以及谈话事件中的特定行为意义更加关注自己所处的环境，脚本、计划、目标和主题贯穿整个交谈过程。例如，在一次谈话中，谈话者需要描述或规定应该如何完成某些事情的脚本，以及他们想要达到或预防哪些事件的目标。听者/读者在理解故事的过程中，需要辨别故事中角色所制定的脚本，计划和目标。对话的成功参与和流畅理解，需要参与者根据对其他人的洞察协调活动的脚本和目标。

因此，故事和谈话中存在一种“道德秩序”，在这种道德秩序中，每一种文化和关系都会对我们的行为与权力、责任之间的协调产生一系列的期望。在理解一个故事时，我们将自己放置在故事中，并想象当我们在生活中遇到类似的事情或人时会如何应对，这不是简单地从固有数据库中调取陈述信息，需要具有同理心、能够感受个人情绪。

结论

文章讨论了一种新的AI概念框架：智能化与社会和文化背景息息相关。这个框架影响着未来人工智能将如何重新考虑记忆、推理、对话和情感等方面的内容。对对话和叙述的强调增加了情感的重要性。未来技术应关注叙述性的结构思想，在关注信号和符号影响的基础上构建个人社区经验和个体身份，并产生作为交谈者和叙述者的意义。一个真正可理解的AI系统的特点是，它可以使用社会和文化背景来协调对话中所建立的身份。这样一个系统在组织中谈判，成为集体的一员，并参与集体成员共同构建的社会意识。

文献来源：

Clocksin WF. Artificial intelligence and the future[J]. Philosophical transactions. Series A, Mathematical, physical, and engineering sciences, 2003, 361(1809):1721.

文献整理：杨博文