从人脑模拟到人心模拟的社会文化问题

▍无论智能模拟、人心模拟的技术前景如何,都必须在人身、人脑、人心和人际四个方面,即自然、文化和社会三个维度上综合考量,这或许能让我们既不恐慌技术的未来,也对拥抱超级技术及其生成的生活方式持有必要的审慎。

§阿尔法狗击败李世石的事件，把对智能模拟未来前景的讨论从学院推向了民间，成为公众事件。争论的问题可以分为两类：技术问题和文化问题。人工智能会否超越人的智能，进而不受人的控制，甚至会将其创造者人类灭掉，这无论多么耸动视听，激荡感情，还是技术问题。人工智能全面接管人的劳动，把人从几乎所有的劳作中解放出来，此是否人类所愿、人类福音，这是文化问题。这两类问题虽有勾连，但却是不同的问题。我关心智能模拟引出的文化问题，实质是人工智能与人的关系问题，理解文化问题就要回到人。

人可以分成人身、人脑、人心与人际四个维度。人工智能目前大体与人身、人脑相关。人身和人脑可以归为人的自然部分，从娘胎带来，离开世界时也随之消散。人心是什么？　人心是人的情感、价值、道德、伦理、信仰等的总称。具体的人心不是从娘胎带来的，而是在人的社会生活和文化生活中生成的，离开世界，人心过程也随之结束，但人心的产品，如道德行迹、艺术作品、宗教信条等会以文化的形式存在下去。中国古人说的“立德、立功、立言”的三不朽，追求的都不是个体肉体的不朽，而是文化的不朽。中国有中国的典籍，西方有西方的典籍。人心所创造的东西会存留在建筑中、书写中、音乐绘画中。但人心还是一个个体概念；人际，就是社会概念，是人和人之间的交往形成的实在，是人身人脑和人心都参与的，但不能还原为个体的实在。以上四项，归纳起来就是自然、文化、社会三个维度。

IBM用48块TrueNorth试验芯片构建了一个电子的啮齿动物大脑，每一块芯片都可以模拟大脑的一个基本构件。

§人工智能的文化问题，首先表现为人工智能赋予人身人脑超常的能力，人心是否能匹配，能驾驭？举一个通讯的例子，对“你现在在哪里”这样一个问题，手机可说假话，座机不行。这里的区别是，手机通话不再被限制在特定空间里，所以可以诱发人为了当前的需要而随意编排通话的场所；与手机的空间自由相比，座机的空间是固定的，而固定空间就是行为的约束条件，这包括座机标示的机构，及其使用者的社会位置。事实上，一旦使用座机，“人在哪里”的问题就不存在了，遑论就此问题说假话。这里所谓的约束，既是空间的，也是社会的。人心能否良善，在社会学看来，不是一个单纯靠“吾日三省吾身”来成就的个人道德修炼的问题，而是看人心在怎样的人际中得到滋养、支持和约束的社群实践的问题。有数据说大都市里外来打工者的越轨率高于本地居民，并非前者天生就比后者更容易犯规，而是在地方排斥和歧视还普遍存在的环境中，外来打工者游离于能够带来道德滋养和道德约束的主流社群。他们的犯规念头一旦产生，在自己的社群里受到更少约束，而且更可能得到鼓励。连同上面的手机座机的例子，都说明人心的把持实际依赖社会环境的支持和约束。

智能技术赋予个人的超常能力，实际上就包含了突破空间与社会限制的能力，这对个人既带来行为的便利，也带来失去约束后的失控。技术的进步，是改善人心还是败坏人心？　这一问题自卢梭以来从未停止争辩。人工智能看似无限可能的前景，带来比卢梭的关切更加严重的问题———如果人工智能做了当代人几乎所有的工作，人类是更强大还是更虚弱？　对此，上海学者江晓原的回答是不乐观的。问题到了这个地步，已经不是机器人能不能胜任一切工作，而是人类要不要机器人做一切工作，这个问题背后的潜台词是，人类有无匹配技术威力的道德和精神能力。这个地球上自从有了可以毁灭人类的核武器，就引出了谁有资格拥有核武器的问题，为什么你可以拥核，我就不可以？　为什么拥核不是看你有没有生产核武的技术能力，而是要看你是什么国家？　这里的问题，与本节讨论的人心能否匹配为人工智能武装的人身和人脑的问题是同一性质的。把人工智能的问题引申到人工生命，其无限可能的前景，一样带来人的伦理感情和能力，能否与之协调而不发生危机的问题。只有把智能模拟带来的文化问题极而言之，才不会被技术的无限可能的承诺蒙蔽而盲目乐观。

§人工智能的另一个文化问题，是我们有无可能从人脑模拟到人心模拟，进而改善人心和改善社会　(人际)。在现今的论辩中，人心模拟的问题似乎还没有提出，但我相信，人工智能的专家们，包括信息科学的、逻辑学的、语言学的、生命科学的和脑科学的专家们，他们或许并不满足于智能模拟，想走得更远，他们的野心是彻底弄清人心的秘密，进而模拟人心过程。特别是生命科学和脑科学的专家们，会有这样一种还原论，他们试图在大脑皮质和神经元的水平上，读懂人的道德判断、审美经验、爱恨感情，甚或宗教信仰，找到决定这些非智力过程的因素和机制，进而能用科学语言和技术手段，再现上述人心过程。

从人脑模拟走向人心模拟是不是可能，既是科学问题，更是文化问题。脑科学专家告诉我们，人类行为都有对应的神经过程，都有生理印记或表现，发生当事人兴奋的事件时，人脑中的特定区域会被点亮。问题在于，让人兴奋的事件可能在道德上截然对立，如损人为乐和助人为乐的对立，当他们为各自所作所为而乐时，他们脑区上的神经灯泡都应该被点亮了。解开人心秘密的研究，不仅要在行为和神经反应之间发现联系，更要辨别出，被点亮的灯是否能透露行为区别的消息：是给别人带去快乐的快乐，还是给别人带去痛苦的快乐。其中关键是人类行为的具体社会性质，是否能被还原到神经元的放电现象上；研究者有无能力在完全不了解被试者的情况下，读出两个放电事件，何为善行，何为恶行。

从人脑模拟走向人心模拟，一个要素是人类行为的具体社会性质能否被还原到神经元的放电现象上。

让我们将此思想实验进行下去，我们容易假定某人在社会化的过程中行为发生的变化，以浪子回头为例。先前的一个熊孩子，曾以恶作剧为乐，如今以读书为乐。他的这两种行为都会点亮特定脑区的神经细胞，专家们能否辨别出两种放电的不同，进而辨别出恶作剧产生的兴奋和读书产生的兴奋，再进而区分出先前的熊孩子和现在的好孩子，还是完全无法分辨？　一个人行为的变化、人格的改善，需要多年的努力———多少与他人互动的情节，多少具体使其改变的焦点事件，所有这些发生在社会世界里的人心故事，会有脑电波的运动，但能否一一转录成有善恶判断从而表现出善恶特征的脑电波波形？　所谓转录云云，就是还原论，如果还原是可能的，接下去的问题是，当我们把一个孩子叫做熊孩子，并在行为定义上打上负分，还被中国的脑科学专家在神经细胞的放电图谱上辨认出熊孩子时，放到文化传统不同于中国的国度，熊孩子还被视为“熊”吗？　其在中国被认为是“恶作剧”的行为还“恶”吗？他的行为引发的神经元放电还能被打上负分吗？　进而他以读书为乐时还会有同样程度的发电吗？　这里关乎的问题是在一种文化中让人兴奋的活动，在另一个文化中未必如此。例如，运动的价值在美国的学校远比在中国的学校更高，这是环境和文化带来的差异。何为熊孩子及其行为判断，并没有一个普遍的标准，我们即使能从脑电波上辨认出我们文化定义的熊孩子，也无法辨认出别人家的熊孩子，如果一门研究人心的脑科学因研究者的文化背景不同而有了国别的分类，我们还能视其为科学吗？

人脑模拟是为了解放人脑的创造能力，人心模拟为了什么？　我们知道了一个熊孩子的特定的神经过程波形，或一个好孩子的特定的神经过程波形，我们是否就有了办法来干预行为，甚至量产社会所期望的人格？关于人性，从来有性善论和性恶论的对立，各自都有好的道理，也各有死穴。这里不来站边，只想先摆出一个不大会有争议的前提，十年树木，百年树人，即使人生而性善，要成为善人，也需后天的日日奋勉，以仁为己任，弘毅而行，自强不息，百炼才能成钢，这一切不仅是人心的努力，人心的成就，也是人际的互动，人际的成就，需要行为人自己和他　(她)　所有关系的人们的共同努力；反过来说，即使人生而性恶，成为一个人神共愤的恶人，心理学家、社会学家、教育学家能讲出许多关于此人的故事及带出来的一部社会史。人心的纹理，是被社会时空的力量所铭刻和塑形的，若这一切都能被神经过程的工程所转录，所干预，所改变，这对人生对文化对社会，究竟意味着什么？　如果通过人心模拟，我们都成了雷锋，由完全毫不利己的好人组成的社会，还需要道德和法律吗？　我们能设想这样一个无仁无义的社会吗？　还有，今天的世界，信仰是多元的，也是冲突的，至少在信徒个人的持守上，不可能兼容并蓄，一视同仁。若脑工程可干预道德，是否也要干预信仰？　谁来主导这一信仰工程，无神论者，还是有神论者？　哪一家有神论，耶教、佛教、摩门教？　工程师都是具体的个人，会有信念取向，人心模拟，包括信仰模拟，究竟以哪一家为神圣？

以上所论，对人心模拟的技术可能的问题是搁置的，引出的更似一个思想实验，指向此项可能的智能工程或激动或困扰人类的问题：人心的安身立命或人际的文化生命。我仍然将技术的可能性开放给科学家，及未来的人类，但以人类的社会生命和文化生命立场，思考可能的人心模拟对人类意味着什么，仍然是必要的。

§明眼人不难发现，以上议论的核心问题是还原论有无可能。我对还原论向来谨慎，质疑多于接受。功利主义推向极端，就会把所有人的行为，不论贤愚不肖，都视为趋乐避苦，损人利己是为自己乐，助人为乐也是为了自己乐，如此一来崇高与卑鄙没有区别，贤愚不肖没有两样，我们会如何反驳？　针对上述学说，马克思若有反驳，用马克思自己的话来说，“凡是把理论导致神秘主义的神秘的东西都能在人的实践中以及对这个实践的理解中得到合理的解决”，是的，用生活实践来反驳上述说是神秘主义有点勉强、说是诡辩则恰如其分的人性学说是最有力的，我们不妨提出两个问题，第一，此学说的主张者，在每日的生活中是愿意遇到雷锋还是损人利己者；第二，损人利己者给自己带来快乐，给别人带去什么。如此，损人的行为与助人的行为在人际互动的意义上还一样无别吗？

所以举出上面的例子，在我看来，极而言之的功利主义，仍然把人心的维度，还原到自然性的人身和人脑的水平。我会坚持，无论智能模拟，还是人心模拟的技术前景如何，都必须在人身、人脑、人心和人际四个方面，即自然、文化和社会三个维度上综合考量，这或许能让我们既不恐慌技术的未来，也对拥抱超级技术及其生成的生活方式持有必要的审慎。

专题（2016.7.29）| 从人脑模拟到人心模拟的社会文化问题

于海复旦大学社会学系教授

转载本公众号文章请注明出处