从“根文化”到人工智能伦理困境

（电影《真实的人类》，当智能机器人意识觉醒。）

从“根文化”到人工智能伦理困境

|@雅静Jane

一、“我是谁”——历时的“根文化”与共时的三重生命

在《人生三问》中，一切问题，都是围绕“我是谁”展开的。

“寻根问底”，是人类的天性。弄清楚“从何处来”、“到何处去”的问题才得以获悉对自然万物的掌控感、安全感。

“从何处来”这种“根文化”，在注重“落叶归根”的华夏民族中最显然。从历时角度看，人类的祖先智人之前的海洋生物“进化论”还未得到确切完整进化链条的证实。再退一步，宇宙大爆炸理论如果存在，它背后的触发动力也是未可知的。这就给“我是谁”这一终极一问设下了第一道难关。

（图片自百度）

弄清楚“到何处去”则是为解决自己的惴惴不安，而这个问题的终极答案以目前的有限认知无法回答。于是，一日未解决“到何处去”的问题，我们便无权损坏历史或中断人类文明，需努力把人类文明的火苗传承下去继续寻找答案。

此外，“如何面对”，也是人类时刻焦虑的问题。于是，从共时的角度看“我是谁”，可以暂时安放我们的好奇、不安。也从这个当下的答案中，我们可以习得如何安身立命。这个当下的“我”，包含了三重生命：身体的我、社会的我、理念的我。这三重生命关乎“我”的自然存在、他人评价和自我评价。

近似于马斯洛需求层次理论，身体的我是第一生命，是物质的基本保障；社会的我是第二生命，代表了个人与社会的互动；理念的我是第三生命，指向我们怎么看待自己。

↓

↓

“理念的我”（我眼中的我）和“社会的我”（你眼中的我）要发展，需要唤醒我们“共情能力”。通过共情，人们从自然界的动植物中找到许多智慧投射到人造物上，利用“仿生”技术促进社会发展。

而后，随着这种共情能力的广泛应用，科学家们开始蠢蠢欲动，要把人的智慧投射到人造物上，也就是——人工智能 （AI）。换句话说，人类在进行以上“我是谁”的历时和共时思索中，开始“扮演神”，通过模拟“人的产生”，模拟自己的出厂设置。

然而！这门技术的成熟标准是力求人造物越来越像人，这样一来，同样出于人类的共情，在使用人工智能的某些领域，我们陷入了这样一个伦理困境——如何面对这个90%近似于人类的人造物？一旦AI掌握了自主学习能力并拥有了意识，反客为主的TA们，会不会选择报复？

（图片自花瓣网@第六星辰 电影《机械姬》，机器人对人类实现反杀）

二、凝视深渊——走向“神的扮演”和“造神”

人工智能这一技术从生发时起，便引来著名科学家们的一致担心。

物理学家斯蒂夫·霍金(Stephen Hawkin)、牛津大学教授Nick Bostrom和未来学家Ray Urzweil一再警告，如果不加控制，人类最终会被人工智能所消灭。

机器控制人类似乎存在现实可能。

一方面，人类制造了智能机器，进行各种使用和剥削；一旦机器具有了“人化”的意识，这种剥削则变得不道德。这在众多人工智能科幻片中机器人的被使用情况可以预见。

另一方面，智能机器有了主体意识后，天然存在“自我延续”的需求，于是会反过来防止人类关闭系统对自己造成威胁，并凭借生产、管理和暴力领域的控制权，利用人类智慧促进其继续进化。这两种倾向预示着，若不加控制，人机之战将走向必然。

智能机器发展带来更为直接的可能是人类的物种退化现象。

人工智能高度发展，进入到人类生活的方方面面，整体的人类力量或许会实现增长，但随之而来的是个体的能力退化，并且高度依赖人工智能。（假如每天出门依靠自动驾驶、家政机器人，停电就出不了门。）

（图片自花瓣网@gaEfixlR）

面对人工智能，学术界存在两者态度：科学主义和宇宙主义。在这两种态度之中，人类对于“我是谁”这个问题似乎更近了一步。

科学主义者“扮演神”。

提倡以人为本，与人道主义相结合，认为科技发展应该为人类生存发展服务，以人的利益为中心。通过制造智能机器，人类自身得到解放，成为机器的神。

在这个情况下，人类是主体，人类社会的可续发展是目的，保护地球是人类自保的手段。体现了人们希望“身体的我”得到更好的满足，把重复的劳动交给智能机器，并从智能机器中获取物质的丰富甚至精神沟通、知识学习的需求。

但对“社会的我”的发展则并未予以强调，个体与社会的互动将会如何被影响着未充分说明。但自我向社会作贡献的门槛则无疑提高了，体力劳动更多地由机器代替，人们工作的门槛提高了，这也是目前普遍存在的一种机器发展后的职业剥夺恐惧。

（@果壳问答）

· 斯坦福大学人工智能与伦理学教授杰瑞·卡普兰书中指出，智能时代的到来，给人类社会带来两大灾难性冲击：持续性失业与不断加剧的贫富差距。

· 被机器取代的工作：蓝领工作，包括司机、农民、仓管员、性工作者；

其他行业包括：律师、医生、教师、销售员的工作等。）

宇宙主义好比“造神”，以宇宙的发展为最高要义——“为科学而科学”，被称为科学的宗教。

他们认为人工智能将必然超越人类，并且其生命不受时间限制，将会代替人类完成宇宙中更为重要的事情，这是有限的狭隘的人类所力不能及的，应该为科学让路

人工智能的发展其被视为“造神”，阻碍其发展则是“弑神”。

使高能的人工智能消灭低能的人类是其目的，这一群反人类的“科学疯子”完全无视人的“身体的我”、“社会的我”和“理念的我”，也背弃了人类的“来处”和“去处”。

并且，反观他们自身的“社会的我”和“理念的我”，都体现出可怕的畸形。社会于他们而言是无用的，人类非科技的人文成果不被他们所正视，情感、关系等因素也被忽略，这种走火入魔、为科学狂的境况中，也可一瞥他们的“理念的我”无疑是在凝视深渊。

在他们的自我信仰中，科学被神化为至高无上的地位，破坏了社会的规则，打破了个人与社会的良性互动，伤害了“社会的我”，最终也会导致“身体的我”灭亡。

呜呼！综上可见，人工智能的发展若按目前的情况听之任之，人类社会各方的矛盾将会不断扩大化。但AI发展已经势不可挡，我们该怎么办？

为调和矛盾，人们把机器伦理作为预防手段引入科学哲学。

人类能否从自己的经验中，给机器灌输伦理，从而实现人机和谐相处？

（图自花瓣网@波不平，电影《人工智能》（AI），希望变成人类的机器人小男孩。）

三、照进现实——困境与两大机器伦理可能

事实上，尽管充满争议，AI的发展从未停止，业已照进现实。

硅谷数家互联网巨擘正在投资智能汽车的开发，目前已有报道多起无人驾驶造成的事故；物流公司依靠智能网络搭建了大型的派运系统，助力各大电商购物节；新型智能产品在教育、家政服务等方面暂露头角；日本的智能沟通机器人从虚拟走向实体，从外形上不断向人类靠近。

这一切都宣示着，智能时代，正在来临。

其中对于我们生活影响最为显著的是互联网+人工智能。

智能手机已经成为大多数现代人的必需品，工作、学习、社交和娱乐都能实现。以“人性化”服务为名的智能排序系统获取了我们大量私人信息，浏览过的网络、点过的赞、交友的群体都成为广告推介和智能消息推送的依据。社交媒体甚至涉及左右选票。

（图片自@新浪科技 脸书CEO马克·扎克伯格因Facebook泄露客户隐私出席听证会）

一方面这将更好地满足人们的喜好和阅读需求，另一方面，学者们也产生了“信息茧房”对社交与人际沟通负面影响的忧虑。

“信息茧房”（information cocoons）指的是人们总是关注自己喜好的东西或接受让自己愉悦的资讯，久而久之就将自己置于信息茧房之中久而久之便将自己。信息茧房一词由凯斯·桑斯坦教授提出。这在人工智能技术的主导下将加深人们信息的隔离，不愿看到与自己观点不一致的信息，人们之间的交流将存在更大的障碍。

在此情况下，“社会的我”亦将发育受阻。自我信念虽然得到不断的再次确认，但长时间处于同样的信息当中会削弱人们的思考能力和思想开放程度，最终损害“理念的我”。

面对上述现实困境，目前存在两大机器伦理：功利主义、义务论。

功利主义之伦理以最大化社会效益为基本道德准则，强调最大的善和最大的人类幸福，以结果为导向。

这种理性观在西方哲学传统中影响最大，也较为客观。但人工智能的计算进程和能力有限，算法也有待完善，追求完美将带来搜索负荷过大。

因而又出现“有限理性”的“满意”导向功利主义伦理。该伦理内核基本以“社会的我”为主导，个体的社会评价被引入到功利主义伦理算法中。

义务论即模仿人类的道德义务，为机器量身定做道德义务，使其行动得以遵守这些道德法则。如：人工智能之父阿西莫夫的机器人学三大定律。

然而，其中费解的语义又存在难于掌握的窘境。即使突破了语言障碍，道德规则从根本上也一直存在不可避免的冲突。但是，这减轻了机器的 计算负担，并使机器有权解释自己的行为。

与此同时，为了避免人机之战，又有维护机器人权利的呼声。人们好像造物主一样对待自己的作品，给智能机器以共情。这在一方面也是人们对于人道主义的“理念的我”的呈现。

四、结语

人们在智能时代对于“我是谁”的思索，通过人工智能的发展，在“扮演神”的过程中突显了“理念的我”指导下，对“身体的我”的重视，但无形中忽略了“社会的我”。

科技使人们足不出户便可满足所有需求，人工智能正适应了这一趋势，但加剧了人们社交的萎缩。机器伦理是对此情况的良好补充，避免“社会的我”发展不平衡带来的人类身份危机。

同时，还要警惕宇宙主义者的反人类倾向。把人类的文明种子传承下去，需要共时的三重的我（身体的我、社会的我、理念的我）良好发展。

（我想大家最为关注的还是智能时代有哪些职业会受到冲击吧，欢迎留言交流你怎么看待人工智能的发展？）

参考文献

1.黎志敏，人生三问[M],现代文化学堂内部资料.

2.杜勇,2015,论机器人的权利[J],哲学动态，83-89.

3.阮凯，2018，机器伦理何以可能:现有方案及其改良[J],自然辩证法研究，78-83.

4.郑志峰，2018，人工智能时代的隐私保护[J]，法律科学（西北政法大学学报），51-60.

网络资源

1.https://www.guokr.com/question/626993/（果壳问答|智能时代对职业存在多大冲击）

（一个赞表示已阅）