【脑洞】假如AlphaGo能够学习人类价值观

Google的机器人AlphaGo赢了人类围棋高手李世石，朋友圈又开始开脑洞，大致上是暗黑版科幻小说走向，机器人机器学习自我复制自我强化，无论智力体能都远超人类，回过头来反噬其造物主，人类毁灭……

就算机器人已经做到自我制造，而且越造越好，为什么它们就一定会走上毁灭人类而不是服务人类的道路？拥有了巨大的power和无限的energy之后，到底做什么，关键还是看价值观吧。

机器人的价值观会是怎么样的？既然其他知识观念都是学习来的，机器人的价值观也应该是Machine Learning的成果。Machine Learning的算法，简单而言，就是根据某种原则training data set以获得与该原则最相符的idea。

我们先假设这种原则本身是可以由人类设置的，那么当原则不同时，分别会造成什么样的结果呢？

【原则1】：以多数人的价值观为机器人的价值观

大多数，或者说普通人，又或者正常人，亦或芸芸众生。这个群体拥有的价值观是什么样的？

以个体的利益获取为最终追求，却又寻找一切机会尽量少的付出代价。渴望权势，却没有担当。缺乏内化的信条，排斥理性思考，怯懦、犹疑、充满欲望和恐惧，又随时都可能为了巨大的利益或者仅仅为了留存性命而疯狂。惮忌是因为害怕惩罚，不作恶是因为无法负担风险所带来的心理压力。在平稳的生活中，靠着习惯运行。一旦遭逢动荡则被裹挟在大潮中，彻底放弃自己选择的权利，完全被恐惧控制着随波逐流。

如果机器人是这样的价值观，再加上获得人类文明史中产生的一切知识、技能的能力和无限的体能……那，这位连暴君独裁者都成不了，就是一Monster。真要这么着，人类是药丸。

【原则2】：以人类精英的价值观为机器人的价值观

精英，他们是人类中的一小群，他们是睿智的、理性的、博学而客观的，拥有权势又勇于担当的。他们有能力figure out人类正确的发展方向，使得普通人只要跟随就能集体走向更美好的明天。精英的价值观，当然比普通人的强多了！

我们姑且假设机器人已经将精英这个人类的真子集从普罗大众中分离了出来，那么下一步，机器人还是会面临一个两难选择：理想主义 or 现实主义。这两种思想从实践角度而言，自然是后者获得了证实，但前者却在未经实践的前提之下生生不息，从思想性的强度而言，足以和后者匹敌。

应该选哪个？我们暂且不要难为机器人，假设这两种思路概率五五分成，机器人最终用抛硬币决定选哪个，在此只是打开脑洞，憧憬一下，两条路会把机器人带向何方：

【原则2.1】：理想主义，以人类最美好的愿景为机器人的价值观

人类最美好的愿景是什么？出任CEO迎娶白富美？那是小市民的愿景。精英，自然应该是以人类的整体福祉为念。

从整个人类的角度出发，如何定义美好？富强民主文明和谐？每个人都拥有同样的机会，只要努力就能超越出身向上穿越社会阶层?人人生而平等，无贫无富无贵无贱，所有资源平均分配？没有压迫没有苦难的世外桃源？……

其实也蛮多样的，不过至少，任何一种的美好都是建立在物质丰足的条件之下的，无论哪种美好，总得苍生具温饱吧。

那么这位机器智者首先需要解决的，就是地球日益减少的自然资源和人类日益膨胀的物质需求之间的矛盾。这样的矛盾，无外乎两个解法：节流和开源。

2.1.1 节流：压制人类的需求(或欲望)

要么对每一个个体人类获得物质资料的种类数量进行配给并严格监控——bigbrother之路啊！

要么通过洗脑，让人类发自内心的愿意尽量少的攫取自然而求得最长期的与地球共存——大概相当于极大功率版基督+庄周吧。

2.1.2 开源：宇宙那么大，何不去转转，地球没有的资源别的星球有啊！

那么机器人就负责组织星际舰队挺进外太空，殖民开发未知星球吧——机器版宇宙拓荒者/侵略者/太空盗？

【原则2.2】：现实主义，以那些已经经历过实践检验的、对现今人类存在着影响的、存在时间最长的观念为机器人的价值观

这应该是最脚踏实地的一条路了。难点在于，时至今日，人类并没有一套完整的理论体系在所有国家和地区都确证过有效。

那么，是分而治之？还是抽取所有文明中共同的部分，以此为基础重构人类新文明？

2.2.1 分而治之

则当今世界的大格局不会变，机器人作为公正无私的人类公仆出现在多种社会形态之内，从具体事务入手使各种国体、政体、思想体系的现存组合在其框架内达到最优。

但不同体系之间为了自身最优的目的争夺资源的现状并不会改变，客观资源和人类需求的矛盾也依然存在。最后结果嘛，大概是机器人自己精分了吧。

2.2.2 抽取共性重构

那么首先要找到共性。到底什么能算是当前所有社会形态的共性？恕笔者无知，现在只能想到一条：社会的等级分层，处在不同层级/阶级/阶层的人享有不同种类和数量的自然、社会资源，并对当前社会产生着不同程度的影响。

所有现今真实存在的社会形态都是划分等级的，区别在于architecture（金字塔形；枣核形；摊煎饼顶樱桃型）和bottom line（保证弱者基本权利vs 强者对弱者生杀予夺）而已。

既然存在不同等级，就存在一个个体在不同等级之间流动的问题。不允许个体的流动，则每个等级都将陷入自循环->个体退化->等级腐朽化->社会消亡的宿命。

允许个体在等级间流动，又将出现向上和向下两种不同方向的流动。无疑前者令人兴奋激动神清气爽，后者则令人沮丧失落仇视社会。然而，即使是最蓬勃向上的，以相对底层向上流动为主的社会，也依然会带来上层等级的volume size变大，导致整个社会的资源消耗激增的矛盾。

所有人都在追求越来越好的生活，而任何一种“更好“，都不能绝对排除物质因素。人类的诉求和自然的赋予之间，永远都是零和游戏。

所以，AlphaGo，BetaGo … OmegaGo 乃至它们的N代升级版本，即便是学来了最“利人”的价值观，打算奉献出它的一切能力与能量造福人类，最终也难逃星际掠夺者的宿命。

可是等一等，人类最美好的自由、平等、博爱、慈善的观念不是正在以人类自身为核心向外扩展吗？目前，除了人，部分哺乳动物也已经享受到了这类主体思想的辐射。等到OmegaGo开始学习人类价值观的时候，该观念想必已经覆盖一切外星生物了吧。那又怎么能去掠夺我们的外星兄弟姐妹呢？！

人类这么难伺候，干脆毁灭了他们算了——暗黑系小说中的机器终结者们，大概有不少是这么想的。