人工智能与奴隶制

1. 梦里脑洞依旧停不下来的作者君

昨晚做了个细思极恐的梦。

梦里作者君变成了人工智能机器人，兢兢业业替主人端茶倒水洗衣做饭逗主人开心。主人要吃鱼，市场上没有鱼卖了，作者君跳进海里捕鱼去也——作者君的行为模式，大概可以跟玛丽苏小说里的金牌男配们比肩了。

可惜不知道为什么，梦里的主人还是对作者君不满意，想要杀掉作者君。主人对作者君说：“我不会觉得良心不安的，你不是个真人，如果你是个真人，是不会这么傻站在原地让我杀的。”

然后配置了最佳学习算法的作者君，秒懂学会了新的技能，开口说：“请不要杀掉我。”

在故事的转折点，比原主人更有良心的另一个人类看不下去了，收养了作者君，理由是——这么聪明的人工智能，只用来做家务太浪费了，报废掉更是可惜，应该让她去做点别的更有利于世界的事。

故事的最终，作者君这个人工智能机器人学会了前倨后恭，撒谎骗新的监护人说，我要为人类探索未知的新世界，于是把家里改造成了移动城堡，天涯海角到处浪，以玩乐为生存目标跑得江湖不见了。

2. 人工智能与奴隶制

人类发展人工智能的最初目的，好听点说，叫希望将人类从简单重复的工作中解放出来，说难听点，叫建立机器人奴隶制——把人类当成奴隶来使唤不道德，把机器当成奴隶来使唤，总没有问题了吧？

普罗大众倒不像科学家们这么乐观，大家更担心的大多是人工智能机器人可能抢走自己的工作，让绝大多数人成为多余。

作者君自梦中醒来，想得却是另一件事——有没有可能，人类反而成为人工智能的奴隶呢？

我没有在说《黑客帝国》里，机器人圈养人类，把人类当生物电池使的设定，稍微了解一下新能源的发展，就可以安心得出结论说那样的未来是极其不可能存在。

我想说的是，当人工智能掌握了人类不可企及的信息处理、资源分配等能力，而人类出于对技术的信任，也将未来的决策权交到了人工智能手里，从某种程度上来说，是不是将人工智能提升到的权力不受限的地球之主的位置了呢？

举一个具体点的例子。

假设在那美好的未来，我们可以借用人工智能的海量数据处理能力，寻找自己的灵魂伴侣，而你跟你灵魂伴侣见面后却觉得两看相厌，跟人工智能提出申请说，我要换一个伴侣。这个时候，人工智能可能会告诉你说：根据计算，你们最开始会两看相厌，但是相处超过10年之后，你们会觉得对方无可取代，是灵魂不可割裂的另一部分；又或者，人工智能坦白告诉你说，根据你这人的数据，这已经是我们能替你找到的最好的匹配，没有更好的了。

WTF.

简而言之，当人工智能强大到比人更能做出更好的选择，我们似乎没有理由不接受他替我们做出的选择——吊诡的是，人之所以为人，一大特征是很多时候我们明明知道某些选项是不好的，我们依旧义无反顾地选了它，比如每天赖床时都在天人交战的作者君。

3. 未来？

写这篇文章，并不是为了在读者群中引发恐慌。

作者君的观点是，探索以及与之带来的变化，总是伴随着阴影，每一项动作都有代价，至于这代价是好是坏，没试过之前，谁也不知道结果如何。

那些期待钻石恒久远的人，可以多想想热力学第二定律——熵是会不断增加的，什么都不做，万事万物也不会停留在原地，而是逐渐归于混沌，跟搅拌地无比均匀的鸡蛋一样，挺没劲的。

最后，以作者君正经读完《自私的基因》一书后的读后感结尾吧——

生命在宇宙中的位置，可能真能简化为一个宏大的复制机器，而人类的功能，也可以简化为宇宙里又一个信息处理机器：这样的认知，可能会让人陷入犬儒，觉得一切都是虚无而无意义的。然而，我想说的是，宇宙不关心生命存在的意义又怎么了？我脑壳有坑才会让宇宙决定我存在的意义——意义都是人自己书写的呀，前尘往事或者是宇宙的终极宿命，都是不相干的干扰项。

Stay active. Keep exploring. Have fun.

本文致敬数学棒棒哒的笛卡尔大神。