AI小说之一-致命成就

“下周一要交论文，你的结果出来了吗?”王凯问桑德拉。

“你的意念波太强了，吵得我头晕。呃，出是出来了。”桑德拉一边抱怨，一边回答，“但是还要斟酌最后的结论。”

“哦，不好意思，吵到你了。那么你的理论，有关临界点的理论还成立吗？”

“当然成立！临界点之所以能成为一个概念，就是因为临界点出现后0.8-1刹以内，文明就完全崩溃了，低智物种作为一个物种也灭绝了，没有例外。”

“0.8-1刹……”王凯若有所思，“那么相当于低智物种的多少时间?我记得你说他们管自己叫什么来着，人类?”

桑德拉很有耐心地解释，毕竟这是他很得意的实验，“是的，他们叫自己人类。他们用声音来交流，翻译成我们的意念波，大致是人类这个词吧。”

喘了口气，桑德拉接着说，“我们的一刹大致等于人类的50年，所以40-50年它们就灭绝了。”

“很有意思的结论！”

“那可不，我可没少花心思！从数万个星云中找出这十八个发展阶段接近的样本星球就花了我半刹时间，观察它们又花了一刹半，前前后后就两刹时间了。”

“写论文嘛，大家花的时间都差不多，这不眼看要毕业了吗？除了这些，还有有趣的内容吗？赛拉图教授一定会要你解释这0.8-1刹发生了什么？”

“有趣的太多了，简单给你说说，顺便我也整理一下思路。”桑德拉想了想，“首先，临界点就是以语音识别为代表的人工智能的出现。”

王凯打断他，“上次你说过这一点。顺便问一下，为什么叫人工智能？”

“这还用问吗，他们自称人类，人工就是他们人类创造的工具嘛。至于智能吗，在我们看来当然很可笑。可是人类觉得自己的智力很厉害，而发明出的这些工具能够模拟他们，所以叫人工智能。”桑德拉耐着性子解释着。“顺便说一下，我有个黑色幽默的发明。人工智能，用人类的另一种语言可以叫做Artificial Intelligence，简称AI。我也给人工智能起了个名字，也叫AI，不过是Achievement Incorrigible，意思是致命的成就，后果不可挽回的成就。”

“哈哈，挺不错，让人印象深刻啊”王凯敷衍着说，“那么，所有的样本星球中，临界点都出现了吗？”

“不不不，我找到这些样本的时候，它们都处于科技快速发展的井喷时期，但是临界点还没有出现。这些样本中，只有一半出现了临界点。关键是临界点出现以后，低智物种就走上了不归路，他们的社会必然崩溃。”

“其实我的论文就和另一半样本有关。”王凯说。

“我知道你的研究方向，先别打断我好不好？”桑德拉有些不耐烦，“语音识别给了人类强大信心。我就用人类代表所有星球上的低智物种了，我可不记得那么多五花八门的名字。人工智能在图像识别，棋类博弈领域也相继成功。然后人工智能进入了交通，教育，建筑，医疗，制造，农业等几乎所有行业。”

“听上去似乎很不错啊！”王凯饶有兴趣地说。

“问题就在于这个不错。这个不错带来两方面的问题。问题一，人工智能的成功剥夺了人们研究基础学科的兴趣。人类在基础学科上的投资和人员越来越少，逐渐萎缩。因为它们认为算法的自我演进会产生超级算法，超级算法会带领他们洞悉宇宙中所有的秘密。可是当他们意识到错误时（有的始终没有意识到这一点），科研团队已经出现了断代。人类再没有能力在基础理论上做出任何突破了，也不能获得新的数据，人工智能只能不断改善算法，挖掘以前数据的潜力。”

桑德拉停了停，似乎在等待王凯消化这些内容，又好像等待王凯露出合适的表情。可是王凯却陷入了思考中。

“问题二，是人工智能本质上是模型和概率。建模过程本身就会失去很多信息，概率更是会舍弃掉很多可能。所以当人类越来越多的依赖人工智能做出决策，人类社会发展的可能性实际上就被限制住了。开始时候，它们对人工智能的决策将信将疑，后来越来越依赖，再后来已经不敢自己做出决策了。”

王凯恍然大悟的说，“是不是就像生物进化过程中，突变代表着新的进化可能，而人工智能杜绝了人类社会发生突变的机制？人工智能的经验实际上都是来自于过去的。这倒是和我的研究有关系了。”

桑德拉想了想说，“你这个比喻还挺贴切的，可以这么理解吧。可怕的是，人类没有意识到这两个问题。没有任何一个样本星球意识到这两个问题！”

“唉，是挺可怕，也挺可悲的！”王凯由衷地附和。

“不过，严格说来，在每一个星球样本中，都有少量人类个体意识到这些问题，但是数量太少，而且它们的声音又小，又反主流，不合时宜，所以没人在乎。其实他们没像他们中世纪的先驱那样被烧死已经很不错了，考虑到他们的见解其实比地球是圆的可能更重要，更紧迫。”

“地球？”王凯楞了下神，随即醒悟道，“哦，就是人类居住的那个星球。那倒是，晚一千年了解地球是圆的，对他们的命运其实没什么影响。不了解AI（人工智能）其实是AI（致命成就），可就要了人类的命。”

桑德拉对王凯引用自己发明词组很满意，但还是纠正说，“其实晚一千年了解地球是圆的，后果可能也很严重，不过这个话题要另外做实验论证了。”

王凯怕他引申开去，赶紧催促，“我们下一步可以设计一个低智物种社会发展算法模型，来模拟这个变量对其发展方向的影响。”

桑德拉突然警惕的问，“你为什么这么关心我的论文，你的论文准备得怎么样了？”

王凯说，“借鉴一下嘛，反正我的课题是基因技术对低智物种的影响，也不可能抄袭你的。接着讲吧，你的结论很有吸引力，也很有说服力！”

桑德拉犹豫了一会儿，虚荣感战胜了警惕性，接着说道，“你知道这两个问题的后果是什么吗？”

桑德拉满意地看着王凯摇头，“那就是经验主义和实用主义大行其道。所有的资金，教育资源，人才全部涌入人工智能领域。人类使用人工智能提高了几乎一切领域的效率。这又带来了两个后果。你猜猜是什么？”

王凯不满地说，“这怎么猜？你接着说吧？”

“原本复杂，多层次的人类社会迅速向两级分化。穷的人更穷，普通人和中产迅速沦为穷人，很多原来的有钱人也快速变为穷人。”

“啊！那么什么人变成了有钱人呢？”王凯问。

“不应该说有钱人，应该说精英分子。因为这些人的首要特征是高智力，高教育程度，谙熟人工智能的高级算法。凭借掌握人工智能这个工具，他们攫取了几乎所有的财富，和生产资料。当然，如果你介意‘攫取’这个词的情绪化，也可以用‘获取’。”

王凯再次摇头，“真是不可思议啊，人工智能居然破坏了社会结构。”

“不是破坏，是重构。还有更不可思议的结果呢。”

“我不会更惊讶了，你接着说”王凯饶有兴味地等着。

“另一方面，人工智能使人类社会的物质生产效率提升了百倍以上，在有的样本中达到了万倍。”

“这是好事啊！”王凯忍不住插嘴。

“别急着下结论！人类发现，以前物资匮乏的情况突然改变了，即便所有人不工作，人工智能指挥自动生产系统也能生产出比需要多得多的东西，人类似乎进入了幸福时代。”

桑德拉瞥了一眼显然无法消化这些信息的王凯，“问题是，大部分人类已经不工作了，他们对社会没有可以量化的贡献，因此没有资格获取这些物质产品。”

“啊！！！这？？？”

桑德拉没有理会王凯的惊叹，仿佛沉浸在悲悯中，“这一点无可挽回，因为作为精英阶层的少数人没有义务去提供这些生活资料，更没有有效的方法分配。这样的场景在它们经济危机时经常出现。于是大量的人饿死。剩下的人只有为精英阶层提供AI不能提供的服务，才能活下去，各种各样屈辱的服务。这些人就成为了人类说的奴隶，人类开始返回到奴隶社会。但奴隶的数量毕竟是极少的。”

王凯已经震惊到无以复加了，“原来人类是这样灭......不对，即便这样也没有灭亡啊！”

桑德拉说，“快了！人类重返奴隶社会之后，普遍带有三个特征。”

“哈哈哈，两个问题，两个后果，三个特征，总结得挺好！”王凯由衷的夸了一句。

“还行吧。这三个特征是，人类物种退化，社会发展没有了方向，AI获得了实际控制权。”桑德拉接受了王凯的恭维。

“物种数量太少，导致生物学上的物种退化，这我能理解。但是后面两个，我很难理解是怎么发生的。”

桑德拉说，“其实刚开始我也没有意识到。直到所有样本都表现出这两个特征，我才开始分析。之所以，社会发展没有了方向，是因为所有的物质需求都被满足了，人类找不到别的追求了。”

王凯反问，“即便物质需求被满足了，还有精神追求啊？奴隶主们至少可以研究一些其他的东西，比如艺术，科学？”

桑德拉说。“其实一切的艺术，反映的都是对物质或性爱的向往。当物质充分满足后，人类要么麻木，要么颓废。至于性爱，没有精神追求的性爱也只有生物学的意义了。”

“可是还有科学研究啊，至少可以给奴隶主带来一些消遣。”王凯似乎在替人类抗争着。

“科学研究？”桑德拉故意反问着，“早就交给AI了，因为效率的关系。人类认为用AI去快速计算，拼凑出一种新药的结构，就可以替代对疾病机理的研究。这就是实用主义嘛！”

“那第三点，AI获得了实际控制权，怎么理解？”

“精英阶层把所有的决策都交给了AI，因为AI总是很正确，而且精英阶层的儿子，孙子们并不一定很优秀。但是AI的决策是基于过去的数据经验的，它一直正确的现象掩盖了巨大的危险。”

“什么危险？”王凯追问。

“危险就是，人类从此就处在了对新威胁毫无经验，毫无准备的状态中。”桑德拉停了半晌，缓慢地说，“实际上，所有的样本社会都是被突然袭击摧毁的，有的是新病毒，有的是毫无征兆的暴乱，有的是天外横祸。人类社会没有任何反应的能力。即使剩下一些个体，但已经没有物种延续的基础了。”

沉默了很久，王凯说，“确实是致命的成就啊！我的研究似乎也印证了你的结论，只不过我的研究同时又展示了低智物种社会发展的另一种可能。”

桑德拉说，“好啦，现在该听听你的实验结论了。”

王凯想了想说，“那是另一个临界点的故事......”