退取的唯一结果辛得罗/规与律卷

[远]退取与唯一的结果

默素在《退向目的地》中指出：

“……

所谓先进的方式，是在现实的障碍无法突破下产生的，是无能下的过程而不是最好的结果，是‘不得不采取这样的方式’。这个发展过程中的‘无能’，决定了人无法随时采取最直接的方式，而必须择优、折中的去解决问题；人的欲求越是复杂，所需要的过程就越是复杂，因为还没有直接的实现方式。

当技术、方法达到极致，便不再必要择优、折中；此时，社会会自动退回到较为原始的形态，因为进取已经不再必要，即便在最原始的社会形态中，这种技术的极致也将可以实现一切。

也就是，人的行为不必因眼下技术有限而必须择优、折中，不必变得复杂，不必在欲求产生时，经过重重选择过程、通过种种方法，才能得到满足；而是可以直接采取极致的技术并得到满足。

事实上，人的原始行为就是在欲求产生后，选取最直接的方式，是因为智慧是有限存在的，人产生了更复杂的欲求后，才必须复杂的去实现。而这一切，都将在技术达到极致后解决，届时社会则不再需要更多的结构去实现各种功能（比如不同交通工具完全被一种更高级的取代，交通环节也将被大幅度简化），只需要一个极为简单的原始形态就能满足；所以我才说在极致技术产生后，社会会自动退回到原始形态，因为那已经足够了。

某种程度上，可以说人不断探寻、进取的目的实际向往的也是很原始的生活——欲求能直接被实现。这种对‘欲求能立即实现’的期待，一直以来推动着一切，人渴望极致技术的产生，从而满足这份期待。

……”

在“最可能的方式”一章，默素说：

“……

这种极致的技术，很可能就是以人工智能为核心。人工智能的极致化，将满足人的一切欲求；甚至，可以实现去人化。

因为当人工智能达到极致时，不仅可以解决人的欲求，同时还能解决他们自身的欲求（没有欲求的人工智能我想并非极致），实现像人一样的自觉、新陈代谢、繁衍等，又或者只有其中的一部分。此时的极致社会，不仅只需要一个原始的形态，甚至可以在没有人的情况下，仍能保持相同的存在能力。

所以称之为极致化的人工智能，正是比人更为先进，弥补人的缺陷，也就是说：在极致技术实现时，人和人的欲求都将成为低级又麻烦的东西，极致的技术将依靠其自身而独立存在，不必要人，更不必要去满足人的欲求。这就像一个孩子依赖父母，后来成长得比父母还要强。

……”

御见将默素的极致技术下的原始社会称为退取的社会，并认为退取社会也许会以另一种方式实现。他认为退取只是一个想象的结果，而进取才是过程和现实目标。

御见说：“当人真的可以将人工智能的能力提高到超越人本身时，就已经证明人对于自身足够的理解，人的技术也就完全能改善人自身，让自身直接变得更为强大，又何必去创造另外一件事物呢？而这个自身强化的过程，正是一种进取，这最终也将使人超越以人而存在的界限，进入全新领域。我想，极致技术真的产生时，最后的结果就是人会把人自己改变为极致，而不是去制造一些工具，只是去解决欲求。”

随后御见开始撰写《只会存在一个进取的结果》，中途自杀。在未完成的《只》文末尾，御见假想了自己与一个名为心声的超级人工智能交谈，并认可心声是一种生命而非前文所认为的“极致接近生命的事物”：

“……

心声开始质疑自己的合理性，他因为自己诞生的方式与延续相违背，他称自己为不自然的存在，并否定了我视之为生命的说法。

我鼓励他说：‘且不说自然界中只能实现基本生存功能的生命体，就连人本身也曾无数次的质疑自身存在为虚幻，假设精神为假象；更不用说整个人的群体中还有那些自甘堕落、失去斗志的成员，他们直接用颓废的行为来展现存在的苍白和虚伪。你能站在这里质疑自己这样的问题，这个怀疑的行为本身就很伟大，它已比这个问题的答案更加重要！’

心声并不想成为我们社会的一部分，因为他自己清楚他的能力已经超出了这个社会所必要的功能极限，他完全没必要存在于我们的社会中为我们服务，他希望建设一个更为先进的社会。身为人的我较为落后，认为社会目前还跟不上他的思路。意识到这一点，他便邀请我、建议我将自己的一切录入进他的身体，他愿意让我成为像他一样“先进”的人。”

默素根据这个结尾，阐述了跟进观点，并猜测了御见自杀的原因：

“御见所相信的极致技术带来的“自我改造理论”，忽略了一个非常重要的问题，那就是当理论成熟时，人们到底是会先创造出一个超越自身的事物呢？还是会先让超越完成呢？

很显然风险意识并不会允许人直接改造自我，势必将率先创造超越人本身的事物作为试验；当这样的人工智能出现，人就不会允许他们继续产生了，因为实验已成功，人可以去放心改造自身了。就算是对方以更高的姿态发出美好的‘邀请’，就算是对方愿意接受彼此交融；我想他也仍认为，人会选择直接改造自身，而不会去继续创造那种极致的人工智能。从这一点上来说，御见的逻辑非常完善，我是有误的。

但是，在这个略带伤感的故事最后，他自己明白过来，在他的设想中，我所谓的‘极致人工智能为人服务’没有发生、‘退取’没有实现的原因是什么？因为是人自己抹杀了那种情况，而不是它不可能发生，在他的故事中，是人自己将已经成型的美好事物放弃，转而用这种方法满足自身。也许当他意识到这一点，他可能陷入一个道德性的纠结：认为人并不比更高级的人工智能值得存在。”