刘兴亮｜大模型会成为人的助手，还是替代品？

01

炙手可热的人工智能把背后的大模型推到了前台，似乎有全面取代人类思维之势。

它们的检索能力更强，计算速度更快，可以通过分析亿万级别的参数来形成判断，比较各种变量之间的相互关系，达到过去的计算机无法形成的「智能」程度。人能做的许多事，它们能更快地达成。

有人忧心忡忡地想，如果每个人甫一出生就伴随着一台个性化的大模型，假如他死了，他所有的经历思想仍然在模型中存在和运行，他的行为、语言、判断……可能永续。如此，是否人类就实现永生了？

与此同时又问，那谁才是人呢？大模型还是生物人？二者之间的差异在哪里？

其实，这也是马斯克搞脑机接口的时候应该担忧的问题。科学技术进步会带来双重问题，比如生物技术曾让人们胆战心惊，人类或许会把远古时代的恐龙复活，或者让希特勒这样的狂魔重生。但是科学技术进步的同时，也可能引发负面效应，与个体相伴随的大模型也不例外。

02

这问题真有些触及到灵魂深处。

所谓个性化的大模型，就像一台替换人类大脑的存储计算器，能够把人生的一切际遇、语言、思想连同行动全部储存在其中，它与人的成长相伴，随着个体认知能力和经验积累而同步丰富自身，可以提取，可以模拟，可以推测，可以指导个体行动。

这首先让我想到的是关于「记忆」的障碍问题。

有一种说法，人类在三岁的时候，大脑会自动切断之前三年的记忆，以重新开始更为复杂多变的学习。此后的经历会印在脑海中，尽管随着后来海量信息的覆盖，早期的记忆变得模糊和难以提取，但遇到合适的场景或提示，会从记忆的深海中浮现上来。

这就是我们有时候试图想起一件事但绞尽脑汁而不得，但在某一刻某事某人却出现在眼前的原因。

很多人有这样的愿望，希望能够随时想起自己经历的一切人和事，以便在各个年龄时段回味自己的人生况味。经常在想，曾经的悲欢、体悟，令人激动的情感，那些淡化了的东西还能回来吗？

实际情况是，我们手持小学毕业照凝视，对其中的部分人毫无印象。事实残忍地告诉我们人生如同未曾遭遇，原来一切都是误会。

这很悲催！我不愿过这样的生活。

03

大模型可以解决以上问题。

如果实现了，就会把所有个体经验和思想储存起来，随时可以提取。对那些经过事故而失忆的人而言，这肯定是很好的工具。

人的记忆、技术、语言，凡是印入脑海的因素均不会随着时间的推移而淡化。读过的书，学到的知识，经过的事件，看到的一切图像，全部属于现在。大段地背诵莎士比亚全集的惊人能力，将属于任何普通人。

可以说，它会给人带来非常有趣且复杂的景象。

由于这一工具的超强功能，可帮助个体解决诸多学习、工作、生活上的问题。下判断的依据广泛而扎实，分析的逻辑严密，提供的方案具有人难以抗衡的客观性。它是一个极度冷静，智力超群，不知疲倦的超级助手。

而且更重要的是，它与人朝夕相伴，彼此依存，相互之间不断加深了解，深深明白你的脾气、性格、体力和爱好，可以给你提供极具个性化的建议。

你还记得日本动画片《机器猫》吗？可以设想大模型就是这样一只无所不能的猫，陪伴你左右，帮你分忧，替你考试。

这是多么令人向往的温馨画面啊！

04

但是，这种情况也会引发一系列的挑战和道德问题。

个性化大模型的智能化程度越高，越接近真人的思维，就越可能引发真人和虚拟模型之间的辨别问题。当二者高度吻合时，就会出事。

过去我就说过，你可能跟一个机器人谈恋爱，如痴如醉，不知道对方是真人还是机器。这当然是很严重的道德问题。机器人在真人无暇的时候，替他与恋人交流，毫无瑕疵进展顺利，这当然不公平。并且，这算不算欺骗呢？也需要探讨。

如果人真的有这样一个机器人，以人类天生好逸恶劳的性情而言，这可能是人种退化的催化剂。

能躺着就不站着，能娱乐就不思考，无所事事的自己把一切费力费神的事情都交给大模型，从出生就躺平，长大后还躺平，临到生命的末尾依然躺平。

这会不会降低人的思考能力和创造意识，让人成为了模型的奴隶？

届时，人最害怕的不是自己的无能，而是机器的电源千万别断了，否则他的人生就断档了。

05

尽管大模型能模仿人的思维和表达，但它毕竟是一堆硬件软件，不具备人的情感和欲望，是基于算法和数据驱动的实实在在的工具，只能在提示下进行互动，却不可能自主思考。

简单来说，人首先是生物体，不停地进食消耗热量来维持自身的生命体征，在此基础上进行储备更大的生命能量以度过有限的一生。

那个有血有肉有温度的人才是真人，每天吃饭和排便维持生物体征，很情绪化，受困于七情六欲，渴望社交，朝三暮四，喜欢看电影或踢足球，而且害怕生病和死亡。

这些，都是大模型不具备的。

大模型具备人的智识能力，但没有人的爱恨情仇，或者更坦白地说，它们没有人的缺点，不会说谎、欺骗、幸灾乐祸，更不会损人不利己、无事生非。

它们不会哭，也不可能笑，它们只是能解释哭和笑的形式和内容。它们能解释这一切，但不会这么干。

总之，它们不是人。

06

那么这种大模型最致命之处还在于个人隐私的泄露可能。

​人工智能伴随的深度学习能力，要求最大限度地理解人类思维的逻辑。大模型会尽可能多地搜集用户的个人信息来提供个性化服务，参数越多，计算能力越强，提供的方案越可能接近个体的独特思维状况。

在这种情形下，人的隐私很难受到保护。机器的信息是存储在机器上的，并且不可避免地要进行联网运行，要保护用户的绝对隐私，不太可能。

中国有句古话叫「杀人诛心」，意思是要让人的精神崩溃，使之彻底丧失对抗意志。这种诛心无非是寻找人性的弱点，从此施压，但个人的内心有无数隐秘的事物念头，你只能诛其一点、一线或者一面，绝无可能全面攻击。

但是大模型带来了这种可能，它就是你的心，你内心的一切，凡曾经动念之处，都会留下痕迹。人将彻底暴露在光天化日之下，无所遁逃。

07

人当然希望自身有一只机器猫来做助手。

只是这位助手对自身信息的占据应该停留在哪些层面上需要做严格的划分。

比如学生可以让模型介入自己的功课，提供有力的辅助；成人可以让模型参与自己的工作和事业，提供有价值的建议。

意即一个人可以被称作「公共生活」的那部分内容，是可以大胆地利用大模型作为助手的。可一涉及到个人隐私的时候，就应该让对方远离自己。这就好比我们虽然也用电脑伏案工作，但绝不可能带着电脑去上厕所或约会，这时候要它作甚！

08

因此要我说，物理人和大模型应该是具有明确界限的互补关系，大模型可以成为人的助手而绝不可能成为替代品。

这件事情大抵如此啦！