只有了解人之常情，才能开发出强大且安全的AI

Esther｜ 撰文

“知识”用英国记者Miles Kington的话说就是，知道番茄是水果，而“智慧”是指知道按照常规不应该把番茄放进水果沙拉中。

任何AI显然都需要掌握大量的知识，但是如果要将AI机器人在社会中广泛应用，不管是应用在高速路、养老院和学校、商店还是政府，都会需要学识渊博且智慧的AI。

另一方面，专注解决AI安全性或者AI一致性的科研人员眼中的人工智能是，在解决一些特定的认知任务上效率可赶上或超越人类的机器。

目前市面上的大部分AI都属于这个狭义的范畴，也就是只能执行特定分工的弱人工智能，比如无人驾驶技术和面部识别系统。

但是一些科研人员开始研究一种能够在任何认知任务上超越人类的机器，也就是强人工智能/通用人工智能（AGI）。虽然什么时候会出现第一款AGI，甚至这项技术有没有可能实现，都是未知数，但是很明显这项研究方向将会带来可以在经济和社会中得到更多应用的、更强大的、更智能的AI系统。

开发能够完成任何认知任务的AI机器意味着，这款AI不仅要了解关于番茄的生物知识，还要了解人们处理番茄时遵循的多变的规律。

人类社会充满了各种各样的常规，不管是吃饭、穿衣、说话，还是分享信息、对待别人和追寻目标，都需要遵守一定的规矩。真正强大且安全的AI将需要了解不同群体的规矩各有不同，虽然感觉这么多规矩没有必要，但是在特定的群体遵守特定的规矩也是很重要的。

打个比方，上面说过番茄放进水果沙拉中不符合常规，说的是英国人的规矩，但是对于韩国人或者前卫的厨师来说并不奇怪。虽然只是个沙拉放不放番茄的小问题，但是给特定的客人吃，可能会让对方不解、恶心甚至愤怒，不利于维持良好的关系。

当然，上面说的规矩不局限于事物的搭配这种小事，还包括一些对于社会非常重要的问题：谁和谁结婚、如何对待孩子、谁享有权利、企业如何产出商品和服务以及如何定价，还有评判是如何公开的。

能够遵守社会常规的成功且安全的AI，不仅需要理解科学知识，还要了解人类规范系统的机制。人类的规矩跟一成不变的生物学不同，是敏感多变的，人类每天都在制定与重新制定规矩以适应不断变化的局势。

社会规范体系之所以重要，是因为人类需要依靠规范来约束群体、工作、社会环境中的每个个体。只有在每个人都遵守一定规范的情况下，大家才愿意去建立信任、互相接受和共存。

同样，让强大的AI也学习人类指定的规范也将会与此相似，就好像培养孩子在规范的主流社会中生存的能力一样，我们也需要将AI训练出能够遵守的能力。了解关于宇宙的大量知识对于AI来说并不够，要想在社会中有极强的竞争力，就还需要了解不同群体中的规矩。而对于AI来说，违背规矩不止会惹恼群体中的人，可能还会受到人类的惧怕甚至排斥。

也就是说，要想实现《生命3.0》中描述那种AI与人类共存的社会，建立强大的AGI，就要先理解最基础的人类传统，而这将会是AI研究中面临的最大挑战。

（END）