人工智能,机器学习,超级智慧单一体……这些事,150年前竟然就有人预言过

人工智能,毫无疑问是2017年最为如日中天的热门话题。在中关村、望京这样的互联网产业园区里,说是大街小巷无人不在谈论人工智能,也不为过。而人工智能令人瞠目结舌的飞速发展,也不得不引发人们对于人与技术、技术与世界等等关系即将面临的巨大变革的深深担忧与思考。

2017年,谷歌率先宣布启动AutoML,即自动机器学习项目。换句话说,未来可能不再需要程序员去给一个个机器撰写代码,机器自己就能制造机器,能够实现机器的“自行繁殖”。这或许是比“人工智能”更进一步的“机工智能”。然而,在世界科幻史上,早在1872年,一位名叫萨缪尔·巴特勒的英国人,就曾经设想过这一情形。他当时的思考与设想,在今天看来不仅远未过时,反有未卜先知之神。今天,就让我们通过以下文章,了解这位科幻作家是如何“料事如神”的。

当机器学会生殖

——重读《埃里汪奇游记》

岳林

Samuel Butler(1835-1902)

1859年,达尔文出版《物种起源》那年,英国小伙萨缪尔·巴特勒(Samuel Butler, 1835-1902)登上远洋帆船背井离乡,跑到新西兰当起了绵羊育种员。而达尔文这部巨著,是他用来消磨时光的业余读物。巴特勒出身书香门第,又曾负笈剑桥,对繁殖绵羊之外的一些事务也颇感兴趣。四年后他写了篇危言耸听的文章,预言机器也能进化,并将超越和统治人类,因此建议人们趁早“砸烂所有机器”。[1]1872年,巴特勒出版小说《埃里汪奇游记》,进一步勾勒了他的未来机器图景,触及许多今天仍被热议的人工智能话题。在第24章,借书中人物之口,这位绵羊生殖专家谈到了机器生殖:

“如果一台机器能够用系统生出另一台来,我们就可以说它有生殖系统。如果生殖系统不是用来生殖的系统,它是什么呢?有几台机器不是由别的机器生殖出来的呢?可是,使它们这么做的正是人。对;可是难道不正是昆虫使很多植物具有生殖能力的吗?如果植物不是由于一类与它们完全不同的力量而受精的话,难道所有的植物不会消失吗?有谁讲过红三叶草没有生殖系统,所以野蜂(仅仅是野蜂)必须帮助它才能生殖?谁也没讲过。野蜂是三叶草生殖系统的一部分。我们每一个人都是由很小的微生物发展而来的,它们的存在与我们的存在截然不同,它们按它们的方式行动且不管我们会如何想。这些小东西是我们生殖系统的部分;那么我们为什么就不是机器的生殖系统的部分呢?”[2]

人类通过机器制造机器,反倒被巴特勒说成是机器借助人力来生殖机器。人类原本是机器的创造者和主宰者,是机器存在的动力和原因,现在却被巴特勒降了级,成了机器繁殖的工具,如同巴特勒自己在绵羊繁殖过程中所扮演的角色。是“生殖系统”(reproductive system)决定生殖,而非生殖器官(reproductive organ)。生殖器官不是生殖的充分条件,红三叶草和人类单凭“自己”都无法生殖。生殖器官可能也不是生殖的必要条件,机器没有它也能生殖。例如一台专职制造机器的机器,很难说它的哪些部分承担生殖功能,而哪些部分又不是;除非,我们把这台机器整个儿都看作一个生殖器官。但巴特勒是在一个非常含混的意义上使用生殖系统这个概念。如果所有生殖所需的因素都要被容纳进来,那么人体的各个器官都可以说成是为生殖器官服务的;或者按照这个逻辑继续推导,人类社会、自然界乃至全宇宙也都可以是一个生殖系统。

巴特勒不是机器工程师,也不是机器理论家。他提供给我们的,只是一种关于机器生殖的文学想象。但相较于他的年代,这种想象太超前了,可能就连他的同辈人儒勒·凡尔纳也不能企及。20世纪以来,巴特勒这本小说虽不被主流文学市场看好,但还是频频成为机器研究者回溯和纪念的对象。无论是控制论之父诺伯特·维纳,还是计算机奠基人艾伦·图灵,都在他们各自的代表作中提及或引用到《埃里汪奇游记》。[3]机器理论家刘易斯·芒福德说巴特勒小说写得“颠三倒四”(topsy-turvy),对机器的洞察力和想象力却非同凡响,而且是最早提出机器生殖机器(a machine’s reproducing another machine)可能性的人。[4]

Lewis Munford(1895-1990)

任何机器,例如钟表、差分级、蒸汽机、计算机或者人工智能,其共性都是自动化(automation)。但直至今天,所有机器的自动化都是相对的,不可能彻底摆脱人类力量的介入。机器需要人类设计和制造,需要人类提供能源和原材料,需要人类上发条、添机油和按开关,需要人类维护、修理和改造。所谓自动机(automata),目前也只能在特定流程中“自动”,而这个流程依然来自于人类的设计和启动。在这个意义上,会下围棋的阿尔法狗和古旧的机械钟没有本质区别。人工智能已经学会下棋、聊天、写诗和绘画,但还是需要人类为它编写算法和代码。阿尔法狗与柯洁的对弈,严格说来,是一个上百号人的工程师团队与一位旗手的较量。

如果人工智能要实现更大程度的自动化,或者实现质的飞跃,超越库兹韦尔所谓的“奇点”,那么它就必须学会自己编程,学会自己阅读、理解、复制和创造代码。用巴特勒的话说,就是人工智能必须学会生殖人工智能。

程序员也许是人类为自己保留的最后一个工作。更准确地说,程序员也许是人工智能允许人类从事的最后一个工作。[5]所以人工智能工程师承担着一个浪漫使命,那就是让自己的“孩子”最终取代自己。当然,被取代既可能意味着被淘汰,也可能意味着被解放。

已经有许多人工智能工程师在从事这样的努力了。2017年,谷歌宣布它的一个人工智能项目AutoML(Automatic Machine Learning),已实现让一个机器学习软件去自动创造另一个机器学习软件。据说这种软件自己开发出来的软件,能够在一些事项上胜过人类工程师的作品。根据谷歌自己的解释,AutoML的工作原理,是由一个控制器神经网络(a controller neural net)生成一个“儿童”模型架构(a “child” model architecture),对这位“儿童”进行训练和评估,然后对这位“儿童”加以重构,如此循环反复成千上万轮次,控制器便学会涉及效能最优的模型架构了。[6]

其实图灵早就指出,让机器学会思维,不可能一蹴而就,人类工程师必须先造出一个“儿童机器”(Child Machine),对其进行教育。当然儿童机器不会被送入人类学校,在那儿它肯定会受到歧视(想想阿童木的遭遇)。但教育机器与教育人类的理念大体一致,都需要通过奖惩手段引导学生获得知识或者能力。人类工程师为儿童机器设置逻辑规则,发出明确的命令,允许它在多种可能的执行步骤中进行选择。然后,人类工程师根据执行效果,对儿童机器给予奖惩,或者对其重新编程——在哲学意义上,这或许就是重新创造了。人类工程师身兼二职,即是父亲,又是教师。久而久之,儿童机器的执行策略会越来越接近人类工程师的意愿;也可以说,它的思维方式会越来越接近人类。如果儿童机器聪明到可以通过“图灵测试”,能够掩盖身份、欺骗人类,那么也就有资格“毕业成人”了。[7]因此,AutoML并没有从根本上改变图灵的设想,只不过置换了角色,让机器来充当“父亲机器”或者“教师机器”,对儿童机器实施教育。

AutoML目前还做不到完全取代人类。而且它给人类工程师至少带来两个福音:其一,它能减轻负担、提高效率。如今大部分人工智能工程师的工作,如图灵所述,都需要“亲自”对机器模型进行多次反复的调试。这种工作在相当大程度上是重复劳动,工程师自己也需要经历长期教育和大量训练才能胜任。很多时候,工程师都是根据非常个人化的经验和技巧来作出选择。因此,工程师其实也非常需要AutoML这样的助手。其二,它能降低人类工程师的职业门槛,反倒让更多人有机会参与到这个行业中来。谷歌CEO桑达尔·皮查伊就说,如今世界上其实只有几千位熟练的机器学习科学家,但AutoML可以让这个队伍迅速扩大。[8]

谷歌的人工智能研究员弗朗索瓦·乔列就认为AutoML将是对人类工程师的解放。它非但不会夺走人类的工作,反而会让人类上升到价值创造链(the value creation chain)的更高端,更加全面和深入地了解模型的数字生态。乔列还坚信,即便人工智学会了编程,甚至发展为能够从事所有人类工作的通用人工智能(Artificial General Intelligence),人类也不会被机器彻底取代。[9]换言之,人工智能的自我复制与生殖,未必就如巴特勒想象中的那般可怕。

但我们依然不能排除一种可能,即AutoML只不过处于机器生殖机器的初级阶段罢了。实际上,它也确实没有在真正意义上摆脱人类的干预。而巴特勒设想的具有生殖能力的机器,比AutoML要复杂、高级得多:

“在某些限度之内,机器能够生出任何种类的机器,无论这些机器与它们本身多么不同。每一类机器也许会有它们的特别机器生殖者,而且所有较高级的机器都把它们的存在归功于很多的父母,而不是仅仅两个。如果把任何复杂的机器看成是一件单独的东西,那我们就会被引入歧途;事实上,它是一座城市或者一个社会,这个社会的每一个成员都是真正地按照它的种类生殖出来的。我们把机器看成是一个整体,我们用名字称呼它并赋予它个性……每台蒸汽机的每部分是由它自己特别生殖者们生出来的,这些生殖者的作用就是生殖这些部分,而且只生这些部分,而把很多部分结合成为一个整体却是机械生殖系统另外的一个专长,目前这种专长很复杂,而且很难看到它的整体。” [10]

巴勒特其实是在不同层次上来考虑机器的生殖问题。从机器的内部维度看,它的组成部分或者零件可以非常便利进行拆分和重组。从机器之间的维度看,不同的机器也很容易组装在一起。因此任何一个单个的机器,不仅内部可以包含若干其他机器作为零件,它自己也为作为零件成为其他机器的组成部分。因此机器之间的生殖关系,即由哪些机器制造另外一些机器,根本不可能像有机物一样,根据遗传学来排列出“家族谱系”。所以巴特勒才建议,不能把机器看作是“一件单独的东西”,而应该把所有的机器都看做一个整体,一个彼此联系不可分割的“社会”。

把全世界的有形机器都想象成一个整体,甚至是具有独立意志的主体,即便在今天也需要勇气。但是,如果我们的对象是虚拟机器,即人工智能,那么这种想象就容易得多了。因为人工智能归根结底就是由0和1构成的代码,在互联网环境下极易传播,极易复制。人工智能之间的生殖关系,其实也就是代码之间的生成与被生成的关系。如果AutoML这样具备自我复制与生殖能力的人工智能到达了某个临界点,那么它也会像巴特勒所描绘的图景一样,把全世界的人工智能都整合为一体。好莱坞已经在《终结者》或者《超验骇客》这样的科幻电影中设想过这样的“超级人工智能”。而尼克·博斯特洛姆称之为智慧单一体(wise-singleton)。[11]在这个意义上,不同人工智能之间的生殖关系就不存在了,因为此时只剩下唯一一个人工智能;而这个人工智能的生殖,归根结底就是自我进化。而如果所有虚拟机器在联结为一个整体之后,接下来开始支配所有的有形机器,并将其整合到一个更为全面的整体中去,全世界任何形式的机器都结为一体,那么巴特勒设想机器图景也就大功告成了。

此时,我们将不得不思考需要思考人类与机器的终极关系,或者说,人类的的最终命运。但正如我们已经知道的,巴特勒看到的未来,着实有些黑暗:

“我们对待家畜是很仁慈的。我们把我们认为对它们来说是最好的任何东西给它们。毫无疑问我们吃肉增加了它们的幸福而不是减少了它们的幸福。我们也完全有理由希望机器能够很友好地利用我们,因为机器的存在,很大程度上讲,取决于我们的存在;它们会以严酷的手段统治我们,可它们不会吃掉我们;它们不仅会要求我们在生养它们的幼子方面给予帮助,而且还要我们做它们的仆人,为它们采集食物饲养它们;当它们生了病时,还要帮它们恢复健康;此外它们还要求我们埋葬它们的死者,或者它们之中死去了的成员综合加工成新形式的机械实体。” [12]

可是,这哪里像是在描述未来呢?

2018年1月5日

END

作者系上海大学法学院讲师,北京大学法学博士

感谢作者授权活字文化!

注释

[1]http://nzetc.victoria.ac.nz/tm/scholarly/tei-ButFir-t1-g1-t1-g1-t4-body.html,最后访问于2018年1月1日。

[2] 塞·巴特勒:《埃里汪奇游记》,彭世勇、龚绍忍译,湖南人民出版社1985年版,第170页。

[3] N. 维纳:《控制论——或关于在动物和机器中控制和通信的科学》(第二版),郝季仁译,科学出版社2009年版,第21页;Turing, Alan M. "Computing machinery and intelligence." Mind 59.236 (1950): 433-460.

[4] 刘易斯·芒福德:《机器的神话(下):权力五边形》,宋俊岭译,中国建筑工业出版社2015年版,第232页。

[5] 参看佩德罗·多明戈斯:《终极算法——机器学习和人工智能如何重塑世界》,黄芳萍译,中信出版社2017年版,第355-356页。

[6] See Le, Quoc & Zoph, Barret. "Using Machine Learning to Explore Neural Network Architecture."

https://research.googleblog.com/2017/05/using-machine-learning-to-explore.html, 最后访问于2018年1月5日。

[7] Turing, Alan M. "Computing machinery and intelligence." Mind 59.236 (1950): 433-460.

[8] Simonite, Tom. "Google's Learning Software Learns to Write Learning Software." https://www.wired.com/story/googles-learning-software-learns-to-write-learning-software/,最后访问于2018年1月5日。

[9] Chollet, Francois. "The future of deep learning." https://blog.keras.io/the-future-of-deep-learning.html, 最后访问于2018年1月5日。

[10] 塞·巴特勒:《埃里汪奇游记》,彭世勇、龚绍忍译,湖南人民出版社1985年版,第171-172页。

[11] 尼克•波斯特洛姆:《超级智能——路线图、危险性和应对策略》,张体伟、张玉青译,中信出版社2015年版,第6章。

[12] 塞·巴特勒:《埃里汪奇游记》,彭世勇、龚绍忍译,湖南人民出版社1985年版,第180-181页。

封面图:英剧《菲利普·迪克的电子梦》(Philip K. Dick's Electric Dreams)剧照(详情可见今日二条)

活字文化新年献词

活字年度盘点

回顾2017

大师电影

红狐丛书

活字作者

北岛 | 李陀 | 徐冰 | 汪晖 | 李零 | 张承志 | 韩少功 | 叶嘉莹 | 黄永玉 | 李泽厚 | 林西莉 | 王安忆 | 刘雪枫 | 戴锦华 | 冯象 | 刘禾 | 欧阳江河 | 西川 | 张枣 | 翟永明 | 许礼平 | 夏志清 | 李欧梵 ……

活字文化

成就有生命力的思想

  • 发表于:
  • 原文链接:http://kuaibao.qq.com/s/20180130A0CHKT00?refer=cp_1026

相关快讯

扫码关注云+社区