【重磅荐书】机器崛起(Rise of the Machines)——不得不读的控制论历史

【新智元导读】近日,中科院自动化所王晓、郑心湖、王飞跃翻译的《机器崛起》一书面世。中央军委科学技术委员会副主任、中国科学院院士贺福初,中国指挥与控制学会理事长、中国工程院院士戴浩,中国兵器第207研究所研究员,中国指挥与控制学会副理事长兼秘书长秦继荣,以及译者王飞跃教授为此书写了精彩的推荐序。中国工程院院士孙优贤、中国工程院院士桂卫华、驭势科技CEO吴甘沙和新智元创始人杨静也为本书写了精彩的书评。

《机器崛起(Rise of the Machines)》一书是《麻省理工技术评论》、《君子》、《财富》杂志评定的2016年最佳书籍之一。书中,作者分三个阶段讲述了控制论的发展历程:最先用人类的思维去改造机器,即研究拟人化的机器,在体能和智能上要超越人类;接着用机械化理论控制、改造并重塑人类,认为思维也是一种机器,有规律可循,可按照改造机器人的方式改造人类身体;最后用机器改造环境,可构建美好的梦幻空间、虚拟世界、虚拟现实,无法律约束,无政府管制。2016年,本书一经出版,便得到了众多国际主流学者及媒体的高度评价。

中央军委科学技术委员会副主任、中国科学院院士贺福初,中国指挥与控制学会理事长、中国工程院院士戴浩,中国兵器第207研究所研究员,中国指挥与控制学会副理事长兼秘书长秦继荣,以及译者王飞跃教授为此书写了精彩的推荐序。四篇序言从不同的角度介绍了这本广受好评的著作。

中国工程院院士孙优贤、中国工程院院士桂卫华、驭势科技CEO吴甘沙和新智元创始人杨静也为本书写了精彩的书评。

下文是推荐序和书评全文。

贺福初: 《机器崛起》推荐序

中央军委科学技术委员会副主任、中国科学院院士 贺福初

2016年5月,美国国防部发布意向通知书,宣布美国国家制造创新网络(National Network for Manufacturing Innovation)的第12家制造创新机构——“先进组织生物制备制造创新机构(Advanced Tissue Biofabrication Manufacturing Innovation Institute,ATB-MII)”即将开启竞标。6月,白宫办公室发表题为“Obama Administration Announces Key Actions to Reduce the Organ Waiting List”的情况说明书,正式提出将投资1.6亿美元建设ATB-MII以研发那些可被用于修理或替换人体细胞或组织的下一代制造技术,从而在未来的某天可以实现器官替换,延长甚至扩展人体机能。

ATB-MII

关于替换人体老旧或破损器官以修复或扩展人类体能的想法,早在20世纪40年代末时已有讨论。20世纪50年代美苏在太空领域激烈的军备竞争极大地引发了科学家们对于“如何改造人类身体以使其适应恶劣的深海或太空环境”问题的思考。由此衍生出了60年代早期大众对于“生控体系统(cybernetic organism)”简称“赛博格(cyborg)”的狂热关注。1965年D.S. Halacy出版了《赛博格》一书,开篇即探讨了“人是什么”的主题,甚至描绘了在技术驱动下人类向“超人”的演化。70年代,随着越来越多在越战中严重受伤的美国士兵被送回国内,这一想法再度升温,研发可被用于修理、扩展、再生或模拟组织或器官机能甚至替代人体器官或躯体成为众多科技发烧友的探讨热点。

不管是在战争还是和平期间,借助新方法、新技术、新工具的出现拓展、修复甚至再生人体机能,一直是军事、经济以及科学领域长期探讨的一个问题,其源头往往可追溯至1948年维纳划时代的巨著《控制论》的诞生。维纳的《控制论》有一个副标题,“关于在动物和机器中控制和通信的科学”,但是这两个“控制”却分别代表不同的含义,此处不做过多的讨论。而《机器崛起》这本书,也有一个副标题“一段遗失的控制论历史”。作者Thomas Rid从“赛博到底意味着什么,这个想法是从哪儿来的”这两个问题着手,试图为“控制论”之于人类科技发展进程的重大意义正名。在整个控制论的发展过程中,我们可以看到,最初,控制论学者们借助大脑思维的方式来理解机器;随后,这一情景发生了改变,随着马尔茨《心理控制论》一书的出版,人们开始像理解机器一样理解自身,期待通过改编自身“内置的成功机制”,以使得“自动地在正确的方向上引导自己实现既定的目标”。既然人可以视作一台机器,而且人是智能的,为何不能让机器也拥有智能?这一想法,这极大地促进了原意为“使得机器获得智能”的人工智能的研究。

在Rid的笔下,《控制论》这门诞生于第二次世界大战的学科,在不同领域专家的推动下,不停地变换其形态以塑造我们对新技术的理解。就像书中所要表达的,“控制论”这一学科留给后世的遗产,无法估量,人工智能也只能是其冰山一角。相当程度上,今日之机器人、人工智能、VR、互联网,都属于旧日之《控制论》的研究范畴。在本书作者看来,这也是第一部揭开美国军方之智能科学与技术前进发展历程的记录式的著作。

书籍的最后,作者别开生面的指出,当前阶段,机器已然开始陨落。这与本书的书名《机器崛起》是否矛盾?一方面,不管是《经济学人》声称即将带来“第三次工业革命”的3D打印技术,还是在生物医学中得到重要应用的医用机器人,亦或是再次风靡的各种VR设备,都让更多的机器走入了千家万户。另一方面,正如自动化所王飞跃研究员所说,随着赛博空间已经成为与我们的现实物理空间平行的一个重要空间,赛博空间成为了一个巨大的“社会实验室”。在这个实验室中,输入敌我双方态势数据,通过软件定义的战争的计算与评估即可得出战争的结果,这必将使得物理空间中的战争和机器减少,而赛博空间中软件定义的战争却将硝烟四起。

七十年前,机器是发生在物理空间中的英吉利海峡之战的主角,机器在战争中崛起;七十年后,战争本身将发生在赛博空间这一存在于机器内部的世界里,战争在机器中卷土重来。未来,让我们拭目以待。阅读本书,你将对未来窥得一二。

戴浩: 《机器崛起》推荐序

中国指挥与控制学会理事长、中国工程院院士 戴浩

当cyberspace一词在国内外广为流传时,华语世界先后产生了30多种译名,学术界还有过一场围绕最佳译名的百家争论。6年前,我在拙作《cyberspace概念的由来及译名探讨》中,基于对cyber的溯源分析,发现其内涵随时间演进发生了微妙变化,用电脑、网络、电子、信息、控制、虚拟等中文单词都不能表达其边界模糊、捉摸不定的特征,因此我主张将cyber音译为“赛博”,至于“赛博”的确切含义,可以仁者见仁,智者见智。

我在文中还指出,维纳发表《控制论》时,有个副标题,即“关于在动物和机器中控制和通信的科学”,可是我们将主标题的cybernetics和副标题中的control都译成了“控制”。实际上,cybernetics具有控制、反馈、通信、人机交互等多重含义,它并不仅仅是“控制”的同义词。杨义先教授最近在《正本清源话“赛博”》一文中,主张将cybernetics译为《赛博学》,而不应狭隘地解读为业界已有共识的控制理论,对此我深有同感。

经考证,《cybernetics》刚传入中国时,曾译为“大脑机械学”,意即会思考的机器。1961年在翻译维纳《cybernetics》第二版时,罗劲松、龚育之等4名学者以郝季仁(音同“好几人”)笔名,将书名改译为《控制论》。这一中译本影响深远,导致今天仍有很多人将词根cyber或cybernetic、cybernation均译成“控制”。

当我通读完《机器崛起》译著后,对维纳专著《cybernetics》的背景及该书问世后70年来的兴衰,有了更深刻的认识。正如该书前言所说,cyber是条变色龙,不同时期不同的人有不完全相同的解读。除作为专有名词外,它还是通用的前缀,可以组成许多新词,如书中提到的cyberculture(赛博文化)、cyberpunk(赛博朋克)、cyborg(赛博格或赛博有机体)、cybergear(赛博装置)、cyberspace(赛博空间)、cybersecurity(赛博安全)、cyberwar(赛博战争)。在我们日常生活中也会遇到cyber的不同译法,如cyberport(数码港)、cybercriminal(计算机犯罪)、cybergame(电子竞技大赛)、cyber physical system(CPS:信息物理系统)等。显然,在cyber与控制之间并不存在严格的“语言绑定”(linguistically bind)。

维纳是一名博学的、远见卓识的科学家,他于1948年秋写成的《cybernetics》,被喻为非凡想法集大成者,第二次工业革命的开山之作,因此刚一出版就成为畅销书,其影响力或衍生出的各种神话(myths)超出了维纳本人的预料。《机器崛起》作者称维纳是麻省理工大学一位古怪的数学家,因为在《cybernetics》中,充斥了深奥的数学公式和时尚的工程术语,充满了维纳对未来的大胆预测(如机器比人更聪明,工业革命将引起大脑的贬值)。人们从不同的角度去理解、研讨他的思想理论,其中有工程师、科学家、企业家、艺术家、社会学家、心理学家、哲学家、科幻小说作家、乌托邦信仰者、江湖骗子、励志大师……维纳的理论在接收广泛赞扬的同时,也经常被曲解,而维纳生前一直为捍卫其纯洁性而斗争。在维纳去世后不久,大约在上世纪70年代,《cybernetics》作为一种严肃的学术事业发展到了顶峰,从此以后就渐渐走向了衰退。

正如作者所言,《机器崛起》是探讨cyber和cybernetics的由来及其演化的历史。在其70年间,几乎每个年代都有不同特点或热点。本书用了七章的篇幅分别回顾了这段令人难忘的史实,其中有许多鲜为人知的、生动的故事,穿插其间的有各种严肃学者的见解和风云人物的实践。70年的历史大致分为三个阶段:最先用人类的思维去改造机器,即研究拟人化的机器,在体力和智力上要能超越人类;接着用机械理论控制、重塑人类,认为思维也是一种机器,有规律可循,有机体可改造为半机器人;最后用机器改造环境,可构建美好的梦幻空间、虚拟世界,无法律约束,无政府管制。这一过程也是对王飞跃研究员提倡的“三个世界”——物理世界、心理世界、人造世界并存的最好注释。

无数史实证明,幻想或梦想是创新的源头,昨天科幻小说的情节逐渐变成了今天的现实。未来并不遥远。未来正向我们走来。维纳在《cybernetics》萌发的思想理念促进了日后人工智能、虚拟现实、信息安全等学科的发展,因此维纳的学术贡献不仅仅限于控制技术,他对计算机技术乃至信息技术的杰出贡献不应遗忘,而本书的功绩在于重拾几乎遗失的历史。

本书的主标题是《机器崛起》,但最后一章的标题是“机器陨落”,这不是相互矛盾吗?当初维纳撰写《cybernetics》的灵感来自对二战期间德国来袭导弹防范的思考,而美军“赛其”系统(SAGE)研制成功验证了机器(计算机)具有类似人类大脑的智能,可以有效地制止战争。但70年后,一种新的战争形式——赛博战从《cybernetics》的理念中脱胎而出,作者认为,这是机器的悲哀,也是cybernetics学说的悲哀。但我相信,大多数读者并不会因为赛博空间存在军事对抗而忽视更智能的机器给人类社会带来的福音。信息技术之树常青。太阳照常升起,星辰永不陨落。

秦继荣: 《机器崛起》推荐序

中国兵器第207研究所研究员,中国指挥与控制学会副理事长兼秘书长 秦继荣

从书名《机器崛起:遗失的控制论历史》不难想到,作者是为唤醒人们对维纳cybernetics(控制论)历史贡献的记忆,以使维纳的cyber科学在智能时代仍然能激发人们创新的梦想。如今,cyber几乎存在于现代领域的每一个角落。大家试想,如果没有cyber,我们将会倒退至第一次世界大战的年代。但是,如果对当今的cybernetics研究做一番粗略的审视,结果就会使我们一头雾水。也许我们会想当然地认为cybernetics作为一门学科的自主性和独立性不容置疑。然而,这门学科在建制化上的不足令人吃惊:在世界范围内开设cybernetics本科专业的高等院校屈指可数;以cybernetics 为名的学会鲜可寻得;以cybernetic为名的国际学术期刊也寥寥无几;cybernetics研究机构更是凤毛麟角。这一现实状况可以说是困扰当今知识界的一个重要问题。

Cybernetics作为20世纪中叶诞生的一门重大科学理论,它的影响力穿透了学科的疆界,跨越了时间和地域,突破了国家和意识形态的屏障,直抵今日众多热门研究领域(如计算机科学、控制科学与工程、航天航空、通信工程、人工智能以及哲学、经济学、语言学、心理学、政治学、社会学和军事学),甚至渗透到了人们的日常生活领域之中。无论从哪方面来看,cybernetics都不失为一项具有革命性意义的科学成就。从宇宙观上来看,它再一次剥除了宗教强加在人类身上的光环,将人类从宇宙独尊的位置上解放出来;从本体论上来看,它打破了物质与精神、身体与思维、有机与无机、生命与非生命、自然与人工的二分戒律;从方法论上来看,它摆脱了牛顿力学决定论的束缚,充分利用多种数学工具,又借助类比方法采纳和推广相关学科中的物理模型,在发展中形成了独特的“赛博语言”,为系统科学的形成及纵深发展奠定了基础;从研究对象上看,它与几乎同时出现的信息论、系统论交互影响,又博众多新学科之方法、观念,成为一门以研究系统的结构、状态、功能、行为方式和变化趋势为主要特征的崭新科学;从社会学方面来看,它以“反馈”“控制”为枢纽,在自然、人与社会间建立起精密科学意义上的联系。

然而,令人不解的是,既然维纳如此伟大,cybernetics如此神奇,在现实生活中,人们也经常在说“控制”“反馈”这样的字眼,但提起“赛博学”“维纳”,为什么绝大多数人竟会茫然不知?为什么当人们顺口说出“物竞天择,适者生存”时,会在脑海里闪出“进化论”“达尔文”;在谈及“时空弯曲”“光速不变”时会自然想到“相对论”“爱因斯坦”?人们对系统学科和创立者会自然而然地进行追溯,为什么赛博学同样对科学研究、社会系统、人类思维方式有着直接而广泛的重大影响,却遭遇如此不同的境遇呢?《机器崛起》一书似乎可以指引我们寻找到相应的答案。

毋庸置疑,cybernetics是20世纪最伟大的神奇构想,当年借助cybernetic的热潮而迅猛发展起来的分支研究领域(如计算机、电子通讯、控制理论以及赛博理论的成功实践)在逐步走向学科自主和独立之后,在研究方向上也越来越远,以至于脱离了cybernetics的主体,成为新的热点学科。令人感到愤愤不平的是,当今这些“时尚领域”的学者在追溯本领域的历史时,通常不会提到cybernetics或维纳等先驱。时下,大众对计算机科学的普遍认识便是一个佐证。《机器崛起》一书清楚地证明了cybernetics的基本方法和理论在近70年的科技进步中对其他学科领域所起的推动作用,在相关学科领域的发展背后均有cybernetics的身影。《机器崛起》的作者试图改变cybernetics在当今的尴尬处境,把cybernetics从已经被遗忘的或隐身幕后的境地里解放出来,让人们不忘维纳、不忘cyber历史,继续开创未来的cyber时代!

不可否认,尽管cybernetics在各个学科领域(如心理学、生理学、通信工程、计算机科学、语言学、人类学、哲学、社会学)皆大显神通,其术语在各学科间能够无障碍地交流,但不可避免地发生了越来越专业化的倾向,它的一般方法被肢解了,被一些具体的学科所取代,这显然与维纳的“科学是统一的”思想背道而驰。从本书也可以看出,在70多年的时代变迁中,cybernetics思想在周期性地重新被发现或得到创新应用,比如神经元网络、深度学习方法、机器人、人工智能经历了多个寒冬,在今天又重新成为全球研究热点,都显现着cybernetics预见性的先驱地位。目前,cyber这个前缀的应用十分广泛,如cyberspace、cyberworld、cyberculture、cyberholic等单词已经进入了英文词典,并成了引领时尚的词汇,这是cybernetics在今天这个信息时代还能长袖善舞的证据。简短、上口的“赛博”两字无处不在地使用,也足以说明维纳cyber理论的神奇所在。

《机器崛起》一书现在在国内的出版,正值中国人工智能崛起的冲锋号吹响之际,让广大读者学习了解维纳和cybernetics在近代科技发展中的卓越贡献具有重要的现实意义。大家知道,习近平总书记在2016年中国“科技三会”上号召:“希望广大科技工作者以提高全民科学素质为己任,把普及科学知识、弘扬科学精神、传播科学思想、倡导科学方法作为义不容辞的责任,在全社会推动形成讲科学、爱科学、学科学、用科学的良好氛围,使蕴藏在亿万人民中间的创新智慧充分释放,创新力量充分涌流。”科学普及包括科学知识、科学思想与科学方法的普及,而了解科学史则是综合学习科学知识、科学思想和方法很好的途径。《机器崛起》是一本cybernetics科学史的传播巨著,它描述了20世纪中叶产生的“赛博科学”的发生和发展历程,生动记述了许多鲜为人知的故事与事件,揭示了赛博科学思想发展与人类文明进步的关联,以及社会支撑系统、军事装备技术和机器的关系,总结了赛博科技创新过程中的实例,探索了赛博科技发展的规律,特别是最后两章预测了赛博社会、赛博空间、赛博战争的未来,由cybernetics理念引出对21世纪赛博空间的赛博战争中传统机器陨落的担忧,鼓励人们用赛博科学思想迎接面向赛博空间“物理域的明战、信息域的暗战、社会域的观战、赛博域的混合战”之挑战,从而帮助我们在迈向智能时代的征程中,正确把握科技发展方向,用赛博思想去推动人类文明的进步和军事技术的创新,实现人机共融。

具体而言,《机器崛起》首先是各级领导干部应该认真阅读的一本好书。通过系统了解赛博科学史,来深刻感受维纳的cybernetics在近70年社会发展中的重要推动作用,有助于更深刻地领会“科学技术是第一生产力”的论断,更加自觉地贯彻科技强国战略,把经济与社会发展转到依靠科技进步和提高劳动者素质的轨道上来,用cybernetics的理念指导工作实践,提高现代管理能力,创造时代业绩。

其次,《机器崛起》几乎对所有学科的工程技术人员和大专院校师生均有裨益。通过认真研读,可以培养预测未来的思维习惯和多学科交叉研究的治学精神。特别是国防领域的科技工作者,通过深入阅读《机器崛起》,不仅可以了解战争中的控制与通信的过去,还可以通过赛博科技的演化史来启迪思想,展望并预测未来,构想智能时代的颠覆性技术,充分理解未来赛博空间(cyberspace)、赛博战(cyberWarfare)的内涵及发展趋势,为智能无人化机器集群、人机协同作战时代的到来尽早布局。以当今机器智能不断提升的趋势分析,这一天为期不会太远。作者在本书中披露了维纳早在1963年就做出的断言:“未来世界将是一场智能机器与人类大脑极限间进行的艰难抗争。”可见,维纳的预见是何等超前!如何适应未来新的军事变革,以赛博思想改变人们传统的战争观和安全观,有效应对赛博空间的多疆域复杂性挑战,实现科技富国、科技强军的“中国梦”,在《机器崛起》一书中似乎可以找到部分解答。

再次,《机器崛起》可以作为科技社团学术组织开展科普教育的好教材,用以在中小学开展赛博科技发展史的教育活动,弘扬赛博文化与天人合一的和谐观,培养青少年追求真理、崇尚科学、探索自然、畅想未来的优良品质。在当前智能科技的春天里,对维纳cybernetics的历史功绩追根溯源,以适应当今呈井喷态势的人工智能技术发展。“人类与机器紧密融合、共同进化”的概念在不断深化,时代亟待塑造并弘扬赛博文化(cyberculture)。

总而言之,《机器崛起》一书有助于广大读者深刻认识第二次世界大战后赛博科技的发展历史,认识维纳cybernetics思想对诸多学科发展的强大驱动力。同时,对提高管理人员、企业家的科技素质和国民的科学文化素养也会起到积极的促进作用。时代呼唤cybernetics,机器必定趋向智能化崛起。

机器崛起:重现的自动化愿景

《机器崛起》译者 王飞跃

毫无疑问,《Rise of the Machine》是我近年来读到的最好一本著作。除了消耗时间之外,此书的翻译和校对过程给人以轻松、畅想、愉快的享受,而且常常伴有“原来如此!”、“竟然这样!”、“怎么会呢?”等惊叹和无奈。借用美国国家安全局和中央情报局前负责人的话:在这本书里,作者托马斯·瑞德巧妙地以作家的艺术、历史学家的严谨、哲学家的敏感揭露了“赛博这东西”已经并将继续颠覆人类感觉和认知的各个方面,“此书不仅仅是精神食粮,更是一场思维盛宴。”英国前安全情报协调专员和最高情报机构负责人,亲历“月光谜案”的欧蒙爵士称“本书为历史学家和记者之类设定了一种新的叙事标准”。一位美国空军赛博战的前负责人讲得更干脆:“它将成为经典!(It will be a classic.)”

然而,作为一名长期从事控制与自动化研究的科技工作者,自己还有“额外”的感叹和思考:控制论的天地原来如此之广阔,可为何今天却如此落魄,连自己的辉煌历史都被人“遗忘”?控制理论与控制论到底是什么关系?把Cybernetics译成中文“控制论”是利大于弊还是弊大于利?控制论同自动化又是什么关系?这关系是从控制论与控制理论的关系衍生出来的还是它们之间本身就有什么更加深刻的内在关联?显然,在赛博(Cyber)到底是什么意思都无法确定的情况下,对这些问题的回答也只能是仁者见仁、智者见智了。但个人总摆脱不了一种无法释然的感觉:似乎这么多年自己的努力和辛苦,只是在一条极其宽阔的大道上又修了一个小巷,筑了一个小院,结果在里面把凤凰养成了鸡,把狮子训成了猫。唯一可以安慰的是,鸡的社会经济价值远大于凤凰,猫的人文关怀作用更远胜于狮子。

回想三十多年前,当我刚由力学转入控制领域时,曾有两个困惑:一个是文学上的:为什么钱学森要将其专著称为《工程控制论》,难道控制不就是关于工程吗?另一个是数学上的:控制教程书上讲的闭环反馈控制,其实从数学上看完全是开环的设定控制,特别对于确定性系统,反馈仅仅是形式上的,实质上根本没有任何反馈,但为何却称反馈控制呢?

第一个困惑很快就解除了:钱学森在《工程控制论》开篇的第一段就解释说[1],Cybernetics一词首先由法国物理学家安培在《论科学的哲学》中采用,为法语Cybernetique,意思是“国务管理(Civil Government)”,自然属于社会科学的范畴。而且,之前诺伯特·维纳的《控制论》之副标题是:“关于在动物和机器之中的控制与通信的学科”,又把控制论从社会科学扩展到生物学和机器智能(即人工智能或认知科学)了[2]。相信这就是为什么钱学森要在其开创性的“控制论”前冠以“工程”二字的原因,也是为什么形式上在《工程控制论》里我们可以看到现代控制的框架和公式,但在维纳的《控制论》中几乎看不到现代控制的任何影子。本来,最初有把Cybernetics译成中文“机械大脑论”的提议[3],其实这至少能表述原文75%的含义,但“控制论”似乎只能传递原意的25%了。

正是因为自己的这一认识,大约五六年前,在IEEE[4] SMC(系统、人、控制论,全称为Systems, Man, and Cybernetics)学会的一次理事会上,我对东欧学者提出设立“Social Cybernetics”技术委员会表示反对,因为“控制论”本来就是关于社会的,建议取名“计算社会系统”,并结合社会计算,创办一份“计算社会系统”的IEEE汇刊[5]。

但第二个困惑却困扰了我许多年,最后才“顿悟”般地弄明白:原来,所谓“反馈”,其实不在数学方程的形式或意义里面,而在其工程实施的实践和效果之中!所以,反馈必须在数学之外去理解,否则对于确定性系统而言,数学上就是根本没有反馈的开环控制。我曾问过一些控制专业的学生,还有教过控制理论和控制工程课程多年的老师,许多都不认识甚至不理解这一点。然而,正是反馈思想的这一独特的引入方式,才是维纳《控制论》对现代控制理论的最大贡献;而钱学森的《工程控制论》就是针对机电系统,使隐式的反馈变成数学和工程上的显式反馈机制[6]。

实际上,维纳的最大贡献可能是将机电伺服系统的物理反馈现象推广为生理神经上的“目标性行为”(purposeful behaviors)和哲学上的“循环因果律”(circular causality)及“循环逻辑”(circular logic),认为人类、生物和智能机器等都是通过“由负反馈和循环因果律逻辑来控制的目标性行为(purposeful action governed by negative feedback and the logic of circular causality)”实现其目的[7]。这与当时在科学中居统治地位的因果范式冲突,但形成了控制论的思想基础。正在这一基础之上,再加上1943年麦卡洛特和波特关于神经系统固有思维逻辑运算的革命性文章[8],才有了后来的“控制论小组”和梅西系列会议,最后正式诞生了控制论这一领域。

回顾历史我们发现,维纳获得巨大成功的专著《控制论》只是在巴黎的一次随机酒吧访问的随机谈话而导致的一份随机的合同及其随机产生的后果而已!当时无人——包括维纳和其墨西哥裔法国籍的出版商——将其严肃对待,结果最后《控制论》一书的版权却成了麻省理工学院(The MIT Press)出版社和法国出版商竞相争夺的目标,历史就是如此有趣![9]

更令人想不到的是,《控制论》的出版会引发社会如此大的反响和意外“反馈”:军事上的赛博战争出现了,文化上的赛博朋克露头了,社交上的赛博社区涌现了,.....,最后是今天的互联网、物联网、赛博空间,等等,结果人人在问“赛博”到底有什么含义?人人似乎都有答案,但没有人能讲清楚“赛博”是什么,谁知道明天又会出现什么?显然,就像当年自己对数学上反馈的困惑一样,理解赛博,必须理解其含义之外的含义。

对今人而言,控制论引发的最大成果和现象可能就是眼下火热的人工智能、AlphaGo围棋人机大战、日益兴起的智能技术(新IT)和智能产业。其实,“人工智能”本来就是作为“机械大脑”和机械认知的“控制论”而涌现的,是1955年,年轻的约翰·麦卡锡为了避免与维纳的纠缠,避免使用“控制论”而想出的新词,进而有了1956年里程碑式的达特矛斯人工智能研讨会,从此人工智能作为一个正式独立的研究领域面世。麦卡锡和同事尼尔斯•尼尔森(Nils Nilsson)后来对人工智能作出了的另一种解释:

AI = Automation of Intelligence(智能的自动化)

该见解更是与维纳的控制论思想一脉相承,也解释了从工程角度,人工智能的实质就是知识自动化[10]。这样的认识,有助于消除关于人工智能威胁人类的顾虑及所谓的“奇点理论”给社会带来的困惑。这种困惑大约200年前蒸汽机发明和60多年前控制论与计算机出现时都曾一度流行,但历史证明其与事实不符,过度担心是不必的。当然,技术是把双刃剑,人工智能也是如此,我们必须适度思考并应对其负面影响。

在《历史的起源与目标》一书中,德国学者卡尔·雅斯贝斯曾将公元前800到前200年间约600年人类文化的突破称之为“轴心时代”[11]。这就是以中国、印度、希腊和古中东文明所代表的世界范围的“哲学突破”、宗教的兴起和农业文明的巩固。当代一些社会学者认为人类社会刚刚进入“第二轴心时代”。但作为一名技术人员,我更倾向于人类社会即将走完“第二轴心时代”。始于14世纪中期的文艺复兴,终于20世纪的现代物理学和现代数学,差不多也是600年时间。在“第二轴心时代”,我们经历了“科学突破”,以殖民和贸易为特征的“负和”、“零和”全球化以及工业社会的出现及成熟。翻译完《机器崛起》,我相信人类正进入“第三轴心时代”,始于量子力学、相对论和哥德尔的不完备性定理所引发的人类对物性、人性和理性的重新认识,以及随之而来的计算机、互联网、机器人等新技术和控制论、人工智能、智能科学等新学科。或许,时下的“反全球化”就是第二轴心时代的一次“回光返照”,以资源优化、智力调配、人机结合、虚实一体为特征的新一轮多赢“正和”智能全球化已经开始了,人类将在“第三轴心时代”进入智业社会。

在第一轴心时代,人类解放了“物之力”,实现了“农业文明”,基本解决了社会上资源不对称的问题;在第二轴心时代,人类解放了“能之力”,实现了“工业文明”,基本解决了人们之间信息不对称的问题;在第三轴心时代,人类将解放“智之力”,充分利用赛博空间,使全球化由“负和”、“零和”走向“正和”,进入“智业文明”,最终解决我们之间的智力不对称问题[12]。

因此,以人工智能和机器人为代表的智能技术是时代的呼唤,对此我们要有激动之心;智能科学是多少前辈科学家努力的结果,是科学发展的必然,对此我们要有敬畏之心[13];智能科技同其它科技一样,是把双刃剑,既能造福人类,但用不好也会对人类造成伤害,对此我们要有平常之心。

《机器崛起》是关于控制论之遗失的历史,但却为我们重现了一幅自动化的辉煌愿景。从我个人的角度,我希望给本书再加上三个小小的遗失。一是维纳与Cyberspace和虚拟现实的发源地赖特帕-特森(Wright—Patterson)空军基地的一段趣事,二是在控制论思想萌发、形成、发展中一位中国人的重要作用,三是控制论理念在一个第三世界国家的社会政治实践。

1953年,MIT的博士生阿玛尔·博斯(Amar Bose)被电子研究实验室(RLE)主任杰罗姆·韦斯纳(Jerome Wiesner)指定负责与维纳联系。不久,维纳要求博斯替他去做一个重要讲座,因为维纳觉得自己的社会地位和公开的观点使他无法接受这一邀请,但内心又很想去。维纳对博斯说:“赖特帕特森基地有位将军请我去介绍我的理论,你替我去讲吧。”可几周过去,博斯再没听维纳提及此事。一天见到博斯,维纳说赖特帕-特森基地那个人办事不可靠,还没联系好。又过了几天,另一位博士生见维纳在系里的信件收发室里撅着屁股翻着大邮筐,满地都是从筐里飞出来的信件。原来,维纳丢了基地的邀请信且忘了那位将军的名字。很快,博斯从维纳秘书那里接到电话:“他刚口述了一封信,要求在地址上写:致俄亥俄州戴顿赖特-帕特森空军基地给诺伯特·维纳写信的人,我该怎么办?” 博斯告诉:“你小的时候没给圣诞老人写过信吗?就那么办。”结果,此事再无音信,当然讲座也没有办成。

当时,赖特-帕特森空军基地是美军先进武器的研究中心。很久之后的1984年,美军公开宣布他们终于悟出不但改变战争形态同时也改变世界科技之空间概念的虚拟现实技术,这就是赖特-帕特森基地所描述的视觉耦合机载系统模拟器(VCASS)。可惜,维纳与赖特-帕特森空军基地失之交臂,此时他已去世正整整20年了。否则,他一定会更感自豪:尽管二战期间其控制论没有像他一直暗示的那样发挥了重大的作用,但现在,他的《控制论》终于在军事上有了不可动摇的历史地位!实际上维纳在讲座一事上表现的态度,不但与其身世、性格和经历相关,更与他的首位中国学生李郁荣(Yuk Wing Lee)密切相联。

李郁荣是广东新会人,1904年生于澳门,1930年在MIT获得博士学位,导师就是维纳[14]。他是华人系统学习研究现代通信和控制的第一人,他的工作催生了维纳的控制论思考,并在后期发展维纳控制论的理论及工程应用方面,做出了极大的贡献。维纳本人也十分看重与李郁荣的合作,认为李郁荣的稳重与判断力正是自己需要的,李郁荣是自己进入工程应用的“桥梁”,并与李郁荣完成了他的第一个网络专利。实际上,这也是1936年维纳来清华任教一年的主要原因之一,因为离开了李,他在电路网络方面的研究进展大大受挫,一筹莫展。在清华大学,他们取得更多的进展,加深了维纳对反馈作用、意义及其复杂性的理解。他们还提出了离散计算机的设想,并安排清华大学向MIT购买相应设备器件,可惜因种种原因被时任MIT工学院院长的布什否定。此外,维纳在清华还帮助华罗庚前往英国过去的老师哈代处深造,使华罗庚在国际数学界显露头角。维纳自己认为,在清华大学的一年,才是控制论思想萌芽的一年。

其实,李郁荣随维纳学习之初十分困难。开始时,按维纳的理论设计电路总行不通。他跑去找维纳,说理论一定有什么地方不对。好在李郁荣没有放弃,不断的尝试,一年之后,才算明白维纳在说什么,终于成功!他们的“柔性网络”在当时具有革命性的突破意义,以致“无人相信”! 博斯是李郁荣的博士生,他后来转述了李郁荣博士论文答辩的火爆场面:电机系里20名教授全都来了,他们根本不理解李郁荣在做什么,弄不明白为何对一个清清楚楚的电路搞上一堆不知所云的复杂数学公式,而且除了维纳保证这些式子是对的,就是李郁荣自己也说不清它们是什么意思。原来,李按照维纳的指导,第一次将拉盖尔函数用于电路分析,还首次使用今日电路和控制通用的术语“综合”(Synthesis),并开创性地把希尔伯特变换关系用于工程分析,发明了著名的Lee-Wiener网络。因为他不是数学家,李郁荣有些地方并没有吃透,而且维纳似乎也没花多少时间去思考并指导李郁荣。结果,大家 “猛轰”李郁荣,不停向他提问,使他几乎无法招架。最后,年轻的教授维纳站起来说:“先生们,我建议你们把论文带回家好好研究一下,你们会发现它是对的!” 维纳的话结束了李郁荣的答辩,但通过还是失败没有结果。

两周之后,李郁荣在惴惴不安中收到系里寄来的小纸条,上面写着:“你过了。(You passed. )” 博斯为此愤愤不平,认为这些教授们欠李郁荣和维纳一个道歉:他们应祝贺二位并赞扬其巨大贡献,这是电机工程领域里程碑式的工作,从此为现代通信工程打下了理论和应用基础。

博士毕业之后,李郁荣因身为中国人很难找到工作,尽管维纳非常想把他留在MIT或在美国工作,极力推荐,但最后李郁荣只好回到上海,后赴清华教书,最先要做的一件事就是请维纳来华访问。在清华,维纳收到了AT&T的信,要买他和李郁荣的专利。为了使专利尽快得到应用,维纳决定忍痛以5千美元的低价把专利卖了,以为产品上市后一定还会分到更多的利润。没想到,AT&T买他们的专利的目的是为了将其束之高阁,打开他们自己专利的市场,消灭竞争。从此,他们再也没从专利得到分文。这件事,让维纳痛恨AT&T和大公司,从此开始失去对大组织的信任。

1942年初,维纳向军方提交了他关于防空火力控制的研究报告,名为《稳态时间序列的外插、内插和平滑》。里面满是复杂的数学公式。报告很快被相关部门负责人瓦伦•韦弗(也是一个数学家)用明亮的黄色封面装订起来,被称为“黄祸”并标为机密,仅在有一定密级的人员中传阅。战后的1948年,香农和韦弗出版了《通信的数学理论》(也是一部经典),维纳认为该作利用了他的研究成果,至少受了启发,而维纳的报告却迟迟没有解密,直到1949年才正式发表。维纳一直坚信他的理论可以在第二次世界大战中发挥重要作用,但却被官僚封杀,自此更对政府和军方失去信心。这就是为何他在战后声称不再接收大公司、军方和政府的研究经费资助,并公开发表反战声明的一个原因,也是他心中想去赖特-帕特森空军基地但不自己前往的原因。

从历史资料看来,维纳与李郁荣和博斯这些低调“微不足道”的人共事时最为快乐且高产。维纳后来帮助李郁荣在MIT找到位置,但李郁荣和夫人因抗日战争爆发滞留上海,最后靠开古董店和当年AT&T的专利费维生。战后他们得以赴美,在MIT为推广维纳理论的应用不遗余力,成果卓然,形成当时名震世界的通信统计理论学派,并在MIT开课,其讲座影响广泛。李郁荣的学生中有许多留在MIT执教,他们都是现代控制和通信历史上赫赫有名的权威,其中两人创办了今天仍十分有名的Teledyne公司和Bose公司。至此,李郁荣总算“回报”了当年MIT电机系教授们对他的博士论文的“礼遇”。

图注:李郁荣主持的MIT夏季讲座使维纳的理论广为传播,成为现代通信的基础。

(摄于1954年,维纳身边分别是李郁荣和香农)[15]

身为第二代孟加拉裔的美国人,博斯是李郁荣一位富有传奇色彩的学生,也是他的第一个博士生。当年,李要Bose研究维纳的非线性理论的论文和笔记,但花了十个月博斯还弄不清维纳到底在讲什么。每次问李郁荣,李郁荣总是告诉他:“坚持,会来的。(Keep on it, it will come. )”一次李郁荣告诉博斯,有个数学的国际会议将在MIT召开,让他去讲维纳的理论。在此之前,博斯从未做过学术报告,而且并不懂要讲的东西,他真的吓坏了。会议召开的两周之前,他终于觉得“明白了”,结果博斯的报告被会议高度评价,连维纳也非常满意,这段经历也成了博斯最宝贵的学习体验。

图注:黑板前的师生三代:李郁荣、博斯和维纳在MlT (同引自注15)[16]

当年,博斯因为难以向大公司推销他的音响技术而苦闷,去向李郁荣诉说。李郁荣用自己开古董店的经验告诉博斯:“每一个古董商的梦想就是有一天一个极有价值的东西能来到手中,而且能被认出来并抓牢,不让它跑掉。”尽管李郁荣没再讲什么,波斯明白了:他不应该再去找大公司了,自己干!今天,Bose公司已是世界上最著名的音响设备商,李郁荣就是它的“催生者”。

李郁荣的一生朴实低调,他婚后无子女,其夫人是加拿大人,著有A Letter to My Aunt ,记录其中国的艰难经历。1969年退休后到加州生活,于1989年11月8日去世。今天,李郁荣教授差不多已被完全遗忘,令人感叹。我曾打电话给瑞德,讲述此事,希望他能在中文版序言中讲一下李郁荣的故事。瑞德对此也十分感兴趣,要了相关材料。感谢他在序言中提及了李郁荣的亊迹。

最后一个“遗失”,是早已被大家忘记的20世纪70年代智利总统阿连德的“赛博协同工程”(Project Cybersyn)——一场来自南美洲的控制论革命。作为智利的第一个民选总统,阿连德重用年轻的弗洛雷斯,试图在远离冷战大国的南半球,走出一条抗衡东西方意识形态对峙的第三条道路,即“智利特色的民主社会主义道路”。

为此,弗洛雷斯在英国控制论学者比尔的身上看到了希望,邀请他赴智利把控制论应用于一个国家的管理,成就了一段几乎是天方夜谭般的赛博故事。比尔为智利设计了“赛博协同控制工程”工程指挥中心,希望由此通过信息充分交换的国家联网系统,将国家行政和长期计划转为日常决策和实时行动:“不像苏联那样将计划产量从中央向下逐级指派,也不像美国那样依靠自由市场调节,而是一种去中心化、非官僚式,既保证企业和社会的自主性又能实现快速实时干预的经济政策”。

图注:智利阿连德总统的“赛博协同控制工程”指挥中心操作室还原图[17]

历史表明,在当时的技术水平下,这是一场“大数据”和控制论的乌托邦梦想。阿连德的尝试失败了,最后自己也在军事政变中饮弹身亡。有兴趣深究的读者,可细品梅迪纳的《控制论的革命者: 阿连德智利的技术与政治》。

翻译和校订此书是一次令人愉悦和心动的经历,引发了自己许多的历史回顾和更多的未来畅想。在此,我十分感谢王晓、郑心湖、梁侨、王赛等同事为本书的翻译及校对工作所付出的努力;中国科学院院士贺福初教授、中国工程院院士戴浩教授以及中国指挥与控制学会副理事长兼秘书长秦继荣教授在翻译过程中给予了大力的支持和帮助,并对译稿提出了许多非常宝贵的修改意见;中国工程院院士孙优贤教授、桂卫华教授,驭势创始人吴甘沙博士以及新智元创始人杨静女士对本书的倾情推荐。瑞德教授本人提供了书中所用的图片原稿,他对中文译稿也寄予了深切的希望并在翻译过程中给予了大力的支持。王晓博士以及她所带领的平行工作室,为本书的翻译付出了大量的心血。在这一年中,她同时将自己的博士课题应用于社会化营销,创建了“德先生”微信自媒体平台,目前已初具规模。《机器崛起》一书的扩展阅读、推荐序与书评也将在“德先生”进行首发,感兴趣的读者可多关注。

感谢中国自动化学会、中国指挥与控制学会、机械工业出版社、麻省理工科技评论、新智元为推动本书的出版付出的所有努力!希望本书能帮助读者更加深入的理解当前的自动化和智能科技及其对人类社会的帮助及其冲击。

王飞跃,

二零一七年三月十七日于长沙普照园平行居

中国科学院复杂系统管理管理与控制国家重点实验室主任

国防科技大学军事计算实验与平行系统技术研究中心主任

其他精彩书评

孙优贤,中国工程院院士:

科技是推动人类社会发展进步的重要力量。近两年来,随着机器人和“人工智能”的再次崛起,我们不时会听到“机器代替人”“人工智能毁灭人类”等偏激言论。历史上每一种新科技的出现,都曾带给人类希望,也曾令人类惶恐。60年前的自动化如此,今天的人工智能亦如此。本书通过对第二次世界大战后出现的雷达、自动化、赛博格、虚拟空间、赛博战等主题的深入探讨,揭示了今日之智能科技是如何从《控制论》这本自动化的经典之作走近我们身边的。这是一部具有历史深度的图书,更是一部启发思考未来人与机器关系的书。

桂卫华,中国工程院院士:

科技的进步推动了社会的进步,我们已然迈入开放、联通、智能的后工业化网络时代。本书以清晰的脉络向读者展示,70年来推动人类社会从工业化到信息化,再到智能化时代的科技经历了怎样的曲折。鲜有一本著作能将科技的发展历程描述得如此生动且深刻。

吴甘沙,驭势科技CEO:

回看人工智能的三生三世,少有人知道,在给“机器智能”命名的那场启蒙争论中,控制论(Cybernetics)与人工智能(Artificial Intelligence)曾并列候选。如果控制论胜出,今天的技术和商业话语体系将完全不同。即使这样,“赛博”(cyber)还是在数字社会中留下了深刻的痕迹,暗含控制论精髓的强化学习甚至比当时胜出的符号和逻辑主义还要火爆。本书细致还原了机器智能发展的另一条主线:始于战争,归于战争,期间“控制和反馈”延展到了从数字空间到原子世界的每一个决策中。要补全对人工智能的认知,必读这本书。

杨静,新智元创始人:

过去的20世纪,人类的世界观是由科学家主导的。维纳无疑是引领自动化领域与人工智能方法论的一代宗师,在《控制论》发表70年之际,回溯控制论思想对计算机技术、战争指挥与控制理论的影响,意义尤其重大。在人、机器与精神三者的关系层面,《机器崛起》一书进行了终极追问。人控制机器—机器控制人—精神控制机器,是否能形成最终的逻辑闭环,还有待科学界与思想界的继续探索。期待中国在21世纪也能出现维纳这样不朽的思想者。

凯文·凯利,《连线》杂志创始人、《技术想要什么》和《必然》的作者:

一个共同的主题连接了战争机器、计算机网络、社会媒体、无所不在的监视器和虚拟现实。50年来,相同的人和同样的思想穿梭在由“cyber”这一词根联合起来的新发明中,如赛博空间(cyberspace)和控制论(cybernetics)。阅读这段惊人的历史,你会顿悟并发出惊叹:“啊!原来是这样!”

马丁·福特,《机器人时代》的作者:

《机器崛起》是一段引人入胜的控制论历史,也是由类似于维纳的梦想家们谱写的历史。是维纳,首先设想了能够复制人类思维能力之机器的潜力和危险。

彼得·沃伦·辛格,美国现代战争专家:

《机器崛起》不仅是一段有着深刻见解的控制论历史,同时也是一段与20世纪那些伟大的思想家们同行的迷人旅程,这些思想家们,包括科技巨头、古怪的数学家、科幻小说作家和反主流文化大使,塑造了我们理解机器和我们自身的方式。

迈克尔·海登,美国中央情报局和美国国家安全局原负责人:

有时最重要的事情总是远在天边近在眼前,至少这是我自《机器崛起》一书中获得的领悟。托马斯·瑞德的这本书巧妙融合了作家之艺术性、历史学家之严谨性以及哲学家之敏感性。《机器崛起》揭露了“赛博事物”如何已经并将继续对人类生活之方方面面产生真正深远的影响。它不仅仅是精神食粮,更是一场思维盛宴。

罗伯特·李,前美国空军赛博战作战人员:

每个我认识的人都应该读一读这本书。它将成为一部经典之作。

大卫·欧蒙德爵士,英国政府前安全和情报协调专员、“月光谜案”袭击发生时恰任英国情报机构政府通信总局主任:

托马斯·瑞德引人入胜地为我们描述了在第二次世界大战结束后,控制论这一关于机器的理论是如何在半个世纪后开始煽动无政府主义和战争的。现在,感谢他广泛且深入的研究,有史以来第一次我们阅读到了有关“月光谜案”(国家之间首次大型网络攻击)的真实情况。本书为历史学家和记者们设定了一种新的叙事标准。

戈登·柯雷拉,英国广播公司(BBC)安全事务记者、《拦截》的作者:

《机器崛起》一书极富原创性,行文引人入胜且话题深刻热门。这本书是关于我们对机器人和计算机的希望及恐惧之情的重现。托马斯·瑞德以一种出人意料但又平易近人的方式巧妙地将技术创新、社会变革及大众文化编织在了一起。

汤姆·查特菲尔德,《活出这本书》的作者:

技术既明确又超出了我们对未来的希望;它会变形并脱离我们的控制。托马斯·瑞德明确地告诉我们,我们生活在一个由技术神话交织塑造的迷梦世界,在这个世界里,我们与机器的关系以及通过机器维持的关系,不仅塑造了我们的日常生活体验,也造就了我们的集体无意识。在机器时代人类的恐惧和梦幻境地中,很难找到一本更好的书来作为我们的向导。

《柯克斯书评》:

本书观点独特新颖,包含了才华横溢的思考者与才华平平的思考者(他们通常会得出错误的结论,也偶尔能正确地预知未来)如何看待机器与人类日渐紧密的融合……叙述精湛。

布鲁斯·斯特林,《新科学家》杂志:

每一章节都如同一扇自动玻璃门般优雅地打开……一本有思想、给人以启迪的书……一部糅合了历史学、媒介分析学、政治学、军事工程学以及语源学的著作……在《机器崛起》一书中,瑞德为我们再现了一段描述入微而又令人惊叹的控制论科学发展的历史。

泽耐普·塔菲克西,《纽约时报》:

瑞德的书为我们重新审视当前科技发展的交叉路口提供了一段有用的历史和一个良好的机会。

《麻省理工技术评论》、《君子》、《财富》杂志评定的2016年最佳书籍之一

入选“2017年度最激动人心之科学著作”的决选名单

原文发布于微信公众号 - 新智元(AI_era)

原文发表时间:2017-06-22

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏大数据文摘

大咖 | 周涛:智能时代,哪些岗位火热,哪些岗位消亡

1794
来自专栏PPV课数据科学社区

人类首次把跑车送上太空, 9本好书让你Don’t Panic!

2月7号凌晨,在全球逾十万现场观众瞩目下,佛罗里达肯尼迪航天中心 LC-39A 发射工位,SpaceX的“重型猎鹰”(Falcon Heavy)首飞成功并完成了...

3004
来自专栏肖洒的博客

2017上半年书单

最早看到斌卡是在知乎上的答题。这本书的主题的减肥篇。从理论和实际出发为读者提供相对应的对策。印象最深的是我一直做的深蹲的方法都是错的。而且我也从这里明白了一个道...

1012
来自专栏成猿之路

▶︎这才是真正的《开学第一课》

我想无论你有多大、在读哪个年级,许多人都打心底里希望现在还在放假,以及今天不用那么早起床。

913
来自专栏养码场

一周播报 | 大公司反而给高薪?3年前端开口要37K,被拒后竟进了阿里?!

今年(2017年)面了个小朋友,有3年的前端经验,开口要月薪37K,当时吓得快从凳子上摔下来。

1081
来自专栏新智元

Elon Musk,一个活在未来的人,和他背后坎坷暗黑的过去

钢铁侠伊隆•马斯克 Elon Musk,显然是我们这个时代,最酷炫的明星企业家。昨天刚推出了Tesla的第四款电动车:Model 3 ? 而Model 3的名...

3078
来自专栏大数据文摘

大数据起源于国外社会主义实验?

1876
来自专栏WOLFRAM

Wolfram 美国高中生夏令营

1262
来自专栏VRPinea

天啦噜!这五个三星Gear VR 平台最具人气的VR视频,你竟然一个都没有看过?

6845
来自专栏BestSDK

科技的魅力,微软帮助盲人用声音欣赏世界

苏格兰有一位颇有名气的风景画家 Keith Salmon。 他从古老崎岖的苏格兰高地获得灵感,将山和天际线用缥缈且富有感情的抽象手法表现出来。不幸的是,Salm...

3018

扫码关注云+社区

领取腾讯云代金券