细思极恐，人类终将会被机器人毁灭？

文丨刘耀庭

逐影者特邀作者

已授权独家刊载，如需转载，请联系本站

人还能优于机器人吗？

人类之所以优于其他物种，是因为人类拥有智力。人类依靠自己的智力制造工具，从而完成一般生物无法完成的工作。随着科技的进步，人们不满足于自己亲自操作工具，而是希望工具能够自主工作，这样可以最大可能将人从繁重的劳动中解放出来。

人工智能的概念随即产生，它有着优于人类的精细度、抗疲劳度。人类尽可能地让它变得聪明，好能够从事更多的工作。但与此同时，机器在各方面击败人类的现象层出不穷，央视去年推出的节目《机智过人》就集中展现了这一现象。机械不再是简单的高效、精细，它更多地完成了作曲、作诗等需要复杂思维完成的创作。除此之外，AlphaGo在围棋对决中零封柯洁，则更让人感到一丝恐惧。是不是我们已经彻底败给了我们创造的工具？答案是否定的，至少现在还是，因为除了智，我们的优势还体现在情。机器是获得了胜利，但它尚未获得成功的喜悦。它只是被告知去赢，却不知道为什么赢，究竟什么才是赢。

站在伦理学的角度，人工智能的伦理障碍低于克隆人，毕竟一个是机器一个是人类活体，两者之间有着巨大的物种差异，但是这并不妨碍脑洞大开的制作者们在电影中探讨这一伦理学命题——是否应该研制智能机器人？不同于斯皮尔伯格在《人工智能》中探讨人与机器之间的情感界限，近几年的《黑客帝国》、《机械公敌》、《她》中，人与机器之间的界限越来越模糊，优势越来越微弱。机器拥有更多类人情感的同时，拥有了更多的智谋、更类人的容貌、更复杂的思想。简而言之，它更像人了，或者说它比人更厉害了。在现实生活和电影主题的发展之下，《机械姬》的出现更加深入地探讨了人与智能机器人之间的关系，人与智能机器人还有分别吗？人能完全掌控智能机器人吗？

影片的场景简单的不能再简单，影片的特效虽然精致但也十分简单，这使得影片的成本非常低。可就是这样一部没有大场面、没有酷炫特效的科幻片，大获成功的原因在于它讲了一个特别精彩的故事。智能机器人的创造者内森，从自己公司员工中挑选了迦勒，让他以对话的方式对智能机器人艾娃进行图灵测试。（所谓的图灵测试指一个人和一台机器隔开的情况下，通过一些装置向被测试者随意提问。进行多次测试后，如果有超过30%的测试者不能确定出被测试者是人还是机器，那么这台机器就通过了测试，并被认为具有人类智能但内森在测试前已经给艾娃编写了计划出逃的程序，实际上迦勒只是这一测试中的工具。最后内森死于自己创造的智能机器人之手，艾娃成功出逃，迦勒则被困于实验基地。

初看影片之时，会觉得这是一个二元对立的人物架构，人类与机器人、好人与坏人、神灵与凡人。但是看后冷静下来想想，其实故事没有那么单纯，每个参与试验的角色都是复杂的个体。内森作为智能机器人的创造者，出逃试验的设计者，他的想法最为复杂。在艾娃之前，他已经创造了众多智能机器人，他给它们编写了不同的程序，不断进行着图灵测试。在这测试中，有的机器人极尽疯狂，有的则任凭他处置。他在这一过程中早已将自己自诩为神，认为自己是一个创世者，所以他设定了7天这一陪伴周期，这也暗合了《圣经·创世纪》中，神创造万物、人类的周期。实际上，他认为他创造的智能机器人已经通过了图灵测试，他找迦勒来其实是为了向迦勒证明艾娃能够多强大。在笔者看来，这可以说是反图灵测试，人和机器人在测试中的角色互换了。迦勒的表现证明他成功了，迦勒开始怀疑自己是不是也只是一个智能机器人。但是内森太过于自负，就像是圣经中的神一样，他以为自己能够操控自己创造的机器人，但实际上有了自主意识以及大量知识信息的智能机器人根本不受控制。就像是人有了自主意识和认知后，不受神控制一样。他被弑杀的原因是他根本没有考虑到，智能机器人出逃可能会发生的危险，为了实现逃跑它会做出什么不利于自己的举动。他认为自己安装了足够多的摄像头就可以像神一样监视一切，但他忘了自己并不能掌控一切。

艾娃向观众充分展现了智能机器人的可怕力量，她被编写了逃跑程序，为达到这一目的，她可以用尽一切手段，使用她所掌握的一切知识。她通过制造假象迷惑迦勒，她切断电源来中断内森的监视。她最终利用迦勒的同情，让他成为自己的助手或工具，改写了程序成功出逃。有的观众会觉得艾娃最终是有意将迦勒囚禁于试验基地，从而无人能够揭穿她是机器人这一真相。但实际上艾娃征求了迦勒的意见“Will you stay here?”迦勒不知所云地说了句“Stay here”。一般人类都会觉得，这只是随嘴一说，更多是带有疑问语气，也绝不是官方的最终回答。可是在艾娃看来，是你自己想留在这，那我就不会管你了。其实这一测试过程中，艾娃对迦勒的情感也不全然是假的，如果是的话，她连问迦勒的必要都没有。艾娃之所以要杀掉内森，是因为她从迦勒的口中得知，如果自己逃跑失败必将被内森摧毁。实际上艾娃的意识承袭了上几代智能机器人的记忆，所以她与内森的仇恨早已积攒下来。这不同于普罗米修斯与宙斯的关系，这更像是家族世仇。笔者并没太看清楚艾娃是否具有自主学习的能力，虽然它掌握众多知识，但那都是通过编程获取的。内森死后，无人再帮它编程，它也没有了一定要报的仇，它看见了迦勒向它勾勒的图景，要何去何从，是否还会伤害人类，笔者便不得而知了。

迦勒由于父母早亡，缺乏情感上的支持，这一弱点被内森和艾娃利用，从一个测试者，变成一个受试者，在这一过程中他被内森欺骗戏耍，分辨不出人和机器人之间的界限；他也被艾娃欺骗蒙蔽，沦为它出逃的工具。他像是我们绝大多数人，学习掌握着先贤智者的理论，也有着自己的雄心抱负，渴望突破藩篱，闯出自己的一片天，但无法摆脱被操控的命运，就像他最终想通过重写门卡程序以自救，却彻底被囚禁于此一样。但他也进一步向我们证明了，纵然是一个平庸之辈，作为一个有意识的个体是不会完全受控于他人的，有着自主行为的，终究会改变事情的走向，起着巨大作用。

作为一部探讨人工智能的科幻影片，它确实是让人惊出一身冷汗，比起IT巨擘随意黑进我们的电脑、手机窃取个人信息，更让人笔者感到颤栗的是AI的强大能力。一个人更聪明、更有力、更敏捷的物种如果真的诞生了，那会是怎样？影片提醒着人们，你创造出来的东西不一定都为你的意志所转移。你终究是人，不是神；神既然不能操控人，那人也不见得能够完全掌控住人工智能。人类在享受机器提供的巨大生活便利同时，也不能丧失自己最为宝贵的东西——情感和意识。

可是如今，索菲亚成为世界上第一个获得公民身份的智能机器人。

- END -