我们从来不是对人工智能恐惧,《西部世界》中,我们恐惧的是自己

《西部世界》讲的是未来一座以美国西部为主题的乐园,游客可以在其中扮演美国西部的各种角色,与公园里作为“接待员“的机器人互动。这些机器人和真实人类没有太大的区别,他们在游乐园中扮演者各种各样的角色,比如警察、牛仔、妓女等,这一切都根据游客的“需求”来决定。有的游客喜欢在乐园中和机器人一起冒险、感受西部的“淘金热”,但更多人则喜欢在乐园中放纵自己的欲望,无恶不作,因为被残害的机器人每次在接待游客后都会被维修并且清空记忆,所以人类无论是虐待还是杀死这些机器人,都不会担负任何责任。然而,机器人开始拥有自我意识,不仅见识到了人类的恶意和暴虐,还计划在这里酝酿一场革命。

所以,《西部世界》中的乐园可不是典型的游乐园,这个充满未来感的公园只面向富裕的度假者,让游客可以通过机器人体验他们最原始的幻想。然而,机器人自身已经进化出一种与人类意识相似但又不同的自主意识。无论幻想有多么不同,对公园的客人都没有任何影响,在这里只要你付出代价,便可以放纵任何欲望。

这部电视剧可以很快将观众带入《西部世界》。在第一集的10分钟内,主题公园的基本规则得以确立:付费的客人可以与机器人进行任何互动,在这个世界上,客人真的是上帝。这些规则非常简单:游客可以随心所欲地做任何事情。他们可以与他们进行友好的交谈,与他们调情或与他们一起开始自发的冒险,同时他们也可以虐待折磨他们并随意杀死他们。如果你曾经玩过一款叫做“侠盗猎车”的游戏,你就会明白这一点。

另一方面,机器人的构造和编程方式也能够阻止它们对“活着的”生物进行物理伤害。在剧集的开始时,我们从机器人的角度来体验了世界,它揭示了一个关于他们自身性质的残酷细节:他们显然已经拥有了情感。无论这是否与人为有关,他们确实感到了痛苦和恐惧,以及激动和愤怒,但他们不知道他们不算是“真正的”人。虽然这个细节确实使“游戏”更令人兴奋,更加真实,但这意味着一些机器人不得不遭受令人震惊的虐待对他们来说是非常真实的。

到目前为止,该节目的构建方式以及剧情都面对观众提出了非常尖锐的问题:作为人类我们应该如何对待非人类的生物?如果我们被允许活出我们所有的幻想而不必担心对我们的行为产生任何后果,那么我们将会拥有多大程度的成功以及我们的道德层会变得多么薄弱?在什么时候,一个生物应该拥有与人类要求类似的权利?我们该如何定义“有感觉”?又如何定义“人类”?

作为一个狂热的科幻迷,《西部世界》可以立即引人入胜,不仅因为它敢于用迷人的哲学问题和科学概念挑战观众,而且因为它的剧情主题提供了探索各种电影类型的机会:科幻、西方、戏剧、恐怖等等。仅在前几集中就有许多我最喜欢的电影和故事,比如《侏罗纪公园》《楚门的世界》和《猩球崛起》。至于电视剧非剧情的相关方面,制作设计、音乐和效果都很棒,正如我们对HBO的高概念制作所期望的那样,除了极少数例外,令人印象深刻的高水准演员团体都表现的十分出色。

到目前为止,我觉得《西部世界》是一部成人的智能科幻小说,它不仅提供了视觉上的效果,而且充满了等待观察者去探索的神秘面纱。这个电视剧的主题可能并不新鲜,但它呈现的方式永远不会令人感到枯燥无趣。《西部世界》乍一看充斥着塞斯莫尔热衷的堕落和放纵。因为在乐园里游客具有可以杀死机器人但杀不死人类的枪,所以游客可以肆意杀死机器人而不会有罪恶感,按今天的话来说,是“一言不合就开枪”,于是很多机器人都一次次莫名地死在游客的枪下。然而乐园的工作人员对于游客的暴力行为也不管不顾,甚至当疑似反派的黑衣人在乐园中大肆屠杀机器人时,工作人员也对他的行为继续纵容,此时没有任何人意识到黑衣人似乎正在酝酿某种阴谋。

有的人度假是为了寻找慰藉,有的则是为了寻求刺激,而人类去往“西部世界”就是为了纵欲。性与死是人类欲望的渊薮,所以,当在现实世界中被道德和法律管束的欲望和杀戮在这个乐园可以被尽情地实现时,一旦人类抵达西部世界,破坏和灾难也就此开始。他们造成的一层层的恐惧,一次次周而复始的苦难与血洗,叠加在那些人工智能的头脑中,激发出了某种反抗的动机。这很科幻也很现实,从这个意义上说,这个故事对准欲望和人性的黑洞,它隐喻未来也映射当下。

如果对照1970年的同名电影来看《西部世界》,会发现一些特别有趣的东西,五十年之间,发生了很多科技的演变,有一些沿着人类的预测踏步向前,有一些旁逸斜出走向了出乎意料的方向。如今的很多日常已经超越了当年的科幻,但也有很多东西仍止步于幻想,但重要的是,五十年来,那份对于奇点降临的恐惧一直未曾改变。

其实,仔细想想,我们从来不是对人工智能充满了恐惧,而是针对人类自己,正是因为人工智能最终沿袭了人性中的一切光亮和黑暗,所以,人们才如此忌惮那个未来。所以,我们不是恐惧奇点来临,我们是恐惧人性本身。

注:部分图文来源于网络,如有侵权,请联系作者删除!

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20181012A17BJR00?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券