黑镜第四季《U.S.S.CALLISTER》:人工智能AI的“人权”?

生物学的克隆技术和计算机科学的人工智能技术,一直都是都是科幻作品中的两大热门题材,尤其是最近几年,随着技术日渐成熟越来越接近想象的领域,话题度越来越火热,相关作品也越来越多,从《西部世界》、《攻壳机动队》和《银翼杀手2049》的热映盛况就可见一斑。

至于其中原因,我想大概是因为这两门学科的发展方向都在不断挑战着人类现有的道德价值体系,才会造成如此强烈的理念价值冲击。试着想象一下,如果未来某一天,世界上真的出现了克隆人,或者出现超级人工智能的AI,它们究竟算不算是“人”呢?人类又该如何和他们相处?如果接受它们融入人类社会,“人”的定义又该如何重新界定?关于这个问题的每一种可能性幻想,都是一部科幻作品。

最近比较忙,昨晚才看完了《黑镜》第四季的第一集,所以这篇文章算是迟到了一个月,实在是一件遗憾的事情。《黑镜》系列最大的特点就是从不避讳人性与道德黑暗面,第一季第一集里戏谑首相的故事就足以让我们体验到这群编剧的丧心病狂,不过我更喜欢科幻单元剧中关于未来世界的想象。

《U.S.S. CALLISTER》的故事创意其实也不算太新奇:天才宅男程序员戴利跟朋友沃顿合伙成立了一家游戏公司,两位创始人分工明确,沃顿负责公司的经营,而戴利则负责技术开发。几年过去,沃顿利用戴利的技术赚的盆满钵满,生活中也是意气风发,可是戴利却没有得到公司创始人之一应有的尊重,公司的前台小妹懒得搭理他,请求别人帮忙倒杯咖啡也需要低声下气,好不容易有了一个小迷妹,公司里的人却暗示她远离戴利这个生活中的loser。懦弱的戴利无法再现实中发泄情绪,于是利用自己天才的技术搭建了一个类似于私服的空间,将现实中认识的人都复制进来,通过欺凌虐待这些AI来发泄不满。最终,当女主进来后,这些AI奋起反击,利用游戏版本升级的机会,将戴利永远地困在了游戏世界。

从传统影视作品的角度来讲,这是一个弱小群众团结一致反抗大魔王的故事。如果换成科幻角度来思考,这却是一起家用电器杀死主人的谋杀案。玩家在游戏中虐AI发泄情绪的情况很常见,比如DOTA2中每天死在玩家手中的斧王就有千千万万,正常情况下我们很难对这些AI产生道德愧疚感或是同情,因为我们很清楚它们不是人,但是如果将AI制作得越来越逼真,越来越近似于人,那我们是否应该尊重它们的“人权”呢?

戴利最大的问题,就是将AI制作地太逼真了,真到让很多同情心泛滥地观众认识不到他虐待的究竟是人还是AI。按照现在的科技认知,正常情况下即使拿到别人的DNA,克隆出的也只是和主人相同基因的肉体,不可能复制出记忆和思想,戴利究竟是如何做到的,这不是讨论的重点。不过这门技术若是被用于犯罪,后果实在太恐怖了,剧中女主威胁现实中的自己时用的方法是暴露手机艳照,也就是说真实世界的人对于复制的自己是毫无隐私可言的,如果真的想要报复伤害现实中的人,对于戴利而言完全是一件轻而易举的事情。

戴利在游戏中的罪行似乎不可饶恕,他将沃顿等公司同事的复制体困在游戏中肆意蹂躏,如果不服从命令,就将他们便成宇宙怪兽,尤其是为了报复沃顿,戴利将沃顿的儿子复制进来,将他扔到了飞船外,让沃顿亲眼看着儿子被宇宙空间撕碎。作为一个宅男,戴利很享受游戏乐趣,享受着欧美人的“星际迷航”情怀,不过对于其他方面的享受理解似乎不够,作为飞船里的“国王”,最多也只能和里面的女性角色接吻而已,他创造的复制人没有生殖系统,这么看来“西部世界”的两个创始人可是会玩多了。值得一提的是,沃顿和威廉的饰演者是同一个人,威廉在《西部世界》享受了一番为所欲为的玩家待遇之后,在这里又成了被虐的AI,真是“天道好轮回,苍天饶过谁”。

现实中的戴利,自始至终都是个懦弱的人,他的一切报复方式都仅止步于虚拟世界,这个案子即使报警处理,现有的法律条款也找不出什么罪名来。

现实和游戏毕竟是两个完全不同的世界,一个人的生命应该和游戏AI的生命对等吗?这可能是未来某一天我们不得不思考的问题。不过确实有点难以接受这集的结局,虚拟游戏世界之中所做的恶,自然应该有相应的处罚方式,但是按照编剧所设计的情节,戴利最终意识被困在虚拟世界,现实中的他相当于脑死亡,游戏AI夺走了玩家的生命,这在现有的人类认知中是绝对不允许的,生命权是一个人最基本最重要的权力,不应该如此轻易被剥夺。如果某一天AI真的能够做到这一步,无异于正式向人类宣战,其崛起要么向《终结者》中的天网系统一样势不可挡,要么就是迅速被人类放弃,毕竟种族生存问题大于一切,即使是“人权”也是在活着的情况下才有讨论的意义。

  • 发表于:
  • 原文链接:http://kuaibao.qq.com/s/20180122G10A0W00?refer=cp_1026

相关快讯

扫码关注云+社区