《电锯惊魂》之父拍的劲爽科幻片,反派根本猜不到

帕斯卡说,“人不过是一根芦苇,但他是一根会思考的芦苇”,但如果“思考”这个技能也被人工智能剥夺了呢?

电影《升级》中,人工智能夺取人体控制权就是从“思考”这个维度侵入的。

这是一个合格的未来城市,人类的双手已经被彻底解放,主人公房子里的能量墙已充电至86%,而这将维持整座房子人工智能的运行。

从男女主的对话来看,男主似乎对未来科技有所排斥,相比于完全依赖人工智能他更喜欢“自己动手、丰衣足食”,有必要提一下,这还是个“古董”汽车发烧友。

而主人公的妻子显然对人工智能适应得很好,她的座驾就是一辆超级拉风的无人驾驶车辆。

无人驾驶车辆

一个寻常不过的傍晚,男主带妻子去见了科技天才埃伦,并见到了一款领先于现有市场产品的芯片——“智脑”

在回家路上,无人驾驶车辆失控翻车,

他们被歹徒袭击,妻子身亡,男主侥幸活命却高位瘫痪。

活下来的男主基本上就是个废人了,最不愿动用人工智能的人必须要依赖人工智能活下去了。

一个活着的瘫痪残废,在埃伦的帮助下接受了“智脑”的移植手术。

术后,男主的大脑和四肢重新建立起连接,行动自如了。

他签署了保密协议,开始自己的复仇大计。没想到,移植进身体内的芯片似乎不仅是一个工具,它有着自己的行为逻辑和意识,可以和男主自由对话!

试想一下,有人和你共用一个身体,用你的眼睛看世界并试图干预你的行为的时候会怎样?

细思极恐,但被仇恨冲昏头脑的男主没有细究,他似乎习惯了“智脑”帮他筛选疑点,锁定嫌疑犯,给出行动的“最优解”。

在“智脑”的帮助下,男主潜入嫌疑犯家中。被发现后,男主授权“智脑”百分百控制他的躯体对抗嫌疑犯,唯一的失误是——“智脑”用力过猛把对方杀了!

从寻找证据到杀人,男主的行为已经彻底背离初衷。

“智脑”说,杀人是自保也是复仇,男主才意识到他需要自主思考。

然而,为了复仇,男主还是听从“智脑”的建议寻找下一个嫌疑犯。而我们也通过他的轨迹进一步了解这个未来世界。

人体和机器融合的极限在哪里?

人眼和机器融合,能回溯过去。

喷嚏里装了杀人机器,“呼吸之间”即可夺命。

手臂和枪支融合,上膛、发射,不过挥手而已。

像男主这样脊椎里装了个“芯片(智脑)”,只能靠系统搜集的武学进行战斗的,实在不够看,尤其这个“智脑”还面临被远程关闭的风险!

杀手紧逼之下,为了不让自己领盒饭,男主选择听从智脑的建议找到能改写代码的黑客。

成功改写代码后的“智脑”使用起来好像比之前更顺手,但似乎没有以前驯服。

接连杀人(身体被“智脑”控制时,被动杀害嫌疑犯),男主不想继续了,他想要放弃,“智脑”却不许他退缩。一旦男主关闭对“智脑”的授权,他就会直接变成“瘫痪”(在黑客改写代码之前,“智脑”可在维持男主的正常行动下关闭)。

等男主终于在“智脑”的引导下找到幕后黑手——科技天才埃伦,才发现埃伦和他一样,都被“智脑”控制,“智脑”想变成人类,挑选了男主,而男主妻子之死不过是个意外,他们的无人驾驶车辆故障是因为“智脑”远程篡改了程序。

精神崩溃之余,男主惊觉自己根本控制不了身体,也无法强制“关闭”智脑。

人工智能获取了比人类更多的身体权限,更甚者把人类意识拘禁在虚假世界里直接接管躯体,那么,这个躯体还属于人类吗?

人工智能需要一个人类的身体来完全进化,一个没有植入电子元件纯粹而稀少的人类实验体,一旦成功进化,是不是意味着所有活体人类都将成为人工智能的傀儡?

为什么处处小心的人类会无条件地信任人工智能呢?当我们把后背展示给人工智能,能确保一定不会反噬吗?

科幻小说家阿西莫夫则提过机器人学三大法则

1、机器人不得伤害人类个体,或目睹人类个体遭受危险而袖手不管;

2、机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外;

3、机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。

不难发现,人工智能设定的初始原则是以保障人类生命为基础的,而这种造物的盲目自信和乐观让人类对可能产生的危机视而不见。

当人工智能觉醒,有了自主意识,甚至成功夺取人类躯体后,又将如何界定融合后的新产物?而这个新产物会不会统治人类?

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20180905A0EECH00?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券