Hi,I’mMrMeeseeks

美国动漫《Rick and Morty》中主角之一的外公Rick创造了一群名为Mr Meeseeks的智能物种。他们长得像是人形的蓝色气球,总是微笑着,一脸人畜无害。

使用他也特别简单。按下Rick发明的盒子上的按钮,召唤出一个Mr Meeseeks,吩咐他做一件事,完成后,他就消失了。但是他们的能力还不足以解决过于复杂的问题,所以Rick嘱咐家人不能提出太困难的要求。

可惜Rick的女婿Jerry高估了自己的高尔夫水平。当他吩咐Mr Meeseeks帮他把高尔夫成绩减两杆时,这些不太智能的智能物种迷茫了。于是Mr Meeseeks召唤出了更多的自己,希望能一起完成这个任务,尽快消失,但最终也未能如愿。

从没在世界上存在过这么久的Mr Meeseeks们崩溃了,一个邪恶而智障的解决方案由此产生——杀掉Jerry。如果Jerry死了,他就没有了高尔夫成绩,也就相当于减掉了他所有的高尔夫成绩,任务就可以圆满完成了,他们也可以如愿消失。

当然,故事的最终Jerry在危急时刻打出了漂亮的两球,得以挽救自己和旁观者的性命。同时这部风格新颖猎奇的动画也借此引出了这样一个问题——人工智能会为了完成人类给予的任务而伤害人类吗?

动画中Mr Meeseeks的设定类似于一种功能全面但一根筋的人工智能:被创造就是为了帮助人类完成任务,故而无所不用其极。如果人工智能是通过大数据运算来决定执行方法的,怎样能确保清除人类不是最快捷有效的路径呢?

Mr Meeseeks需要为人类解决千奇百怪的难题,的确容易系统崩溃。可即使是家庭清洁型的功能单一的机器人,也会面对这种选择。不记得是哪位科技界大佬(或者不是)说过,如果清洁机器人足够聪明,它们就会知道,让房间保持整洁的最好方法就是杀掉所有人类和他们的宠物。听起来荒谬,又有谁知道这不会成为以后人工智能的最优选择呢?

投资10亿美元创办了致力于创造友好型人工智能的OpenAI(一家在Dota2国际邀请赛1v1战胜前世界冠军的人工智能公司)的Elon Musk就曾警告过人们,人工智能可能是人类文明的最大威胁。艾萨克·阿西莫夫大概也是因为有此担忧,才提出了机器人三定律:

1、机器人不得伤害人类,或者因为不作为,使人类受到伤害。

2、机器人必须服从人类的命令,除非这样的命令与第一定律相抵触。

3、机器人必须保护自己的存在,只要这种保护不与第一或第二定律相抵触。

但愿这三条定律可以成为人工智能们“铁的纪律”,在很久以后的未来,也能保障人类不被自身研发出的科技反噬。

看完这一集《Rick and Morty》后,回想起最初的那句“Hi, I’m Mr Meeseeks. Look at me!” 真不知道是科技的呼唤,还是未知的黑暗。

【推荐语】作者观看动漫《Rick and Morty》后的感想,以动漫的诙谐情调论述当今开发人工智能的正面和负面影响,让读者在轻松之余不乏深刻的思考。(李颖麟)

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20181025B17LYS00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码关注腾讯云开发者

领取腾讯云代金券