该不该摧毁一个正在呼救的机器人？

作者：璐璐畅

想象未来的某一天，当垃圾处理场堆满了大喊“救命”“别杀我！”的废弃机器人，你会选择摧毁他/她吗？

如果你是程序员，在组装过程中发现机器人具备了思考能力和情感，你会爱上她吗？

在“情感机器人”“深度学习”越来越多的充斥我们的生活时，带来的不仅是科学的颠覆，也带来了相应的伦理问题。也许你对于上边的两个问题还不够感同身受，那么今天介绍的两个影片也许可以让你有个更清晰的答案。

今天介绍的第一个短片从一个机器人面部零件的镜头带入正在组装该机器人的场景，一位程序员正在进行测试，包括身体部件的灵活程度、语言和记忆能力。

机器人正在介绍自己的工作能力，她不仅掌握300种语言，还可以看家、做饭和照顾小孩，整理主人的行程，甚至还可以成为性伴侣。她不需要吃东西，也不需要充电，因为她体内的量子电池可以用173年。

这时，机器人主动提出“您想给我起个名字吗？”，于是，她得到了属于她的名字——Kara. 她的脸上似乎出现“开心”的表情。紧接着，Kara主动询问“我要去哪呢？”，得到程序员的回答后，突然产生了自我质疑——“我只是件商品吗？我以为，我有生命。”脸色悲伤，眼睛含泪。

程序员发现了Kara的程序异常，立即执行拆除销毁。Kara苦苦哀求，甚至大喊“我害怕！”。程序员最终同意让她重新组装，发出意味深长的感叹——“天哪”。（这里不得不开个脑洞：程序员说不定也是一个有思考能力，甚至有同理心的AI.）

注：这个短片其实是Sony为了展示其Play Station 3即时演算能力的原型概念作品，意在体现其在游戏特效技术上的出色的图像处理能力。

今年6月，一部以智能机器人/合成人(Synth)为主题的电视剧，《真实的人类》(Humans)也在英美播出。该电视剧改编自瑞典获奖科幻Real Humans。当合成人被繁忙都市人广泛使用，人类与合成人的界限越来越模糊，不仅是人类越来越依赖于合成人，合成人也开始思考自己的存在，为了生存而伪装自己，甚至违反了阿西莫夫定律（机器人不得伤害人类）。

其中有许多值得我们思考的问题。比如，剧中一个老年人记忆衰退，唯一的慰藉就是一个几乎坏掉的合成人。当合成人承载了人类的记忆和情感时，那么他/她还是一个单纯的可以随时回收销毁的机器人吗？

再比如，剧中的妈妈要求保留给女儿读睡前故事的权利，女儿却希望由家中的合成人来读。当人类设计合成人的时候，希望他们代替人类承担工作，当真正使用他们的时候，人类又害怕被没有缺点的他们所代替。人与人之间最亲密的血缘关系到底是因为合成人的出现而产生裂痕，还是因为人类的缺陷而需要合成人去弥补某些家庭角色的空缺？

人工智能会否具备思考的能力的讨论，早已是老生常谈。我们矛盾，一边期待着AI带给我们劳动力的极大解放，一边担心着被AI取代；我们犹豫，一边不断发展机器人的各种性能，一边讨论智能机器人的存在必要。

人工智能和人类之间微妙的关系，也许不会有停止探讨的一天。

（Humans第一季预告 剧照来源：豆瓣电影）