如果人工智能的智慧远超出人类，它会允许对自己的生存，有威胁吗

十年到二十年间，人工智能机器人，将全面取代人类的所有的工作。这或许不可能，但是人工智能的学习能力可是非常地快，5G的加持，大数据，云计算的帮助，会让人工智能收集信息更加快，不仅是人工智能机器人自己在学习，是人类帮助人工智能在学习，在超越我们自己。

人类不断追求研究，让人工智能更接近人脑，这也让很多人产生了担忧。人类在研究人工智能的过程，本质上是对智慧产生的探索，我们目前还不知道智慧是从何而来。而人工智能的开发，很有可能让机器产生智慧，以人工智能的学习能力也是超乎想象的，它们的智慧总有一天会高于人类。

一旦人工智能的智慧高于人类，它们就很可能就会，不受制于人类。既然无法遏制科技前进的步伐，那么就需要制定原则，这个原则应该是终极死命令。让机器高速发展的同时，又能完全服从我们人类。就像科幻电影里那样，机器人三大定律；第一定律机器人不得伤害人类，或者不能坐视人类受到伤害，第二定律，机器人必须服从人类命令。除非与第一定律发生矛盾。第三定律，在不违背第一或第二定律之下机器人可以保护自己，看似三大定律环环相扣，其实仍然存在很多漏洞。

比如非常经典的电车难题，一辆高速行驶的电车。突然发现前方轨道上躺着5个卧轨的人，这时候刹车已经来不及了，唯一能做的选择就是向右驶向另外一条轨道。但是另外一条轨道上，有一个碰巧路过的人，如果你是司机你该如何选择，如果这是一辆人工智能驾驶的自动列车，它按照机器人三大定律。它又该做怎样的决定呢？如果真的有一天，人工智能的智慧远超出人类，那么以一个低智商生命创造的原则，去束缚一个高智商的物种，简直就是天方夜谭，你可能说我去把人工智能的电断了，不就行了。那你怎么确定人工智能早没有想到这点呢，它会允许对自己的生存，有威胁的生命存在吗