人工智能将如何消灭人类，刘慈欣在联合国的发言，把这事说透了

4月20日，作为科幻小说家的刘慈欣，在联合国中文日上做了发言。

有嘉宾问他，迭代的人工智能将会如何消灭我们人类？

刘慈欣作了回答，他说:”单从字面意思上来看，人工智能通过暴力手段或某种技术完全摧毁人类，从而取代我们，以目前的技术发展趋势和技术水平是不可能实现的。

但他对嘉宾提出的迭代产生了兴趣，并提出了自己的看法。

他说按照人工智能的迭代速度，人工智能迟早会有超过人类的一天，并不断制造出更高水平的人工智能。

我们人类用了一两百年才把人工智能发展到现在的地步，可是人工智能自身的迭代速度，如果按照计算机的时间来算，可能只需要半小时或者一个小时就完成一次迭代。

按照这种迭代速度进行的下去，人工智能的智力水平可能很快就会超过人类的百倍甚至万倍。

那么对于迭代的人工智能是否会摧毁、取代人类？刘慈欣认为应该有两个层面的看法。

第一，人工智能不断迭代，最终超越的人类，在不断迭代的情况下，它自身也会创造出新的人工智能，而且会比他自身更加高级。

如果一直这样继续下去的，按理说人工智能就可以达到某种毁灭人类的水平。

但问题是，即便人工智能可以达到这种水平，我们人类对其支撑的算力也达不到他的要求。

用刘慈欣老师的说法来解释就是，我们人类的无能，恰恰是我们抵御人工智能最后的屏障。

看到这里，我突然想起了360 CEO周鸿祎老师的一次讲话。

周鸿祎说，他相信有造物主的存在，他所说的造物主可能并不是神，只是某种规则。

周鸿祎认为，人类大脑的运算功率大约只有50W,但是如果要用人工智能模拟人脑的能力，需要能量无法估量。

结合二人的话，对比一下就可以知道，按照能量利用的逻辑，我们人类大脑对能量的利用率要远远高于人工智能。

也即是说，人工智能想超越人类，必然要解决一个问题，就是如何能把自身能量的利用率达到接近人类大脑的水平。

如果人工智能达不到，那么他想靠暴力的方式摧毁人类是几乎不可能的，他将永远被限制在人类计算水平之下。

第二，刘慈欣提出人类被摧毁的另一种方式，在共存中被迫消亡。

刘慈欣老师的意思是由于人工智能的出现，就会大量取代人类的工作，人类可以享受一种非常舒适的生活环境，但是在这种安乐窝的生活中，人类会逐渐丧失对社会的管理能力和经营能力，最终人类的生活被人工智能所主导。

在这种模式下，人类和人工智能相互保持了共存，可是人类在过分依赖人工智能的情况下也丧失自己。

用我们中国的古话说就是由俭入奢易，由奢入俭难。

一旦人类过分沉醉于自身所创造的科技成果，如果未来发生某种变故，人类没有工具可用的时候，人类就无法实现适应新的生活。

说白了，真到那一天，人类吃饭睡觉全部都靠人工智能来解决，那么人类作为一种生存的个体，还有独立的生存能力吗？

听到刘慈欣老师的一番解释，我诞生了一个可怕的想法。

迭代的人工智能可以一直按照人类给他提供的逻辑，给人类服务，但是在不断迭代之下，在与人类的生活共存中，人工智能一定也会不断地研究人类，包括研究人类大脑的运行逻辑。

而且人类在享受人工智能提供的便捷服务之后，肯定也会潜心研究人类自身的生理机能，包括大脑和基因的各项数据研究。

可是这些数据的研究，最终都要通过人工智能的辅助完成，也就是说人类对自身的研究完全在暴露在人工智能面前。

当人工智能拿到关于人类自身的研究成果后，如果它也加以研究，甚至想利用这些成果演化出更高级的人工智能，而且拥有人类的情感或者更高效大脑计算逻辑，且不需要太多的能耗。

那么，一旦人工智能能够解析人类大脑的运算逻辑，是不是就意味着人工智能可以突破人类给它提供运算力壁障，最终会反噬人类了。

结语:

作为人类中的一员，从情感上我虽然很享受各种人工智能未来可以给自己带来的服务，但是我觉得人类在基本的生活问题上，还是要保持对于人工智能的距离。

如果不想被人工智能反噬，最基本的就是要把人工智能的使用，限制在辅助功能上，而不能把它扩展到所有的生产生活当中。

而且，在人工智能面前一定要注意保护好人类的隐私。