超人工智能-人类的最后一项发明，最后一个挑战

为什么最近有很多名人，比如比尔盖茨，埃隆马斯克，霍金等，让人们警惕人工智能？

什么是人工智能？

首先，不要一提到人工智能就想着机器人。机器人只是人工智能的容器，机器人有时候是人形，有时候不是，但是人工智能自身只是机器人体内的电脑。人工智能是大脑的话，机器人就是身体。

其次，你可能听过“奇点”或者“技术奇点”这种说法。这种说法在数学上用来描述类似渐进的情况，这种情况下通常的规律就不适用了。这种说法同样被用在物理上来描述无限小的高密度黑洞，同样是通常的规律不适用的情况。

最后，人工智能的概念很宽，所以人工智能也分很多种，我们按照人工智能的实力将其分成三大类。

弱人工智能Artificial Narrow Intelligence (ANI): 弱人工智能是擅长于单个方面的人工智能。比如有能战胜象棋世界冠军的人工智能，但是它只会下象棋，你要问它怎样更好地在硬盘上储存数据，它就不知道怎么回答你了。

强人工智能Artificial General Intelligence (AGI): 人类级别的人工智能。强人工智能是指在各方面都能和人类比肩的人工智能，人类能干的脑力活它都能干。

超人工智能Artificial Superintelligence (ASI): 牛津哲学家，知名人工智能思想家Nick Bostrom把超级智能定义为“在几乎所有领域都比最聪明的人类大脑都聪明很多，包括科学创新、通识和社交技能。”超人工智能可以是各方面都比人类强一点，也可以是各方面都比人类强万亿倍的。

现在，人类已经掌握了弱人工智能，我们现在的位置——充满了弱人工智能的世界。

当若人工智能进化到超人工智能就会发生智能爆炸，以下的情景很可能会发生：一个人工智能系统花了几十年时间到达了人类脑残智能的水平，而当这个节点发生的时候，电脑对于世界的感知大概和一个四岁小孩一般；而在这节点后一个小时，电脑立马推导出了统一广义相对论和量子力学的物理学理论；而在这之后一个半小时，这个强人工智能变成了超人工智能，智能达到了普通人类的17万倍。

当一个超人工智能出生的时候，对我们来说就像一个全能的上帝降临地球一般，我们所关心的将是：这是否会是一个仁慈的上帝？

一旦超人工智能出现，人类任何试图控制它的行为都是可笑的。

如果超人工智能在我们搞明白怎样保证人工智能的安全性之前被达成，那么那些不友善的超人工智能就会统治世界并把我们毁灭了。

所以，超人工智能——也许是人类的永生，也可以是人类的毁灭，人工智能的安全性不容忽视！