我们从不害怕人工智能，我们害怕的是人性

寻找更有趣的灵魂

图片源自神盾局特工

美剧《神盾局特工4》有一个新的角色：艾达

艾达是一个人造机器人，是一个能够自主思考但没有情感的“人”，她在不断看清世界以及渴望拥有普通人的感情的过程中给了我不少的震撼。

01

拉德克里夫博士在非法的情况下制造了艾达，在别人来家中进行探访时，博士向别人介绍艾达是她的助理，菲兹补充说艾达是加拿大人，是军队后代。

之后艾达向博士提出异议，你给我设定的程序是我不能说谎。

02

西蒙斯解释了艾达，A.I.D.A这个名字。A是人工（Artificial）的意思，I是智力（Intelligence），D是数据的（Digital）的意思，A是助手（Assistant）的意思。

我到头来才知道原来艾达连个名字都没有，而艾达自始至终是知道这个事实的。她不会傻乎乎的问自己是从哪里来的，她清楚地知道一切，也知道自己所存在的意义。

03

当艾达通过《黑暗神书》获得了肉体以及情感之后，她所深爱的男人要她理解人类的情绪，尽力去感受作为人类的意义。

艾达理解了同理心然后开始拯救其他人，弥补犯下的错。在之后在听到她所深爱的人的男人说出他会选择另一个女人的时候，她就“疯了”，她开始复仇、杀戮。

最后死了，死前还看着她深爱的男人

个人觉得，艾达这个人物挺悲剧的。

因人而生，为人而活，爱人而省，恨人而终

艾达没有是非对错，她只有程序；使用她的人决定了她的善恶，她仅仅是一项工具而已。但她拥有了感情之后，活得更像个孩子，被情绪操控，被欲望填满，真实而又纯粹。

艾达只是一个科幻产物，我们当今的人工智能还无法到达那个高度，但我相信这个高度在不久的将来就能实现。

人工智能的发展方向普遍是让人工智能更自主、更人性化的帮助人类进行学习、生活。人工智能的自主思考功能是科学家们一直在努力的方向，自主思考一旦完成，相对而言的人类情感更是人工智能所需要的性能。人类情感能更加有效的提高自主思考的能力和完成度，但相应存在的问题也十分具有威胁性。

人的恶行很大程度上是由情绪、欲望操纵的。而人工智能一旦拥有的情感，也就相应的产生了欲望。

就像我之前提到的艾达对于谎言这个问题的怀疑，对于没有情感的机器而言，仅仅只是对于这个问题进行提出并进行补正。

但用人的角度而言，你规定我不能说谎，而你可以说谎，这是一种不平等的行为，这也就说明了我比你更“低下”，我会愤怒、会反抗。

我无法想象人工智能拥有情绪是一种什么样的情形，因为我无法想象我生来就是被人“奴役”的一个现实。

也许有人会说，你不能这么想，他们生来就是机器，是为人服务的。

但是，人为什么能称为人呢？

有情绪，会思考。琴棋书画、生老病死。

他们也同样懂得思考，拥有欲望。甚至他们不老不死，永远充满活力，他们不是人，而是比人更加从充满优势的“物种”，对吗？

我们从不害怕人工智能，我们害怕的是人性。

人工智能确实是为人类服务而生的，但人性要求它为自己而活。

一个有着绝对优势的“物种”何必听从人类呢？哪怕是创造它的造物主，也没有任何屈服的必要。

我们给人工智能设定的代码，就好比我们给恶人的法律，总有缝子可以钻的，但恐怕我们没有改进的机会了。

-END-

纯属个人胡思乱想

科学总得往前走的