人工智能也有性格

当人们依旧是雷打不动地吃饭、睡觉、工作或学习时，人工智能却在不停地发展。至于人工智能已经有多厉害，则是时有报道，不仅吸引眼球，而且还震撼人心。今天我要说的是人工智能的性格，人类发明了它们，它们也像人类一样有自己的个性。

来看看谷歌公司的人工智能系统。谷歌开发了名为DeepMind的人工智能系统，并不断地对它进行行为测试。比如，在摘苹果游戏中，让两个DeepMind摘虚拟苹果，以此来测试它们的合作意愿。这个游戏测试了4千万次，结果发现DeepMind会展示出攻击性的一面。游戏开始的阶段，两个DeepMind还能和平相处，此时苹果还比较多，随着苹果数量的减少，两个DeepMind就把控不住了，“丑陋”的一面就显现了出来，它们用激光束来攻击对方，想撂倒对方，然后占有剩余的苹果。看出来了，DeepMind好胜心很强，不想认输，为了赢得胜利它可以采取攻击性战略。好在那年DeepMind在与人类斗法围棋时，着实是魔高一丈，比人类强太多，如果当年真是棋逢对手，谁知道它会不会“暴打”文弱的人类棋坛之秀呢？

其实随着人工智能系统越来越复杂，研究人员在测试中的确发现它们开始有了攻击、贪婪、破坏等“坏”性格。可以前它们并非如此，只是在人们赋予它们越来越厉害的人工神经网络后，它们变了，变得越来越复杂，它们不再是埋头苦干的小伙计，而是有了“城府”和“心机”，它们在深度学习的过程中滋生出了“主子”的行为特点。人类自己不就贪婪、攻击、破坏嘛，谁说人工智能就不会这样呢？

谷歌还让DeepMind玩了另一款游戏。在这个名为“狼群”的游戏中，需要有三个DeepMind，两个扮演狼的角色，一个扮演猎物。猎物非等闲之辈，采取独狼攻击的方式会丧失猎物，如果二狼合力，则最后谁都能得到美味。在玩这个游戏的过程中，DeepMind懂得了一个道理，那就是在某些情形下合作共赢才能使个人利益最大化。

有了这些背景资料，现在想想看，如果把人工智能用在真实的环境中，当它的目标与人类的目标相冲突时，它能以人类的目标至上吗？也许答案有多种，因为有多种可能性。只是千万不要想当然地以为人类造就了人工智能，人工智能就会自动考虑人类的利益，否则……