机智人会不会干掉人类？

【第381次分享】本文为“立达书院”公众号第381次分享。

于是写了一段话：

我始终坚信：机器人将胜过人类。现在已经胜过了，由围棋可见。

我也始终相信：机器人可以干掉人类！

如果说，我对人类有惟一的悲观，就是这个了！

当然，你也可以说，是人类自己干掉了自己。

幸运的是，我将看不见那一天！

我为什么坚信机器人将胜过人类，并可以干掉人类呢？

我不研究人工智能，也没有霍金那样的能力，但我相信一个简单的道理：把人类千百年积累下来的所有智慧都编程输入计算机，由它在短时间内快速运算、并选择出最佳应对方案，足以打败任何人。这一点，在围棋的人机对战中已经得到证实。

2016年3月9日，曾拿过14个世界冠军的人类顶尖围棋高手李世石与机器人Alphago围棋大战。人类很自信地以为会赢得比赛，李世石自己也预测：“4:1或5:0，我赢。”可是，结果是4:1，Alphago赢。李世石只赢了一局，还是因为Alphago出现了程序Bug。

2017年5月23日，世界排名第一的围棋顶尖高手柯洁对战Alphago的升级版Master，结果完败。事实已经足以证明，机器人可以战胜人类。

俗语道：“三个臭皮匠顶个诸葛亮。”何况，人工智能根本不是三个臭皮匠，它是人类智慧的结晶。当把人类的智慧集于一身时，以一人去战千百年来千万人的智慧，真是绝无胜算的。

更可怕的是，随着众多人类智慧的输入，各种信息、算法等逐渐积累，机器人运算过程中新的自由组织与选择信息的产生与积累，它将变得越来越强大。谷歌工程师在2017年6月又制造了Alphago Zero，不给它学习任何棋谱，只是让它自己下，跟自己下了三天的Alphago Zero结果以100:0击败了Alphago。跟自己下了21天的Alphago Zero然后又秒杀了Master。机器已经学会了自我学习。

而且，机器人也已经学会了写诗。2017年8月19日，人工智能机器人小冰在《华西都市报》“宽窄巷”开设专栏“小冰的诗”，发布了她的新作《全世界就在那里》。诗人周瑟瑟认真看了小冰的诗集，也读了这首诗，他认为“以前我感觉她的诗机器味很浓，现在慢慢有人味了。如果说，小冰以前的诗是小学生水平，现在算得上是大一新生的水平。她是不断往前走的。”机器已经学会了创造。

由中国香港汉森机器人公司(Hanson Robotics)设计的女机器人索菲娅于2017年10月被沙特阿拉伯授予国籍，成为沙特阿拉伯第一位机器人公民。索菲亚已经对未来做起了规划，她计划在未来建立家庭，并生儿育女。机器人已经成为社会的合法公民，并准备生儿育女，繁衍后代了。

机器人的发展神速，而人类的智力，千百年来发展是缓慢的；人类的学习能力，千百年来是缓慢的。当机器人的智能超过人类的整体智能时，人类将很难收拾。

这还不是最可怕的，最可怕的是，在自由选择与信息重组过程中，机器真可能产生自由意志，一个在各方面性能都超越人类的新型智能动物将产生。那时人类将对它们完全失控。

机器人是可以大批量生产的，如果出现大批量的具有自我意志的邪恶机器人，那么人类真的就危险了。

这个发展过程至少要经过三个阶段：机器阶段、机器人阶段和机智人阶段。

机器阶段，它们还属于纯粹的工具，完全由人类控制、摆布和使用。

机器人阶段，它们有意识，但还缺乏自我意志，或尚未形成完整、独立的自我意志，还在人类的可控范围之内。

机智人阶段，它们有意识，且已具有完全独立的自我意志，不受人类控制，它们成为它们自己。

任何事情都有利弊。机器人的发展也是一样，它们的发展会给人类带来巨大的好处，但科技永远是个双刃剑，只想取其利，而不想取其害是不可能的。“磨刀恨不快，刀快伤人指”。如果机智人中的邪恶份子一旦失控，它们发起对人类的战争，消灭人类，应该是很容易的事情。

在这一点上，我同意霍金所说的：人类很大可能会灭亡于人工智能。

机智人会不会一定干掉人类。只能说不一定。但永远有可能！

人类可不可以避免被机器人灭掉的悲剧呢？又将如何避免呢？我不知道！

2018年3月30日晚

于六楼居

欢迎长按下图关注“立达书院”公众号。