正视霍金的警告：科学发展是人类最大的潜在危险

正视霍金的警告：科学发展是人类最大的潜在危险

文/黄忠

我崇拜科学家，又不由自主地害怕他们。

霍金说不要去寻找外星人，不要尝试与他们接触，与外星人接触可能像当年哥伦布发现新大陆，对当地原住民来说不一定是什么好事。

可是科学家们还是造出越来越多的探测器，派出了越来越多的飞船，去寻找外星人的痕迹。

霍金说人工智能的发展会越来越快，而人类受困于自己的肉体，将可能失去对人工智能的控制，人工智能最终可能会毁灭人类。

可科学家们还是在大力地推动人工智能，整个世界都在为生活越来越智能化欢呼雀跃，都对越来越美好的生活充满憧憬。

是的，好奇心是人类的天性，也是推动人类文明进步的动力。

我们要鼓励好奇心，鼓励想象力，鼓励人们对美好未来的憧憬，因为这样生活才会更幸福。

我好奇，我想要，而满足内心的欲望会让人更有幸福感。

但好奇心既可以为我们打开核电之门，也可以给我们带来核弹之灾。

人类的好奇心有好多方向，有的好奇心会喜欢八卦，有的好奇心会使人创造出文艺作品，有的好奇心会推动科学发展。

对八卦的好奇心可以打发日子，看着不高雅，但是容易做到，其实未尝不能满足人们浅层次的幸福，也不能用一个词“低俗”来完全抹杀它的价值。

对文艺作品的好奇心是更高层次的追求，可以产生很多美好的作品，像小说、音乐、影视剧，它们会让我们在茶余饭后有优秀的作品可以观赏，可以让我们的生活有更多美丽的色彩，可以让我们对未来有更多美好的期待。

我不会崇拜说八卦的人，我会很欣赏创造出优秀文艺作品的人，但他们都不会让我害怕，因为再八卦，再优秀的文艺作品，顶多像一阵风，当时再猛，刮过也就消散了。

但我却从内心里面真的非常害怕科学家。

我很崇拜他们，我也很景仰他们，因为他们是真正可以改变世界的人。

八卦文艺都只是属于茶余饭后的闲谈，顶多哭一阵子，笑一阵子，过了就没事儿了，只有科学家才会真正改变世界。

没有科学家，现在从温州到北京，说不定还要走三个月；没有科学家，我们还生活在靠手写信的慢生活时代；没有科学家，或许现在世界还都是一个个孤岛。

是科学改变了世界。

我们今天的美好生活，要感谢政府的英明领导，更要感谢科学家们的伟大发明。

可是，我对科学家们也真的深深地感到恐惧。

我至今记得爱因斯坦的悔恨，他发现了质能方程，他发现了质量和能量转化的秘密，他写信给罗斯福总统，让美国抢在纳粹之前造出原子弹。可是当原子弹的光芒真的在广岛照亮时，当十几万生命就因为一颗炸弹失去时，他自己也感到深深的悔恨。

这还只是最初的原子弹，今天的科学发展已经到了什么境界，科学家们所能产生的能量已经远远超出了当年造原子弹时候的水平。

如果有一天，科学家们掌握了造出反物质弹的技术，他们能忍住手痒不去造吗？

他们甚至可以搬出和当年造原子弹一样的理由，如果我们不先造出反物质弹，我们的敌人就会抢在我们的前头，扼住我们的咽喉。

可我们能承受这样的危险吗？

有些错误，可以挽回。就算不能挽回，至少影响不那么大。

比如八卦，比如文艺作品，就算当时很伤人心，就算有人因此而自杀，毕竟都只是小范围的事。

可是，一颗原子弹就是一个城市的毁灭。

那么，一个反物质弹呢？

这种实验可以承受吗？人类能承受一个反物质弹的打击吗？

还有发展到一定境界的，完全超出人类控制之外的人工智能呢？

完全觉醒的人工智能的能力超越了所有人类，我们怎么判断，他对我们是恶意还是善意呢？

科学的最终发展将完全超越我们弱小的生物肉体可以控制的范畴。

我们离不开水，但水太多了也会淹死我们。

科学发展就像你开一辆飞速行驶的摩托，一开始你会觉得车子越来越快，十分拉风，感到十分开心，但当摩托车真的越开越快，刹车失灵，结局却是车毁人亡。

我们的科学肯定还要继续发展，但是时候为科学的发展设定方向了。

医疗方面的科学，肯定还要发展，我们还有很多治愈不了的疾病，还有很多虽然可以治愈但带来极大痛苦的疾病，这些医学方面的进步，我们要多多鼓励。

交通方面的科学，也可以继续发展，现在从北京到纽约还不方便，整个地球八小时直达，那样的地球才可以真正称之为地球村。

但人工智能呢？那种1秒足够全人类思考一万年的人工智能，你觉得按那种思维速度，人类可以驾驭得了吗？

就算人工智能对我们人类全无恶意，当他们与人类之间的差距大到人与蚂蚁之间的差距时，你觉得一只蚂蚁老在人的面前爬来爬去，它安全吗？

人类都有善有恶，我们怎么可以保证人工智能都是善意的呢？

恶意如果可以制衡，就还不是很可怕，最怕恶意无法制衡，无法挽回。

就像那个站在蚂蚁面前的人一样，他的恶意，是蚂蚁可以制衡的吗？

我们不要去实验那种一旦犯错全人类都会毁灭的科学发明。

不要让全人类的命运被绑架在几个科学家手上。

如果真的出现一个盖世英雄可以拯救全人类的现实，那将不是人的幸运，而是人的悲哀，因为这也意味着几个人就可以轻轻松松毁灭人类。

是时候研究哪些是人类不能研究的负面清单了，要给科学的发展设个限，不要以为科学无界，有些东西不能碰就是不能碰。

我们要科学的进步，但我们不要所有的科学都进步。

尤其不要开展能量过大的研究，不要开展一旦犯错人类连后悔机会都没有的研究。

主动给自己的好奇心设限，也是人类的一种智慧。