梁宏达：警惕人工智能脱离人类控制

首席裁音师 | 梁宏达

2017年5月26日有一件非常有意思的事儿，不知大家还记得不，棋手分别和AlphaGo一以及AlphaGo二搭配进行二对二对抗，特别好玩儿的一幕是什么呢？盘面是这边大优，另一边是古力和AlphaGo一搭伙儿，盘面大优的时候所有人都判断古力他们要赢。

但下到最后的时候形势出现转机，出现转机以后和古力搭伙儿的AlphaGo觉得盘面要输，可以认输了。

古力不认输，古力觉得还能下。结果跟他搭档的AlphaGo拼命出消极招儿，意思是你别下了，你拉倒吧，还不认输。

别人认为这很有意思，我却觉得很可怕，这说明什么呢？人工智能有了人的感情，它试图用这种人的思维方式控制人，它逼古力认输。

就跟咱俩搭伙儿打羽毛球双打，对面儿站俩冠军，我这儿要拼搏，要赢。

打啥打，你打不过人家。对方扣的球我都不接，最后我逼着同伴认输。我用我的行为来影响你，我用我的感情处理方式来影响你。

这个作为人来说很正常，机器对人不可怕吗？我们对人工智能的追捧是因为它能代替我们做很多艰苦的事情，能提高效率。

但人工智能的可怕之处在于它一旦有了人的感情，它是不是也像人控制人一样，机器去控制人。我们害怕的是人工智能脱离人，有了独立人以外的思维感情体系，这对人来说你干不过它。

今天这个消息一点儿都不好笑，反而很可怕。完了再探讨科学的伦理和科学的边界，当科学发展到一定程度的时候，人类都控制不住科学成果的时候，我们该怎么看待科学的效益。

就像我们反复探讨原子弹的发明到底是有用的还是没用的？核能推动了人类技术的发展，但是核却带给我们巨大的威胁。

我们反复提及的伦理在人工智能时代，我们人类几乎不可能用控制核武器的方式去控制人工智能。那个时候你会看到好多好莱坞科幻片里面，人被机器奴役的时代就来临了。

我们将来发展人工智能怎么去控制它，就像若干年前，我小时候看的电视剧《大西洋底下来的人》，那个科学狂人制造了水母可以攻击人类。

包括我们看到斯皮尔伯格那个《大白鲨》，科学家发明了这种大白鲨，大白鲨智商高于人类，人类能力又干不过大白鲨，结果一系列血腥恐怖的事情就出现了。

而且这些不可控还不在人类思维方式以内，出现很多泛滥成灾，无法把控的局面，这时候人类该怎么应对，是一个很有意思的话题。AlphaGo赢柯洁，就赢半目，它一定按最有效率的方法赢你，不犯错，挺可怕。