人工智能的优势和风险

人类制作成的人工智能可能比人类的智力和智商更加高，所以我们没有办法去预测未来人工智能的行为。对于人工智能在未来发展的后果，也是无法预知的，我们不能将过去的发展经验套用到人工智能发展上来，因为我们之前没有创造过，可能超出人类智慧的科技，因此我们可以参考的只有人类本身的进化史，人类之所以能够成为地球上的高级生物，不是因为我们能力最强，速度最快，而是因为我们是这个地球上最具智慧的物种。如果有一天，我们不再是世上最聪明的，我们还能够自信对世界拥有控制力吗？一个常见的误解是，那些对人工智能感到担忧和提倡人工智能安全研究的人事实上对人工智能了解并不多。当标准人工智能教科书作者斯图尔特·罗素在波多黎各会谈中提到这一点时，他逗得观众哄堂大笑。另一个相关的误解是，有些人认为支持人工智能安全研究是极具争议性的。事实上，为人工智能安全研究能得到适当的投资，人们只需要理解到人工智能可能带来的安全课题不可被忽视，但他们并不需要被说服认为其风险非常高。这就好比为房屋保险是一样的道理：买保险并不是因为房屋极大的可能被烧毁，而是因为房屋被烧毁拥有不可忽略的概率[2]。为了安全起见，投入人工智能安全研究是非常合理的。

或许是媒体的夸大使人工智能的安全课题看起来比实际上更具争议。毕竟，在文章中使用恐吓的语言，并利用超出语境的引言来宣扬即将来临的危机可以比发表具平衡的报告引来更多的点击率。因此，若人们只是由媒体报道来了解彼此的立场，他们可能会认为他们在立场上的分裂比事实上还要严重。