当超级人工智能出现时，你最担心什么？

在3月26日的博鳌亚洲论坛2019年年会上，一场“数据：有待开发的巨大资源”分论坛在海南博鳌举行，聚焦当前数据开发和应用中的关键问题，探讨未来人工智能的发展。

“数据：有待开发的巨大资源”电视论坛；图片来源：博鳌亚洲论坛官网

与会嘉宾认为，物联网时代产生的海量数据，在云计算能力的助推下，有望成为人类可以深入开发的巨大资源。有嘉宾表示，如果满分是十分的话，当前对数据的开发和应用只能打到一至两分，未来还存在很大想象空间。随着5G和物联网时代的到来，待开发数据的量会急速增加。

数据对于人工智能来说也是必不可少的。大数据从海量数据中获取价值信息，为人工智能算法提供坚实的素材基础，是人工智能（AI）发展的基础和催化剂，而人工智能是大数据的一种终极表现形式。

未来，人工智能的发展更加多样化，更具不确定性。不少人都认为人类终将拥有真正、完整的人工智能，即通用人工智能、超级人工智能。

而当通用人工智能、甚至超级人工智能出现时，你最担心什么？在这场分论坛上，苹果全球副总裁葛越表示，他担忧的问题是在机器时代如何保护人性。OECD全球关系秘书处主任安德里亚斯•绍尔表示，他的担心是2050年将会成为机器人的世界，没有人存在了。微软全球资深副总裁洪小文表示，不担心机器，机器也是人做的、是人去用，人之间有很多不同的想法，比较担心的还是人。

确实，机器是人类制造的，也是为人类而制造的。我们可以用机器来为人类服务，我们可以设定机器。

麦仑记得，人类未来研究院的创始人尼克·博斯特罗姆（Nick Bostrom）曾说过，我们需要做的是，在我们让机器变得更智能的时候，也要让它们完全听命于人类，不违背人类的意志，以保证人类可以完全控制它们。

当然，目前的技术还远不能达到人类智能的水平，更不用说超级智能了。短时间内，我们还是很难实现真正的人工智能。