人工智能具备了什么能力就会威胁人类

除了创造力和变通力，人工智能还缺少自主反思力。要注意，这里“反思”，不是指对外部事物的批评，而是对自身思想系统的解析，去思考自己的思维过程，以“自相关”的方式对自身系统进行反思。比如，亚里士多德对逻辑的发现、休谟对因果观念的分析、康德对先验理性的探索，这都属于反思。理性不是人类独有的能力，反思才是。显然，目前人工智能还不具备这样的能力。

目前的人工智能不具备真正的创造力、变通力以及最关键的反思力，离拥有自我意识的超级人工智能还很远。而一旦人工智能拥有了这三种能力，就有可能获得自我意识，从而成为自己的主人。我们人类对人工智能的态度是非常矛盾的：既希望人工智能足够强大，成为人类最好的助手；又害怕人工智能过于强大，反过来威胁人类。这种看法其实是一个误解。

人工智能会不会对人类构成威胁，不在于是否强大，而在于有没有自我意识。危险的不是能力，而是意识。未来的人工智能一定在各种能力上全面碾压人类，只要它没有自我意识，能力越强大，对人类就越有用。反过来，一旦人工智能拥有自我意识，哪怕它的能力不如人类，也会对人类造成威胁。“人类能够控制强大但没有自我意识的机器，却难以控制哪怕仅仅有着生物灵活性而远未达到自我意识的生物，比如病毒、蝗虫、蚊子和蟑螂。”

那么，人工智能什么时候才会进化出自我意识呢？“奇点”是否临近？对这个问题，人工智能的神话或悲歌这本书的作者赵汀阳老师有一个论断：“技术升级”并不必然导致“存在升级”。很多生物，像病毒、鱼类、爬行类，它们的身体在功能上的进化几乎达到完美，但这样“技术升级”并没有导致“存在升级”，它们并没有获得自我意识、成为一种更高级的存在。同样地，很难说，人工智能的“技术升级”一定会导致它的“存在升级”，也有可能，机器永远无法靠技术升级获得自我意识。科学家们至今没有搞明白人的自我意识从何而来，也就没法在机器上复制这个意识产生的过程，这意味着人类暂时安全。试想，如果有一天，科学家真的破译了人类自我意识的密码，应该把它赋予人工智能吗？如果是你，你会怎么选择？