2023年3月上千专家呼吁暂停大型AI研究，这是杞人忧天吗？

近日，马斯克、图灵奖得主领衔，上千名硅谷企业家和科学家联名呼吁暂停大型AI研究，GPT-4已经出现威胁人类的迹象，这是不是杞人忧天？

近期，生命未来研究所向全社会发布了一封《暂停大型人工智能研究》的公开信，呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练，暂停期限至少为六个月。其中包括马斯克、图灵奖得主、苹果创始人均在公开信上署名。

​GPT-4是OpenAI计划的下一代自然语言处理模型，预计会成为目前最大的自然语言处理模型。就是chatgtp系统能够在跟人类的对话中不断地“进化”，并能够反馈出越来越类人的回答。

于是有人怀疑GPT-4很有可能已经具备了人类的智力，并且一个微软研究人员在论文当中写道，认为GPT-4已经显示出AGI的早期迹象。AGI是通用人工智能，也就是具备甚至超越了人类智力水平的人工智能，这是目前我们能够得知人工智能模式的极限，这样听起来似乎有些令人毛骨悚然。

但是现在仍有大型实验室在研究比GPT-4更强大的人工智能系统，所以这引起了很大的争议，也就是那封公开信的由来。随着人工智能技术的不断发展，现在的人类也越来越依赖智能系统，那若是此时人工智能一旦失控，那人类社会就会乱套。

​就比如科幻电影中演的，人工智能萌发出自我意识。现在的人类站在食物链的顶端，若是此时ai有了自我意识，那就相当于拥有钢铁之躯的人类，甚至它们因为拥有更强大的大脑和更坚硬的身体，所以可以将人类取而代之。

就如公开信中提到的“是否应该开发非人类的大脑，使其最终超过人类数量，胜过人类的智慧，淘汰并取代人类？”这直白地反映了造物者对于被造物者失控的担忧与恐惧，就像西方神话中失控的“亚当与夏娃”。

他们认为，只有在我们能够确信制造强大的AI所产生的影响是积极的，风险是能预测并可控制的，才应该开发，所以呼吁实验暂停时间至少是六个月。

这种暂停应该是公开的、可核查的，并包括所有关键参与者。如果这种禁令不能迅速实施，政府应该介入并制定暂停令。

​在暂停的6个月内，人工智能实验室和独立专家应共同制定和实施一套先进的共享安全协议，来规范人工智能设计和开发。即加强对于人工智能的监管，将未来可能的危险扼杀在摇篮内，让如今最强大的人工智能系统更加安全透明和稳健。

除了更深层次的考虑，现在的普通人也在担心，人工智能在未来是否会在工作生产中彻底取代人类的位置，若是劳动力再被AI所取代，资源将会彻底地只在资本手中流转，那么大部分劳动力下岗，大量的失业人员又该何去何从呢？

​虽然未来是无法预测的，但是就以现在的信息时代来看，有人就已经开始利用信息与智能系统开始犯罪了，比如最近网上热议的利用“AI一键脱衣”造黄谣。所以对AI的管控确实是必要的，在无法得知悲剧是否会发生之前，我们应该合理地去规避风险！