央视新闻纵横｜梁正：解读暂停大型AI研究的联名信

梁正

清华大学人工智能国际治理研究院副院长、人工智能治理研究中心主任、中国科技政策研究中心副主任、公共管理学院教授

“

2023 年 3 月 29 日，美国多家媒体报道称一家名为未来生命研究所的非营利组织发出了一封暂停大型人工智能研究的公开信，呼吁所有人工智能实验室立即暂停更强大的人工智能系统的训练。目前，包括推特CEO马斯克、图灵奖得主约书亚·本吉奥在内的1100人签署了该公开信。

ChatGPT已经发布有一段时间了，为什么这家机构选择在这个时间点要求暂停研究呢？清华大学人工智能国际治理研究院副院长、人工智能治理研究中心主任梁正为我们带来解读。

对于提出暂停研究的时间点，梁正表示在近期GPT-4的测试报告中显示，在逻辑推理、理解认知等方面上GPT-4已经超越了某些标准测试当中人类的表现。人们开始担心继续大模型训练是否会导致失控。

此外，梁正引用“曲别针制造机”（paperclip maximizer）的思想实验说明，目前人工智能更迫切的问题不在于其是否会产生自主意识，而在于当算力强大的AI曲解人类的指令时，可控性是否还能得到保障。

在面对AI取代人类工作的问题时，梁正认为早在工业时代就出现过类似的情况；汽车的出现引起了社会矛盾，当时的人们让汽车发展慢下来，让马车夫适应了汽车。让新技术的发展慢下来除了可控性危机，也是缓和这种社会矛盾的方式之一。

最后，梁正表示各方对公开信持不同态度是正常现象。这当中除了安全问题的考虑，也可能存在企业之间的竞争原因。

清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。

新浪微博：@清华大学人工智能国际治理研究院

微信视频号：THU-AIIG

Bilibili：清华大学AIIG