马斯克和一些专家呼吁暂停开发更强大的AI系统

据华尔街日报报道，包括特斯拉(Tesla Inc., TSLA)首席执行官马斯克(Elon Musk)和人工智能(AI)领域先驱人物Yoshua Bengio在内，多位科技公司高管和顶级AI研究人员正呼吁暂停对强大的新AI工具的快速开发。

主张暂停的这些人士表示，六个月或更长时间的暂停，将使该行业有时间制定AI设计方面的安全标准，从而防止风险最高的一些AI技术的潜在危害。

“我们已经置身这样一种情境：这些系统足够聪明，某些使用它们的方式可能给社会带来危险。”蒙特利尔大学(University of Montreal)蒙特利尔学习算法研究所(Montreal Institute for Learning Algorithms)主任Bengio在一次采访时说。“而我们还不明白。”

这些关切以及暂停建议是在题为“暂停巨型AI实验：一封公开信”(Pause Giant AI Experiments: An Open Letter)、由非营利性组织Future of Life Institute加以协调的信函中提出的。马斯克在该组织的外部顾问名单上。这封信作者团队的一位发言人说，签名的还有苹果公司(Apple Inc., AAPL)联合创始人Steve Wozniak；Stability AI首席执行官Emad Mostaque；以及人性化技术中心的联合创始人Tristan Harris和Aza Raskin，他们一直对社交媒体和AI技术持批评态度。

这封信并非呼吁暂停所有AI开发，但敦促各公司暂时停止训练比GPT-4更强大的系统；GPT-4由得到微软(Microsoft Corp., MSFT)支持的初创公司OpenAI于本月发布。这当中包括OpenAI的下一代技术GPT-5。

OpenAI的管理人员说他们还没有开始训练GPT-5。OpenAI首席执行官Sam Altman在接受采访时表示，公司长期以来在开发时将安全作为重点，并在GPT-4发布前花了六个多月的时间对其进行安全测试。

“从某种意义上说，这是多此一举，”Altman说。“我认为，一直以来我们对这些问题的讨论是声音最响、力度最大且持续时间最长的。”

科技公司和初创企业普遍希望大力投入所谓的生成式AI，呼吁暂停新AI工具的快速开发与这种愿望相冲突。这种技术能够根据人类的提问生成原始内容。去年秋天，围绕生成式AI的热度骤增，当时OpenAI推出了一款聊天机器人，可执行一些功能，比如以与人类相似的思维方式进行长时间的连续问答以及编写计算机代码。

微软已在其必应(Bing)搜索引擎和其他工具中采用了这种技术。Alphabet Inc.(GOOG)旗下的谷歌(Google)已经部署了一个与微软竞争的对话式AI系统，Adobe Inc.(ADBE)、Zoom Video Communications Inc.(ZM)和Salesforce Inc.(CRM)等公司也已推出先进的AI工具。

“一场AI大赛从今天开始，”微软首席执行官纳德拉(Satya Nadella)上月表示。“我们要行动起来，而且要快。”

这再次引发了担忧，人们担心AI的快速推广可能会在带来切实好处的同时产生意想不到的后果。这封公开信背后的组织者之一Max Tegmark说，AI的进展已超过许多专家几年前认为可能达到的程度。Tegmark是研究机构Future of Life Institute的负责人、麻省理工学院(Massachusetts Institute of Technology)物理学教授。

“把这定性为是一场军备竞赛是不幸的，”Tegmark说。“其实这更像是一场自杀竞赛。谁先到并不重要。这只是意味着整个人类可能会失去对自己命运的控制。”

Future of Life Institute上周开始着手准备这封信，最初允许任何人在没有身份验证的情况下签名。Altman的名字曾被加了进去，但后来被删除。 Altman说，他从未在这封信上签名。他说，OpenAI经常与其他AI公司就安全标准进行协调，并讨论更广泛的问题。

“有些工作我们是不做的，因为我们自认为还不知道如何做到足够安全，”他说。“所以，我认为有一些可以放慢步伐的办法，这很重要。这是我们战略的一部分。”

马斯克和Wozniak都曾对AI技术表达担忧。马斯克周三发推文说，高阶AI技术的开发者“不会注意这个警告，但至少有人说了出来”。

与此同时，马斯克接受了在特斯拉的高级辅助驾驶功能中使用一些AI工具。特斯拉上个月表示，正在召回约362,800辆配备其“全自动驾驶”(Full Self Driving)功能测试版的车辆。美国最高汽车安全机构表示，在极少数情况下，该技术可能违反当地的交通法规，如果司机未加干预，可能会增加发生车辆碰撞的风险。

Meta Platforms Inc. (META)首席AI科学家Yann LeCun周二发推文说，他没有在这封信上签名，因为他不认同这封信的前提。

Stability AI首席执行官Mostaque周三发推文说，虽然他在这封信上签名了，但他不赞同暂停开发六个月的提议。“这封信不具有约束力，但将引发一场重要讨论，有望给一个不透明的领域带来更多透明度和更多治理。”

微软不予置评，谷歌暂未回应记者的置评请求。

Tegmark表示，许多公司感觉到“极其巨大的商业压力”，需要在产品中加入先进AI技术。六个月的暂停开发将让整个行业获得“喘息之机”，令那些选择谨慎行动的公司不会处于劣势。

这封信表示，暂停开发的举措应当公开宣布，并且应能加以核实，这个领域的所有重要行动者都应该参与进来。信中写道：“如果这种暂停开发不能迅速实施，各政府应该介入并实行暂停。”

这封信的撰写者们写道，AI实验室和专家可以利用这段时间为先进的AI设计制定一套共同的安全规则，这些规则应该由外部专家进行审计和监督。

Bengio说：“我不认为我们能够承受得起只是闷头向前走、造成破坏也不管不顾的后果。”他表示：“我们确实需要花时间来集体思考这个问题。”Bengio发明了可让现代AI学习成长的系统，凭此贡献与他人共同获得了2018年的图灵奖。