学习
实践
活动
专区
工具
TVP
写文章

GPT-5恐被叫停,马斯克带头呼吁暂停大型 AI 研究

随着ChatGPT热潮,当全社会都在为AI的进化而欢呼雀跃之时,很多科技界和学术界部分人却认为 AI 技术风险越来越高。

钛媒体App 3月29日消息,未来生命研究所(Future of Life Institute)今天公布了一封《暂停大型人工智能研究》的公开信,呼吁所有AI实验室立即暂停训练比GPT-4更强大的人工智能(AI)系统至少6个月,呼吁共同开发和实施用于高级AI开发的共享安全协议,并接受独立外部监督,以避免可能导致极端风险的大规模技术变革。

该机构以“引导变革性技术造福生活,远离极端的大规模风险”为使命。信中称,只有当确保强大的 AI 系统的效果是积极的,其风险是可控的才能继续开发。AI 实验室和独立专家应在暂停期间,共同制定和实施一套先进的 AI 设计和开发的共享安全协议,由独立的外部专家进行严格的审查和监督。

截止目前,世界首富、特斯拉CEO马斯克,苹果联合创始人Steve Wozniak,“AI教父”Geoffrey Hinton,Stability AI 创始人Emad Mostaque等1000多名科技大咖和 AI 技术专家均签署了这封公开信。

值得一提的是,此前有推特网友发现OpenAI CEO Sam Altman曾出现在呼吁暂停大型 AI 训练公开信签名处,推特研发工程师Rahul Ligma也在列,现在二人名字均已消失。

实际上,随着ChatGPT和GPT-4风靡全球、全球热议,一时与ChatGPT相关的各种信息遍布网络。但随着讨论热度转向通用 AI 技术带来的风险话题,OpenAI公司CEO奥特曼(Sam Altman)自身也加入其中。

3月27日公布的麻省理工学院研究科学家Lex Fridman节目中,奥特曼提到,强大的 AI 杀死人类有一定可能性。“很多关于 AI 安全和挑战的预测被证明是错误的,我们必须正视这一点,并尽早尝试找到解决问题的方法。”

在奥特曼看来,GPT-4已经让大家看到,AI“杀死”人类不再是空谈。他坦言,“客服”将会是受到大规模冲击的工作类型。

今天的这封公开信中,核心是呼吁所有 AI 实验室立即暂停比GPT-4更强大的 AI 系统的训练,时间至少持续6个月,并称政府应该介入并制定暂停令。但信中指出,这并不意味着暂停一般的 AI 开发,只是从危险的竞赛中退后一步,限制不可预测的研究和开发。

公开信中强调,AI 的研究和开发应该重新聚焦于,使目前最先进和强大的系统更加准确、安全、可解释、透明、稳健、一致、值得信赖和忠诚。

钛媒体App根据现有公开信息整理,目前ChatGPT相关技术依然存在无法进行事实核查容易提供诈骗信息、个人数据与商业秘密泄露、输出虚假信息、语料库与生成文本的侵权问题等问题,存在一定的法律漏洞。如果没有监督和解决,AI 技术可能会威胁人类日常生活。

据报道,数据安全服务Cyberhaven检测到并阻止了其客户公司160万名员工中4.2%的人将数据输入ChatGPT的请求,因为存在泄露机密信息、客户数据、源代码或监管信息的风险。目前,摩根大通已经限制员工使用 ChatGPT,亚马逊、微软和沃尔玛也已向员工发出警告,要求员工谨慎使用生成式 AI 服务。

截至目前,多位科技大咖和学术界人士对于 AI 技术带来的风险挑战表达诸多看法,对AI发展的潜在威胁表示关切,强调在推动技术进步的同时确保人类的安全和福祉:

  • 特斯拉CEO马斯克(Elon Musk):他认为 AI 是人类面临的最大威胁之一。他警告说,如果没有适当的监管和控制,AI可能导致意想不到的后果,甚至危及人类生存;
  • 已故著名物理学家霍金 (Stephen Hawking):在生前,霍金表示 AI 的发展可能是人类最伟大的成就,也可能是最终的灾难。他认为,如果AI发展得当,将为人类带来巨大利益;但如果失控,可能导致人类的毁灭;
  • 微软创始人比尔·盖茨(Bill Gates):他认为在某些方面,AI可能会取代人类工作,导致失业率上升。此外,他还担忧AI在未来可能会成为一种强大且不受控制的力量;
  • 哲学家,牛津大学未来人类研究所所长Nick Bostrom:在他的著作中,他认为,如果AI发展超过人类智能,可能会导致无法预测和控制的后果;
  • 哲学家,神经科学家Sam Harris:AI的发展可能会导致人类失去对未来的控制。他强调,随着AI技术的进步,人类必须思考如何在保持创新的同时确保安全与稳定。

在科学界希望暂停强大 AI 技术研究的消息公布之后,国内很多商业大咖也表达相关看法。

其中,自动驾驶芯片公司地平线创始人兼CEO余凯在其微信朋友圈称,通用人工智能(AGI)正在失控的发展,会给人类带来巨大的风险,呼吁推动 AI 计算的平权。保护自己的隐私,透明干预各种AGI模型的行为,控制AGI带来的风险。

3月29日,360公司创始人、董事长周鸿祎表示,GPT是一个改变世界的东西,它开启了 AI 技术新时代。而如今,GPT-4已经是世界上最聪明的“人”。“我们不要用原来的眼光看待今天的 GPT,所以很多人对 AI 有焦虑。”

脑机接口公司脑虎科技联合创始人、CEO彭雷表示,照这个发展速度,他预测未来两年内会出来一个类似“核不扩散条约”的“AGI不扩散条约”,限定超过一定量级的大模型被部署和训练,甚至安理会成员国来缔约签署,并搞个类似“国际原子能机构”来监督模型的参数和运行状态,类似管理离心机一样。

事实上,奥特曼先前对外媒表示,他担心 AI 取代人类工作的变化很快到来。“人类已经证明自己可以适应重大技术变革,但如果这种情况发生在个位数的几年内便是我担心的部分。人类拥有无限创造力,我们找到新工作、找到新的事情去做。”

早前,微软研究院团队发布长达154页的论文《通用 AI的火花:GPT-4早期实验》。结果表明,微软认为,GPT-4是一种非常强大的 AI 系统,它在许多任务和领域中表现出了惊人的能力,并且在某些方面甚至可以与人类相媲美。然而,GPT-4仍然存在一些局限性和挑战,需要进一步研究和发展才能实现更深入、更全面的AGI系统。

OpenAI 的官方研究显示,美国80%的工作职业中,都将因GPT-4而取代人类工作。该研究发现,除会计师外,数学专家、口译员、作家以及近20%的美国劳动人口,也深受AI影响。最不受影响的工作包括快餐厨师、摩托车技师和石油和天然气杂工。

“GPT-4可被视作 AGI 的早期版本。”微软研究团队表示,GPT-4标志着计算机科学领域及其他领域真正的范式转变。”

高盛3月27日发布报告指出,全球预计将有3亿个工作岗位最终被 AI 取代。假设生成式 AI 实现了各企业承诺的能力,劳动力市场将面临挑战,AI 可以接手美国和欧洲高达四分之一的工作。报告预计,随着劳动生产力提高,AI 应用有望使全球在下一个10年内,推动全球GDP(国内生产总值)年复合增长率将达到7%。

那么,ChatGPT是如何看待公开信中 AI 对人类社会的影响?

ChatGPT回应称:这表示随着 AI 技术的不断发展和普及,AI 可能对社会和人类造成的影响将越来越大。这封公开信提出的呼吁和建议,应该被视为引起更广泛和深入讨论的起点和参考,而不是一个终点或解决方案。(本文首发钛媒体App,作者|林志佳)

(头图片来源:unsplash)

  • 发表于:
  • 原文链接https://www.tmtpost.com/6468023.html?rss=qcloud
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

关注

腾讯云开发者公众号
10元无门槛代金券
洞察腾讯核心技术
剖析业界实践案例
腾讯云开发者公众号二维码

扫码关注腾讯云开发者

领取腾讯云代金券