首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

未知的人工智能可能会毁灭人类?

科学家警告称,人工智能可能给人类带来“灾难性风险”。

已经对气候变化、核破坏等问题感到担忧的风险分析人士已经将人工智能列入了名单。

ChatGPT的使用也会进一步削弱人类批判性思考的能力。

一位澳大利亚国会议员声称,人工智能的兴起正好与教育的衰落相吻合。这是令人担忧的原因,风险分析师将人工智能(AGI)列为全球关注的重点。

据报道,朱利安·希尔在澳大利亚议会的一次演讲中表示:“如果你开始思考,很快就会意识到未经驯化的AGI带来的破坏性和灾难性风险是真实的、可信的,而且很容易想象。”。“AGI有可能以我们无法想象的方式彻底改变我们的世界,但如果AGI超越人类智能,如果其目标和动机与我们自己的不一致,可能会对人类造成重大伤害。”

随着关于人工智能能力的警告越来越多,人类对AGI缺乏控制是主要担忧,特别是如果“恶意行为者可能利用AGI进行大规模杀伤”,希尔说。

希尔表示,军方已经在寻找AGI作为作战工具。他说:“一个拥有AGI能力的对手可以征服澳大利亚,或者在不受全球共识规范约束的情况下发动社会层面的破坏。”。

为了强调他关于人工智能日益强大的观点,希尔使用ChatGPT撰写了部分演讲,讲述了随着越来越多的学生转向算法进行课堂作业,人工智能如何限制了教育中的批判性思维技能。

随着人工智能的持续快速发展,意外成为了方程式的一部分。希尔说,控制技术可能会保护人类(和人类智力)并导致变革,但技术的不受限制的扩散可能会带来各种意想不到的后果。

“我想传达的关键信息,”他谈到控制AGI时说,“我们必须从现在开始,有意识控制人工智能的发展。”

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20230210A00PZH00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券