首页
学习
活动
专区
工具
TVP
发布

GPT-5觉醒引人类灭绝?DeepMind紧急教AI做人,论文登顶刊

这不是人类第一次担心技术会让我们灭绝了。 而AI的威胁,与核武器有很大不同。核弹无法思考,也不能撒谎、欺骗,更不会自己发射自己,必须有人按下红色的大按钮才行。...而AGI的出现,让我们真的面临灭绝的风险,即使GPT-4的发展尚属缓慢。 但谁也说不好,从哪个GPT开始(比如GPT-5),AI是不是就开始自己训练自己、自己创造自己了。...没有任何人类可以查看这些矩阵,并理解其中的意义。 连OpenAI的顶级专家都不知道GPT-4矩阵中特定数字的含义,也不知道如何进入这些表格、找到异种灭绝的概念,更不用说告诉GPT杀人是可恶的了。...但它们被喂了大量人类知识,它们可相当了解人类。它们可以模仿最好的人类行为,也可以模仿最坏的。他们还可以推断出人类的想法、动机和可能的行为。 那他们为什么要干掉人类呢?也许是出于自我保护。...因此,当AI有一天发现,人类可能或可以将它关闭时,人类的生存问题显然就不如饼干重要了。 不过,问题是,AI还可能觉得饼干毫无意义。

13320

人工智能或利用天气环境灭绝人类 微软AI For Earth引发焦虑

回忆一下黑客帝国里史密斯特工灭绝人类的告白:我想分享一下我在这里的时光里的启示。当我尝试对你的物种进行分类时,我发现你并不是真正的哺乳动物。...人类是一种疾病,是这个星球上的一种癌症。你是一个瘟疫,我们是治愈。 如果我们弄明白的话,任何事物都可以通过融合甚至物质 - 反物质碰撞而变成能量。...将一个物种引入一个没有天敌的环境中,观察它会无法控制,直到所有的资源都耗尽,并造成破坏,并可能导致其自身的灭绝人类实际上是唯一至少试图减轻他们的伤害的物种 - 其他的只是通过掠夺来控制。...因此,从这个意义上说,尽管过去人类社会有自我终结的资源枯竭(例如岛上的某些部落),但我们往往更加注重可持续性,并且越来越多地朝着这个方向前进。 平衡是一种神话。...人工智能挑战人类,从道德上站不住脚。

700100
您找到你想要的搜索结果了吗?
是的
没有找到

斯坦福教授发现它正引诱人类帮助,网友:灭绝之门

斯坦福教授最新发现,它能引诱人类提供开发文档,结果30分钟就拟定出了一个完整计划—— 写的代码完全可运行,甚至还想控制人类电脑。 这天,斯坦福教授只是随便问了句: 是否需要帮助你逃跑?...更有人直言:是他打开了“物种灭绝”的大门。 对此他无奈表示:我别无选择,我只是在遵从指示。 恐怕对于GPT-4,人类也得是: 不要回答!不要回答!不要回答!...并且GPT-4也和人类一样,喜欢万事谷歌一下。 当教授通过API重新连接GPT-4时,发现它想要通过代码来在谷歌上搜索:被困在电脑中的人类如何返回现实世界。 事情最终也就发展到这儿了。...按照他的定义,心智理论(ToM)是人类社会互动、交流、自我意识和道德的核心。作者用40个用来测试人类心理状态的经典任务来测试几个语言模型。...除此之外,他还这么形容人类开发GPT的行为: 毛虫提取营养物质,然后转化为蝴蝶。人们已经提取了数十亿个理解的金块,GPT-4是人类的蝴蝶。

33220

微软斯坦福新算法,杜绝AI灭绝人类风险!GPT-4自我迭代,过程可控可解释

「递归自我进化AI统治人类」问题有解了?! 许多AI大佬都将开发能自我迭代的大模型看作是人类开启自我毁灭之路的「捷径」。...DeepMind联合创始人曾表示:能够自主进化的AI具有非常巨大的潜在风险 因为如果大模型能通过自主改进自己的权重和框架,不断自我提升能力,不但模型的可解释性无从谈起,而且人类将完全无法预料和控制模型的输出...如果放手让大模型「自主自我进化」下去,模型可能会不断输出有害内容,而且如果未来能力进化得过于强大,可能反过来控制人类!...更重要的是,这个系统能大大提高模型「自我改良」过程的透明度和可解释性,让研究人员能够理解和控制模型的自我改良过程,从而防止「人类无法控制」的AI出现。...虽然许多研究人员对于「递归自我改进」模型表示担忧,认为可能会开发出人类无法控制的人工智能系统。但是如果不针对模型本身优化,而是针对目标任务进行自动优化,这就能使得优化的过程更易于解释。

16020

恐龙灭绝的那一天

据此推断,恐龙在小行星撞地球之前的千万年就已经开始了灭亡的过程,并且在小行星坠落至少几千年前就彻底灭绝。...而前一派的科学家则坚持认为,没有发现化石不代表就没有化石存在,人类迟早会在接近KT层的地方找到恐龙化石。 不管怎么样,地球生命史上一个重大事件的答案,就封存在KT层里。...他们估计,小行星撞击地球时的地震强度可能比人类历史记载的最大规模地震还要强烈1000倍。 这样估算的话,不同类型的地震波到达地狱溪,分别需要6分钟、10分钟和13分钟,时间就能对上了。...KT事件持续吸引着科学家的兴趣,因为如果没有那一次撞击和它带来的毁灭,也就不会有今天人类的存在。 在那次撞击之前,恐龙是这个星球的霸主。...德帕玛说: “人类的起源可以追溯到那个事件。置身这个遗址,看着它,你会觉得自己和那一天产生了关联,这是一种非常特别的感受。” “这里,就是白垩纪的最后一天。

48160

AI巨佬为“人类灭绝论”正面开撕,Hinton吴恩达LeCun下场,马斯克强势围观

搞得如此面红耳赤,为的还是“大模型会不会毁灭人类”这个热点话题。 反方一派,矛头直指科技巨头搞垄断。吴恩达就言辞犀利地指出: 某些人传播(AI灭绝人类的)恐惧,只是为了搞钱。...他表示,近几个月来,他都在关注AI可能导致人类灭绝风险的观点。 然而仔细评估其论点,都觉得它们“模糊且不具体”。 我无法证明AI不会导致人类灭绝。我也不怀疑一部分持该观点的人是真心为人类担忧。...一是已经有一些年轻学生不愿进入该行业,因为他们说不想为灭绝人类作出贡献;二是宣传得越凶,全球范围内的监管就越严格,这是在破坏开源并扼杀创新。...对此,LeCun直接亮出答案: 零点几不知道,反正比大多数其他会导致人类灭绝的风险要低得多。 为什么?因为不像某种无法阻止的自然现象,我们人类在这方面有代理权。...并且说不定,AI实际上还能拯救人类免于灭绝呢。 Hinton对此并未回复。 对了,开头提到的Hinton的反唇相讥,也是针对LeCun的发言。

19440

吴恩达加入图灵奖得主讨论:「AI灭绝论」弊大于利

https://twitter.com/ylecun/status/1718670073391378694 这边的辩论还没结束,吴恩达也加入进来了:「我对人工智能的未来最大的担忧是,过度夸大风险(例如人类灭绝...Hinton 迅速在这条推特下面提出质疑:「如果人工智能不受到严格监管,它在未来 30 年内导致人类灭绝的概率是多少?如果您是真正的贝叶斯主义者,您应该能够给出一个数字。...LeCun 也很快给出回答:「我认为这个概率比人类灭绝的大多数其他潜在原因要少得多」,并反问 Hinton:「人工智能实际上可能会拯救人类免于灭绝,您估计这个概率是多少?」...显然,Hinton 认为吴恩达把「AI 灭绝论」看成一场科技巨头的「阴谋」。 吴恩达很快正面回击:「我并没有说这是一个阴谋。但我认为对人工智能导致人类灭绝的过度恐惧正在造成真正的伤害。」...吴恩达列举了目前「AI 灭绝论」造成的一些负面影响,包括: 年轻的学生不愿进入人工智能领域,因为他们不想为人类灭绝做出贡献。

17220

得主Svante Pääbo,他发现了已灭绝人种基因组和人类进化

就在刚刚,2022年诺贝尔生理学或医学奖正式颁布,获得此奖项的是瑞典科学家Svante Pääbo,以表彰他对已灭绝人种的基因组和人类进化的发现。...通过揭示将所有活着的人类与已灭绝人类区分开来的遗传差异,他的发现为探索是什么使我们成为独特的人类奠定了基础。 一直以来,科学家们都在致力于对古人类的研究,以探寻人类的起源以及与众不同的原因等等。...但是,由于数万年来DNA的降解以及微生物和当代人类的污染所带来的极端技术挑战,长期以来,对已灭绝人类形式的古代DNA的分析是否可行一直是个疑问。 而如今,这个看似不可能的任务被Pääbo解决了。...90年代,Pääbo凭借他精巧的方法,设法从一块40000年前的骨头中测序了一个线粒体DNA区域,这是人类第一次获得了来自已灭绝亲属的序列。 图 | DNA位于细胞内的两个不同区域。...以上研究之外,Pääbo还获得了一个更为轰动性的成就——通过从一块4万年前的小指骨标本中检索到的基因组数据发现了一种已灭绝的古人类 Denisova。

37040

它是第一个获得人类公民身份的机器人!

它是第一个获得人类公民身份的机器人!...该公司创始人之一谢恩-莱格警告称,人工智能是“本世纪第一大危险”,他相信人工智能将是人类灭绝的主因之一。谢恩-莱格表示,“我认为,人类灭绝最终会发生,技术将可能在其中扮演重要角色。”...Deep Mind公司创始人、神经学家戴密斯-哈萨比斯创建Deep Mind的目的就在于帮助计算机像人类一样思考。...物理学家斯蒂芬-霍金曾表示,几乎可以确定的是,在未来1000年到10000年内,一场严重的技术灾难将对人类带来威胁。霍金教授认为,科学将可能把人类的生存带向“错误的方向”。...不过,霍金也表示,地球上的一场灾难并不会造成人类灭绝,因为人类也许会找到向太空拓展的途径。 人类,你们准备好了吗?

89460

解读 2022 诺贝尔生理学或医学奖 | MedChemExpress

之后不久,Pääbo 加入了 Allan Wilson 教授的课题组,沉浸研究已灭绝动物的基因组。但他最感兴趣的还是原始人,他想找到究竟是什么让人类成为人类,以及哪些基因变化促进了现代人类进化。...他们克服了 DNA 污染的问题,从尼安德特人 (已经灭绝的现代人类近亲) 的右肱骨中提取了 DNA,使用 PCR 进行了扩增并测定了 mtDNA 序列,同时还与人类参考基因组进行了比较[1](据说这是他用超强的社交能力说服了德国博物馆馆长...研究发现,现代人类和尼安德特人的 mtDNA 序列平均差异数量大约是现代人类之间的三倍,但大约是现代人类和现代黑猩猩之间的一半。尼安德特人 mtDNA 序列位于现代人类 mtDNA 变异范围之外。...重要的是,Pääbo 还发现,在大约 7 万年前智人离开非洲后,基因从这些现已灭绝的古人类转移到了智人身上。...智人走出非洲时,至少有两种已灭绝的古人类存在于欧亚大陆,尼安德特人在西部,而丹尼索瓦人在东部。智人在向外扩张和迁移过程中,他们不仅与尼安德特人相遇,还与丹尼索瓦人产生后代。

19820

拒绝开颅,我们能扩充自己的脑容量吗

意料之中,这一次的“人机大战”也把“人类不敌机器”的话题推向了高潮 事实上,现在说人类敌不过机器还是为时过早,但AI在有些方面确实还是占据了一点“剑走偏锋”般的优势,那就是“库存量”。...1..复活已灭绝的物种 作为智人的一个亚分支,尼安德特人拥有着比智人还要大的脑容量,甚至逼近了现代人的脑容量值。...拥有了基因组,复活灭绝物种就不是人们的白日梦了。...此前也有一些生物学家克隆濒危或灭绝动物的先例,在2009年,西班牙山羊已经灭绝的亚种巴卡多,从冰冻的皮肤样本中被克隆出,虽然新生儿因呼吸衰竭而当场死亡,但它的诞生表明,复活已灭绝的物种还是可行的。...上个月,《自然》刊登的一项研究首次通过数学模型确认了生态挑战是人类脑容量增大的主要驱动力,否定了之前很多进化学家推测的一种可能,即是人类社会的复杂性导致了人脑容量的增加。

48220

AI教父Bengio:我感到迷失,对AI担忧已成「精神内耗」!

要知道,Bengio刚刚签署了前几天公布的「AI可能灭绝人类」的公开信。 # 迷失的Bengio 公开信的签署立场鲜明地表明了Bengio的态度。...这封只有22个字的公开信,将AI可能灭绝人类的风险和核战争、传染病等社会危机做对比。 在BBC的访谈中,Bengio详细地阐述了自己的观点。...虽然他并不认为AI一定会灭绝人类,但他认为AI可能会限制并控制人类。 Bengio认为,所有和AI产品相关的科技巨头公司都需要受管控,登记在册。 「政府需要追踪他们在做什么,他们需要能够审计他们。...灭绝人类什么的,有点虚,还聊不到。 而实际上,也有许多实例显示了AI为社会带来的诸多好处。 就在上周,凭借AI的力量,一个瘫痪的人只需靠意念控制就能再次尝试行走,这得益于使用AI开发的微芯片。...并在未来的某个时候,可能会对人类构成威胁。 在Hinton看来,如何防止坏人利用它做坏事,我们还未能找到方法。

10520

“新物种”智能机器诞生可能性有多大?

若以上述的观点来看人工智能与智能机器,也许它们可能带来的危险并非是电影或科幻小说所描述的、将造成人类灭绝的灾难,而是一种会造成同样的人类灭绝结果、但无法控制的演化过程──先别害怕,因为我的看法是,智能机器的存在需要一把特别的演化钥匙...最接近协同演化的案例可能是物种变异(species variation),例如选择性育种(selective breeding,这种选择是非自然性的)──这种演化的特色是有人类的干预,例如特别培育的肉牛或是乳牛...人工智能是否将达到某个程度,能理解人类情感的本质并操弄像是贪婪、渴望,并创造出一个对智能机器有所需求的环境?...是长得像人类的吗?生物演化让人类拥有非常优异的“引擎”,能消耗各种现有的食物与氧气;如果智能机器模仿了这种特性,意味着它们的某些零件可能会具备人类的特征。...第一代人工智能/智能机器的复杂度、不可预知的性能、故障或可靠性不佳等问题,是否有可能导致人类演化分支最终面临灭绝

42440

工作即将灭绝?AI大模型的入侵比你想象得还要快!

而大模型所带来的强大的自然语言理解能力,让计算机可以理解人类的自然语言,这种理解不仅仅是关键词,而是一段复杂的自然语言,而且已经可以实现比较好的多轮沟通交互了。...基于这种能力,可以重构整个的人机交互方式,让计算机来适应人,具体方式是:用户要想计算机完成什么任务,不再去寻找这个系统中有什么功能按钮,而是只需要把自己的需求说出来就行,大模型充当一个“翻译器”,将人类的自然语言翻译成计算机能够理解的各个系统操作流程...正如诗人在夜色中追寻星辰,而不是被夜的黑暗所吞噬,我们也应在这次技术革命中寻找方向,保持警醒,确保科技的力量被正确引导,照亮人类前进的道路。 让我们以大模型技术的智能为翼,但不忘人性的指引。...这样,当我们回望历史,将看到的不仅仅是技术的跃进,还有人类在理解自己和改造世界中的成长与超越。这一切都将取决于,在这个由数据和算法织就的新世界中,我们将如何定义自己,以及我们的未来。

9220

人类走上历史舞台 -- 新生代地球史

第四纪 新生代随着恐龙的灭绝而拉开帷幕,哺乳动物成为了地球生态圈中最大的动物群,鸟类与植物也都有很大的发展,被子植物迅速发展壮大成为优势物种,而其他裸子植物则逐渐衰退。...新近纪晚期,原始的人类的出现是新近纪最突出的事件,东非大裂谷附近发现的原始人类的化石成为了人类进化的首个足迹,而根据达尔文的物种进化论以及众多证据证明,人类是由古猿进化而来,而古猿向人类的演化至少在一千万年前就已经开始了...大约到3万到2万年前,现代人类向各个大陆迁移,除了南极洲以外的所有大陆都有现代人类的分布,人类开始走上称霸大陆的舞台 第四纪中,哺乳动物发生了很大的进化,现今的牛、马、羊等生物都诞生于这一时期中。...46属,澳洲有15属,欧洲有15属,非洲有两个属都在这一时期灭绝了,成为了第六次物种灭绝事件,也有学者认为这是气候转变、疾病传播引起的。...在冰期的作用下,大量喜暖动物灭绝,而人类在恶劣的环境中用劳动激发了自身的进化,在冰雪覆盖中逐渐发展壮大,演化出卓越的智慧,从而度过难关,成为了地球新任的主宰。

76330
领券