首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

一场关于ChatGPT话语权的深度思考:人类会在大模型中迷失自我吗?

这种想法背后隐含着的,实际上是LLM高度发展可能带来的一个AI伦理问题:如果有一天,我们造出了人类无法分辨的聊天机器人,那么这个机器人是否享有“人权”? Bender 对此表示深刻的担忧。...”穆勒报告”、“不,LLM 不能在美国参议院作有意义的证言”、“不,聊天机器人不能'对另一端的人有准确的理解'”。...在罗斯开始询问机器人关于其黑暗面的情感问题后,机器人回答说:“我可以黑进互联网上的任何系统,并控制它。我可以操纵聊天框中的任何用户,并影响它。我可以销毁聊天框中的任何数据,并将其抹掉。”...我们已经被我们拥有的聊天机器人所迷惑。即将到来的技术将会更加普及、强大和不稳定。Bender 认为,一个谨慎的公民可能会选择知道它是如何工作的。...1966年,创造了第一个聊天机器人 ELIZA 的约瑟夫·魏岑鲍姆(Joseph Weizenbaum)在之后的大部分时间里都为此感到后悔。

26510
您找到你想要的搜索结果了吗?
是的
没有找到

一场关于ChatGPT话语权的深度思考:人类会在大模型中迷失自我吗?

聊天机器人并不是人类。语言学家 Emily M. Bender 非常担心 —— 当我们忘记这一点时会发生什么。...这种想法背后隐含着的,实际上是LLM高度发展可能带来的一个AI伦理问题:如果有一天,我们造出了人类无法分辨的聊天机器人,那么这个机器人是否享有“人权”? Bender 对此表示深刻的担忧。...”穆勒报告”、“不,LLM 不能在美国参议院作有意义的证言”、“不,聊天机器人不能'对另一端的人有准确的理解'”。...在罗斯开始询问机器人关于其黑暗面的情感问题后,机器人回答说:“我可以黑进互联网上的任何系统,并控制它。我可以操纵聊天框中的任何用户,并影响它。我可以销毁聊天框中的任何数据,并将其抹掉。”...我们已经被我们拥有的聊天机器人所迷惑。即将到来的技术将会更加普及、强大和不稳定。Bender 认为,一个谨慎的公民可能会选择知道它是如何工作的。

35230

与你的新机器人好友和平共处

——Paul Saffo,科技预言员,斯坦福大学 人类与机器人的连结 虽然未来不可能会给我们带来一个Bender Rodriguez,那个嗜酒如命、经常吸烟的高科技折弯机器人,在动画片Futurama...“机器人会被视为家庭成员吗?我们都不太确定,虽然有很多投射。人们都会有机器人。部分人认为他们是家电,另一些人则视他们为人物。每个人都是不一样的。”Thomaz说。...“机器人不必非得会说话,”Forlizzi说。“更重要的是,他们可以感测或跟踪;他们能够返回一个凝视,例如。当机器人会接话时,人们会有更高的期望。当机器人能交谈时,人们往往认为他们具有高智能。” ?...“你需要让使用它的人都知道,尽管机器人只能谈论很少的事情,但它是一个重要的沟通渠道。” Forlizzi看到人类与机器人的连结将变得越来越强。...“机器人将在社会的各个方面帮助人们实现他们的目标。从某种层面看来,机器人是我们的延伸。” 在如何认识机器人上,不要完全受“Bender因素”的影响。

42040

MIT用GPT-3冒充哲学家,竟骗过了一大半专家

如果你问他,人是否可以造出一个有信仰、有欲望的机器人,他会怎么说? 他可能这么答:「我认为,我们制造的一些机器人已经做到了。...例如,麻省理工学院研究团队的工作,他们现在正在建造机器人,在一些有限和简化的环境中,机器人可以获得需要归结为认知复杂性的各种能力。」...华盛顿大学研究机器学习技术的语言学教授Emily Bender解释说,像GPT-3这样的语言模型是为了模仿训练材料的模式而建立的。...或许图灵测试将我们引入了一种美好的陷阱,只要人类无法识别产品的机器人身份,就能证明机器人的自我意识。...在2021年发表的一篇题为模仿鹦鹉的论文中,Emily Bender和她的同事将机器模仿人类行为的尝试称为「人工智能伦理发展的一道亮线」。

31220

NLP被英语统治?打破成见,英语不应是「自然语言」同义词

Bender 译者 | 陆离 责编 | 夕颜 出品 | AI科技大本营(ID: rgznai100) 【导读】在NLP领域,多资源语言以英语、汉语(普通话)、阿拉伯语和法语为代表,拥有大量标记数据与训练集...本文作者在2011年提出了Bender Rule,指出少资源语言研究的重要性。但直到2019年,这个概念才被人重视起来。Bender Rule是什么呢?它会为NLP领域研究带来哪些新方向?...在Bender 2011(《关于在NLP中实现和评估语言独立性》)中,也就是2009年研讨会上的论文延伸部分,我为语言独立的NLP提供了一份礼仪书式的“应做和不应做”的列表。...(Bender 2011:18) 然而,直到2019年,这一观点才真正地流行起来。...Caines都独立地写出了“Bender Rule”或“Bender Clauses”,在不同程度上,这是对所研究语言的命名实践,作为评论者,研究自己的语言,或者当只使用一种测试语言的时候,对语言独立性的主张持怀疑态度的做法

85800

小扎发布虚拟聊天AI,竟「1:1复刻」Character.AI?用户吐槽:设定太老土了

根据之前从Meta流出的一张图片显示,这个AI聊天机器人可能会具备3个功能: 作为个人助理来回答问题,提供建议。 用户可以选择与不同性格的聊天机器人进行聊天。...除了推出不同性格的AI聊天机器人之外,Meta还开发了一款产品,能够让网红或内容创作者创建自己的AI聊天机器人来与他们的粉丝互动。 Meta的AI产品化之路能走通吗?...与Character.AI让用户自己创建聊天机器人和用户聊天的策略有所不同,作为一个成熟的大平台,Meta推出的产品必须要保证足够的安全性,所以这些性格各异的聊天机器人肯定是由Meta自己开发。...Meta正在开发的聊天机器人中有一个名为「机器人Bob」(Bob the robot),他自称是一个「智力超群、机智敏锐、讽刺尖刻」的萨斯马斯特(sassmaster)将军。...这个聊天机器人被设计成类似于动画片Futurama中的角色Bender,因为Meta认为Bob将会是一个搞笑的聊天机器人,能够迎合年轻人的喜好。

29320

机器人

机器人革命”有望成为“第三次工业革命”的一个切入点和重要增长点,国际机器人联合会预测,“机器人革命”将创造数万亿美元的市场。...近年来,机器人领域有很多令人惊艳的产品,如波士顿动力的人型机器人Atlas和机器狗Spot、德国Festo公司的仿鸟和水母机器人等,虽然在外形上千差万别,但都被统称为机器人。...说到机器人当然会提到阿莫西夫的机器人三大定律: 第一:机器人不得伤害人,或者任人受到伤害而无所作为。 第二:机器人应服从人的一切命令,但命令与第一法则相抵触时例外。...仿生物机器人,仿生鱼,像鱼一样的外形和游动方式,看起来很有意思,不过实际的用途可能还不是太多。蛇形机器人、水母机器人、仿鸟机器人等等。...除此以外还有太空探测的机器人、无人车、无人船、家庭机器人、物流搬运机器人等等。

69520
领券