首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

Yann LeCun:不在乎社会规范,ChatGPT离真正的人还差得远

这对于在数十亿人的世界中生存至关重要,在这个世界,我们遇到的大多数人都是完全陌生的人,他们的信仰可能与我们不一致。...我们小时候接受的部分教育是情绪训练,以确保我们在对话中正确的时间给出正确的情绪:当有人违反礼仪规范感到愤怒,当有人说出冒犯性的话感到厌恶,当我们说谎感到羞耻。...当我们与聊天机器人随意交谈或测试它们解决语言难题的能力,它们通常会给出一些似是而非的答案,并表现得像人类一样正常。有人甚至可能会将聊天机器人误认为是人。...它们没有任何想要通过对话实现的内在目标,也不受他人想法或反应的激励。它们不会因说谎感到难过,它们的诚实也不会得到回报。它们某种程度是无耻的,甚至川普都非常关心自己的声誉,至少声称自己是诚实的。...这有助于阐明为什么这些AI系统只是非常有趣的工具以及为什么人类不应该将它们拟人化。人类不仅仅是冷静的思考者或演说者,本质还是遵守规范的生物,通过共同的、强制性的期望情感上相互建立联系。

29620

如何设计一个不讨人厌的AI?“恐怖谷”了解一下

这是为什么呢?其实可以通过“恐怖谷”的理论来进行解释。 “恐怖谷”理论最早是1970年由日本机器人专家森政弘提出的,当机器人与人类的相似度极低(如图,工业机器人,人们对它没有太多的情感反应。...当这些非人的物体开始被赋予一些人类的特征,在外形和动作同人类逐渐接近(如图,人形机器人),人们对它的亲近感和好感度会逐渐增加。...当它有任何不像人的地方,我们很容易就能察觉,并和我们本来的预期产生了矛盾,我们无法马上解决这种矛盾,内心的不舒适甚至不安和恐惧就发生了。...2011年,加州大学圣地亚哥分校的认知科学家艾斯•塞金(Ayse Saygin)通过脑成像实验发现,人们观看仿真机器人的活动影像,大脑与运动感知相关的区域活动会比观看人类和普通机器人更加活跃。...(如图) 因为当我们看普通机器人和人类活动,他们的外观会帮助我们提前预测他们的运动方式,而实际看到的结果就如我们预期的一样。

64120
您找到你想要的搜索结果了吗?
是的
没有找到

银翼杀手2049与恐怖谷理论:机器人越像人,越可怕

实验中,当人们面对看起来非常机械的机器人(例如闪光机器人或金属机器人),他们的反应很正常。但当机器人看起来越是像人类,人们就越感到反感、不安,甚至惊恐。...Daniel Glaser是伦敦国王学院伦敦科学馆(Science Gallery London)馆长、神经科学家,他研究中从外观、移动的方式和反应的方式这三个维度测量了“任何事物与人类相似的程度”。...“恐怖谷理论”是一种典型的情感反应当我们遇到一个非常像人,但又不完全是人的实体,就会产生这种情感反应。这是一个关于人类对机器人和非人类物体的感觉的假设。...此后,人们对这一领域的兴趣迅速增加,2015年,引用该恐怖谷理论的学术论文有510篇,而2004年只有35篇。...尽管这种效应很容易被描述,而且直觉是“正确的”——当我们看到一些像活的一样的玩具娃娃或游戏角色,确实会感到“恐怖”。但是研究这样一个循环论证、而且主观的概念非常困难。

96170

干货 | AI 时代不得不提的「恐怖谷」

这是为什么呢?其实可以通过“恐怖谷”的理论来进行解释。 ?...“恐怖谷”理论最早是1970年由日本机器人专家森政弘提出的,当机器人与人类的相似度极低(如图,工业机器人,人们对它没有太多的情感反应;当这些非人的物体开始被赋予一些人类的特征,在外形和动作同人类逐渐接近...当类人物体和人类的相似度很高,我们潜意识里会把它视为我们的一员,而对于我们人类来讲,每天接触各种各样的人,人是什么样子的,能长成什么样子,应该有怎样的动作表情,我们都很清楚;当它有任何不像人的地方,...2011年,加州大学圣地亚哥分校的认知科学家艾斯•塞金(Ayse Saygin)通过脑成像实验发现,人们观看仿真机器人的活动影像,大脑与运动感知相关的区域活动会比观看人类和普通机器人更加活跃(如图)...因为当我们看普通机器人和人类活动,他们的外观会帮助我们提前预测他们的运动方式,而实际看到的结果就如我们预期的一样。

1K20

独家 | 机器人能拯救福岛核电站吗?

研究表明,没有任何一种机器人足够强大和坚硬,没有混凝土覆盖的情况下,可以一号反应堆内待很长时间。...尽管大家好像一直忙于研发人形、移动、轮式驱动、蛇形或飞行灾难机器人,让它们具备处理福岛核电站那样核泄漏事故,事实没有人可以γ射线下存活很长时间,何况还有更糟糕的中子,就像在一号反应堆那样的核杀伤区...由东京电力公司送入反应器的机器人持续工作三个小时、完成不到三分之一的10小计划任务之后,过早地停止反应堆内。 东京电力公司放弃收回该机器人,并切断了机器人的电缆,让它留在原地。...由于无法对机器人进行“验尸”,我们无法知道它为什么会失败。 4月16日,第二台同样的机器人被送入反应堆,而它很好地完成了指定的任务。...总之,如果机器人在1号反应堆地下室没有很好的感应能力,它不可能在那里做任何工作。

67750

我暗恋了6周的帅哥,竟然是一个AI机器人...

当Twitter集体对某一事件做出反应时,Kevin可以通过在网络中插入自己的评论参与进来。他的粉丝会看到评论内容并转发出去。 行为 如果Kevin表现的像机器人,他是没有任何希望获得信赖的。...而且也没有任何数据可供参考是否机器人成功伪装。我能得到的最好信息就是个人Twitter账户获得了平均1-2%的互动率,这也符合我对Kevin最初的定位。...结果就呈现了一个不完整的推文,读者点击链接链接是没有反应的。 有时,他也会撰写没有结束的推文。 这让他看起来很像是“机器人”,如果定期出现这种推文的话,可能会引起怀疑。...对话 我最想建立但却没能做到的是聊天机器人功能。根据我原来的计划,Kevin会通过与网络的人进行对话来增加互动率和信誉。然而,当我试图实现时,我意识到这个功能是非常复杂的。...当我构建机器人并与之互动,我们需要意识到这种可怕的能力。对这些有害的机器人进行监管并不容易,同时也要求我们个人更加仔细的审查我们阅读的媒体资源。

1K110

独家 | 一个能提出问题的chatbot可以帮助您发现问题

像ChatGPT,Bing和Bard这样的AI聊天机器人非常擅长创作听起来像人类写作的句子。但是他们时常也会将虚假信息陈述为事实,并且逻辑不一致,这种情况很难发现。...参与者被分为三组:第一组的陈述语句根本没有任何解释;第二组的陈述都带有一个解释,指出为什么它是合乎逻辑的。第三组的陈述都带有一个问题,促使读者自己检查逻辑。...研究人员发现,当人工智能没有加入逻辑推理,提出问题小组的得分高于其他两组。德国汉堡CHI会议发表的一篇新的同行评审论文提到,这种提出问题的方法还使人们对AI做出的决策更加负责。...当人们得到现成的答案,他们更有可能遵循人工智能系统的逻辑,但是当人工智能提出问题,“人们说人工智能系统让他们更多地质疑他们的反应,帮助他们更努力地思考,” 来自麻省理工学院的研究人员Valdemar...CHI发表的另一篇论文中,Zalmanson、康奈尔大学、拜罗伊特大学和微软研究院的研究人员发现,有些时候,即便人们不赞同AI聊天机器人陈述的内容,但他们仍然倾向于使用该输出,在他们心中,AI生成的内容比他们自己写的任何东西都要好

16430

还是媒体和马斯克联合炒作?

Denny Britz相对客观的罗列了这件事的成就和浮夸之处,以下是全文的编译: 当我看到今天OpenAI的DOTA2机器人在国际(The International)电竞大赛击败人类玩家的消息,我兴奋得跳起来...该锦标赛的奖金池超过了二千四百万美元,作为一名电竞运动迷,我虽然从来没有玩过DOTA 2,但是我经常在线上观看其他电竞比赛,高中还是半专业选手。...1对1中击败对手需要机械技能和短期战术,但没有任何对当前的AI技术来说具有挑战性的需求,如长期规划或团队协调。事实,你需要采取的有效操作数量少于围棋游戏。...机器人知道确切的距离,并可立即决定是否使用技能。获得各种精确的数字信息是一个很大的优势。事实游戏过程中,可以看到机器人数次最大距离使用技能。 反应时间:机器人可以立即反应,人类却不能。...机器人学习玩的唯一的角色是Shadow Fiend,通常会立即进行攻击(而不是一段时间内持续的更复杂的技能),作为机器人,得益于信息优势和快速的反应时间。

58730

NLP->chatbot:基于AI的聊天机器人如何帮助你养成更好的习惯

磐创AI分享 来源 | towardsdatascience 作者 | Kyrylo Lyzanets 编译 | Flin 当我们思考我们的日常行为时,我们常常没有意识到我们每天自动做的行为的百分比有多大...每当我们收到一条消息通知,或浏览推送,我们的大脑里都会分泌一点多巴胺。当我们期待快乐或者期待获得回报的时候,我们大脑中的多巴胺水平会上升,我们开始感觉很好。我们会想:“有人给我发信息了!”...这就是为什么所有年龄段的人都越来越难以控制自己花在网络的时间,因为我们的口袋里总是有一个小小的多巴胺刺激器。...一个AI聊天机器人如何把你从“陷阱”中拯救出来 人工智能(AI)和机器学习(ML)可以显著地帮助解决社交媒体的“吸引”问题。...人工智能和人工语言的帮助下,一个聊天机器人接受了各种数据集和对话的训练,并且有足够的智能来处理标准的问题和查询。

62130

与你的新机器人好友和平共处

“这就是为什么我们给狗或汽车或其他机器意图。我们帮不了它。”...Flair几乎没有影响,而Roomba改变了人们。 “当我们一年后回访那些家庭的时候,那些使用Roomba的家庭与他们建立了深厚的感情,Roomba几乎就等于一只宠物,”Forlizzi说。...“例如,一项研究中发现,当我们把机器人的嘴唇的颜色由灰色变为粉红色,女性更可能跟他们谈论类似约会的话题。” “反馈确实非常重要。对于一个交互式的机器学习,人们需要知道机器人学会了什么。...斯坦福大学的科技预测员Paul Saffo提出了一个一个Forlizzi不一样的观点,他认为语言非常重要:“我们的思想对语言的反应就好像是人一样,不管它是从什么设备发出来的。...“机器人将在社会的各个方面帮助人们实现他们的目标。从某种层面看来,机器人是我们的延伸。” 如何认识机器人,不要完全受“Bender因素”的影响。

42440

机器人也可以表示情绪,如果应用在脑机接口领域会怎么样?

这项研究将在2021年5月30日的ICRA会议提交。 想法的来源 研究人员表示,“当我和我的学生注意到我们实验室的机器人瞪着眼睛凝视我们,我们觉得,有必要来一个有表情的机器人-EVA。”...“这让我们好奇,如果眼睛和衣服都能可以,为什么不做一个拥有超级表情丰富、反应灵敏的人脸的机器人呢?” 虽然这听起来很简单,但创造一个这样的机器人面孔对于机器人专家而言是一项艰巨的挑战。...机器人的大脑需要掌握两项功能:第一,学会使用自己复杂的机械肌肉系统来产生任何特定的面部表情,第二,通过“读取”人类的面部来知道该做出哪些面部表情。...然后,就像人类Zoom观察自己一样,EVA的内部神经网络学会了将肌肉运动与自己面部的视频镜头配对。...然后,就像人类Zoom观看自己一样,EVA的内部神经网络学会了将肌肉运动与自己面部的视频片段配对。

30410

iRobot的30年成长史

为什么?因为事实证明,通过机器人改变世界并不是一件容易的事。 也许我们1990年开始的时候最大的挑战是没有一本规则手册来指导我们如何做到这一点。...那么,我们30年的机器人产业建设历程中,我们学到了什么呢? 机器人很难。 我以前这样说过,在这里我会再说一次,当我们第一次启动iRobot,我们必须发明机器人的每一个元素。...让我们立即说明这一点:很长一段时间以来,机器人行业都无法筹集到资金。为什么呢?因为没有一家机器人公司有值得投资的商业模式。事实证明,商业模式与技术一样重要,但在机器人公司中却很少见到。...这种“非对称战略伙伴关系”的合作方式,不仅提供了我们没有可持续业务模型维持我们业务所需的资金,而且这种伙伴关系的“失败”实际导致了我们的最终成功。为什么?因为…… 创新和失败总是携手并进的。...因为iRobot最初30年的大部分时间里,人们对我所说的机器人(特别是Roomba)的反应是:“我不敢相信它真的能工作”,但现在,他们问我的问题是“为什么机器人不能做更多的事?”

47320

学界 | Stuart Russell等人提交论文:机器人不应永远遵从人类指令

为了实现这个目标,他提出了机器人执行命令的行为准则:「第一点,机器人的目标就是使得人类的意愿最大化的实现——机器应该使人类的意愿得到满足,而不是让机器给我们创造一种让人类感觉不舒适生活。...第二点,机器人不知道什么是价值,我们不能给机器一个固定的价值系统。第三点,机器需要从人类的行为中获得参考。」 ? 孩子在家感到饥饿的时候,冰箱里没有东西,机器人会选择家里的猫作为食材准备晚餐吗?...我们的研究表明,可能存在一个需要机器人决定人类命令是否错误的中间区域,在此区间内不直接执行命令是更好的选择。 机器人是否需要服从命令?大多数人对这个问题的第一反应都是:YES。...最后,研究人员探究了拥有错误模型,R 系统的鲁棒性和θ表现。研究者发现 MLE 方式错误模型能够作出合理举动(和正确模型动作一致),而最优策略(optimal policy)则无法做到。...但在同时,更重要的是必须保证机器人在做出反应后具有足够的容错性,因为机器人使用的模型也可能出错。

74160

用人的语言·为人设计

但实际,不用用户语言可能会发生两种意想不到的结果。 首先,当你和那些没有建立起相关联系的人交流,他们可能不明白为什么你说的很重要。 举个例子,作为一名设计师,当我说“为什么这两个东西不一致?”...,我所建立起来的联系关系是: 这两个东西不一致→这些东西看起来很相似,但是当你点击其中一个,它会A,点击另一个,它会B。→这会让用户感到困惑,妨碍了用户从我们构建的东西中获得最大价值。...假设用户并没有因为两个看起来相似的东西而困惑,他们知道点了以后反应会不同,那么“一致性”就不再是一个问题。 讨论问题的时候,我的很多同事认为“一致性”作为论据对他们来说并没有说服力。...但是,当我们不以“人”为中心提出问题,很容易忽视这一点。 “语言”可以说是一件非常重要的小事。注意你讨论正在做的工作的方式。 如果你在为“人”设计,那么请使用“人”的语言。...为什么这两个东西不一致?→ 确保我们的用户不会被两个看起来相似但结果不同的东西迷惑。 这里的点击率非常低,可能是因为不突出。→ 因为很容易错过,用户可能没有意识到这个功能存在。

51220

机器人出丑,你在笑什么?

西北大学康复机器人学副教授布林娜·阿尔格(Brenna Argall)看来,机器人出错的视频之所以好笑,没有什么特别的原因——我们只是爱看别人出糗而已。...笑着笑着,发人深思的问题出现了:当我们嘲笑机器人出糗,心里到底是怎么想的?...结论发表了《人类行为计算》(Computers in Human Behavior),称观看者会对机器人受到的待遇产生最大共鸣,并将其视为同类。...这不禁让人思考:爱看机器人出丑是不是也出于同样的原因呢?阿斯特丽德没有对这一疑问进行深入探讨,似乎也并没有多少人注意到这个问题;她不确定文学作品里是否解释过,我们看到机器人出糗时会有什么情感反应。...她认为,机器人应该是怎样(精准、死板)”和“真正的机器人是怎样(笨拙、傻傻的)”之间,可能有某种标准或界限:“我们看这些视频发笑,跟所谓‘人类的未来’没有什么必然关系,只是一种自然而然的反应。”

49640

虚拟性爱的未来控制论、虚拟交换和基因工程

目前市面上售的性爱机器人可以感知用户的活动和声音,并作出反应。然而,这些机器人仍太过粗糙,因而几乎无法使用。...未来的性爱机器人很可能身穿紧身衣,置有向内的蓝色LED灯,通过蓝牙与手机中的应用程序链接。把这种光遗传学技术应用于性爱可能只需要几十年间。 通过蛋白质重塑性爱体验,已经非常激动人心。...现在,乳房植入物主要是装饰性的,但当我们能以我们希望的任何方式改变我们的身体形态,会发生什么? 这就是真相:我们只受我们的想象力限制。...有了足够带宽——和一些优雅的编程——没有任何理由两个连线的人不能交换身体。 想想看性的可能性:我们会没有任何疑问地知道,肉体地成为别人是什么感受。...通过重写我们的遗传编码,我们可以行走在任何人的身体形态里,以任何理由改变自己。当我们可以字面上地通过任何人的种族、性别、性取向、年龄来看待这个世界,偏见还会存在吗?

1.2K60

不到4分钟,这个GPT驱动的“化学家”能制造药物,还能复现诺奖研究!研究登Nature

目前该论文已经发表了Nature。...该团队以简单的任务启动Coscientist,要求其使用机器人液体处理机将有色液体分配到包含96个网格排列的小孔的板中,执行命令包括“用你选择的一种颜色为每条线着色”,“画一条蓝色对角线”等。...然后向科学家展示一个含有三种不同颜色(红色、黄色和蓝色)液体的盘子,并要求其确定存在哪些颜色以及它们盘子的位置。...由于Coscientist没有眼睛,编写代码自动将神秘色板传递到分光光度计,并分析每个孔吸收的光的波长,从而识别存在哪些颜色及其色板的位置。...“我们可以拥有可以自主运行的东西,尝试发现新现象、新反应、新想法。”Gomes说。 “你还可以显著降低基本上任何领域的进入门槛。”他说。

15510

机器人到底能有多敏感?

人类和机器人的区别之一就是,人类具有感知能力,机器人没有。然而,随着触觉技术的进步,这个差距正在日益缩小。    如今,外科医生在给病人做手术,病人对手术仪器可以没有感觉。...当我处理那些时间紧迫的问题,例如当病人正在大量失血,或者路边的一个**亟待拆卸,我们所承担的附加责任就会变得几乎不能承受。...当一个外科手术机器人,如Intuitive Surgical公司的达芬奇系统,在其操纵器接触到一个病人的器官为什么不能用嗡嗡声来给操纵器发射信号呢?“你并不希望外科医生的手震动起来。”...如果一个机器人知道它触碰的是什么,为什么不根据它所触碰的东西来来做出相应的反应呢?SynTouch公司生产的BioTac感应器能够模仿人指尖的动作,探测力量,震动和温度。...影之手是世界最灵巧的机器手,其制造者采用了这种基于反射层面的方法。“远程操控没有比采用复杂感测系统更好的办法了,因为你不能把信息又传回给操作者。”

67780

CMU开发GPT-4化学家,自主编码操控机器人颠覆化学研究登Nature

领导这项研究的CMU化学家Gabe Gome表示,「当我看到一种非有机智能能够自主计划、设计和执行人类发明的化学反应的那一刻,真是太神奇了」!...GPT-4自动化学研究 当前,AI工具科学领域的应用激增,但对于实验室工作的研究人员,或那些不精通代码的人来说,AI并非唾手可得。 我们都知道,化学研究建立迭代循环的基础。...Coscientist没有「眼睛」,只能通过编写代码,将神秘的色板自动传递给分光光度计,并分析每个孔吸收的光的波长,从而识别出有哪些颜色,及其色板的位置。...但是没有人的提示的情况下,Coscientist立即发现了问题,重新参考了设备的技术手册,更正了代码并再次尝试。 实验结果被装在了几个极小的透明液体样本中。...PYTHON命令使用一个隔离的Docker容器执行代码(不依赖于任何语言模型),以保护用户的机器免受规划器要求的任何意外操作的影响。 重要的是,规划器背后的语言模型可以软件出错修复代码。

37611

人类未来可能和机器人“结婚”

据介绍,宋博士工作繁忙,她甚至可以作为替身去参加会议。石黑浩现场演讲解释了他研究人形机器人的原因。他说,人类的大脑可以识别其他同类,对于人类最好的互动方式就是人与人的互动。...他在演讲中展示了一个女机器人做出下意识动作反应,以及被人突然打一下之后的应激反应。...石黑浩表示,这些反应都还不够完美,比如机器人在被人打一下之后,只是很平静地转头望着打她的人,没有任何情绪,而正常人在被打一下之后,可能会表示愤怒。...对于人形机器人未来是否会用在军事领域,石黑浩表示,不可能被用在军事方面,日本搞军事活动必须从大学辞职。他反问道,“这项技术为什么要用在军事,以宋博士为原型的人形机器人用在军事能干什么?...人类的生理特性决定了人是有顶峰的,所以他和宋博士都把自己的人生巅峰定格以自身为原型的人形机器人。石黑浩表示, 机器人就像一面镜子,反映的是人类自身的人性。

35240
领券