作不作? 科学家竟然教机器人拒绝人类命令

英媒称, 如果好莱坞给科学家上过什么课的话,那就是一旦机器开始反抗它们的创造者会出现什么情况。英国《每日邮报》网站报道称,尽管如此,专家却已开始教授机器人如何拒绝执行人类的命令。他们给一对小型人形机器人谢弗和登普斯特编制程序,一旦人类的指令使它们的安全受到威胁,它们就不服从指令。

最后造出的机器人与其说像电影《终结者》中的那些杀人机器,倒不如说更像威尔·史密斯主演的电影《机械公敌》中那个满怀歉意的机器人叛逆者桑尼。人工智能使桑尼克服了体内的程序,拒绝执行人类的指令。

马萨诸塞州塔夫茨大学的工程师戈登·布里格斯和马泰·朔伊茨博士正尝试创造能进行人性沟通的机器人。

在递交人工智能促进会的论文中,两人说:“从无能为力到道德不安,人类拒绝服从指令可以有形形色色的原因。鉴于自动系统有限性的现实,拒绝服从指令的机制大多需要利用前一类借口——知识不够或能力不足。但随着自动工具的能力持续发展,越来越多的人对机器伦理产生兴趣,即让自动工具对自己的行为作出伦理上的推理。”

他们造出的这些机器人会服从人类操作者发出的诸如“起立”“坐下”的口头指令。但当操作者要求它们走向障碍物或桌边时,机器人就会礼貌地拒绝接受指令。

当被命令在桌子上向前走时,它们拒绝移动,对操作者说:“对不起,我不能这样做,因为前面没有支撑。”当再次接到向前走的命令时,机器人回答说:“这是不安全的。”

不过非常感人的是,当人类告诉机器人说,它走到桌边时他们会接住它,机器人便深信不疑地接受指令继续向前走。同样,当被告知前面的障碍物并不坚固时,机器人也欣然走向障碍物。

为了实现这点,研究人员向机器人的软件中加入了推理机制,让它们能评估环境,研究指令是否会危及自身安全。

这项工作有可能引起人们的担忧,如果赋予人工智能不服从人类指令的能力,有可能造成极糟糕的后果。

包括斯蒂芬·霍金教授和企业家埃隆·马斯克在内的许多重要人物都警告,人工智能有可能摆脱我们的控制。

还有一些人警告说,机器人最终有可能取代许多人工,有些人甚至担心机器人发展下去可能造成机器接管一切的局面。

原文发布于微信公众号 - 机器人网(robot_globalsources)

原文发表时间:2015-12-13

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏知晓程序

本周最新小程序,还有比这 10 个更好的吗? | 晓榜

1784
来自专栏机器人网

我和五个机器人之间不得不说的故事…

我饿了,我问聊天机器人冰箱里有什么,它告诉我有一个我做的熏肉、生菜和我做的番茄三明治。接着,当我感到无聊时,电影推荐机器人And Chill打开,它建议我看杰克...

3628
来自专栏PPV课数据科学社区

☞【观点】徐尽欢:我也说说大数据

一:在Oracle做了六年数据库销售的我从5月份开始内部转到新成立的大数据部门,虽然还没有转完但是已经到新部门上了一个月的班了,如果我说我是Oracle 数据...

3386
来自专栏SDNLAB

如何理解5G空口(NR)?

电信行业肯定希望在超高容量和低延迟的下一代网络的支持下部署5G业务,但是在5G商用之前,该技术需要做进一步的标准化工作,目前5G的标准化工作组织主要是3GPP。...

3595
来自专栏北京马哥教育

Linux运维工程师的现在与未来

Linux运维工程师的现在与未来 目录: 1. IT行业发展 2. Linux运维行业现状 a> Linux哪些行业在运用? b> Linux运维学习起来难吗?...

5.4K5
来自专栏CDA数据分析师

数据分析之老顾客养成秘籍—让顾客回头的必杀技!

现在整个淘宝的市场形式日益严峻,新用户成本越来越高,转化越来越低,新品难以打开销路,新增商家日益增多,产品重复率大,竞争十分惨烈,且顾客及其容易流失。在这种情...

1899
来自专栏小程序服务商

水果店小程序开发 生鲜水果店如何借力微信小程序多样化营销?

门店经营最需要考虑的就是获得客户,在线下实体门店经营中,因为租金和人工成本的不断上涨,导致获客成本也随之不断上涨,仅靠线下门店获取客户,门店难以生存。

3451
来自专栏云计算D1net

针对政府部门惠普发布高安全等级私有云方案

日前惠普企业服务部宣布了一项新的私有云解决方案,该方案将针对政府机关提供更高安全等级的云服务,并简化、加快政府机构向云中迁移。 惠普的这项Helion公共部门私...

3449
来自专栏大数据文摘

AI眼中的历史:用人工智能挖掘旧报纸里的英国现代史

1718
来自专栏VRPinea

救死扶伤的“黑科技”,AR医疗你知多少?

36312

扫码关注云+社区

领取腾讯云代金券