学习
实践
活动
工具
TVP
写文章

机器人是宠儿,还是怪物,三条守则给机器人社会赋以新的伦理性

20世纪初期,机器人已躁动于人类社会和经济的母胎之中,人们含有几分不安地期待着它的诞生。他们不知道即将问世的机器人将是个宠儿,还是个怪物。针对人类社会对即将问世机器人的不安,美国著名科学幻想小说家阿西莫夫于1950年在他的小说《我是机器人》中,首先使用了机器人学(Robotics)这个词来描述与机器人有关的科学,并提出了有名的“机器人三守则”:

1)机器人必须不危害人类,也不允许他眼看人将受害而袖手旁观。

2)机器人必须绝对服从于人类,除非这种服从有害于人类。

3)机器人必须保护自身不受伤害,除非为了保护人类或者是人类命令它做出牺牲。

这三条守则,给机器人社会赋以新的伦理性,并使机器人概念通俗化,更易于为人类社会所接受。至今,“机器人三守则”仍为机器人研究人员、设计制造厂家和用户,提供了十分有意义的指导方针。机器人不能伤害人类而应服务于人类,是定义机器人最重要的一个条件。这是给机器人赋予的伦理性纲领,机器人学术界一直将这三原则作为机器人开发的准则。

阿西莫夫“机器人三守则”实际上只是三条法则,是人为写进机器人的脑子里的,背后并没有任何物理支持。任何理解机器人如何运作的人都能造出不遵从三定律的机器人,这还不算机器人自己故障的可能性;事实上阿西莫夫自己就写过至少3个不遵循定律的例子。

不论是工业机器人还是特种机器人(尤其是服务机器人),都存在一个与人相处的问题,最重要的是不能伤害人。然而由于某些机器人设计的不够完善,在机器人使用的前期,引发了一系列意想不到的事故。

1978年9月6日,日本广岛一家工厂的切割机器人在切钢板时,突然发生异常,将一名值班工人当作钢板切割,这是世界上第一宗机器人杀人事件。

1982年5月,日本山梨县阀门加工厂的一个工人,正在调整停工状态的螺纹加工机器人时,机器人突然启动,抱住工人旋转起来,造成了悲剧。

1985年前苏联发生了一起家喻户晓的智能机器人棋手杀人事件,前全苏国际象棋冠军古德柯夫同机器人棋手下棋连胜3局,机器人棋手恼羞成怒,突然向金属棋盘释放强大的电流,在众目睽睽之下将这位国际大师击倒。

这些触目惊心的事实,给人们使用机器人带来了心理障碍,于是有人展开了“机器人是福是祸”的讨论。面对机器人带来的威 胁,日本邮政和电信部门组织了一个研究小组,对此进行研究。专家认为,机器人发生事故的原因不外乎3种:硬件系统故障;软件系统故障;电磁波干扰。

这种意外伤人事件是偶然也是必然的,因为任何一个新生事物的出现总有其不完善的一面。随着机器人技术的不断发展与进步,这种意外伤人事件越来越少,近几年没有再听说过类似事件的发生。正是由于机器人安全、可靠地完成了人类交给的各项任务,使人们使用机器人的热情才越来越高。

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20191213A02VNT00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码关注腾讯云开发者

领取腾讯云代金券