七十多年了,机器人三定律是不是该改改了?

在纽约时报的一篇评论文章中,在去年的TED演讲中,作家、Allen人工智能研究所CEO Oren Etzioni博士建议应该对阿西莫夫的机器人三定律进行更新。鉴于Elon Musk(和其他人)的警告引起广泛的媒体关注,这些更新可能值得业界思考。 关于人工智能的警告 上个月,马斯克等来自26个国家的人工智能专家共同致信联合国,要求禁止开发和使用自主武器。除了马斯克之后,签署公开信的还包括DeepMind联合创始人Mustaga Suleyman以及其他100多位机器人及人工智能公司的高管。他们写道,人工智能技术已经足够发达,未来数年内自主武器就可能出现在战场上,国防工业的诸多专业人士表示,在继火药和核武器之后,自主武器将引发第三次战争革命。

美国之音最近播出了另一个更大的政治警告:俄罗斯总统普京在对一群俄罗斯学生演讲时,称“人工智能不仅是俄罗斯的未来,也是整个人类的未来,谁成为这个领域的领导者,他也将成为世界的统治者。机遇和威胁巨大,但现在难以预测。” 阿西莫夫的机器人三定律 1942年,阿西莫夫在短篇小说“Runaround(环舞)” 中提出了机器人三定律:机器人不得伤害人类,或因不作为使人类受到伤害;除非违背第一定律,机器人必须服从人类的命令;除非违背第一及第二定律,机器人必须保护自己。 后来,阿西莫夫加入了一条新定律:第零定律,机器人不得伤害人类整体,或因不作为使人类整体受到伤害。 Etzioni的更新规则

在《纽约时报》的评论文章中,Etzioni提出了对阿西莫夫机器人三定律的修改建议: 人工智能系统必须遵守适用于其操作人员的所有法律条文; 人工智能系统必须明确表示它不是人类; 未经信息来源明确许可,人工智能系统不能保留或披露机密信息。 Etzioni提供的这些更新开始了一场讨论,并引起联合国发布了一本非科幻的机器人手册,比2058年的科幻时代更早。这是一个可以规范而不是阻挠已经在发展的全球AI业务。 而且是不断成长! 中国的人工智能战略规划 中国最近发布了关于人工智能的长期发展目标《新一代人工智能发展规划》。根据规划,到2020年人工智能产业的规模将到达220亿美元,2025年达到590亿美元,2030年达到1500亿美元。到2020年,人工智能总体技术和应用与世界先进水平同步,人工智能产业成为新的重要经济增长点,人工智能技术应用成为改善民生的新途径;到2025年,人工智能基础理论实现重大突破,部分技术与应用达到世界领先水平,人工智能成为我国产业升级和经济转型的主要动力,智能社会建设取得积极进展;到2030年,人工智能理论、技术与应用总体达到世界领先水平,成为世界主要人工智能创新中心。中国也为机器人产业做了类似的长期战略发展规划,把它当成是国家战略产业,意在实现从中国制造到中国智造的转型。

随着这一重大长期战略规划的推进,中国希望加快培育壮大人工智能等新兴产业,与谷歌、苹果、亚马逊、IBM以及微软等巨头同台竞争。中国不希望在任何一个重要技术领域里落后,从电子商务到无人驾驶汽车到能源以及消费类产品。中国意在通过解决高端电脑芯片缺失、软件编写软件以及培训人员等问题赶超世界先进水平。 为时尚早?是时候了 AI和机器人产业的许多人都认为,AI目前的发展状况,包括机器学习和深度学习方法的改进,是原始的,几十年远离独立思考。Siri和Alexa尽管很有趣,很有能力,但仍然由人类编程,甚至无法发起谈话或真正理解谈话的内容。然而,人们有理由表示,当人工智能决定什么是最适合我们的时候,人们会意识到未来可能会有什么可能的。因此,全球监管不会受到伤害。 作者:Frank Tobe

来源:robohub

原文发布于微信公众号 - 机器人网(robot_globalsources)

原文发表时间:2017-09-13

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏机器之心

业界 | 英特尔生态系统加速机器人创业,兼顾算法与场景成趋势

机器之心原创 作者:项文虎 英特尔会提供端到端的计算、端到端的平台,有了这个平台和技术,创业公司可以获得更广泛资源和更快的提升。从生态来说,每一个创业公司可以找...

356120
来自专栏新智元

【深度】三国争霸,两家称帝:BAT全球进击,百度能否凭AI逆袭?

【新智元导读】《经济学人》4月20日发表了一篇题为《三国争霸,两家称帝:中国互联网巨头走向全球》的文章,具体分析了 BAT 三家互联网巨头在国际和国内当下的发展...

34560
来自专栏人称T客

SaaS销烟再起 看销售易如何评说纷享销客、和创等友商们?

作者:T客汇 人称T客 关键词:销售易,企业服务,SaaS 网址:www.tikehui.com 对于任何一家公司在公开场合评价自已的对手和友商都是隐晦的。第...

38640
来自专栏数据猿

大数据24小时 | 脉脉将征信系统引入职场社交;内蒙古500亿元投资发力大数据

数据猿导读 数据管理解决方案提供商Informatica发布五款云服务产品;基于大数据技术的房屋增值服务平台“舍艺”获3000万元融资;键桥通讯拟9.45亿元收...

1.5K70
来自专栏人称T客

为什么瞧不起SAP 甲骨文是如何布局SaaS?

甲骨文副总裁及中国区管理软件业务总经理潘杰君告诉中国记者:甲骨文中国目前将销售卖SaaS软件的提成设到最高,鼓励全公司销售向客户售卖SaaS软件。 甲骨文的财...

36090
来自专栏大数据

品牌洞察:伞 大数据看天堂伞如何成为业界标杆?

天堂伞产品质量和技术工艺在全国制伞行业中处于领先地位,在国内外市场享有很高的声誉。大数据看天堂伞如何成为业界标杆?决策狗为您解析其中原因。 ? 1 天堂伞细分领...

23880
来自专栏数据猿

张涵诚:贵阳模式值得参考,政府发展大数据需要方法论

大数据是提升政府管理能力的有效技术路径,驱动智慧政府转型的关键力量,这已是各地政府的广泛共识,但能真正将大数据应用落地到政府日常工作管理中的目前为数不多 作者 ...

370100
来自专栏智慧教育

汤道生首次解读腾讯教育版图 做好产业智慧化升级“数字助手”

11月13日,在芥末堆主办的GET2018教育科技大会上,腾讯高级执行副总裁汤道生发表《科技助力教育 学习成就未来》的主题演讲,他表示,腾讯希望做好教育产业智慧...

26420
来自专栏数据猿

大数据24小时 | GrowingIO再获2000万美元A轮融资,易会推出数字营销产品“营销云3.0”

佳讯飞鸿布局物联大数据,拟1.3亿元收购六捷科技30%股权;商业数据分析公司GrowingIO完成新一轮2000万美元A轮融资;易会推出“营销云3.0”,重新定...

48880
来自专栏新智元

特斯拉要用 26 亿美元股权奖励留住马斯克,咨询公司质疑太贵

---- 新智元推荐 来源:澎湃新闻 作者:承天蒙 【新智元导读】据澎湃新闻报道,特斯拉(Tesla)想给予 CEO 伊隆 · 马斯克(Elon Mu...

30860

扫码关注云+社区

领取腾讯云代金券