工程伦理与人工智能

学习传播创新与心理成长知识，请关注微信公众号：创新与心理成长

当人工智能无限接近人，它的伦理问题成了技术行业、监管机构和大众最为关注的问题。

当前对人工智能商业价值的极度崇拜与对伦理崩塌的深度隐忧，构成人工智能被谈及时的两种不同论调：一方面，商业角度不断描绘人工智能将带来的便利美好，另一方面影视作品则不断提醒人们人工智能的潜在危险。

上海市中国工程院院士咨询与学术活动中心举办“人工智能时代的伦理道德建设”院士沙龙。与会专家提到，促进人工智能壮大，必须尽早将人工智能伦理研究提上日程。

“伦理困境”阻碍人工智能研发

据腾讯研究院院长司晓介绍，全球人工智能创业企业已达2000多家，仅腾讯公司就有四大实验室正在开展人工智能相关研究。事实上，有些人工智能商业场景迟迟不能落地，不是被技术“绊”住了，而是伦理研究“拖了后腿”。司晓举例说，美国2016年的统计表明，自动驾驶的安全性已经明显高于人工驾驶，但自动驾驶中有一个著名的伦理困境，即当它无可避免要撞人时，是撞向人多的一边还是人少的一边。

事实上：伦理与科学本来就应是统一整体“必须打破的一个成见是，伦理监管是给科技发展画‘墙’。但其实，人工智能研究和人工智能伦理两者的关系应该从更全面的角度来看，认为它们是一体的，应该有一个包含了这两者的‘新城’。”张峥说。

无论是工业机器人、家政机器人还是航天机器人，都在自主性、意向性、情感性等“人格”要素上越来越形神兼备。人工智能可以说正在脱离工具的范畴。“越强大的人工智能，它的‘存在感’就越低，甚至完全融入我们的生活。面这种情况，我们就无法‘拔电线’。

人工智能伦理问题已经引起世界关注，2016年英国标准组织发布机器人伦理标准 《伦理设计与应用机器人》、微软提出人工智能六大原则，都在一定程度上促进人工智能发展。我国《新一代人工智能发展规划》中，“人工智能伦理”这一字眼出现了十五次之多，表明制定人工智能伦理规范已迫在眉睫。

人工智能需要怎样的伦理规范？，既需要数学、统计学、计算机科学、神经科学等的贡献，也需要哲学、心理学、认知科学、法学、社会学等学科的参与。

为了促进人工智能理论研究，荷兰建立了人工智能价值设计联合实验中心，集合工程技术人员、哲学家、法学家、伦理学家的力量，把社会主流价值转化为计算机语言并将其嵌入人工智能之中。需要强调的是：人工智能伦理不是固化的，它应该是开放的、可以修正的体系。