首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

解读日本《以人类为中心的人工智能社会原则》

引言

在人工智能(AI)研究和应用中应遵循怎样的伦理和原则,目前尚未形成国际规则。日本在《第五期科学技术基本计划》中提出“Society 5.0”发展目标后,围绕AI社会的伦理、法律等规则等一直开展积极探讨。2018年12月27日,内阁府发布《以人类为中心的AI社会原则》(以下简称《原则》),从宏观和伦理角度阐明了日本政府的态度。

作者简介:

李慧敏,中国科学院科技战略咨询研究院助理研究员。

由于日本正面临少子高龄化、劳动力不足、地方稀疏化、财政支出负担等社会经济问题,日本政府对AI的发展和应用寄予厚望。其对AI内涵的界定也不局限于技术层面的人工智能,而是泛指“高度复杂的智能社会体系”。《原则》肯定AI的重要作用,同时强调重视其负面影响,如社会不平等、等级差距扩大、社会排斥等问题,提出在推进AI技术研发时,综合考虑其对人类、社会系统、产业构造、创新系统、政府等带来的影响,构建能够使AI有效且安全应用的“AI-Ready社会”。

1

AI社会的基本理念

对AI的利用不能仅仅停留在实现效率、便利等现实利益层面,AI作为人类的公共财富,要通过推动社会方式的根本变革和真正创新,实现全球可持续发展目标。AI社会需要体现以下三个基本理念:

(1)尊严(Dignity):AI社会是尊重人类尊严的社会。应将AI作为人类的工具之一,使人类能进一步发挥自身能力和创造性,通过从事具有意义的工作得到物质上、精神上的富足。

(2)多元包容(Diversity & Inclusion):使用AI技术,不只为实现提升便利、解放劳动等传统效率目标,要能够使具有多元背景和价值观、想法的每个人都能获得幸福,对多元化采取灵活、包容的姿态,推动新价值创造。

(3)可持续(Sustainability):通过灵活使用AI,强化科学技术储备,催生新的商业模式和解决方案,实现科技创新立国,减少社会差距、缓解全球环境问题等,推动可持续社会的构筑。

2

“AI-Ready社会”的愿景

AI、物联网、机器人、超高速宽带通信网等都是实现“Society 5.0”的重要技术。AI-Ready社会是实现“Society 5.0”所必需的社会变革。“设定怎样的目的去使用AI”是人类必须考虑的问题。《原则》分别从人类、社会系统、产业构造、创新系统、政府监管五个维度勾勒了“AI-Ready社会”的愿景。

第一,人类。AI-Ready社会对人类能力提出要求:(1)有能力理解AI的优缺点。数据、算法也会存在偏误(Bias),也会被用于不合理目的;(2)能够使人们从事具有较高创造性、生产性的劳动。通过AI的帮助能够使人们基于出身、文化、兴趣等,获得实现梦想和发挥创意的能力;(3)具有数据、AI基础知识和实施、设计等应用能力,跨领域、综合性、融合性的大量人才。

第二,社会系统。AI的使用能够推动个性化服务、解决方案的升级和效率化。需要医疗、金融、保险、交通、能源等在内的社会系统整体的灵活调整。为了保障社会系统整体的互联、协作,尤其需要建立各类社会系统间互联共通的数据应用基础支撑平台。

第三,产业构造。需要灵活地构筑国际化的劳动、雇佣和创业环境。需要企业实施公平竞争、采取灵活的工作方式,使人类的创造力通过产业能够得以持续发挥,拉动创新创业投资。

第四,创新系统。大学、科研机构、企业以及民众都可以跨越领域和立场,参与到AI研发、利用及评估中。通过AI应用进一步产生新的创意,催生更多的可能性,进一步扩大创新的范围。

第五,政府监管。产学官民利益相关方共同参与规则、制度、标准化、行为规范等方面的监管课题,兼顾弱势社会群体的意见,构建较为灵活且具实效性的监管方式。

3

“AI-Ready社会”的基本原则

第一,人类中心原则。AI的使用不得侵害宪法和国际规范保障的基本人权。AI应该用于提升拓展人的能力、使人类获得多元幸福。为了防止人类过度依赖AI、恶意使用AI操纵人类意思决定的行为,需要把握以下原则:(1)AI可以代替部分人力劳动,并作为辅助人类的高级工具,拓展人类能力和创造性;(2)人类自己可以判断和决定如何使用AI。对使用AI带来的后果和责任,根据问题性质在利益相关者之间妥当分配;(3)防止出现“信息弱者”和“技术弱者”群体。

第二,教育应用原则。平等地向所有人提供教育、培育应用的教育环境:(1)在幼儿教育、初等中等教育中提供广泛的教育机会,为社会人和老年人提供重新学习的机会;(2)建立提升AI、数理、数据科学素养的教育系统。重视应用教育,增加有助于认识数据偏误及使用方法偏误的教育内容;(3)转变单方向、均一化的教育方式,灵活运用AI激发人类兴趣,构建防止出现弱势群体的交互式教育环境;(4)完善教育环境,发挥民企和市民的自主性。

第三,保护隐私原则。AI社会中,依据个人行动等数据可以高精度推断其政治立场、经济状况、兴趣爱好等。需要谨慎对待个人数据:(1)包括政府对个人数据的使用行为在内,均不得侵犯个人自由、尊严和平等;(2)确保个人数据使用行为的正确性、正当性,使本人能够实质性参与并从中获益;(3)对个人数据必须把握使用和保护之间的平衡。

第四,安全保障原则。把握利益与风险之间的平衡,提高社会安全性和可持续性:(1)正确评估及降低AI风险、推进AI深度研发和AI风险管理;(2)重视AI使用的可持续性,不依赖少数几个特定的AI。

第五,公平竞争原则。公平竞争环境有利于推动商业模式和服务创新,维持经济持续增长:(1)防止特定国家利用AI资源优势地位,不当收集数据、侵害主权等行为;(2)防止特定企业利用AI资源优势地位,不当收集数据、实施不公平竞争行为;(3)防止由于AI的使用,导致财富和社会影响力过于集中于部分利益相关者。

第六,公平、说明责任及透明原则。(1)在AI设计理念下,人不应因人种、性别、国籍、年龄、政治信念、宗教等被不当地差别对待;(2)根据情况对使用AI的事实、数据获取及使用的方式、确保AI正确运行的相关措施等予以说明;(3)根据需要设置沟通对话场所,使人能够理解和判断AI提案;(4)确保AI及数据的可信赖性。

第七,创新原则。(1)为实现持续创新,跨越国境、产学官民、人种、政治理念等界限,从人才、研究两方面推进国际化、多元化及产学官民合作;(2)推动高校科研院所与企业间的平等合作及人才流动;(3)提升AI品质评估方法、,推动AI开发、测试、运用方法论等AI工学的确立;(4)在确保个人隐私和安全前提下,打破数据壁垒,推动数据跨国境流动;(5)调整政府规制内容,推进AI技术的社会应用。

4

启示

AI与实体经济深度融合的同时,对贫富差距、环境问题等关乎人类可持续发展的重大课题都产生重要影响。《原则》在尊重人类尊严、实现AI可信赖性等方面与欧洲委员会2018年12月18日发布的《关于可信赖人工智能的伦理准则》具有一致之处。崇尚人人平等、不唯效率至上的人本发展观,符合日本对“Society 5.0”的概念界定和打造超级智能社会的发展目标。

同时,数字经济时代,日本致力于依托AI实现联合国可持续发展目标(SDGs,Sustainable Development Goals),主动提出要为国际社会经济的广泛合作和创造性发展做贡献,寻求树立有担当负责任的国际形象,彰显了其积极参与国际治理、增强国家话语权的决心。

中国作为2016年二十国集团(G20)主席国,首次将“数字经济”列为G20创新增长蓝图中的一项重要议题。2017年,国务院印发《新一代人工智能发展规划》,提出积极应对人工智能发展可能带来的社会、伦理和法律等挑战。

我们不仅要抓住人工智能发展机遇,还要积极应对人口老龄化、劳动力人口下降、技能型人才短缺等挑战,多维度对人工智能的开发应用及影响进行系统深入、客观冷静的专业研讨,在基础研究、技术开发应用、资源开放共享、人才教育及法律政策上进行有序引导,为人工智能持续健康发展保驾护航。

经作者授权刊发,本文原载于《光明日报》,标题及内容略有删减。

责编 / 张洪瑞

美编 / Ray

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20190202B12LU800?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券