人工智能“进化”重塑未来全球治理格局

《第四次工业革命》的作者克劳斯•施瓦布认为，科技革命和产业变革中颠覆性技术的出现，会带来社会的巨大变化。这也会导致全球原有力量对比发生改变，旧的治理体系将重新洗牌，最后达成新的力量和治理平衡，出现全球治理新秩序。历史经验充分地证明了这一观点。从最近一轮科技革命和产业变革的历程来看，美国占据了以互联网为代表的信息技术制高点，引领经济革命新浪潮，综合实力领先世界。在新一轮科技革命和产业变革中，人工智能颠覆了人类的认知。这是一门研究开发用于模拟、延伸和扩展人的智能的理论、方法及应用系统的技术。人工智能的出现意味着人类认识和改变客观世界的工具有了重大突破，其迅速发展将深刻改变人类社会并改变世界。

人工智能发展已渗入社会经济生活多个方面

现用两个例子简单加以说明，在2018年，一家高科技公司的AI Lab曾参加由荷兰瓦赫宁根大学（WUR）主办的国际人工智能温室种植大赛，通过人工智能和遥感技术，采集农作物的生长情况，最终在50平米的温室里种出了3000公斤以上的黄瓜，农业产出是高效人工种植的五倍以上。这说明在农业领域人工智能具有巨大的发展潜力。未来，人工智能将有效减少农业生产对劳动力、土地等要素的消耗，提升劳动生产率，缓解困扰我国农业发展的资源“紧箍咒”，推进农业现代化。

除此之外，人工智能与新一代信息技术结合，能有效解决地区发展的不均衡。2019年4月3日，广东高州市人民医院和广东省人民医院共同完成了全国首台“5G+AI微创心脏手术”。本次手术中，广东省人民医院利用5G技术为远在400公里外的高州市人民医院进行远程指导。现场画面时延低于30微秒，几乎是同步进行，整体网速比4G提升10倍。未来一个主治医生在手术上只需做10—15分钟的关键环节，借助远程智慧医疗方式，可让一个医生同时做十台手术。人工智能技术将极大地提升效率，让优质的医疗资源惠及更多的老百姓。

人工智能在未来的应用不局限于以上的农业和医疗领域，在无人驾驶、智能制造、智慧城市、智慧政务系统、教育、通讯、社会治理和军事等方面，也将拓展出新的空间。

人工智能：从国家计划到国家战略

人工智能是引领未来的战略性技术，世界主要国家把发展人工智能作为提升国家竞争力、维护国家安全的重大战略，加紧出台规划和政策，围绕核心技术、顶尖人才、标准规范等强化部署，力图在新一轮国际科技竞争中掌握主导权。

加拿大是全球首个发布AI全国战略的国家。2017年发布了《泛加拿大人工智能战略》（Pan-Canadian Artificial Intelligence Strategy），政府计划拨款1.25 亿加元支持AI研究及人才培养，目标是将加拿大建立为人工智能研究的全球领先者。该战略包含四个目标：增加人工智能研究者和毕业生数量；建立三个世界顶尖科研集群；培养理解人工智能经济、道德、政策和法律含义的思想领袖；支持专注于人工智能的国家研究团体。

日本是第二个发展AI战略的国家，其《人工智能技术战略》在2017年3月发布。日本成立了人工智能技术战略委员会以发展《研究和发展目标以及人工智能产业化的路线图》。该委员会有11名成员，分别来自学术界、业界和政府，包括日本科学促进会主席、东京大学校长和丰田董事长。战略制定的政策包括在研究与开发、人才、公共数据和创业公司上的新投资。

英国政府于2018年4月发布了《人工智能行业新政》（AI Sector Deal）。这是该国政府工业战略的一部分，旨在推动英国成为全球AI领导者。包含推动政府和公司研发、STEM 教育投资、提升数字基础设施、增加AI人才和领导全球数字道德交流等方面。

2018年4月25日，欧盟委员会向欧洲议会、欧盟理事会、欧洲理事会、欧洲经济与社会委员会及地区委员会提交了题为《欧盟人工智能》报告，描述了欧盟在国际人工智能竞争中的地位，并制定了欧盟AI行动计划，提出了发展目标。2019年4月8日，欧盟委员会发布了一份人工智能道德准则，提出了“值得信赖”的人工智能应当满足的7个条件，并将启动AI道德准则的试行，邀请工业界、研究机构和政府机构对该准则进行测试和补充。

韩国政府大力发展人工智能计划起源于2016年，由于人工智能技术 AlphaGo 打败韩国围棋世界冠军李世石，给了韩国很大的触动，比赛结束两天之后，韩国政府就公布要在未来五年投资1万亿韩元支持AI研究。两年之后，韩国政府又公布了一个新的五年计划，计划投资2.2万亿韩元加强该国的AI研发。

2018年5月，印度政府发布《国家人工智能战略》，该战略将人工智能应用重点放在健康护理、农业、教育、智慧城市和基础建设与智能交通五大领域上，重点关注印度如何利用AI促进经济增长和社会包容。以“AI卓越研究中心”(CORE)与“国际AI转型中心”(ICTAI)两级综合战略为基础，投资科学研究，鼓励技能培训，加快人工智能在整个产业链中的应用，最终实现将印度打造为人工智能发展模本的宏伟蓝图。

2018年7月，德国联邦政府内阁通过了名为《联邦政府人工智能战略要点》的文件。文件提出，当前急需采取的措施包括：为人工智能相关重点领域的研发和创新转化提供资助；优先为德国人工智能领域专家提高经济收益；同法国合作建设人工智能竞争力中心要尽快完成并实现互联互通；设置专业门类的竞争力中心；加强人工智能基础设施建设等。

2018年美国成立了“人工智能特别委员会”，成员包括白宫科学和技术政策办公室、国家科学基金会和国防部高级研究项目局等政府机构的官员。2019年2月美国总统特朗普签署了行政令，启动“美国人工智能倡议”。尽管相比日本、中国、英国和法国等国家，美国的人工智能发展规划姗姗来迟，但“维持美国人工智能领导力”的主题让这一规划与众不同，主要体现出“顶层推动”“美国领导”和“注重基础”三大特点。自特朗普政府执政以来，联邦政府在引领科技发展中的角色日益明显，从太空探索到量子技术，到下一代芯片技术，再到人工智能领域。此前，美国人工智能技术的主力军一直是谷歌等企业部门。美国总统技术政策副助理迈克尔·克拉齐奥斯则宣称，这个倡议的重点就是集中联邦政府的资源来发展人工智能。

2017年7月，中国政府印发《新一代人工智能发展规划》，明确指出新一代人工智能发展分三步走的战略目标，到2030年使中国人工智能理论、技术与应用总体达到世界领先水平，成为世界主要人工智能创新中心。

在各国战略规划描绘的美好愿景之下，对于人工智能技术迅速发展带来的安全问题同样受到了高度关注。例如我国的《新一代人工智能发展规划》中就明确提出，要开展与人工智能应用相关的民事与刑事责任确认、隐私和产权保护、信息安全利用等法律问题研究，建立追溯和问责制度，明确人工智能法律主体以及相关权利、义务和责任等。英国科学和技术委员会则于2016年相继发布《机器人和人工智能》和《人工智能对未来决策的机会和影响》两份报告，呼吁政府介入监管，建立透明、可追责机制。欧盟更是在2018年颁布实行了“史上最严”的一般数据保护条例（General Data Protection Regulation），赋予了欧盟居民对个人数据更多的控制权，并界定了在线服务商在收集、利用欧洲用户个人数据的规则和责任。在探讨WTO改革的议程中，各国对于数据基于信任的跨境流动和数据贸易等问题也是高度重视，积极探索适合各国共同发展的新模式、新办法，并商议如何更好地解决由于各国发展不平衡造成的数字鸿沟等问题。

人工智能“进化”背景下全球治理的新挑战

人工智能是影响面广的颠覆性技术，将对政府管理、经济安全、社会稳定乃至全球治理产生深远影响。在这一过程中，非国家行为体的作用前所未有地上升，就业结构、法律与社会伦理、个人隐私、国际关系准则等领域同时受到冲击与挑战。

与原来核军控等谈判机制主体不同的是，人工智能的技术基本掌握在非国家行为体中，如美国的谷歌、苹果、微软、亚马逊、IBM、Facebook等私营机构，在中国，则是阿里、腾讯、百度、华为、京东、小米、商汤科技、科大讯飞等私营机构。私营机构甚至在如何使用人工智能技术的原则上就会与国家存在很大分歧，这就导致与洽谈核军控等治理规则时完全不同的背景和条件，给人工智能全球治理规则的洽谈带来很大的挑战。

在商业公司日常运营过程中，对于公司决策者与技术开发人员来说，到底由谁来决定技术的使用方向？传统公司，一般是由公司高层管理人员来决定公司产品和技术的应用方向。而现在的高科技互联网公司，尤其是人工智能公司，一些技术开发人员的价值观也在某种程度上开始影响相关决策。这也导致价值观认可和公司追求利益目标之间矛盾的增加。技术是一把双刃剑，没有人比参与创造技术的员工更接近科技增长的破坏力，也更接近它的道德困境。谷歌前首席执行官Lokman Tsui就曾提出这样的问题：“谁来定义谷歌，谁来决定谷歌的灵魂是什么？是领导还是员工？现在，这家公司的灵魂正面临一场真正的斗争。”谷歌现任首席执行官Pichai则试图淡化来自公司内部压力的影响，他强调“我们不会通过公投来管理公司”，并表示是实际构建AI技术的人在做决定。

对于每个掌握人工智能技术的私营机构，以及使用这些技术的机构（政府部门或军方等）来说，还存在一个很大的问题。那就是挑选谁来参与制定技术使用规则，也就是通常所说的人工智能伦理委员会人选。人们对于这些人员的选择充满警惕，由于每个人自身的价值观、情感、宗教等因素偏好不同，通常候选人能获得大多数人的认可并不容易。比如，2019年3月，纽约市警察局（NYPD）透露，他们自2016年底开始，使用人工智能（Patternizr）追踪罪犯，这是美国第一个通过算法机器学习软件，筛选警察局数据，找到同类案件并锁定嫌疑人的工具，研究这项技术的目的是为了识别犯罪模式，帮助警察尽快逮捕嫌疑人。NYPD使用Patternizr被披露后，一些公民自由倡导者表示担心基于机器的工具可能无意中加强了警务方面的偏见。纽约公民自由联盟法律总监Christopher Dunn认为，对有色人种的过度监管，会使任何预测性警务平台都存在风险。为了确保公平，NYPD应该对其部署的技术保持透明，并允许独立研究人员对这些系统进行审核。NYPD则宣称Patternizr将种族和性别排除在算法之外，在搜索过程中不会将嫌疑人的种族考虑在内，以作为对种族偏见的预防措施。2016年，布伦南司法中心对NYPD使用Patternizr采取了法律行动。2018年12月，纽约州最高法院下令NYPD发布有关其测试开发和使用预测性警务软件的记录。

除此之外，谷歌在宣布成立人工智能伦理小组一周后，取消了其讨论人工智能问题的小组。谷歌于2019年3月26日任命了其高级技术外部咨询委员会的成员。谷歌负责全球事务的高级副总裁肯特·沃克(Kent Walker)在一份报告中表示：“这个小组将考虑谷歌在人工智能原则下出现的一些最复杂的挑战，比如面部识别和机器学习的公平性，为我们的工作提供不同的视角。”员工和外部人士很快对委员会的组成提出了质疑。有些人想知道为什么传统基金会的主席凯·科尔斯·詹姆斯(Kay Coles James)会被纳入理事会。2300多名谷歌员工签约请愿书呼吁谷歌把柯尔斯·詹姆斯清理出小组，请愿书中的理由是其价值观中包含有“反变性人、反LGBTQ和反移民”等主张。3月30日，卡内基梅隆大学(Carnegie Mellon University)信息技术和公共政策教授、谷歌(Google)选定的专家之一阿奎斯特(Alessandro Acquisti)则宣布他选择不参加。周三，牛津大学(University Of Oxford)信息哲学与伦理教授卢西亚诺·弗洛里迪(Lucano Floridi)表示，尽管他不同意科尔斯·詹姆斯(Coles James)和传统基金会的观点，但他还是觉得自己应该参与进来。周四晚上，谷歌取消了整个项目。“很明显，在目前的环境下，ATEAC不能按我们的意愿发挥作用。所以我们要结束会议，回到画板上”，谷歌周四在公告顶部贴上的一份声明中写道。“我们将继续对人工智能提出的重要问题负责，并将找到不同的方法来获取外界对这些问题的意见。”

以上案例说明，人工智能相关的伦理问题难以在缺乏国家政府主导和国际合作的情况下得到解决，人们对于算法歧视、不透明等问题存有担忧，将来也可能会对人工智能技术的发展产生阻碍。

未来人工智能全球治理需要新框架

当前，世界各国政府以及联合国在内的国际组织都开始思考如何建立起有效的治理体系，以推动新技术对生产力发展的促进和人民生活水平的提高。中国《新一代人工智能发展规划》提出，必须放眼全球，把人工智能发展放在国家战略层面系统布局、主动谋划。从全球格局来看，人工智能技术发展本身也需要一定的国际合作，这对大变局下的国际治理体系提出了新的要求。我们应该搭建涵盖政府、企业、学界、公共部门和私营部门的平台，形成合力，推动新技术为人类文明的进步服务。

正如联合国副秘书长刘振民在2019年博鳌亚洲论坛年会对话环节时所说“关于人工智能，就应当进行沟通制定规则”，“需要建立一个平台，来解决人工智能规范性使用的问题”。

随着人工智能不断“进化”，未来全球治理格局将会得到重塑，人工智能必将为人类创造更美好的未来。

（本研究得到清华大学战略与安全研究中心“人工智能与安全”项目研究资助）

（作者系清华大学社科学院中美关系研究中心副主任）