面向人工智能时代的政策建议

来源:中国科协创新战略研究院《创新研究报告》

第64期（总第265期）2018-12-06

编者按：人工智能（AI）技术的进步，对人类健康、经济、安全等方面产生重大影响。人工智能与其他新兴技术相结合，有望通过更好的决策和措施改变人类社会。但是，如果没有充分的风险评估，人工智能也可能会对网络安全防御系统、经济系统和社会结构中的现有漏洞构成威胁。世界经济论坛发布报告《如何管理AI的风险和回报》（How to manage AI’s risks and rewards），客观分析目前人工智能的发展状况、总结其收益和风险，并提出相关政策建议。

一、人工智能的研发背景

1955年，计算机科学家约翰·麦卡锡（John McCarthy）提出“人工智能”这一术语。人工智能早期的发展包括启发式搜索和机器学习，旨在实现如计算机视觉、自然语言处理和机器人技术等更广泛的目标。1978年，应用数学家理查德·贝尔曼（Richard Bellman）将人工智能定义为与人类思维相关活动的自动化，其中包括自主决策、解决问题和深度学习。随着近年来计算速度的稳步提高(遵循摩尔定律)，现有人工智能技术有望实现实际应用。当前，人工智能技术的飞速发展已经引起了许多政策领域的关注。随着人工智能日益成为全球政策讨论的重要话题，理解人工智能的好处和风险，并相应地确定近期和长期发展的优先次序，变得愈发重要。

调查数据显示，近年来与交通相关的人员死亡中绝大部分 (95%)是公路交通事故，大部分由人为因素造成。而自动驾驶汽车可以通过规避人类易分心或醉酒的弱点而减少这些死亡。但自动驾驶技术也存在局限性，仅仅依靠人工智能可能也会出现新的交通问题。日产公司设计了一种“将自动驾驶汽车和人工呼叫中心结合起来”的方式，当车辆无法通航时，将遥测信号发送到呼叫中心，工作人员会根据信号解释实际情况并提供远程指导。由此可见，自主智能和人类智能的合作能够更有力地解决安全问题。

二、人工智能的优势

1. 解决与人类局限性有关的问题

机器人自动化能够解决人类在长期从事重复劳动时易出现的无聊和疲劳感，进而提高工作效率。虽然智能机器人目前大多数集中在汽车制造业，但智能制造有潜力造福每一个行业。人工智能还具有支持人类安全的潜力，如自动驾驶技术。自动驾驶汽车可以辅助提高行动能力有限的人群的生活质量，同时为司机提供更多时间从事其他活动；自动驾驶汽车还可以通过实时数据处理找到最有效的路径来减少拥堵，同时更有效的驾驶模式也会提高燃油效率。人工智能还可以通过收集、分类和处理信息来提高人类在大数据方面的应用能力。在医疗保健领域，人工智能可帮助研究人员了解生物的复杂性并设计适当的研究方案。未来人工智能在支持医疗健康领域方面的潜力显著。

2. 改善人类现状

人工智能的飞速发展促使其与其他新兴技术融合，逐渐渗透到人类的一系列工作和休闲活动中。例如财务、金融、制造业等工作场所的智能自动化可以提高效率，净减少所需的总工作量，提高工作质量。此外，人工智能技术可以帮助满足人类对人际关系和自我实现的需求。为支持老年人护理而开发的社会机器人也带来了更多的社会和文化价值。

3. 培养应对重大复杂问题的能力

当前，随着科学技术的日益发展，人类文明程度越来越高，伴随着技术的进步也产生了相应的一系列问题。例如，医学的进步大大提高了新生儿成活率，但随着时间推移，地球总人口过剩的问题可能会日益严峻。而人口的增加使病毒有更多的机会重新组合成致命的新病毒，并随着便利的现代航空旅行迅速传播到世界各地。因此，要避免大规模的灾难，就需要有能力对复杂的相互作用和依赖关系(如次级效应)进行建模和推理。人工智能可以通过建模和预测系统帮助人类应对各种复杂和重大的问题。

三、人工智能的风险

1. 经济风险

与其他技术革命一样，人工智能将通过改变就业机会来影响劳动力市场。根据皮尤研究中心（Pew Research Center） 2015年7月的一项民意调查显示，65%的美国人认为机器人或计算机将在未来50年内完成人类目前所做的大部分工作。而专家预测认为，由于某些职业的特定性，人工智能并不能完全取代人类。由于双方意见不同，一些政策指导强调培养人力，以更好地补充机器智能。事实上，人类大脑计算系统(如日产无人驾驶汽车呼叫中心)正在创造新的就业机会。此外，正如工业革命以新的工作取代工厂的重复性工作一样，今天的认知革命将导致更多的工作需要人类的抽象推理以及创造力。

2. 对人类安全的风险

埃隆•马斯克（Elon Musk）和尼克•博斯特罗姆（Nick Bostrom）等认为，人工智能的自主学习能力将会改变它们自身的进化过程，从而克服人类创造者对其的限制。另一个令人关切的问题是，缺乏国际组织限制的自主武器研发和使用协定可能导致全球军备竞赛。另外，如今的监视系统可以帮助执法人员通过视频解决犯罪问题，但自动监视系统可能会威胁人们的隐私安全。

3. 社会风险

许多与人工智能相关的社会风险来自大数据和自动决策的结合。机器学习(Machine Learning，ML)的蓬勃发展也加剧了这一风险。机器学习是一种以“教学”算法为核心的技术，通过分析有关当前和过去条件的数据，对未来进行预测。在存在大量全面数据的情况下，许多算法能够对机密信息进行可靠的三角互证，例如将不同的信息(如姓名和出生日期、就业历史和慢性病的存在等)联系起来。这可能会助长银行、保险和医疗服务提供商等机构对客户的歧视，这些机构可能基于道德或法律理由，拒绝向“高风险”个人提供服务。

四、复杂时代的规划：对决策者和资助者的建议

人工智能是第四次工业革命的重要组成部分，它是一种模糊了物理、数字和生物领域之间界限的技术融合。与以前涉及机械化、大规模生产和自动化等过程的革命相比，第四次工业革命的特点是新兴技术在复杂社会技术系统中趋同，并渗透到人类生活的各个方面。未来几十年，人工智能可能会以更为渐进的方式带来重大的系统变革。

建议一：决策和咨询机构应与私营部门和大学主要研究人员共同对人工智能进行广泛和深入的调查。

美国政策机构和斯坦福大学等机构的研究人员于2016年8月1日发布的研究报告《人工智能百年研究》（One Hundred Year Study on Artificial Intelligence），为我们提供了人工智能研究的高级路线图。2016年12月13日，电气和电子工程师协会（Institute of Electrical and Electronics Engineers，IEEE）组织召开的专家会议是对人工智能发展的补充，旨在更深层次的思考如何设计更加符合人类道德的人工智能，以最大限度地提高人类的福祉。未来，决策者应与研究人员合作对人工智能的发展进行更深入的研究，以更好地理解和预测人工智能与工作自动化相关的发展，同时也需要考虑到时间、部门、工资水平、教育程度、工作类型和地区的影响。例如，人工智能系统可能取代常规但高水平的认知技能，而不是低技能工作。

建议二：倡导对人工智能研发采取系统办法，并促进人类参与。

人工智能试图在机器中复制人类的智能，目前已初见成效。如今，通过将人类认知能力与创建最佳人工智能方法结合起来，有机会开发超人类智能。换句话说，它们能比人类或人工智能系统更有效地感知和思考。新兴的人工智能子领域被称为人类计算，让人类参与到各种信息处理系统的循环中以完成超出人工智能能力的任务。公民科学平台上就有人类计算的实例，比如star@home平台，该平台中成千上万的在线游戏玩家帮助加速了阿尔茨海默症的治疗。人类计算还包括众包平台，如维基百科(Wikipedia)，它可以汇集各种信息。认真发展有人类参与的人工智能系统，仔细考虑人类与技术在混合系统中的共同进化思维系统将有助于确保人类对人工智能发展的控制。

建议三：促进创新，避免集中和大幅扩大监管。

专家一致认为，扩大和集中监管将抑制人工智能的发展。美国国家公路交通安全管理局（National Highway Traffic Safety Administration，NHTSA）发布关于自动驾驶车辆的指导，同时将关键决定权留给各州。同时，有必要通过应对共同的挑战来维护公众利益。这包括制定安全准则和事故调查程序，保护个人的隐私和公共安全，设计具有透明决策的系统，并通过有效的科学传播来管理公众的看法。

建议四：通过发布指导意见、建立或支持特定主题的社区等举措力求最大限度地实现利益最大化和风险最小化。这些努力反过来又有助于鼓励视角广泛性和创造性活动。

为促进联邦政府内部自上而下的协调，奥巴马政府于2016年成立了国家科学技术委员会(National Science and Technology Council，NSTC)机器学习和人工智能小组委员会。但跨部门创新也来自基层以及自下而上的社区。由Digital. gov支持的联邦实践社区(Community of Practice，COP)是分享和制定共同战略的重要中心。公共部门是人工智能研究的一个重要利益攸关方。作为争取公众参与的第一步，奥巴马政府与几所大学和非政府组织共同主办了五个讲习班，并发布了公开信息请求(request for information，RFI)。除了一次性活动外，还应支持符合政府开放和透明理念的现行公众参与和外联方案。

建议五：资助者通过赠款、奖品和挑战竞赛等促进人工智能的研发。

人工智能的研发应在一个创新生态系统中展开，在这个系统中，不同的利益攸关方通过申请资金、引进新技术和雇用顶级研究人员进行战略协作和竞争。资助机构应鼓励合作，将业界、学术界和政府的利益集中在竞争前的研究中。美国国家科学基金会(National Science Foundation，NSF)设立的产学合作研究中心(Industry/University Cooperative Research Centers，UCRC)已使这种协作成为可能，为自主机载机器人研发奠定了基础。此外，专门针对小企业的创新奖(Small Business Innovation Research，SBIRS)，可以让小公司有机会探索具有商业可行性的高风险、高回报的技术。

文章来源

https://www.weforum.org/agenda/2018/01/how-to-manage-ais-risks-andbenefits

编译：张新玲 黄蕊

《创新研究报告》编辑：曹学伟 张丽琴