微软亚洲研究院副院长潘天佑：AI 的挑战与路径选择

△微软亚洲研究院副院长潘天佑

人工智能（Artificial Intelligence，缩写为AI）正在改变人们的生活和公司的演进。但是，如何重新界定隐私和保护隐私，以及消除数字偏见，从人工智能诞生之日起就备受关注，这些让人类面临新的伦理、法律和社会挑战。

微软是一家创造平台和生产力的公司，微软对于AI 的愿景是希望使人工智能普及化，让人工智能的能力可以给生产、生活赋能。面对当前AI 所带来的机遇与挑战，不论是个人还是企业都要做好准备。

人工智能带来的挑战

当微软亚洲研究院在2015 年的ImageNet 比赛中让计算机的视觉能力超越人类之后，一位7 岁就失明的微软工程师基于计算机视觉算法设计了一款眼镜，当他想要看到某个事物时，他就轻轻滑动镜腿拍照，计算机会帮助他分析这张照片。这个名为Seeing AI 的项目还提供了一个手机App，能帮助视障者阅读文字与文件，识别物体、人与货币。

我们已经习惯了打开搜索引擎寻找想要的信息，阅读客户端精心挑选的推送。互联网缩减了沟通的距离和成本，大数据和人工智能让信息传播更为精准，但也增加了信息被垄断和控制的风险。在人工智能时代，数据和信息可能为少数巨头所掌握，他们把控着信息的入口和出口，进而构建信息壁垒。

与此同时，人工智能技术下的推荐算法可能导致偏见的产生。例如，我们经常阅读某类新闻，系统就会持续推荐同类新闻。当大量的搜索引擎和互联网产品开始使用推荐算法，我们也相应地丢失了接触更多信息的可能。当异见的出现频率降低，已有观点通过推荐内容被反复加强，拥有相似立场的人通过算法逐渐聚集，进而导致社会上的意见更加两极化。

我们认可数据的重要性，是大数据时代竞争力的关键，因而以数据的收集与选择作为设计人工智能的初始环节。但是，信息垄断并非我们想见的结果，选择具有代表性的数据也并不足够公平。如何获得数据却不为少数人垄断，如何利用数据却不只强化共性，这是又一个挑战。

这些问题不仅涉及技术，更关乎政策法律和伦理道德。人工智能的运用范围越广、执行能力越强，这项科技所肩负的责任就越重，这是人工智能在未来必须面对的考验。另外，我们也担心在人工智能时代，人类将如何自处。

未来路径

怎样培育年轻一代，才能让他们不在人工智能时代被淘汰？如何分配财富，才能让弱势群体得到基本保障？今天我们谈及的自动驾驶车真正上路后，应如何设置交通规则？计算机科学应朝着什么方向发展，才能将人工智能程序中的错误尽可能减少乃至完全消除？应对AI 挑战，我们可以考虑以下路径。

路径一：推广计算思维普及教育，让每一个人成为AI的理解者与受益者。在对计算机智力超越人类智力的担忧背后，呈现出基础教育中计算思维培养的缺失。让新一代受教育者学会运用计算机科学的基本概念来解决问题、设计系统和理解人类行为，正成为建立其未来竞争力的关键。

计算思维，就如同语言和数学，并不是只有计算机领域的专业人才需要具有的能力。很多人将语言和数学工具化，认为学习它们的意义在于“日后有用”，这其实是弱化了它们的价值。语言是一种思考方式，没有语言，人无法思考，至少无法如此精密而有逻辑地去思考，因而沟通不是学习语言的唯一目的。数学也是如此，当我们看到毫无章法的一堆杂物，会去数数、去归类，这些想法和动作已经成为我们思维的一部分。

路径二：推动各行业数字化转型，让每家公司成为AI的使用者与创造者。技术变革将行业发展裹挟其中，我们看到人工智能在教育、医疗、养老、环境保护、城市运行、司法服务等领域的广泛应用。人工智能发展的核心是数据，而各行业都储备着大量数据，若以人工智能技术有效利用这些数据，行业革新将不只是愿景。

数字化转型的内涵远不止于将传统业务数字化，这只是漫漫征途的第一步，智能化是我们希望到达的“远方”。人工智能技术应深入到各行各业，与具体的应用场景结合，从而彻底变革传统的行业工作模式与产品形态。

如果说互联网的出现是20 世纪的一大机遇，数字化转型则是21 世纪的机遇。伴随着云计算、大数据、物联网、人工智能、混合现实等新兴技术的发展与突破，第四次工业革命已在悄然发生。数字化转型将使企业具备更高的生产力和竞争力，降低在人工智能时代被颠覆的概率。

路径三：加强国家和政府引导，让AI 在政策、法律和规范的指导下更具效能。在人工智能面对的诸多挑战中，技术不是最终难题，人在其中的能动性更值得关注。经过几代人、无数杰出的科学家研发而成的人工智能，必须得到更好的管理与规范，才能真正地造福人类。我们亦需要一股力量来缓解科技对人类社会造成的冲击，政策和法律正是重要的规范与疏导力量。

人工智能引发了因人、技术和社会这三方互动而生的新问题，但目前大部分行业标准和法规都不是专门为人工智能编写的，制定能够牵制非良性互动的法律法规是重中之重。事实上，国家和政府在人工智能时代究竟应当扮演怎样的角色，这更需要我们长久地思考与探索。

路径四：敦促科技公司自律，让AI 更加安全可靠，更透明，更可解释。科技公司是人工智能技术的受益者，也应当肩负起技术应用的社会责任，让人工智能变得更加可靠。微软自开启人工智能领域研究以来，始终关注人工智能开发与应用的道德伦理问题。作为联合创办人创立了人工智能合作组织（PAI），致力于推进相关问题的讨论。在2018年发布的《计算未来：人工智能及其社会角色》一书中，微软公司总裁施博德（Brad Smith）先生与全球执行副总裁沈向洋博士从微软的价值观出发，提出了“人工智能开发应用六原则”，它们分别是：公平、可靠与安全、隐私与保障、包容、透明和负责。

公平意味着人工智能系统应当公平公正地对待所有人，为此开发人员必须了解各种偏见可能存在并被引入系统的方式。可靠与安全决定着人工智能究竟能够走多远，必须将不可预见性因素纳入设计原则，确保人工智能的安全运行。隐私与保障是数据与云计算服务取得信任的关键，这要求人工智能系统有对客户信息的保障措施，以及预防侵犯隐私的风险体系。包容需要人工智能理解使用者的情境和需求，以及他们的意图和期望。透明和负责是所有原则的基础，人们有权了解人工智能如何运作、如何帮助他们决策，系统开发者应当参与到规范和指导之中，对其运行提供监督并建立问责标准。

面对人工智能所带来的挑战，每个企业和个人都要做好应对的准备。微软也期待与各个领域的从业者同心合作，开发和分享最佳的实践范式，通过普及计算思维教育、推动数字化转型、加强政府参与以及科技公司自律，让AI for Good 可以实现。人工智能造福人类绝不只是愿景，而是我们正在走向的未来。