专家讨论各国开展人工智能竞赛及其与军事竞争的关系

【概要】美国宾夕法尼亚大学政治学教授Michael C. Horowitz在美国《国外政策》杂志上撰文，讨论了目前主要国家开展人工智能竞赛及其与军事竞争的关系。

人工智能军备竞赛即将来临。然而，它不太可能以主流媒体所暗示的形式出现：即美国和中国之间的对峙。这是因为人工智能不同于核武器和战列舰等技术，这些技术过去一直是军备竞赛的主题。毕竟，AI是软件而不是硬件。

因为AI是一种通用技术——更像是内燃机或电力，而不是武器——开发这种技术的竞争将是广泛的，民用和军用之间的界限将是模糊的。将不会出现专门的军事AI竞赛。相反地，随着很多国家（有时是非国家行为者）不断开发出新的算法或应用私营部门算法来帮助他们完成特定任务，将会出现许多AI竞赛。

根据麦肯锡全球研究所的一份报告，在北美，私营部门在2016年向人工智能投入了大约150亿到230亿美元。这个数字是美国政府同年花费在人工智能项目上的10倍以上。最大的份额来自于谷歌和微软等公司，以及一些较小的私营公司，而非政府资助的国防研究。这与冷战时期的情形刚好相反，当时政府的投资引导了私营部门的创新，并产生了GPS和互联网等技术。

中国表示，它已拥有该领域20％以上的专利，并计划到2030年建立价值达到1500亿美元的人工智能部门。但尽管北京和华盛顿是这一领域的现任领导者，但他们并不是仅存的竞争对手。全世界有多个国家拥有先进的科技部门，如加拿大、法国和新加坡，也有可能在人工智能方面取得重大进展（或以其他国家取得的较低水平工作为基础）。虽然这种扩散意味着更多的国家将在人工智能的规则制定中占有一席之地，但这也意味着将有更多的政府获得自力更生的动力。

与开发仅具有军事用途的隐形轰炸机不同，基本的人工智能研究既有军事用途也有民用用途，这使得保持研究秘密，从而维持先发制人的优势变得更加困难。人工智能的许多进展具有双重用途，这一特征使得研究人员有动力将技术公开并传播给大众。这意味着很多公司可以快速吸收市场领导者取得的进展——尤其是不需要大量计算硬件的低级别进展。

人工智能的大多数军事应用与好莱坞电影中描绘的杀手机器人相去甚远。例如，计算机运行的算法可以帮助军队做出更好的后勤规划和操作，以削减劳动力成本，并改进监督方式，从而更好地设计招募活动、更有效地培训人员。也可以考虑具有一系列应用的图像识别算法——从商业领域的广告定制到监控争议领域等。由于几个原因，开发此类应用程序的竞争将会非常激烈。有些发达国家拥有大量资金进行投资，但面临着为武装部队招募和留住人才的挑战。他们与一些不信任本国国民的专制政体一样，将会有特别强烈的动机使人工智能为其军队所用，这种做法将使他们能够在需要时进行人员的自动替换。

这种新的竞争格局将有利于澳大利亚、法国、日本和瑞典等具有中等实力的国家。这些国家在人工智能开发方面的竞争能力将超越目前使用的复杂军事平台，如精确制导导弹和核动力潜艇。世界各地的先进经济体已经在努力帮助其私营公司开发人工智能。根据经济合作与发展组织（Organization for Economic Cooperation and Development）的数据，2017年加拿大承诺投资9400万美元用于在未来五年内吸引和培养AI人才——每年的投资相当于加拿大2015年整个国防研发预算的10％左右。与此同时，欧盟委员会已经批准在2020年之前投资18亿美元发展人工智能，也增长了70％。

这些国家在商业和军事AI方面的投资远远超过军事研究和开发的原因是人工智能拥有巨大的经济潜力。在某些情况下，商业性人工智能的能力可以促进国防部门的经济投资效果。

只要空战标准仍然是第五代战斗机，航空母舰仍然是投放海军力量的关键，能够制造尖端武器平台的国家就不会太多。但是对人工智能而言，进入的壁垒较低，这意味着中等实力国家可以利用算法来加强他们的训练和规划，并最终增强他们的武器系统，也意味着AI可以为更多的国家提供更多的能力来与重量级对手竞争。

鉴于人工智能具有许多潜在的军事用途，政策制定者们需要重新思考人工智能军备竞赛的概念及其对国际政治的意义。大多数尝试对军备进行控制的国家面临的根本困境是：一项技术对军队的用处越大，就越难以对它进行有效的监管。毕竟，没有任何军备控制协议能够有效地限制各国开发坦克、潜艇或战斗机。有效的协议一般只能对不太重要的、不能决定战争走向的武器做出使用限制，如地雷和致盲激光——或者很少使用的武器，如核武器等。

军事历史表明，那些与战争和赢得胜利最相关的人工智能应用也将是最难管控的，因为每个国家都有兴趣对其进行投资。拥有先进人工智能公司的国家将能够利用这些业务为他们提供一些军事能力，可以通过调整商业技术，也可以为有才能的研究人员提供财务激励，使其能够专注于人工智能的国防应用。在这些领域，竞争将会很激烈，因为有许多参与者可以开发类似的算法。

一些人工智能应用程序，例如复杂战场的操作规划算法或旨在协调成群飞机或舰船以攻击敌方目标的算法，可能只对军队有吸引力（尽管也有包括消防在内的非军事应用）。但即使有明确的军事应用，人工智能也无法与核武器或生物武器甚至坦克等军事支柱进行比较。人工智能本身并不是一种武器，正如没有针对内燃机或电力的军备控制制度一样，很难想象出现一个有效的制度来遏制即将到来的AI军备竞赛。

因此，要减少相关的军事风险，应该侧重于考察人工智能的具体潜在用途，而不是广泛的技术类别。例如，“特定常规武器公约（Convention on Certain Conventional Weapons）”侧重于可能造成过度或不加区别伤害的武器系统。该条约正在日内瓦与世界各国就致命的自动化武器系统进行讨论。然而，至关重要的是，不要让杀手机器人的阴霾掩盖人工智能可以为重塑军队提供更广泛方式的事实，就像前几个世纪的通用技术一样。

快速的技术进步超越了政府的管理能力。对落后于其他国家的担心，以及对可能范围的不确定使得对AI进行有效调节的难度更大。此外，鉴于对人工智能的经济投资有可能扩散到潜在的军事应用中，美国、中国和俄罗斯以外的许多国家可能不愿意出台监管措施来限制其发展更有效的防御力量。

尽管如此，政府仍然可以对在军队内部和外部如何使用人工智能给出规范和实践指导。制定AI的可靠性标准是一种可能，就像在其他领域设置国际标准的做法一样，例如Wi-Fi。专注于人工智能安全是一个很有前途的方向，因为无论防御团队选择采用何种形式的人工智能，它能够帮助确保这些应用程序按预期工作。

很难对人工智能将如何影响战争的未来做出预测，因为这意味着需要对大部分仍然不成熟的技术进行评估。在短短几年内，这些技术很可能会发生变化。从现在开始的十年内，如果有人工智能对军事应用的预测被证明与事实相去甚远，一个可能的原因是因为军方未能设计出足够强大和安全的算法，从而无法抵御尖端对手对他们做出的欺骗和误导。

尽管可能性不大，AI也有可能推动新兴大国和小国走向国防创新的前沿，同时让老的超级大国落后。目前华盛顿对美中人工智能竞争的关注遗漏了一个更为重要的趋势。与许多过去的主要大国一样，美国可能会对采用人工智能采取过于谨慎的态度，因为它目前感到其常规军事优势是安全的。

这可能被证明是一种危险的自满，特别是如果美国与其现有的许多盟友和伙伴之间的关系随着时间的推移而持续恶化。例如，面对不太可靠的美国，沉默的北约伙伴将更有动力投资于替代方案，比如更多地考察如何利用人工智能在一个没有明确超级大国领导的世界中增强其能力。

如果这些国家决定单独行动，而中国和俄罗斯继续投资其能力，以达到破坏美国军事优势的明确目标，且美国部分技术行业仍然不愿与国防部合作，美国军方有可能会发现自己处于75年来没有面临过的处境：在战场上部署尖端技术时需要奋力追赶别人。