特朗普欲将AI用于军事关键任务,兰德公司警告2040年前或导致核战争


新智元编译

来源:gizmodo.com

【新智元导读】美国国防部副部长透露,特朗普政府对利用人工智能帮助军方更高效、成本更低地执行一些关键任务非常感兴趣,五角大楼已经准备在未来6个月内建成一个整合多个AI项目的新中心。于此同时,美兰德公司发布报告,警告说AI在军事任务中的应用可能增加核战争的风险。

据美国非盈利新闻调查组织CPI的报道,美国国防部的第二把手上周二透露,特朗普政府对利用人工智能帮助军方更高效、成本更低地执行一些关键任务非常感兴趣。

美国国防部副部长、前波音公司高管Patrick Shanahan表示,人工智能(使用计算机系统执行通常需要人类智能的任务)可以帮助国防部更好地利用其收集的大量情报数据。

他还表示,AI可以用于加强军事后勤能力,在正确的时间为士兵和维修人员提供适当的零件和装备。AI也可以促进更明智的决策,为军方人员提供医疗服务,从而节省成本。

Patrick Shanahan以及其他高级国防官员说,五角大楼已经准备在未来6个月内建成一个“卓越中心”(Center for Excellence),将多个现有的与AI应用相关的军事计划整合在一起,为这项工作带来更多连贯性和动力。

在Shanahan向防务作家团体(Defense Writers Group)发表上述讲话的同一天,兰德公司(Rand Corporation)发布了一分公开报告,警告说AI在军事任务中的应用可能导致令人担忧的负面影响,包括:AI可能通过巧妙地破坏核威慑的一个关键根基,从而增加核战争的风险。兰德公司是美国的一个智库,主要为美国军方提供调研和情报分析服务。

兰德报告:人工智能可能在2040年前增加核战争的风险

这份新报告题为《人工智能可能如何影响核战争的风险》(How might Artificial Intelligence Affect the Risk of Nuclear War),报告指出,AI具有破坏核安全基础的“巨大潜力”。这个严峻的结论是兰德组织的一系列研讨会得出的,参与该研讨会的人员包括AI、核安全、政府和军方的专家。这是兰德公司Security 2040项目的一部分,旨在评估AI以及其他现金计算在未来20年里对核安全的影响。针对这一报告的结论,兰德正在呼吁国际社会就此进行对话。

这一讨论的核心是核威慑的概念,即保证“相互保证毁灭”(MAD)或“保证报复”(assured retaliation),防止一方对有同等武装的对手发射其核武器。这是一种冷酷、计算式的逻辑,至少在我们经历过的历史阶段,它至少阻止了一场全面的核战争,让理性的、自我保护的大国选择了对抗冷战。只要没有一个核力量维持有重大的先发制人的能力,MAD的概念就仍占据主导地位;如果一个武器系统能够在第一次攻击中幸存下来,并以同等的力量回击,那么“保证报复”就仍然有效。但是如果一方失去了反击的能力,或者即使它开始认为它有失去这种能力的风险,这样的体系就可能削弱并变得不稳定。

这个方程式鼓励国家行为者避免采取可能破坏当前地缘政治平衡的行为,但是,正如我们在过去几十年里一再看到的那样,核大国仍欲图“先发制人”。例如,隐形轰炸机、核潜艇的发展,以及最近俄罗斯总统弗拉基米尔·普京(Vladimir Putin)展示的“无敌”弹道导弹。

值得庆幸的是,这些发展都没有真正地结束超级大国在第一次打击后的反击能力,但正如兰德的新报告指出的那样,先进的人工智能技术与无人机、卫星以及其他强大的传感器等监视技术相结合,可以削弱这种促使微妙的冷战平衡得以保持的技术平衡。该报告称,人工智能将通过对敌方安全基础设施实行大规模监控,发现人眼看不到的模式,揭示其破坏性的漏洞,从而实现这一目的。

报告作者之一,兰德公司的一名工程师Andrew Lohn说:“这可不仅是电影里的场景,如果我们不加以小心,很简单的事情就可能引发紧张局势,将我们带到危险的局面。”

一个暴露着的敌人突然意识到它很容易遭受“先发制人”,或者意识到它可能很快就会失去反击的能力,将陷入一个非常不利的位置。这种情况可能会迫使处境不利的国家寻找能够恢复平衡的方法,它的行动可能会变得像被逼到角落里的金刚狼一般。先进的人工智能可能导致一个充满不信任、竞争的新时代,孤注一掷的核大国会愿意承担灾难性的、甚至毁灭性的风险。

令人不安的是,即将失去“保证毁灭”可能会导致所谓的预防性战争,即一场以阻止敌方获取攻击能力为目的的战争。例如,在第一次世界大战前的几年中,德国严重担忧作为其竞争对手的俄罗斯开始成为重要的地区强国。德国专家预测,俄罗斯将能够在20年内在武装冲突中击败德国,这引发了一场预防性战争。而在二战结束后不久,美国的一些思想家,包括哲学家伯特兰·罗素和数学家约翰·冯诺伊曼,呼吁在苏联发展自己的核弹之前,对苏联实施先发制人的核打击。

正如这些例子所显示的那样,事态的发展如果要破坏军事优势或平衡状态(即MAD),这一时期可能是非常危险的,会引发各种疯狂的想法。正如兰德公司的报告指出的那样,我们可能正在进入另一个这样的转型期。作者在报告中写道,人工智能“有可能在2040年前加剧核战略稳定面临的挑战,即使技术进步的速度不大”。

兰德公司的助理政策研究员,该报告的合作作者Edward Geist说,自主系统不需要通过杀人来破坏稳定性,更有可能的是造成灾难性的战争。他在一份声明中说:“新的人工智能能力可能会让人们认为,如果他们犹豫不决的话,他们就会失败。”这可能会导致他们扣扳机的手指更加跃跃试试。到那时,尽管人类仍处于“控制”状态,AI将使战争更有可能发生。

最后,作者警告说,未来可能会出现严峻的形势,但作者也同意AI也可能迎来前所未有的稳定时代。 他们写道:

一些专家担心,对AI的日益依赖可能导致新的灾难性错误。在技术成熟之前,使用AI可能会有压力;它可能易受对抗性的破坏;或者敌方可能认为AI比它实际上的能力更强大,导致他们犯下灾难性的错误。另一方面,如果核大国设法建立一种与AI可能提供的新能力相适应的战略稳定形式,就可以减少不信任并缓解国际紧张局势,从而降低核战争的风险。

作者们表示,无法预测这两种情景哪一种会发生,但国际社会必须立即采取行动,以减轻潜在的风险。在解决方案而言,作者提出了国际讨论,建立新的全球机构和协议,发展创新技术、外交和军事保障等。

这是技术的双刃剑。AI既可以导致我们的厄运,也可以像在《巨人:福宾计划》(Colossus:The Forbin Project;1970)和《战争游戏》(War Games,1983)等电影中那样,保护我们免于由于自己的错误而毁灭。那么,最好记住这句古老的格言:抱最好的希望,做最坏的打算

报告地址:https://www.rand.org/pubs/perspectives/PE296.html

原文发布于微信公众号 - 新智元(AI_era)

原文发表时间:2018-05-01

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏CSDN技术头条

大数据与商业的未来

信息乃是企业的根本,几千年以来都是如此。 但是认为大数据只不过是信息发展的延续可就大错特错了。 时至今日我们获取的信息比以往任何时候都多,信息的重要性却超出了仅...

19980
来自专栏java一日一条

为什么有些程序员宁愿降薪也要离开创业公司?

先说一个小道消息吧,现在互联网人才市场上最紧俏的两个岗位,一个是程序员,一个新媒体。新媒体难到什么程度,我不清楚,但招一个好的程序员多难,我是有概念的。

23410
来自专栏数说工作室

【微博汇】大数据如何改变我们的衣食住行?

微博(@数说工作室网站)滚动播报大数据动态、咨询、行业最新解读,以及一些数据分享。 以下是本周微博内容的汇总, 一、大数据应用: 看看大数据如何在生活购物、家庭...

41240
来自专栏科技向令说

入驻平台or电商SaaS 谁才是中小企业的护身符?

电商一直保持着迅猛的发展势头,尤其在“互联网+”提升至国家战略高度后,无论是上市公司还是民营企业,又或是个体户,都在不同程度地尝试互联网。根据年初商务部发布的最...

20530
来自专栏CDA数据分析师

大数据:千万个“路人甲”的价值逻辑

【摘要】作为一个生活平淡的人,你是否设想过在完成了某一天的无聊工作后,会在自家的厨房里听到警察的敲门声,然后被告知你可能跟一周后即将发生的一起凶杀案件相关? ...

21890
来自专栏新智元

惹众怒!美军方百亿美元大单“内定”亚马逊?谷歌等巨头强烈不满

今年早些时候,美国国防部宣布了联合企业防御基础设施项目(JEDI),JEDI用于建立一个支持军队武器系统和机密数据存储的云计算平台,项目价值高达100亿美元,吸...

9110
来自专栏罗超频道

从民生搜索看互联网发展的几个趋势

罗超为雷锋网、钛媒体、TECH2IPO撰稿。2013年5月14日发表于首页。 伴随着互联网的普及和技术的发展,互联网正在成为生活密不可分的一部分,成为一项社会...

33670
来自专栏腾讯大数据的专栏

2017年Q1季移动App使用情况分析

2017年Q1全球网站流量监测机构发布了Android首次超过Windows成为第一大操作系统,这是自20世纪90年代来Windows首次被对手超越。 在中国A...

25770
来自专栏镁客网

“泄露门”继续发酵,Facebook面临巨额罚单,或引发政治经济连锁反应

16450
来自专栏罗超频道

移动互联网时代成人信息化的变迁

弗洛伊德说,性是人类前进的原动力。如果将“人类”换做“互联网”,同样生效。 成人网站为互联网贡献了大量的技术创新,在线点播、P2P下载、点击广告...

24850

扫码关注云+社区

领取腾讯云代金券