全球情报，一个大脑：美国军方AI指令系统发展史

大数据文摘出品

来源：theverge

编译：狗小白、洪颖菲、武帅

在Colorado Springs举办的2019年太空研讨会（Space Symposium）的最后一环节，与会者蜂拥进入一个大宴会厅，聆听一位空军官员和一名美国国家地理空间情报局（National Geospatial-Intelligence Agency, NGA）高管的讨论。

演讲有点无聊，但是一位观众问了一个犀利的问题。

这位观众问道：军方和情报部门运用算法在分析数据，以及基于分析结果而采取军事行动时效果如何？考虑到商用卫星行业已经可以在货船上的集装箱或者停车场的汽车的照片拍摄不久后就对其进行统计分析。“那国防部门什么时候才能拥有实时的、自动化的、全球性的作战指令呢？”

“这个问题问得好，”NGA的科学及方法论部门负责人Chirag Parikh回应道，“对此问题有很多很好的回答，但都是涉密的。”

他顿了顿，在座位上稍微挪动了下，笑着问到，“下一个问题？” 还没等到提问，他就继续说了下去：如今的“地理空间情报”已不再是简单的卫星图片。它可以是任何带有时间戳和位置标记的东西，以及这些数据的整合。

接着，Parikh回答了最初那个问题：数据分析及战略发展的实时性何时能够实现？

他的回答是：“如果不是现在，那也快了。”

一个“杂食”分析工具：SENTIENT

Parkih并没有提及与此相关的特定程序。但其实一个名为Sentient的项目就具有相关功能。Sentient是美国国家侦察局（National Reconnaissance Office, NRO）的产品。它是一款“杂食”分析工具，能够处理各类数据，通过分析理解过去及现在的数据来预测将来，并以此引导卫星，使其关注将来需要关注的部分。理想情况下，这将使其他机构（如和NRO在卫星中心方面有合作关系的NGA）的分析师们的工作变得更简单。

相关链接：

https://www.nro.gov/Portals/65/documents/foia/declass/ForAll/051719/F-2018-00108_C05112983.pdf

直到现在，Sentient仍然被列为政府机密，只会在为数不多的演讲中有些许模糊的暗示。但最新公开的一些曾被列为机密或最高机密的文件显示了该项目的目标、进展及其他相关信息。

公开文件链接：

https://www.nro.gov/Freedom-of-Information-Act-FOIA/Declassified-Records/Other-Public-Releases/FOIA-For-All-Releases/

与Sentient相关的研究至少在2010年10月就开始了，当时该机构提交了一份有关Sentient Enterprise白皮书的请求。一份报告称，该项目在2013年取得了研发过程中的第一次重大突破，但有关该里程碑的相关细节一直没有披露。（NRO公共事务办公室副主任Karen Furgerson在给The Verge的电子邮件拒绝就该事的时间线进行评论）。2016年，众议院军事委员会(House Armed Services Committee)就国家安全空间问题举行了一场听证会，会上简要介绍了这个数据驱动的大脑，但此后的公开会议就再也没有提到过它。

2018年，一份网上的研究报告称Sentient将于当年上线使用，不过Furgerson告诉The Verge，Sentient目前仍在开发中。

NRO多年来一直在开发这个人造大脑

Furgerson在一封邮件中说到，“NRO因为该项目的机密性很少公开提及Sentient，也很少出席国会的公开听证会。”

NRO多年来一直在开发这种大脑，但相关细节很少公开。“它可以加载并处理海量数据”，Furgerson说到，“Sentient记录正常模式，检测异常，并帮助预测和模拟对手的潜在行动方案。” NRO并没有提供相关示例，但是像是否发射导弹这类事应该是在它的清单上的。通过预测，Sentient可以在对的时间将卫星的传感器转向对的位置，从而捕捉任何需要看到的图像。Furgerson说到，“Sentient就是这样一个思维系统。”

但也不都是反乌托邦的用途。NRO在公布的文件也暗示了Sentient可以使人造卫星更加经济高效。它可以让人们更加专注于深层次的分析而不是那些单调乏味的基础工作。不过Sentient和其他机器学习模型一样会包含偏见，得出一些可疑的结果，还可能引发公民对其自由权的担忧等。但由于Sentient的机密性，我们对这些潜在问题知之甚少。

“NRO和情报局的标准做法是不公开敏感的信息和方法，这样可以最大程度地防止对手专门研究反制它的方案”。Furgerson说。“如果信息公开，那么它会给我们的国家和盟友们造成重大损失。并且也会降低美国的信息优势和国家安全性。因此，Sentient的相关细节仍被列为机密，我们能说的有限。”

一般来说，卫星项目是一些机密情报项目。1958年Corona第一次完成了在太空拍照的任务。

Corona项目

随后该卫星在1960年8月传回了它的第一批胶片。几天后，宝丽来公司的CEO埃德温·兰德（Edwin Land）在椭圆形办公室的地板上展示了这些胶片。一旁的艾森豪威尔总统发现这些照片居然清晰地显示了苏联的机场和军事设施。

“总统先生，这是您要的照片”，兰德说到。

NRO的官方历史写到，这一重大事件直接促成了一个负责“侦察卫星的设计、获取和运作”的新机构的成立。

第二年，NRO就正式成立了。

Corona拍摄的苏联卫星照片。来源：NRO

如今NRO成立已有60余年，天空中充斥着各种卫星，其中一些由私人情报公司所有。BlackSky便是其中之一，利用这些卫星来为Sentient的非机密分身提供信息。

内部人士将此过程称为“tipping and cueing”：使用来自一个来源的数据来提示卫星查看特定区域，或使用来自于卫星的信息去收集特定的数据。理想情况下，一个自动化系统收集各种数据，然后将其整合为一些较合理的结果，并据此引导卫星，并将卫星所产生的数据重新纳入分析循环过程中来，得出一些更合理的结论，据此重新引导卫星或其他感知器，不断迭代。如果做得足够好，公司或情报机构就能建立起历史的知识之塔，比竞争对手更快地理解现状，并且，也许有那么一天，能够预测未来。

陷在阿曼湾的油船的卫星照片，2019年6月。来源：BlackSky

随着商用卫星建立起了地球观测轨道网络，情报界也开始注意到这一点。

2016年，NRO和NGA（分析NRO收集的数据的机构）联合宣布了商业GEOINT项目，从而更好地购买数据。2017年，NRO接管了购买责任，并签署了至少三份新合同。一份是与一家名为Maxar的公司合作，该公司拥有私营部门中最强大的高分辨率卫星，并且在很长一段时间里也几乎是唯一一家向NRO出售卫星图像的公司。不过这次，NRO也同Planet签署了合同。Planet运作着一系列小型卫星，每天为地球拍摄照片。而签下的第三家厂商就是BlackSky。

来看看Sentient如何处理这些图片的：所有来自NRO、军方及商用卫星企业的图片，通过结合其他地理空间情报——任何带有时间戳和位置标记的东西，这样海量的信息完全不是一些分析师就能够处理得过来的。为了跟上信息的发展，NRO将部分过程转给了AI。Furgerson说到，“Sentient旨在帮助分析师们在海量数据中寻找并连接关键点。”

但是Sentient如何连接这些关键点呢？我们并不知道。目前发布的文档没有明确说明Sentient的数据源，但很明显该程序会对所有类别的信息都很感兴趣。“它可能包括国际通信的电子拦截;它可以包括先前的图像;它可能来源于人们日常生活”，美国科学家联合会研究员兼政府保密项目主任Steven Aftergood透露，比如“人们说，‘嘿，那山上有什么事情发生了’”。

已退休的中央情报局分析师Allen Thomson则有更深层次的理解。“据我了解，这个人工大脑设计团队希望Sentient拥有收集 一切信息的能力”，他说，“除了图像，还可能包括财务数据，天气信息，运输统计数据，Google搜索信息，药品采购记录等。”

“SENTIENT的未来仍是未知数”

在实际运用场景中，BlackSky可能会利用Sentient来跟踪俄罗斯喷气式飞机的位置。该公司有俄罗斯军方停放飞机的地方的图像，并且知道不同种类的飞机的大致形状。

该公司还具有形状识别算法，通过像素选择能力，在图像中画出与给定模式相符的形状。它可以调整该算法在图像中画出俄罗斯喷气机如MiG Fulcrum和Foxhound飞机的轮廓。只用将卫星图片放入该算法，就可以了解到有多少台飞机待起飞。但了解这些数据，如“在Aleysk有45个Fulcrums飞机，但在Krymsk没有飞机”的实际含义以及潜在价值就需要更多的数据。该系统需要更多关于喷射机的社会统计信息。而这些信息可以从先前的观察中确定。它或许可以收集关于它们飞行的频率和位置的数据，甚至可以查看新闻以了解Aleysk周围是否有任何骚动或行动：现在系统确切地知道他们应该将实时卫星指向何处以收集他们客户所需要的信息。

BlackSky最近刚发射了自己的卫星。其系统的最终成功和实用性仍有待证明。根据现有的信息，目前Sentient系统的未来仍具有不确定性。Thomson认为这个系统的宏伟目标只是在画大饼。他说：“Sentient的未来尚不明朗。”

“如果它能够大规模地成功实施，那肯定会是一个重大的进步”，Thomson说，“但我没有看到任何迹象表明这种情况确实发生了。”

即使Sentient仍处于早期阶段，它的存在也会给隐私专家带来许多危险信号。算法实际上有效吗？他们会在哪些方面产生偏见？他们产生了多少误报？“Sentient因错误的判断而发送我们价值数十亿美元的卫星的频率有多高”，Aftergood问道，“我们必须考虑到Sentient将我们引入歧途的可能性”。

NRO指出，Sentient并没有让人们完全退出流程，而是让人对其存在状态进行了某种检查。“人类监督智能数据和信息这一流程是保障监控算法性能的关键”，Furgerson说， “Sentient是人工辅助的机器对机器学习。”

当你要求计算机发挥作用，你必须用正确的数据训练它

Herman指出，在工作中，当你要求计算机发挥作用，你必须用正确的数据训练它。

如果你想要算法来了解无线电塔的样子，但你只是在充足的阳光下向他们展示无线电塔，算法就会认为“塔旁的黑影”实际上是塔楼的一部分。所以当他们在阴天看到这样的结构时，他们压根不会认出它。

这是一个比较普通的例子，但你可以想象更可怕的例子—— 软件被训练成将“炸弹”这个词与恐怖主义计划联系起来，但却意识不到“那是炸弹”这一句话的危险。在AI的其他领域，它并没有被证明是无所不知或客观的——通常以歧视非白人的方式。例如，在亚马逊，面部识别软件始终未能识别女性和肤色深的人。