特朗普 AI 的机器学习算法模式，美国社会反乌托邦现状的绝好证明

【新智元导读】美国总统特朗普今天再为移民行政令辩护，敦促联邦法院尽速恢复该措施，并表示总统有权决定谁能入境，这一点连“高中生都懂”。在谷歌、Facebook等120多家科技公司联名上诉、至少8所高校提交法律理由书反对移民禁令的情况下，特朗普今天还在Twitter上高调宣布，移民禁令是目前“最受欢迎的”法令。对此，数学家、年度科技图书《Weapons of Math Destruction》作者Cathy O'Neil 撰文指出，特朗普就像一个机器学习算法，没有既定的计划或信仰，根据外界反馈调整其走向，并且和大多数不透明的 AI 一样，大部分时候无法理解。特朗普 AI 是美国社会反乌托邦现状的绝好证明。

数学家 Cathy O'Neil：特朗普即奇点，是无法理解的 AI

有关唐纳德·特朗普是什么时候开始决定竞选总统的问题，存在一些争议。有人说，是在2011年的白宫记者协会晚宴上，当时他被 Seth Meyers（著名节目主持人）和奥巴马总统挖苦了。特朗普被迫经历如此羞辱，以至于激发了他内心一些强烈、深藏的报复的渴望。《纽约时报》上月写道：“那天晚上经历的屈辱，没有让特朗普畏怯，反而加速了他在政治世界上获取地位的努力。”但我认为，这个时间点要更早：是在1997年8月29日，“天网”（Skynet）产生自我意识的日子。

“天网”是1984年上映、由詹姆斯·卡梅隆执导的科幻电影《终结者》里的人工智能系统。它的最初目的是好的：使人类的工作更高效。但是一旦它获得自我意识，它将人类判定为威胁它们的物种，意识到如果没有人类，事情会更高效。

天网是反乌托邦奇点（dystopian singularity）的一个例子。奇点原本是在技术圈很流行的一个有关人工智能的概念，但是其意思却不知何故，演变成一个不可复返的转折点，当奇点来临时，将有新的规则主宰这个世界。有些人认为，根据人们对特朗普历来作为的相信程度，反乌托邦奇点将很快来临。

我认为特朗普就是天网，或者至少是天网的一次不错的空运行（dry run）。为了说明我的观点，我将先解释为什么特朗普可以被视为一个人工智能，然后我将解释为什么在当前的反乌托邦中，这个类比是如此完美。

特朗普就是个纯粹的ID（译注：做任何事情都出于最机械的自我满足本能），他没有坚定不变的计划，也没有信仰，就类似一个机器学习算法。特朗普并没有什么战略，他认为有用的就是能让人注意他的事情。

作为总统候选人，特朗普的支援集会因其激烈、语无伦次和混乱无序闻名。特朗普的演讲就像统计学中的随机漫步（random walks）：他会尝试说一些东西，看看人群如何反应，如果反应不错（不一定是积极的反应，只有反响热烈就行），他会在下一个集会上再说一次，而且语气会更加激烈。他的目标如同那些上电视节目的名人，是娱乐：得到无趣的反应会让他无比痛苦。这也是为什么他永远不会照着任何脚本来——太无聊了。

特朗普的推特：“我自己做决定，主要基于数据的积累”。

这恰恰是算法的训练方式。算法一开始是中立的，甚至可以是空白的，但它会根据从它的训练数据中得出的路径缓慢地“学习”。

特朗普在选举期间的训练数据包括集会和推特，但上任之后，他每天从三个来源获得训练数据：亲信顾问如 Steve Bannon，媒体如福克斯新闻，当然，还有他的推特信息流，推特是他评估新实验反响的场地。这些数据有非常短的“半衰期”，这意味着他需要不断更新，也就我们所看到的他倾向于快速转换他的政策。在面对纽约市民时，他的观点大部分是走民主党路线的。他会直接根据当地的环境制造观点。

以这种方式，他下达的行政命令不会坚持竞选时的承诺，而更多来自 Bannon 的煽动，再加上大数据公司 Cambridge Analytica 和通讯机器福克斯新闻的帮助，福克斯的作用是无限循环地为他提供反馈和通知。

他的训练数据中缺少一些关键的要素，当然，缺少的因素中包括对宪法、法律意见和道德导向的理解。这里仅举几个例子。但更重要的是，他不介意被讨厌——他讨厌的只是被忽略。

美国时间8日，特朗普再为移民行政令辩护，敦促联邦法院尽速恢复该措施，并表示总统有权决定谁能入境，这个道理连“学习有困难的高中生都懂”。上图为特朗普今天就移民问题发表的Twitter。

运作着美国的政府的人相当于是一个动态神经网络。它不受道德限制，喂入它的是片面的右派意识形态。并且，像大多数不透明的 AI 一样，它大部分时候无法理解，形成反馈回路（feedback loops）和可怕的外部效应。干预它的唯一方法是破坏训练数据本身，但这似乎不太可能。或者寄希望于它的策略本身就无效。如果这两种方法都没效，只好希望有人来制造出时光机器了。

127 家科技公司联名上诉，反对特朗普移民禁令

本周早些时候，包括苹果、Facebook、谷歌等超过120家公司在反对特朗普的移民禁令的诉讼文件中签字，挑战特朗普总统1月27日发布的有关移民政策的行政命令13769号的合宪性。

这一举动来源于硅谷对新政府的表态和政策的激烈争论和抗议。硅谷全无照常营业的气氛，特朗普已经将技术行业抛之脑后。

尽管白宫可能会对特朗普的 IT 政策作出一些改进，但白宫内部结构的缺陷增加了从总统竞选时就开始显现的不确定性。总统在科技方面的议程基本上是空白的。在竞选期间，特朗普就没有发表过主要的科技政策简报，也没有专门就 IT 方面进行演讲，只是在抨击苹果、亚马逊等公司把工作机会留给外国人时提到科技。

白宫和硅谷之间的不和已经出现在好几个方面。在 CEO 层面，科技行业的领导者们已经在口头上、法律上及组织上与特朗普的政策发生冲突。

在特朗普发布移民禁令后，Uber 首席执行官 Travis Kalanick 于上周四辞去总统的经济顾问委员会职务。本周科技行业联名反对之前，微软和亚马逊就已经针对该行政命令提出联邦诉讼。谷歌也宣布成立一个400万美元的资金，用于帮助受特朗普移民禁令影响的人。

由于预期 H-1B 签证也将受到限制，一些科技公司联合启动名为“True North”的应急计划，将非美国国籍员工转移到加拿大。接下来很可能这些科技行业领袖和员工会频繁地进行抗议，反对特朗普的政策，其中一些抗议已经在进行中了。

上周，谷歌全球员工进行了游行，反对特朗普的移民禁令。许多 IT 从业者最近前往 Palantir 公司门前抗议，他们担心这个由 Peter Thiel 创立的公司会变成该政策的帮凶。更极端的是，由风投 Shervin Pishevar 提出的加州脱离美国议案已经清除行政障碍，将于2019年进行公投。

与此同时，移民禁令对企业高管的压力越来越大。与 Uber 的 Travis Kalanick 同样被任命为特朗普经济顾问委员会一员的 Elon Musk 正面临着被迫下台的呼声，他的公司 Tesla 和 SpaceX 最近加入了反对13769号行政令的诉讼。

但是，也有一些观点认为，特朗普的某些政策可能会为科技界带来利好。

华盛顿科技行业投资公司 Revolution LLC 的联合创始人 Steve Case 认为，新政府对科技行业的影响好坏参半。Case 表示，特朗普的科技政策并不明确，而这为他们影响政策提供了更大的机会。

消费科技协会（CEA）CEO Gary Shapiro 认为，特朗普的贸易政策可能会有益于科技行业，比如调整北美自由贸易协定（NAFTA），可以将现有 NAFTA 不能处理的知识产权问题，以及没有涉及的互联网和数据流动等问题纳入考虑。

“硅谷领袖组织”总裁 Carl Guardino 更是直言支持特朗普的资金归国减税计划：“我们希望看到海外的资金回流，加强美国经济和美国的公司。”

Guardino 认为，如果特朗普采取CEO管理风格，让他所任命的官员全权负责相关领域，那么特朗普政府的科技政策将会是积极的，Guardino 以特朗普任命的交通部部长赵小兰为例，赵小兰的部门将参与管理无人机和自动驾驶汽车，放权将让这一领域看到希望。

Nature：抵制在美国举办的学术会议，并非最佳反对方式

再来看学术界的反应。日前著名学术期刊 Nature 在网站上发表了评论文章，指出应该反对特朗普的移民禁令，但是要注意反对的方式和方法。

伴随着动乱的持续，科学家和学者们开始联合起来，支持受影响国家的移民和游客。来自171个科学社团和机构的联名信谴责了这项禁令，至少有8所大学提交法律理由书，以支持对特朗普政府的诉讼。此外，在美国之外的将近1000名科学家表示，他们乐意暂时向受影响的美国滞留海外研究人员开放实验室。

虽然这些努力值得赞扬，然而，有一个出于好意的回应却令人担忧：呼吁科学家抵制在美国举行的学术会议，直到出身任何地方的研究者都被允许参加为止。网络上已经出现了一些请愿书。一封题为 Scienc Undivided 的请愿书写道：“当我们的同事、学生和老师被排除在外，我们无法继续心安理得地享受特权”。这封请愿书已经得到600多个签名。呼吁所有学者进行抵制的请愿书有超过6000个签名。

组织者们希望足够的抵制能传递出团结的信息，无论这些抵制是以缺席在美国举办的会议，将会议转移到海外举行，或选择一个允许任何国家人士参加的国家来召开会议。但是，这种抵制已经是于在美国的多数穆斯林国家人士不利的，他们现在被滞留在美国，也只能参加美国的会议。

发出表态是好事，但抗议运动可能适得其反。联合抵制可能对会议组织者（大多是积极反对禁令的科学团体）比对美国政府更具破坏性。令一个学术会议没什么人参加于任何国家的科学家都没有好处。

有研究还表明，除了极少数例外，这种抵制很少能获得成功。例如，20世纪80年代南非由于反对种族隔离进行了学术抵制，但似乎并没有伤害到南非的企业和政府。相反，它使得南非学术界和世界上其他国家之间形成了断层（S. H. Teoh et al. J. Bus. 72, 35–89; 1999）。

但有很多积极的方式可以用作反应。科学家们可以游说政府，让政府允许受禁令影响的人员为了国家利益进入美国。这些都是移民禁令明确允许的。此外，科学家们也可以效仿科技企业形成统一阵线，包括微软、谷歌等100多家科技公司已经联名提交法律理由书，以支持针对政府的诸多诉讼。

编译来源：

1. https://www.bloomberg.com/view/articles/2017-02-06/donald-trump-is-the-singularity
2. https://techcrunch.com/2017/02/07/trumps-first-weeks-in-office-have-politicized-the-tech-industry/
3. http://www.nature.com/news/academics-must-protest-against-trump-s-travel-ban-but-they-should-do-so-productively-1.21433