新锐历史学家尤瓦尔·赫拉利:大数据会破坏自由民主吗?

作者:尤瓦尔·赫拉利

(Yuval Noah Harari)

全球瞩目的新锐历史学家

《人类简史》《未来简史》《今日简史》作者

我们不得不承认,大数据和人工智能是具有革命性的。我的意思是,他们会改变一切。因此,30年后,人工智能和生物传感器等技术甚至可能为社会上最贫穷的人提供比当今最富有的人更好的医疗保障。

但从更宏观的角度来看,人工智能和大数据对政治权力的影响可能会产生意想不到的危险后果。越来越多的政府得出这样的结论:就像19世纪的工业革命一样,现在能在人工智能领域引领世界的人将主宰整个世界。

如果你看看共产主义和自由主义之间的冲突,你会说这是两种不同的数据处理和决策系统之间的冲突。自由主义本质上是一个分布式系统。它分发信息和权力,以便在许多个人和组织之间作出决定。相比之下,共产主义把所有的信息和权力集中在一个地方,就像苏联时期的莫斯科那样。

现在,考虑到20世纪的技术,它的效率着实很低,因为没有人有能力足够快地处理所有的信息并都能做出正确的决定——我的意思是,苏联种植多少卷心菜?要生产多少辆车?每辆车要多少钱?有成千上万这种问题,我们单纯依靠着纸、笔、打字机之类的东西没法很有效率的处理它们。

20世纪的西方,民主和资本主义战胜了法西斯主义,因为民主在处理数据和作出决策方面更好。但这不是自然规律,集中式数据处理总是比分布式数据处理效率低。随着人工智能和机器学习的兴起,在一个地方处理大量的信息可能变为可行,然后集中的数据处理将比分布式数据处理更有效。

现在自由民主面临的最大危机是信息技术的革命将使独裁比民主更有效率,然后独裁政权在20世纪的主要缺陷——试图将所有信息集中在一个地方,现在这将成为他们最大的优势。也就是说,随着机器处理越来越多数据的能力的提高,对自由民主的威胁也在增加。

所以在20世纪,西方自由民主的支持者们有一段相对轻松的时光,因为你不必在道德和效率之间做出选择。最道德的做法往往也是最有效的做法。把权力交给人民,把自由交给个人——所有这些在道德和经济层面上都是OK的。

世界上大多数政府都在过去几十年里实现了社会的开放和自由,他们认为,如果我们想要一个像美国或德国那样繁荣的经济,我们就需要这么做,即使我们不喜欢。但是,如果突然之间,情况不再是这样了呢?从道德角度出发,这仍然是最好的做法——保护个人隐私和权利,但这不再是最有效的做法。

最有效的做法可能是建立这些巨大的数据库,完全无视个人的隐私和权利。允许算法代表人类做出决定是最有效的。算法将决定我们将录取哪些人进入哪些大学,算法会告诉你该学习什么,该住在哪里,甚至是嫁给谁。如果这更有效,那么自由、人权和个人主义的理想会怎样呢?

威胁民主未来的另一项技术威胁是信息技术与生物技术的结合,这可能导致产生比我更了解我自己的算法。一旦你有了这样的算法,一个外部系统,比如政府,不仅能预测我的决定,它还能控制我的感觉,我的情绪。一个统治者可能无法为我提供良好的医疗保障,但他可以让我爱上他,让我憎恨反对派。

自由民主的敌人,他们有办法侵入我们的情感当中,而不是我们的电子邮件,也不是我们的银行账户——它们侵入我们的恐惧、仇恨和虚荣的情感,然后利用这些情感从内部极化和摧毁民主,因为说到底民主不是基于人类理性而是基于人类的情感。比如在选举和公投期间,你很少会被问到:你怎么看;他们会问你:感觉如何?所以如果有人能有效操纵你的情绪,民主就会变成一场情绪化的木偶剧。能够控制数据的人也就能控制人民大众。

现在,我们还需要记住的是,从技术上来说,破解人类和人类情感是可能的。但为了破解他们,你需要大量的生物知识和计算能力。直到今天,还没有人能做到。

因此,人们相信人类是不可被破解的,他们会说:人类的情感反映了自由意志,没有人能够理解我,操纵我。是的,这在整个之前的历史中都是正确的,但现在已经不一定了。一旦你有了一个能破译人类的操作系统,它就能预测人类的决定,也能控制人类的欲望和情感。

直到今天,没有一个政治家真正有能力做到去理解人类的情感系统。只是通过反复验证和试错,他们发现了相对有效的方法,并且这一直都在改变。但如果我们能够准确地破译人类的生物化学系统并向你推销任何东西,无论是产品还是政客,那么我们就有了一种全新的政治。

那些帮助创造了这项技术的人,那些有这种乌托邦想法的人,他们认为数据和数据的处理方式能够以积极的方式改变世界,但同样的,你不得不怀疑他们是否停下来思考了是否会产生意想不到的后果。

当人们在开发像这种技术时,绝大多数情况下,显然会更多的关注积极的影响。直到今天,人类还在设法避免最坏的后果,最明显的例子就是核技术。20世纪50年代和60年代所有关于核战争的末日预言都没有发生——核战争将摧毁人类文明。人类成功地迎接了核技术的挑战。那么今天的人工智能和生物技术呢?这是个悬而未决的问题。

我不认为任何人能预言未来。实际上,这是毫无意义的。我把自己定义为历史学家。我要做的是映射不同的可能性。从这里开始,可走的路不止一条。我认为现在讨论这些还为时不晚。我们仍然可以影响这项技术的发展方向,我认为总是存在不同的可能性。

(注:本文所有观点仅代表作者个人,不代表演讲局立场)

预约尤瓦尔·赫拉利演讲及出席活动

请联络演讲局

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20181109G1O94600?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。

扫码关注云+社区

领取腾讯云代金券