算法将操控一切，但奇点只是科幻

林永青-ALEX （00：03）非常感谢您与价值中国读者们的交流，我们对您的几本书都有着深刻的印象，特别是关于算法的话题。我们的第一个问题是，您能和我们简单介绍一下您自己的算法研究领域的专业背景吗？

David SUMPTER （00：31）我在本科的时候开始学习计算机科学，然后我的一生都在试图为周围的事物建模，试图建立数学模型。其中包括我已经做过的事情：鸟群，鱼群，人类行为，我们在集体中的行为。此外，我还研究足球以及球队是如何运作的，其中包括用数学模型描述我们的行为，并试图在其中捕捉我们的行为。这就是真正的算法。算法是一种试图以各种方式描述或捕获一个过程的尝试。

现在，有越来越多的这类自动化系统。人们想要尝试用自动化的模型来理解足球，和理解社会。说真的，这本书是了解他们的一个尝试。

林永青-ALEX （01：29）很好的分享。同时，我们也发现了一个关于2016年美国总统选举的，非常有趣的信息，比如希拉里和特朗普当年的竞争。当时许多媒体都认为剑桥分析公司的大数据预测，为特朗普的助选，起了很大的作用。然而，最终在你的书中，你却认为剑桥分析公司在美国选举中扮演的小角色微不足道。可以告诉我们这是为什么吗？

David SUMPTER （02：15）我想，当我开始写这本书的时候，我可能会像很多人一样。我很担心算法如何运用于我们的生活。我想我仍然在担心某些算法的使用方式。但我首先看到的是剑桥分析公司，所以我采访了很多初版算法的幕后创造者。它们是由学者创造的，更多的是一种学术兴趣。举个例子，他们说，他们可以识别，研究人们在脸书上喜欢的东西，可以用它来识别他们的个性。事实上在一定程度上，他们确实可以做到这一点。所以他们可以发现一些联系，如果你有点神经质，如果你喜欢某些东西，你是一个外向的人。

但这是一个巨大的进步，我能判断出你是怎样的一个人。如果我问，你是一个神经质的人，还是我们俩中谁最神经质？我看了我们的脸书资料，或者在社交媒体上的任何东西。我只有60 %的机会能猜对。如果我只是随机猜出来的，那将是50%的概率。与剑桥分析公司使用的方法相比，这些算法的影响相当小。而剑桥分析公司的算法可以精确定位你，了解你个人的一切，然后能够预测你的行为，并以各种方式操纵你投票。

但我不认为，即使我们对人的了解越来越多，我不认为我们仍然很好，我不认为我们有能力看到这个人他的个人细节。

林永青-ALEX （04：06）好的，谢谢您。在您的书中，我们发现了一个非常有趣的描述。你称那些大型科技公司，如脸书或谷歌，还有我们都知道的微软，他们使用这样的软件，你称之为“黑箱”。它们是如何工作的？

David SUMPTER （04：42）这是个好问题。有两种方法可以构建一个算法。

第一种方法是描述我认为事情是如何运作的。例如，当我试图建立动物行为模型时，我就采取这种方法。比如我说，一只动物会转向跟随另一只动物，等等。这是一种方式。另一种，是“黑箱”的方式说，比起我来构建模型，试图创造和描述事情，我做的是我观看很多不同的人，例如，他们在不同的情况下的行为。我们称之为训练模型，我们会给它大量的数据，然后如果它做对了，我们说，好，再试一次。如果它做错了，我们会说，不要再这样做了。我们是在那个模型里面建立起来的。我们完全不知道其中到底发生了什么。这就是为什么它是一个“黑箱”。我们发现它是如何分类的，用不同的方法更好地对人进行分类。

林永青-ALEX （05：44）谢谢您。下一个问题来自我个人的兴趣。我们与现代管理学大师管理学彼得·德鲁克有一些合作关系与合作项目。同时，他也是“知识工作者”这一概念的创造者，对吧？我认为算法是针对个人信息的个人数据。

彼得·德鲁克，曾经说过知识是属于个人的，它只能通过一个人传递给另一个。这意味着个人知识的传播是非常困难的。但数据是不同的，数据应该是特定的认知客体一样，人们可以用算法和机器来处理这类事情。

请问算法到底对你的个人数据研究起到了什么作用？算法能做什么？算法不能做什么？

David SUMPTER （07：17）我认为也许理解了算法不能做的事情更重要，因为它们能做的事，对我这样的人来说不是太困难。因为在某些方面，算法是令人兴奋的，它们可以做很多事情。他们可以找到统计模式，它们对于找到一个统计模式是非常有用的。如果你能找到关联。例如，我曾经在足球中试图寻找关联，如果你能找到足球中射门与进球之间的关系，那么这对于与球员交谈，通知他们，在俱乐部内部做决定非常有用。

但是足球俱乐部里最重要的人是伟大的人，但他们是人。最重要的是人。我刚才提到过，你脑子里在想什么？我认为，这比我们用算法和数据所能做的事情重要得多。我们可以用算法和数据来发现这些模式。但如果我们真的想思考，并理解这个世界，我们就必须使用我们的思想，我认为这是最大的区别。

林永青-ALEX （08：31）感谢。下一个问题也非常重要，因为许多专家或思想家，奇点的倡导者，就像库兹韦尔，那个创立了奇点大学的人一样。一个和我关系很好的顾问，碰巧是奇点大学的早期投资者。在你看来，人工智能是否意味着人类的末日？

David SUMPTER （09：21）不，我不这么认为。我认为奇点更像一个科幻小说的想法，在科幻小说节目中看起来很有趣。但人类不是这样的，我们不能被算法以这种简单的方式捕获。我们所做的事情是独一无二的。我们有很多不同的观点。我们以一种移动的方式不断地改变，这是不可能用一个算法来归结和捕获的。

我在书中所做的是，我说，我们现在能做什么模型呢？如果我们看看数学和算法中最现代的东西，它是什么？我们可以以此建模吗？我发现，病毒和细菌之间可以找到我们模拟的东西。我们不久前就有一种病毒传播到全世界，对吧？我们并没有很好地模拟那个病毒。这就是我们无法捕捉到的地方。我们目前还不能模拟一些非常复杂的事情，我也不知道我们是否能捕获病毒，或者我们是否能捕捉到细菌的行为。我看不出我们是如何捕捉像你我这样的人的行为的。

林永青-ALEX （10：45）是的，我同意。就像你提到的，奇点只是处于科幻小说当中。仍然有很多类似的问题或障碍未能解决，至少在不久的可以想见的将来。我个人比较关心的，比如，人们如何处理或是否可以处理，机器自我意识的问题。

David SUMPTER （11：15）关于奇点以及谈论这些事情，让我困扰的是，世界上有很多问题需要解决。说实话，这些问题都涉及财富分配，这让我很恼火。当我看到这些富人时，总是他们在谈论奇点，这种像是科幻小说中的未来。他们有很多钱，他们有时间思考科幻小说，但世界各地那些没有他们这些资源的人。他们的问题更为根本。

这很有趣，我们可以就此进行讨论，但这可能也有点困难。

中资海派出品  2020年1月

林永青-ALEX （12：06）是啊，这是一种现实主义的答案。我喜欢这种哲学。就哲学而言，实际上我认为自己是面向未来的哲学思想者。从这个观点来看，人们经常认为算法是一种数字技术，或一种认知科学。但我认为，算法也是关于本体论的，举一个例子。在机器学习和知识图谱中，经常使用著名的网络本体语言(OWL)。

所以我仍然认为这种个人化的数据，一种本体论方式的个人知识。这是一种实体或一个过程。

David SUMPTER （13：13）你完全可以这样想。我觉得有一件有趣的事情，它发生在我写这本书之后，我写的语言模型就像我写作时的一样，但现在有了GPT3。它能生成很好的文本，以及做其他的事情。

你可以围绕着你的本体论问题来思考这一点，因为gpt3的作用是什么？它真的有效吗？它的有效始于，你给它一个开始的文本，它就开始尝试预测在互联网上，下一步会是什么。

我在书中介绍了它是如何工作的，但基本上，它是阅读并采用了来自互联网的大量知识图表。然后你给它一个开始信号，它就开始把一些东西从大量的知识图中随机分离出来，告诉你一些事情。这给你一种它在和你对话的感觉，它告诉了你一些东西。但实际上是你做完了所有的工作，它所做的只是把各种网页混杂在一起呈现给你。它给人一种感觉，即你是在参与这些知识，但是是你在努力寻找你的头脑中的这些知识。我不知道这是否回答了你的哲学问题。

林永青-ALEX （14：35）是的，这个话题很有趣。我从大约100年前的一个著名的哲学家书中得到了启示。就是剑桥大学的维特根施坦，他在1921年发表了里程碑著作《逻辑哲学论》。我得到的启示，也来自于他的老师，怀特海的过程哲学，对今天的AI研究，意义重大，对吧？所以AI代理（agent），也是本体论意义的代码，它是主体，是动态的过程，也是一种生命，类似于人类，而不仅仅是认知的客体或对象。

David SUMPTER （15：24）是的，我认为你是对的，我认为这维特根施坦的哲学有关联，当你和它说话的时候，你是在玩某种特定的游戏。

我认为，当人们和ai交谈时，他们会混淆他们正在玩的游戏，因为我认为你要想到的是它是什么，从某种意义上说，它一个有生命的有机体，它是大量知识结合的一部分。事实是我们创造了它，并使它成为一个有生命的有机体，一整个知识体系。但是你必须小心如何诠释它们输出的结果，比如书也是一个有生命的有机体，在某种意义上。有一种方式，一种语言游戏你可以用来谈论书，它是活的知识的一部分，他们确实是。

但还有另一种看待书的方式，这只是一种非常静态的东西。

我认为，当人们混淆了这两者时，就会出现很多问题。认为人工智能可能会变得有知觉的想法，或者他们开始认为我们应该小心AI以及AI生活之类的想法。我认为我们必须非常非常小心，因为它可能是有生命的，但我不认为在一些问题中，意识到它不是一个有生命是很重要的。

林永青-ALEX （16：56）很好。是的。一个更好的，更真实的哲学态度，如人和算法将共存的想法，而不是谁将取代谁。

David SUMPTER （17：26）没错，这绝对是正确的观点。我和乔安娜·布莱森谈论过，她一直在做很多关于人工智能方面的工作。

她向我指出，当2000年前算盘出现的时候，或者你可以从中国的数学中举出例子。当年的中国数学出现在世界，而今天你可以开始用矩阵代数来解决问题，等等。整个世界都因为数学上的发展而发生了变化。我认为这个世界总是在因为数学而发生变化。我们就是其中的一部分。所以算法和数学世界之间有相互反馈。

所以人类的世界，并不是说我们会合二为一，更多的是我们将一起进化，尽管并没有生物学上的参与，但同时它改变了我们的生活。

林永青-ALEX （18：26）是的，这就是为什么我会分享这幅图像。几年前，我们都知道这个有名的人，他的畅销书《未来简史》。这是一个相当奇怪的名字，不是吗？但很多人喜欢他。赫拉利认为人会变得无用，也许只有2%的精英，将控制人工智能或控制地球。我的态度或观点和你的很相似，相信人类与机器的共生的时间会很长，甚至在某个时候，人工智能也可以超越人们，但人类也可以通过其他方式进行调控。

David SUMPTER （19：42）重要的是，在很多情况下，人工智能已经超越了人类，这就是事实。我所做的所有工作都涉及计算，而计算机的计算速度比我们要快得多。这也是为什么它们学会玩像国际象棋这样的游戏，因为它们可以用比我们更广泛的方式来代表问题，因为它们可以被编程，以一种让它们理解的方式来组织国际象棋的问题。

但仍然会有很多计算机无法解决的问题和讨论，这些问题将会存在很长一段时间，所以我对此非常怀疑。我还没有详细读过他的书，但我有点了解他的想法。我不相信我也不明白这个论点从哪里来。人们可以用来描述过去的历史，以及它是如何运作的。但当人们预测未来的时候，这是完全不同的事情。我们从来没见过像AI这样的东西，我们是怎么理解AI的呢？

所以我在这个辩论中经常举的一个例子, 就是"我们的大脑将被电脑取代",这个想法很像科幻小说中描述的那样，就像外星人到达或类似的事情，我们可能会发现外星人来自太空之外。但要推测这些事情是很困难的，甚至连推测都是没有意义的。

林永青-ALEX （21：16）是的。我也这样想，因为赫拉利与你和我的技术背景不一样。他没有技术的背景，所以我认为他的很多预测或描述，听起来更像是一种科学愿景。

价值中国新经济智库

“全球领军人物对谈”

参见