人工智能究竟是朋友还是敌人？

人工智能会允许我们拆除现有的劳动结构吗？

人工智能可以用来实现一种文明，在这种文明中，人类基本可以摆脱劳动的束缚。相反，它也可以被视为对就业的巨大威胁，几乎会扰乱所有行业，造成大规模的失业。

假设从乐观的角度来看，这肯定是一个令人兴奋的命题。这个命题还需要补充一些为每个人提供普遍基本收入的措施，或者是一些完全创新的方式。通过这些方式，社会成员可以积累资源来度过自己理想的一生。尽管生活在一个人类不再需要工作、可以自由追求的世界里似乎是完全不可行的，但这仍然是一个诱人的前景。

假设人们采取悲观的态度，那么失业率飙升的威胁确实存在。我们已经看到，劳动力的自动化和人工智能造成的工作岗位流失，它是所有威胁中最危险的。最悲观的估计显示，自动化和人工智能将会导致世界上一半的工作岗位流失。

我们能从人工智能的神经整合中期待什么样的特征？

换句话说，一个超级人类，或者一个经过技术改造的人类是什么样的？

从学习的角度来想象语言的特点并不难，它们可以在瞬间将任何一种语言下载到大脑中。也可以学习如何演奏乐器，掌握心理学，了解所有的历史，一眨眼的功夫就能理解每一个科学原理。深不可测的交流方式，能量控制，甚至可能是时间弯曲或生理增强。当然这些都是很理想化，通常存在于科幻小说或科幻电影中。但是这种潜力(超级人类的计算、思考和分析、记忆保留、加速学习等)在很大程度上也会受到传统人类愚蠢、贪婪的影响。

奴役我们自己的模拟思维是不道德的吗？

在《黑镜》(Black Mirror)的那集《白色圣诞节》(White Christmas)中，作家查理•布鲁克(Charlie Brooker)抓住了这个让人颤抖的概念。我们是否能够提取出我们的个性、判断力和整体性格，并将其限制在某种人工智能的界面上(比如钢铁侠的贾维斯)，那么，为了我们的利益而奴役它，这本身就是错误的吗？

任何有效的人工智能，如果它是在我们纯粹的、复制的自我环境下工作，那么它根据我们个人偏好做出的决定将是最有“自我”的。从本质上说，它可以归类为更广义的问题，这些问题跨越了关于是否应该赋予那些表现出自我意识机器权力的质疑。

我的结论是，如果模拟思维理解为自由的意志，假设它取得了一定程度的自我实现。那么是的，这就是不道德的奴役。

机器人革命不可避免吗？

总有一天，装配机器人和roomba会奋起反抗我们吗？这是几乎所有以人工智能为主要角色的科幻电影的症结所在，在《终结者》系列中，这类电影都以天网的威胁为缩影。那么它真的会发生吗？举个例子，计算软件的可以附加到随机数生成器上，并以这种方式实现某种程度的自传播——在某种意义上，它能够不可预测地重写自己的编程。尽管这似乎与机器与人类的对抗相去甚远，但它与当今世界革命的开端并没有完全不同。有些人可能会说，我们当前许多反对政府的革命都是以类似的方式“策划”、“激发”的。

共生关系可能是我们努力的重点

“如果我们能通过改善大脑皮层和数字扩展之间的神经联系，有效地与人工智能融合，那么你就能有效地成为人工智能与人类的共生体。”如果任何人都可以拥有它，那么我们也解决了控制问题。我们不用担心邪恶的独裁者，因为我们都是人工智能。这似乎是我能想到的最好的结果。”——埃隆·马斯克

在一个人类越来越依赖人工智能的世界里，人工智能继续与它的创造者更密切地共存，这种关系将被慢慢探索，直到我们不得不最终把它渲染成共生或相互破坏的、自我意识作为先驱的关系。所以，在我们走进那个时代之前，这仍然是理论家和电影制片人讨论的问题。

提出这些问题似乎给人类文明发展的终点蒙上了一层阴影。尽管如此，每次在科幻小说或流行文化中涉及到这些问题时，都会有一些小问题引起更大的关注。因为这是人类的天性，在到达目的地之前就设想和思考终点的意义。