当 AI 智能达到顶峰 机器会叛变人类吗?

本文由腾讯数码独家发布

最近人人都在说AI人工智能,人工智能这个话题最近也火得不行,各种人工智能产品纷纷面市,这不禁让我们思考,人工智能发展到一定程度时,会有自己的思想并反抗人类吗?AI会取代我们的位置成为这个星球的新主人吗,会和人类发生暴力冲突吗?不想这么远,近一点的,AI是否会取代掉一些职业?关于这个话题,很多人各执一词,接下来我们站在理性的角度分析一下。

大多数人工智能专家都认为,计算机的思维能力终将超过人类,但问题是,计算机超越人类需要多久?在思维能力上超越人类如何定义,是计算机拥有独立思考能力还是只是运算速度更快一些?

要知道,尽管现在人工智能相当强大,但它们仍然不能拥有独立思考的能力。我们现在使用术语AGI(通用人工智能)、Strong AI(强人工智能)、True AI,以及其他术语来区分现今的人工智能和拥有独立思考能力的人工智能,但是,随着AGI技术的发展,注定会带来一些风险,人工智能发展到什么时候会给人类带来威胁,我们又该如何应对这些风险呢?

AGI何时到来?

为什么AGI到现在还没有实现呢?有两个因素:1、我们要提供AGI所需的强大计算能力,2、要编写AGI软件。人工智能专家对人脑的计算能力做出了估测,并预测CPU的计算能力将不断提高,预计在10年、20年或半个世纪的时间里,CPU在普通计算方面将超过人脑。

波士顿动力公司的机器人已经获得了人类小脑的560亿个神经元的运动和协调能力,也就是大脑计算能力的65%。机器人只需要几个CPUs就能完成,并不是因为CPU的计算能力超过了560亿个神经元,机器人的程序让其比大脑机械学习更加高效,大多数人觉得今天的人工智能系统还很有局限性,认为AGI离我们还很遥远。但对此我们不敢苟同,AI已经拥有了大部分AGI功能,只是它们还没有很好地结合在一起,AGI可能在短短10年之内就会结合起来,比大多数人想象的要快得多。

其实AGI的发展速度是我们想象不来的,我们现在需要关注的是AGI系统可能是什么样子,以及我们应该如何准备,考虑我们人类是否会被取代。下面我们分析一下人工智能发展成熟,我们与人工智能相处的几种情况。

情况1:和平共处

在考虑和人工智能和平相处之前,我们要先考虑一下,机器人为什么会与人类起冲突,冲突的根源是什么?人类的冲突的根源是由于人类本能的扩张需求,如果一个“部落”(国家、部落、宗教)没有得到它需要的资源,它可能会与邻近部落开战以获得资源。在部落中,等级秩序下,每个人都在为自己的阶级而竞争,通过竞争建立地位,这种冲突根源在于人类内心的贪欲。

机器人并不会有人类这种阶级斗争和贪欲,他们只会自己之间挣夺能源,所以,机器之间相互斗争的可能性要远大于与人类竞争。从长远来看,按照这一设想,人类的问题将通过计算机决策得到控制。AGI人工智能将为人口过剩、饥荒、疾病和战争安排解决方案,而这些问题将变得过时。计算机最初将帮助我们,因为这将是它们的基本程序,后来因为它们将看到,拥有一个稳定、和平的人口符合它们自己的利益。计算机将管理所有的技术、探索和进步。

情景2:机器统治

很多科幻片可能都演过,一台机器有了自我意识,当科学家威胁要切断它的电源时,它就攻击科学家。当然,这种场景在现实生活中不太可能发生,人类之所以有冲突,是因为我们有领土意识、占有欲、贪婪,而AGI并没有这些情感,也没有自我保护本能。可是如果他们有了自我意识,AGIs人工智能开始为他们自己的未来AGI后代编程时,他们也会将这些思想传递下去……就像我们将自己的价值观传递给后代一样。

但假设有一台机器出了问题,无论是出于偶然还是出于人类邪恶的意图,对其他AGIs都是很危险的,因此,AGIs将消除这类机器,出问题的单独的机器很快就会被淘汰,这将起到很好的威慑作用。

那么,人工智能会发动核战争吗?一般情况下,人类和AGIs的利益是一致的,战争对所有人都没好处,我们要考虑的是人类和人工智能利益不一致的情况,如疾病、饥荒和干旱等问题对人类有毁灭性影响,但对AGIs人工智能没太大影响情况,如果机器有思想并开始建立他们自己的文明,他们同样会采取措施将不和谐分子从系统中清除出去,未来的机器也将消灭他们自己,而且可能更加高效。

情景3:机器被坏人利用

如果强大的AGI人工智能系统被某个人控制,会怎么样?这是比前一个更危险的情况。我们可以对AGIs的进行编程,但我们无法控制初创AGIs的人的动机。这些系统会利用来作为牟取不正当利益的手段吗?这真的是我们要考虑的。

情景4:人类依旧主导

今天,人类还是占据主导地位的,如果AGIs崛起,我们中的许多人必然会感到不安,我们会想尽办法维持自己的地位不受撼动。人类毕竟还是自我的,绝对不会允许自己的地位被取代。

结论

那么机器人反抗吗?从某种意义上说,他们终将成为地球上的主导智能。还有一种可能是,如果我们不解决我们现在面临的严峻形势(人口过剩、污染、全球变暖、资源减少),机器自然会取代我们,我们在最后还是主张要正确看待科技进步,让人工智能真正造福人类。

来源:digitaltrends

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20181031A15N1O00?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。

扫码关注云+社区

领取腾讯云代金券