“AI奇点”是个什么鬼?

科技时代,我们更加怀念温暖邂逅的时光

全文共3146字,预计阅读时长4分钟

人工智能领域里,有一个新名词叫“奇点”,围绕着“人工智能奇点”、“奇点时刻”,专家学者们纷纷加入讨论。

人工智能奇点?读芯君乍一听只能用“不明觉厉”来形容。

你是不是也好奇,老被@的人工智能奇点到底是什么?科学家口中的奇点时刻是啥时候?AI奇点对人类又是福是祸?

烧脑的“奇点”

在解释人工智能奇点之前,先来说说“奇点”。

“奇点”来自英文单词:Singular point或Singularity,至于中文读音,当把“奇点”解释为“奇异点”的时候,读作qi(第二声)点;当把“奇点”当成数学、物理领域的一个科学术语时,读作ji(第一声)点。

是的,奇点并不是人工智能独有的概念,“奇点”一词最早在数学领域里使用,是一个未定义的点。比如在一个y=1/x的函数中,当x无限逼近0的时候,这个函数的取值将趋向无穷大。当它无穷大时,取无穷大的最后一个点,这就是一个不存在、未被定义的点,也就是奇点。

一般人们所说的奇点指的是宇宙奇点,是指根据宇宙大爆炸理论推导出来的一个“原点",万物从这儿产生,时间和空间从奇点爆炸后才有意义。

奇点是物理学中的一个术语。是指在空间和时间上曲率无穷大的一点。在这里,所有的定律全部失效。所以物理学中的奇点,被认为是宇宙的起始点,由奇点爆炸产生了宇宙时空,也被描述黑洞中心的状态,它的密度无限大、时空曲率无限高、热量无限高、体积无限小,一切已知物理定律都在奇点失效,这和数学领域的奇点一样,也是既存在又未被描述定义的。

听起来确实足够烧脑,而当奇点进入人工智能领域,也不断冲击着我们的想象力。

最先将“奇点”引入人工智能领域的是美国的未来学家 雷·库兹韦尔。在他的《奇点临近》《人工智能的未来》两本书中,将二者结合,他用“奇点”作为隐喻,描述的是,当人工智能的能力超越人类的某个时空阶段。

而当人工智能跨域了这个奇点之后,一切我们习以为常的传统、认识、理念、常识,将不复存在,技术的加速发展会导致一个“失控效应”,人工智能将超越人类智能的潜力和控制,迅速改变人类文明。

用更通俗的话翻译一下就是:

如果有人现在跟你说你可以活到150岁,250岁,甚至会永生,你是不是觉得他在扯淡——

“自古以来,所有人都是会死的。”是的,过去从来没有人永生过,但是飞机发明之前也没有人坐过飞机呀。接下来的内容,你可能一边读一边心里“呵呵”,而且这些内容可能真的是错的。但是如果我们是真的从历史规律来进行逻辑思考的,我们的结论就应该是未来的几十年将发生比我们预期的多得多得多得多的变化。

同样的逻辑也表明,如果人类这个地球上最发达的物种能够越走越快,总有一天,他们会迈出彻底改变“人类是什么”这一观点的一大步,就好像自然进化不断朝着智能迈步,并且最终迈出一大步产生了人类,从而完全改变了其它所有生物的命运。如果你留心一下近来的科技进步,你会发现,到处都暗示着我们对于生命的认知将要被接下来的发展而彻底改变。

接近奇点的过程:从弱变强再超

人工智能接近奇点的过程,必然是自身不断发展壮大的过程。学者们大致划分出人工智能将经历的三个阶段和层次:弱人工智能、强人工智能、超人工智能。

就目前来说,人工智能远未达到奇点,在它的60年发展史,行业依然处在一个弱人工智能的阶段。弱人工智能只擅长于单一的智能,像是机器翻译、语音识别、深度学习。再比如AlphaGo,它只会下象棋,你要问它怎样更好地在硬盘上储存数据,它就懵了。

强人工智能是指在各方面都能和人类比肩的人工智能,综合素质要强。它应该具备“宽泛的心理能力,能够进行思考、计划、解决问题、抽象思维、理解复杂理念、快速学习和从经验中学习等操作。”强人工智能在进行这些操作时应该和人类一样得心应手,但目前还做不到。

对超级人工智能,有学者将它定义为“在几乎所有领域都比最聪明的人类大脑都聪明很多,包括科学创新、通识和社交技能。” 它能够准确回答几乎所有困难问题,能够执行任何高级指令,能执行开放式任务,而且拥有自由意志、情感认知和自由活动能力。这些,我们只能在电影里想象了。

当AI走到超人工智能的阶段,就意味着奇点的来临。

现在,人类已经掌握了弱人工智能。其实弱人工智能无处不在,人工智能革命是从弱人工智能,通过强人工智能,最终到达超人工智能的旅途。这段旅途中人类可能会生还下来,也可能不会,但是无论如何,世界将变得完全不一样。

奇点时刻:那时的世界可能面目全非

超人工智能什么时候会实现?什么时候奇点来临?

前面提到的雷·库兹韦尔认为:“2045年,奇点来临,人工智能完全超越人类智能,人类历史将彻底改变。”

有一幅关于超人工智能的发展曲线很知名:

看上去非常刺激吧?但是你要记住,当你真的站在时间的图表中的时候,你是看不到曲线的右边的,因为你是看不到未来的。

假设这个人能突然穿越到未来,他会是什么体验?惊讶、震惊、脑洞大开这些词都太温顺了,很可能是这位同学直接被吓尿了。

对这一时间点,2013年的时候,Bostrom做了个问卷调查“你预测人类级别的强人工智能什么时候会实现”,涵盖了数百位人工智能专家,并让回答者给出一个乐观估计、正常估计和悲观估计。

乐观估计中位年:2022年

正常估计中位年:2040年

悲观估计中位年:2075年

当然,这些都只是专家们的推测,但我们要注意的是,这是一群懂人工智能的人做出的。

当人工智能开始朝人类级别智能靠近时,我们看到的是它逐渐变得更加智能,就好像一个动物一般。然后,它突然达到了最愚笨的人类的程度,我们到时也许会感慨:“看这个人工智能就跟个脑残人类一样聪明,真可爱。”

但问题是,从智能的大局来看,人和人的智能的差别,比如从最愚笨的人类到爱因斯坦的差距,其实是不大的。所以当人工智能达到了脑残级别的智能后,它会很快变得比爱因斯坦更加聪明:

奇点来临,对人类是福是祸?

到达奇点的超级人工智能,他们的力量是难以预测甚至想象的,奇点处,究竟是人类的天堂还是地狱?

雷·库兹韦尔构想的奇点时代是三个技术领域的共同革命造成的:生物技术、纳米技术和最重要的人工智能技术。能让我们大幅度提高智商和情商,还能帮助我们创造这种有趣的体验世界,让我们享受。人类最终战胜自己的生理,并且变得不可摧毁和永生。

雷·库兹韦尔无疑是乐观的,但批评的声音也同样逆耳。

霍金就主张人工智能的崛起可能是人类文明的终结,马斯克也认为人工智能将是人类的一大威胁。

当我们考虑各种掌握力量的人和目标,可怕的后果将出现:怀着恶意的人/组织/政府,掌握着怀有恶意的超人工智能。这会是什么样的情况呢?

当我们无法预料人工智能的最终走向,我们茫然;目睹他一步步影响我们的社会,我们开始恐慌,当他有了自我意识,甚至和人一样的人性阴暗时,我们创造出了一个很恐怖的词:生存危机,意味着灭绝。

所有这些,最终都指向两个字“失控”,我们制造了人工智能,却失去了对它的控制。

读芯君开扒

AI奇点必须由人控制

只要参与其中,看好与不看好人工智能奇点未来的人,都在以各自的方式推动AI的发展。一个为我们大胆想象和构建美丽新世界,另一个战战兢兢为我们敲响警钟防止失控。不过读芯君始终认为,人工智能发展的核心和全部内容,都必须基于人类的控制,因为失控的风险太高,人类难以承受其后果。

人工智能奇点设想的是人工智能超越人类的可能性,但现在看起来,它更像是一团混沌的迷雾,我们离他太远,以至于未来究竟如何,还看不清看不透,就连它是否存在都仍有争议。人工智能奇点到来,对人类究竟是福是祸,这一争论或许只有等到那一天真正到来才有定论。

从这一点来看,这更像是一场与人工智能的豪赌,赌上全人类,我们自己的命运,而赢者通吃!要么更上一层楼,要么满盘皆输,全军覆没!

To beor not to be, that’s a question.

生存还是毁灭,这是一个问题。

最后送上《奇点临近》里的一个描述:

第一纪元:物理与化学

第二纪元:生物与DNA

第三纪元:大脑

第四纪元:技术

第五纪元:人类智能与人类技术的结合

第六纪元:宇宙觉醒

留言 点赞 发个朋友圈

我们一起探讨AI落地的最后一公里

作者:六个太阳

参考文献链接:

如需转载,请后台留言,遵守转载规范

  • 发表于:
  • 原文链接:http://kuaibao.qq.com/s/20180104G06X3D00?refer=cp_1026

扫码关注云+社区