恐怖的奇点——论机器进化

英特尔中国研究院院长 吴甘沙

我相信奇点,但是采用一种预测(prediction)的态度,而非预报(forecasting),言之凿凿说2029或2045有点那个了。看人的智慧形成,也存在个奇点,在那之后加速进化,我看人的生理结构,DNA编码,脑和神经系统,那么精密,常常有种错觉人就是过了奇点的机器。熙霖老师关于伦理的观点很认同,机器人三大定律对机器人的约束力是不靠谱的,所以还是得约束机器人的始作俑者——人(就像现在约束人在基因工程上的作为一样),在机器发展到奇点之前,人必须把他的智慧脐带剪断,毕竟在这地球上从没有两种可以竞争的高级物种,而高级生命的扩张欲望是极其强烈的,在物质守恒的前提下只能毁灭非我同种者,因此,避免失控的办法就是提前让机器的某些方面的智能发育停滞。如果不加约束地发展,在奇点以后人的智能发展很难赶上机器。人类大脑毕竟是有局限的,而机器的运算能力、存储能力和互联能力是可以简单堆叠、(几乎)无限扩容的,它的学习能力可以不断提升。当大规模计算基础设施、大数据和认知科学发展到某个临界点,会出现机器自生智慧 (如创造力)、复杂情感 、主体意识和自我认知的涌现效应。不确定机器会不会受道德的约束,机器被教会用最优化的算法解决问题,在什么范围内是最优的,对机器自身,还是对主人,对机器种群,还是对整个人类社会,就像桑德尔《公正》公开课所讲的,不同理论对公正有不同的评判,也许不同的机器有不同的理解。

百度深度学习研究院杰出科学家 吴韧

计算机神经网络的进化,异构计算,大数据的迭代进化速度,特别是计算智能(computational intelligence)发展的速度,让奇点成为可能。以前机器一直希望模仿大脑,到国际象棋程序出现后,发现机器可以用另一种方式超越人脑。先理解人脑,再架构电脑的思路可能是错的。机器智能不应受人类大脑的模式制约,计算智能也许会是更好的方案。欧美的大脑计划在研究人脑,但人工智能的发展不必须以人脑作为模板,可以另起炉灶。电脑可以不知道也不理解人脑是怎么运作的,但完全可以按照自己的一套逻辑做超越人脑的事。人工智能的发展也会遇到各种瓶颈,但山不转水转,总有解决方案:例如存储能力与GPU的加速进化,这一切的快速推进,让一切皆有可能。而且可能性很大。但人工智能距离道德、情感等人类意识仍然很远。比如人在与电脑下棋快输的时候,可以恼羞成怒把电源关掉,这对于机器智能来说是太高阶了。

奇虎360副总裁兼首席隐私官 谭晓生

计算机不一定完全理性,程序逻辑也可以让机器失常。从电路上来讲,0-1其实是电压决定的,和电压相关的是电流,电源功率小点,电流一变,电压跟着变,计算机就会出匪夷所思的结果。冯诺依曼体系结构,修改数据即修改程序,数据突变有很多种方法,比如宇宙射线。一切按照理性的前提是不成立的。甚至高密度集成电路本身就有随机特性,而历史往往是小概率事件影响的。最近20年,机器学习在算法和应用上, DNN深度神经网络取得突破。算力的提升,分布式计算技术的进步改变了一些东西。游戏规则的改变,比量变影响深远的多,互联网改变了信息的流动方式,这点也会对社会,对人和机器的关系产生影响。例如机器学习了全人类的知识,见过各种伪装,你觉得它对伪装的识别能力比单个人类个体强还是弱?这是低端智能还是高端智能?前面吴韧和吴甘沙也提到大数据的发现是多维的,可以发现人类发现不了的细节。也许机器能识别出上万个特征,但人类只能识别出上百个。360在用这种方法识别网络攻击。目前看,比人整理的ips规则靠谱。我写过不少代码,见过诡异的事情,错误的代码,加上错误的数据,能出正确的结果。机器出错了,未必一定是糟糕的结果,而机器出错几乎是一定的,程序bug,硬件错误,甚至intel cpu都出过bug,现在的硬盘磁存储都已经是概率事件了。当有几千台存储服务器的时候,每个月要对硬盘数据重新校验一遍,每次都能发现有数据错了-当初写入后是校验过的!所以,谁说机器是理性的呢?理性的机器能干出这事儿么?故意出错?还有,写程序的人也会出错。文明的进化不用过分担心。哪天机器进化超过人了,从优胜劣汰角度,机器会带来更高的文明,人类为啥还要占着茅坑呢?看看三体,星舰文明,我很能理解。为了文明延续,要让最强者得到机会,四艘星舰留存一艘,其它舰人员甚至沦为食物,so what?更何况,即使从文明延续的角度,机器智能与人类也未必不能共处。

摘自网络

原文发布于微信公众号 - 大数据文摘(BigDataDigest)

原文发表时间:2014-04-14

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏新智元

【2万字巨献】马斯克脑机融合系统Neuralink:人类只有一个选择——成为 AI

【新智元导读】著名科技作家 Tim Urban 在 WaitButWhy 上发表长文,详解了 Elon Musk “脑机接口”的前世今生和 Neuralink ...

47550
来自专栏华章科技

分享 :数据产品开发前的必修课

本文作者 胡晨川,首发于公众号 川术(ID:chuanshu108),由作者授权 大数据 转载。如需转载请与作者联系,谢绝二次转载。

10620
来自专栏机器人网

如何选购合适的工业机器人?

在“机器换人”大热的今天,不少老板都希望能用工业机器人来替换工人,既解决用工荒的问题,同时还能进一步提升生产效率,降低成本。可是,你知道怎么选择一个合适的工业机...

28860
来自专栏BestSDK

Dolphin.ai免费开放SDK,简单三步拥有一套完整语义识别系统

语言作为一种信息交换的媒介,当人们在理所当然地在日常生活中使用它时,并不会觉得这有什么神奇,但当人们尝试与机器沟通时便能轻而易举地感受到这项技能的“高级”之处。...

44150
来自专栏华章科技

马斯克最疯狂的公司 Neurallink,重新定义未来人类:人机同体,成为AI

这是一篇非常非常非常长但是读起来却不会枯燥的文章,尤其关于进化和人脑的部分,图文并茂,由浅入深,生动详实,绝对值得细读,绝对受益匪浅,走过路过不要错过~

9820
来自专栏机器学习算法与Python学习

Python可以被用来做哪些神奇好玩的事情

关键字全网搜索最新排名 【机器学习算法】:排名第一 【机器学习】:排名第一 【Python】:排名第三 【算法】:排名第四 如果你在周末、有WIFI的房间里不知...

37150
来自专栏大数据文摘

图解社交网络构建、信息扩散路径

26090
来自专栏大数据文摘

吴恩达刚刚注册了一个微信公众号,发布新书与课程中文版

23950
来自专栏ATYUN订阅号

迪士尼开发新型机器人,带来后空翻杂技表演

杂技已经流传了几个世纪,但机器人呢?它们连跳跃都不行。迪士尼研究部想要解决这个问题。研究者最近开发了一种火柴机器人,可以执行空中特技表演,其优雅程度接近人类。就...

10530
来自专栏PPV课数据科学社区

【资讯】我们需要更多数据还是精确数据?

不断过滤清理数据,直到确保它的正确性的日子已经逐渐成为奢望,尤其是当IT部门需要以更快的速度和更多的灵活性来响应业务部门的需求时。但是,提供实时数...

297110

扫码关注云+社区

领取腾讯云代金券