过客乱翻书#Life 3.0,by Max Tegmark

Life 3.0: Being Human in the Age of Artificial Intelligence

Max Tegmark

(384页,2018年7月)

我可以总结说,这本书是我读过的关于人工智能的书里,最系统,最严肃,也最有趣与枯燥并存的一本。

说它最系统,是因为作者Max Tegmark –出生于瑞典,现在MIT 的物理教授 – 提出很多系统归纳的看法,试图让大家对人工智能(AI)的理解,有个可以沟通的相同的界定。因为他觉得如果大家不在same page 的话,那么对于AI的争辩毫无意义。

(作者Max Tegmark)

比如,他提出来生命1.0, 2.0, 3.0 的概念:

·Life 1.0 (biological stage): evolves its hardware and software

生物层面的,对“硬件和软件”都只是改进。这就是最开始生物/生命出现的时期;

·Life 2.0 (cultural stage): evolves its hardware, designs much of its software

文化层面的,对“硬件”只是改进,但是对“软件”可以设计。这是人类出现的时期;

·Life 3.0 (technological stage): designs its hardware and software

技术层面的,对“硬件”和“软件”都可以重新设计。这是人工智能的时期。

他还总结了至今对AI 发展前景的看法, 大概有三种态度:

1.Utopian 乌托邦派,以Google 的Larry page 为代表。Larry 看到的都是AI的好处,毫无缺点与威胁, 也不需要任何管控;

2.Techno skeptical 技术怀疑派, 他们对AI 无所谓喜爱与憎恶,但是根本上怀疑AI将来会具有超强的能力;

3.Beneficial 造福(人类)派,这是作者认同的一派,其中代表人物非“钢铁侠”Elon Musk 莫属。这本书,从头到尾来论证的,也就是如何现在就要有安全地发展AI的意识, 让AI 为人类,为社会造福,而不是等到太晚的时候一切都失控。

除了这些,我觉得作者总结出来的4大议题,也是很有分量的:

1.如何发展出更“皮实”的,没有bug 的人工智能,以及人工智能在各个领域的高效的应用,比如交通,能源,健康,通讯等等;

2.从法律的角度讲,怎样才能使整个法律与司法系统跟得上数字领域的快速发展与变化;

3.如何保证“自主性武器”(autonomous weapons) 不被生产出来, 就如同当年的科学界共同抵制化学武器的研发一样;

4.人工智能对人类工作和经济体系的影响。

其中的任何一个议题,都是复杂的,有成百上千论文与作品讨论的议题。能够系统地把这些议题放在一个框架里讨论,体现了作者高度的提炼与总结的能力。

说它最严肃, 是作者提出的安全AI 准则的观念和推动的运动。作者认为所有关于AI 与人类的命运的核心,最基本的命题其实是AI 是否会存在感知,是否因为有了感知而自生“使命与目标” 。

这个看法,在我看来相当严肃与深刻。 它抛开了技术层面的讨论,而直指问题的核心。 如果认同未来的AI会有感知--- 作者是相信这一点的-- 那么AI 成为未来生命体3.0 的假设就是成立的。

可是,这并不表明人类– 做为生命2.0 -- 就会被取代,被统治,就像人类的出现也并没有消灭所有生命1.0一样。 对于有了感知的生命3.0出现之后, 世界会变成什么样子,作者用严谨的科学态度做出来很多种假设与猜想,并对所有的这些猜想做了细致的分析与比较。

看看作者这个详细的列表,就知道他有多么的严谨与认真。

当然,作者是属于Beneficial派的,面对如此多的可能性,他呼吁的是,为了避免AI将来走上“歧途”, 人类现在就应该联合起来专注于“安全” AI 的设定和共识。

因为这样的信念,他发起了在波多黎各的第一次世界AI安全大会,在 skype 创始人的资助下,邀请到全世界AI 领域的专家, 工业界AI 的领军公司 (Google, Facebook, Amazon, Microsoft, Deepmind 等等), 和硅谷的明星人物 (比如 Larry Page, Elon Musk ) 等参加。 他们讨论制定的 AI 安全发展准则,也得到了上千AI顶级专家的署名认可。 同时, 这样一个目标, 也得到了 Elon Musk的千万美元的基金资助(后续又有很多机构与个人的投资),专注于各个领域的安全AI 项目的研究与开发。

说它最有趣与枯燥并存。 是因为有的章节,我是看的眉飞色舞,手舞足蹈。比如Larry Page 与 Elon Musk 在他们的大型家庭派对上关于AI 的辩论的部分—Larry Page 热情激昂,慷慨陈词。 Elon Musk 却总是挑战他的假设,专门poke holes。

再比如 Alpha Go 是如何在与李世石的“世纪之战“中,在第二场选择了在第五排下子,震惊世人,从而根本体现了 AI 在围棋这个领域超出人类”自信心”。

可是有的部分,的确是让我看得相当繁冗与无趣。手指不停敲击kindle 频繁翻页。仔细想想, 估计这跟我这个读者的自身素质有关系,可能根本上我就是个自带八卦属性的读者,只喜欢看看热闹而已, 呵呵。

。。。

AI, 尤其是基于深度学习之后 (deep learning)的AI, 已经开始自带学习改进的属性。它能够成就什么,没有人可以完全预期得到。

周末的时候,正好跟我家小朋友一起看了 Steven Spielberg 拍的电影《Ready Player One》颇有感触。对人类来说,最重要的,永远都是爱与情感。如此大的世界,如此多的同类,可是孤独和对爱的渴求,永远是人类无法抛弃的万念之源,这是人类自己的悖论。

那么,如果真有一天AI 发展到也有感觉,他们会不会依旧重复人类的这个悖论,对爱与情感的渴望,也依旧是他们永远追求的“目标与使命”?所以可能,到了那个时候,AI 不会那么好,也不会那么坏,就跟现在世界里的人类一样吧。呵呵。

《完》

#过客乱翻书# 公众号二维码:

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20180814G1ULWK00?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券