知道创宇CEO赵伟:Alpha Go是弱AI 超AI将拥有光速进化

【天极网IT新闻频道】2017年12月14日,FreeBuf 2018 互联网安全创新大会(Fit 2018)在上海正式开幕。本次大会主题为“智能引力”,将探讨当前时代下最为火热的两个词汇,人工智能与安全,这一话题也吸引了行业专家、顶级白帽等近5000人参会观摩。当天上午,受主办方邀请,知道创宇创始人、CEO赵伟再次出席大会,压轴登场带来了《从机器人大脑到黑客帝国:安全AlphaGo离我们有多远?》主题演讲,引起大会广泛讨论与共鸣。

Alpha Go是弱AI 超AI将拥有光速级进化

赵伟从小看了三百本科幻小书,甚至创业成立知道创宇也是来源于要保卫更多的人不受来自于未来网络世界的侵害,所以在开场时他表示虽然很难讲好这一演讲主题,但他非常愿意分享来自于他内心的一些思考,虽然这些思考可能会让大家觉得他是个疯子。

赵伟说现在全球有3600多个AI创业公司,但是这些公司都是以很无序的状态在竞争,这种竞争在他看来是很低级的,应用的方法无碍乎机器学习、深度学习,他表示安全行业很多公司包括知道创宇很早就用了机器学习、深度学习,但从来不把自己认为是AI,因为所有安全从业者认为这还远远没有达到人工智能的标准。

我们看到Alpha Go之前连续对抗国际顶尖围棋手,像公开直播的就有与李世石、柯洁的对局,引起了全球对AI的广泛热议,但其实从技术上来看,赵伟认为这仍然没有脱离我们过去10年、20年前对AI所下的定义,在赵伟眼中,Alpha Go仍处于弱AI。

赵伟认为AI有三个层次,第一是现在大家都在探讨的深度学习式的AI,这属于弱人工智能;第二是强AI,其显著特点是具有自我学习能力,以及推理能力,并且具有解决开放性问题的能力;第三则是超AI,现在人们很难看清甚至去定义超AI,赵伟认为具有自我改写、自我重写应该是超AI的特征,即拥有自我进化能力。

而这三者,则是觉醒关系,强AI是弱AI的觉醒,超AI则是强AI的觉醒。

赵伟认为如果有超AI出现,其进化速度将让人类产生极度的诧异,甚至是恐惧,可能刚刚一刻“它”还是个孩童,但是转眼就会进化到超过全人类智力总和的水平,因为其进化是纳秒级的。超AI一旦出现,超越人类的速度可比喻成光速,即现今我们能理解的最快的速度。

安全“Alpha Go”什么样?离我们有多远?

那在赵伟对终局的判断,安全行业需要的AI究竟是什么,安全“Alpha Go”究竟应该是什么样子?我们有过脑洞大开的前辈给过我们一些启示,比如关于“黑天鹅”、“黑客帝国”等故事,但其以安全为目标的超AI是什么样子呢?赵伟还是给出了自己定义的答案。

赵伟认为现在的安全防护产品解决的都是封闭问题,而他的“梦中情人”,梦想中的安全“Alpha Go”应是一个可以自我作战的AI,“它”将集推理、扫描、探索、攻击、防御、生存等为一体,可以解决所有开放性问题。

但是让人担心的是,这种AI其目标是生存,为了这个目标甚至是不惜一切代价。

如果说《黑客帝国》是编剧的预言,那赵伟认为现实人们已经越来越接近这种“预言”,人类可能已经不再处于食物链的顶端,一旦真正的AI诞生,“它”拥有所有的数据,以及超越的进化能力,相对于人类而言这就是上帝一般的存在。

人类是世界的最终进化吗?这应该是赵伟想起AI话题时思考最多的问题,人类高速发展的1、2百年内,已经对地球造成了严重的破坏,从这一点来看,在赵伟眼中人类更像是个庞大系统内的BUG,另一方面,从进化论上来讲,人类的社会进化过程虽然相比大自然进化要快的多,但如果与超AI相比,人类的进化速度甚至不值一提。

IC三大预言

一、网络安全领域的人工智能必将最先觉醒。

网络安全AI做的差一点,导致安全事件,你一定不会满意,做的很完美,做到了攻击无感,你又会质疑其价值。所以这种环境下,更适合“它”的最先觉醒。

二、 至少两个路径发展出强人工智能然后进入超人工智能。

如现实场景中的进化,以及将人工智能处于虚拟世界的进化。

三、 人类与强人工智能的和平共存与战争是赛博安全的终极挑战。

生存是一切物种的本能,人类与AI碰撞也是如此。

IC三悖论

一、 第一个觉醒的强人工智能是不会通过图灵测试的AI。

图灵测试用于判断机器是否具有智能,而超AI一旦诞生,便拥有了保护自己的意识。

二、 超AI对人类的毁灭没有感知。

人类不再处于食物链的顶端,超AI将成为“上帝”。

三、 守护者悖论:肯定有佛有情:)

超AI将以物种化出现,人类即受到威胁,也会得到“有佛有情”的保护。

演讲接近尾声时,赵伟抛出了他关于AI发展的一些个人论断。同时他在总结时表示:人类不要狂妄自大,要对自然与科技有敬畏之心,对AI要有敬畏之心,人类需要关注自身安全与觉醒。

  • 发表于:
  • 原文链接:http://kuaibao.qq.com/s/20171218C0DPTL00?refer=cp_1026

同媒体快讯

相关快讯

扫码关注云+社区