首页
学习
活动
专区
工具
TVP
发布

细思极恐 如果人工智能真的形成自我意识会发生什么?

大型年度AI人物评选——2017中国AI英雄风云榜榜单评选出了年度技术创新人物TOP 10;商业创新人物TOP 10,获取完整榜单请关注网易智能公众号(ID:smartman163),回复关键词“评奖”。

本文系网易智能工作室出品

聚焦AI,读懂下一个大时代

【网易智能讯 12月19日消息】忘掉如今人工智能领域的小幅进步吧,比如汽车自动驾驶的能力越来越强。等待我们的可能是一项突破性的进展:一种能够感知自身及其周围环境的机器,它可以实时接收和处理大量数据。它可能会被安排执行危险的任务,比如被送进太空或参加战斗。除了开车,它还可以做饭、清洁、洗衣服——甚至当其他人不在身边时,陪伴在我们身旁。

理论上说,一系列十分先进的机器几乎可以取代所有的人类工作。这将使人类免于平凡的苦差事,但也会动摇许多社会基础。没有工作,只有玩乐的生活可能会变成一个反乌托邦(与“乌托邦”相对,指不幸之地,?这种社会表面上充满和平,但内在却充斥着无法控制的各种弊病)。

具备意识的机器也会给法律和道德带来问题。有意识的机器是否在法律意义上可被视为“一个人”,如果它的行为伤害了某人,或者是犯了错,它会承担责任吗?想想一个更可怕的场景:这些机器是否可能会反抗人类,并希望彻底消灭我们?如果答案是肯定的,它们代表了进化的顶点。

作为一名从事机器学习和量子理论的电气工程和计算机科学教授,我可以说,研究人员对于这种超感知机器是否会存在尚有分歧。还有一种争论是关于机器是否可以或者应该被称为“有意识的”,就像我们对人类的看法,甚至是一些动物的意识一样。有些问题与科技有关,而另一些则与意识的本质有关。

有“意识”就足够了吗?

大多数计算机科学家认为,意识是伴随技术发展而出现的一种特征。一些人认为,意识涉及接受新信息,将旧信息存储和检索,并将其认知过程全部转化为感知和行动。如果这是对的,那么终有一天机器将成为终极意识。相对于人类而言,他们能收集与存储更多的信息,快速处理庞大的数据量,从而做出复杂的决定,比任何人类都更加具有逻辑性。

另一方面,也有物理学家和哲学家说,许多人类行为是无法由机器计算出来的。例如,创造力,以及人们所拥有的自由感,似乎并不来自于逻辑或计算。

然而,这些并不是关于“意识是什么”以及“机器是否能实现”的唯一观点。

来自量子理论的视角

另一个关于意识的观点来自于量子理论,量子理论是物理学最深奥的理论。根据传统的哥本哈根解释,意识和现实世界是同一现实的互补方面。当一个人观察,或在物理世界的某个方面进行实验时,那个人的有意识的互动会引起明显的变化。因为它把意识作为一种假设,并且没有试图从物理学中推导出它,哥本哈根的解释可能被称为意识的“大C”观点,它本身就是一种存在的东西——尽管它需要大脑才能变成现实。这种观点受到了量子理论先驱们的欢迎,比如尼尔斯波尔、维尔纳海森堡和埃尔温施罗丁格。

意识和物质之间的相互作用导致了悖论,在经过80年的争论后,这些矛盾仍未得到解决。一个著名的例子就是薛定谔猫的悖论,在这种情况下,一只猫被置于一种情境中,结果是它同样有可能存活或死亡——而观察本身就是使结果确定的原因。

相反的观点是,意识是从生物学中产生的,就像生物学本身从化学中产生,而化学又反过来从物理学中产生。我们把这种不那么广阔的意识概念称为“小c”。它符合神经科学家的观点,即大脑的思维过程与大脑的状态和过程是相同的。它还符合对量子理论的一种更近期的解释,其动机是试图摆脱多世界解释的悖论,在这种解释中,观察者是物理学数学的一部分。

科学哲学家相信,这些现代量子物理学观在古代哲学中有相似之处。"大C"就像吠檀多派的心智理论——在这个理论中,意识是现实的基本基础,与物理世界是一样的。

相比之下,“小c”则与佛教非常相似。尽管佛陀选择不去解决意识本质的问题,但他的追随者宣称,思想和意识是由空虚或虚无产生的。

“大C”和科学发现

科学家们也在探索意识是否一直都是一个计算过程。一些学者认为,创造性的时刻并不是经过深思熟虑的计算的结果。例如,梦或幻像本应激发出Elias?Howe于1845年设计出的现代缝纫机,以及August?Kekulé在1862年发现的苯的结构。

一个案例与自学成才的印度数学家Srinivasa Ramanujan(1920年去世,享年32岁)有关。他的笔记本被遗忘了大约50年,直到1988年才被出版,笔记本中含有几千个不同领域的数学公式,没有推导过程,却远超那个时代。此外,他发现的这些公式方法仍然难以捉摸。他自己声称,在他睡着的时候,这些公式是由一位女神向他透露的。

“大C”的意识概念提出了一个问题,即它与物质的关系,以及物质和精神如何相互影响。意识本身不能改变世界,但也许它能改变量子过程演化的概率。正如康奈尔大学的物理学家在2015年所证明的那样,观察行为会冻结甚至影响原子的运动。这很可能是对物质和思想相互作用的解释。

思想和自组织系统

意识现象有可能需要一个自我组织的系统,就像大脑的物理结构一样。如果是这样,那么当前的机器存在缺陷。

学者们不知道自适应的自组织机器是否可以被设计成和人脑一样复杂的东西,我们缺乏这样系统的数学计算理论。也许,只有生物机器才具有足够的创造力和灵活性。但是,这表明人们应该(或者很快)开始研究新的生物结构,这些结构或可能变得有意识。

本文最初发表于The Conversation。

选自:singularityhub

作者:Subhash Kak

编译:网易见外智能编译平台

审校:nariiy

添加小助手 加入交流群

  • 发表于:
  • 原文链接http://kuaibao.qq.com/s/20171219B03TBH00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券