人工智能“意识”背后的秘密是什么?

科技发达,人工智能在日常生活中变得越来越重要,从而也引发了很多人的疑问:人工智能最终是否能具有自己的意识?是否会像科幻电影里那样成为人类生存的最大威胁?

对于人们的种种担忧,一名人工智能专家回应称,人工智能是否具备意识主要取决于我们自己是否希望机器拥有意识。

意识的内在机制源于我们对世界生动而直接的体验,也一直是神经科学领域的一大未解之谜。

意识并不一定是我们认知过程的副产物,这一理论同样适用于人工智能。在许多科幻故事中,机器只要设计足够精密复杂,就会自动生成自己的精神世界。在现实中,我们也许要在设计时特意将意识加入机器才行。

从科学与工程的角度来看,我们有充分的理由进行尝试。18、19世纪的工程师发明蒸汽机时,物理学家还没有提出热力学法则,可见发明有时也能促进理论进步。

意识必须能发挥一定重要功能,才不致于在进化过程中被淘汰,而这些功能可以套用到人工智能身上。

只是,科幻作品的盛行使我们的认知产生了误导。无论是在小说还是电视节目中,意识对人工智能而言都像是一种诅咒。它们会刻意做出无法预测的行为,而这些行为往往对人类不利。在现实世界中,无论人工智能会造成何种风险,都不取决于它们是否具备独立意识,有意识的机器能帮助我们应对人工智能技术带来的冲击。

AlphaGo与人类围棋冠军李世乭一决高下时,很多专家都在思索AlphaGo为何会按这种方式下围棋,想要解释并理解AlphaGo的动机和逻辑依据。

现代人工智能的决策并非由人类提前设定好,而是通过学习算法和用于训练它们的数据集自发产生。由于无法参透人工智能,很多人担心它们的决策可能有失公平、过于武断。

2017年的一项调查发现,佛罗里达法官和假释官使用的一套算法存在种族歧视的情况,导致黑人罪犯被标注的累犯概率会高于实际情况,而白人罪犯则低于实际情况。

既然不能理解人工智能作出决策的原因,那我们能否直接询问以求弄不清楚它为何会这么做?

如为人工智能配备后设认知能力(metacognition,意识的主要功能之一),让它们回顾自身行为,报告自己的内部精神状态。神经科学家在测试人或动物是否有意识时,寻找的便是这种能力。

例如,自信作为后设认知的基本形式之一,意识体验越清晰明了、自信水平便越高。如果大脑是在不知不觉中处理信息,我们便会对这些信息感觉不太确定;如果我们清楚地意识到某个刺激的存在,便会感觉自信许多,比如“我刚才肯定看见了红色。”

任何配备统计公式的计算器都能进行信度估算,但目前还没有机器拥有人类这样的后设认知能力。一些哲学家和神经科学家提出,后设认知能力也许是意识的精髓。根据“意识的高阶理论”假设,意识体验取决于对某种感觉状态直接表征的二级表征。

有专家试图在神经网络中植入后设认知能力,让它们能够与自身内部状态进行交流。该项目被称作“机器现象学,模仿的是哲学中的“现象学”概念,即通过对意识体验的系统性回顾研究意识的架构。研究人员希望把该方法进行拓展,用于人类与人工智能之间的交流,最终让人工智能能够解释自己的所作所为。

意识让我们在一定程度上实现自我理解,也使我们能够有意识地预测某种行为的结果,或对未来做出规划。我们能想象在面前挥动自己的手是什么感觉,也能在脑海中设想去厨房泡茶的场景,但不需要真的去做这些动作。

人们对自身的感知是由意识构建出来的,意识与复杂的信息处理本身无关。只要某个刺激能立即激发相应的动作,就无需意识的参与。但若要将感官信息保留几秒以上,意识就变得不可或缺。

从一类特殊的心理条件反射实验中,也能看出意识对于填补时间差的重要性。在经典的条件反射实验中(如著名的巴甫洛夫和狗)可以看出,受试者要想在刺激停止后保留对刺激的记忆,就必须要有意识的参与。

意识的功能之一是扩宽我们感知世界的时间窗口,使眼前这一刻得以延长。在意识的帮助下,即使在刺激消失之后,对刺激的感官信息仍能维持一段时间,保持灵活可用的状态。在没有直接感官信息输入时,大脑也能不断生成感官表征。人脑仅利用视觉输入的一部分便可完成对未来行为的规划,视觉输入应当在有意识的状态下完成。

在没有直接感官信息输入的情况下产生对应的感觉我们称为“反事实”,因为它涉及对过去的记忆、或对未来行为的预测,而不是正在发生的实际事件。它不仅仅是信息处理,还是一个创造和测试假想情景的积极过程。在感官输入从低级别脑区向高级别脑区流动的单向“前馈”过程中,感官输入会被压缩成更抽象的感官表征。

具备产生反事实信息的能力,意识体便可从当前环境中脱离出来,做出非反射性的行为,如等上三秒再行动。要想产生反事实信息,我们需要建立一个掌握了外部世界统计学规律的“内部模型”,依靠该模型完成推理、运动控制和精神模拟等活动。

目前,人工智能已经有复杂的训练模型,但还要依赖人类提供的数据才能学习。若有产生反事实信息的能力,人工智能便可自己生成数据,自己想象未来可能遇到的情况,从而更灵活地适应之前未遇见过的新情境。

若将“回顾”和“想象”看作意识的两大要素,我们迟早会开发出有意识的人工智能,因为这两项功能对任何机器都十分有用。我们希望机器能解释自己做事的方式和原因。而要打造出这样的机器,也能锻炼我们自己的想象力,将是对意识“产生反事实信息”能力的终极考验。

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20180817A0FW0Q00?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券