人工智能“意识”背后的秘密是什么？

科技发达，人工智能在日常生活中变得越来越重要，从而也引发了很多人的疑问：人工智能最终是否能具有自己的意识？是否会像科幻电影里那样成为人类生存的最大威胁？

对于人们的种种担忧，一名人工智能专家回应称，人工智能是否具备意识主要取决于我们自己是否希望机器拥有意识。

意识的内在机制源于我们对世界生动而直接的体验，也一直是神经科学领域的一大未解之谜。

意识并不一定是我们认知过程的副产物，这一理论同样适用于人工智能。在许多科幻故事中，机器只要设计足够精密复杂，就会自动生成自己的精神世界。在现实中，我们也许要在设计时特意将意识加入机器才行。

从科学与工程的角度来看，我们有充分的理由进行尝试。18、19世纪的工程师发明蒸汽机时，物理学家还没有提出热力学法则，可见发明有时也能促进理论进步。

意识必须能发挥一定重要功能，才不致于在进化过程中被淘汰，而这些功能可以套用到人工智能身上。

只是，科幻作品的盛行使我们的认知产生了误导。无论是在小说还是电视节目中，意识对人工智能而言都像是一种诅咒。它们会刻意做出无法预测的行为，而这些行为往往对人类不利。在现实世界中，无论人工智能会造成何种风险，都不取决于它们是否具备独立意识，有意识的机器能帮助我们应对人工智能技术带来的冲击。

AlphaGo与人类围棋冠军李世乭一决高下时，很多专家都在思索AlphaGo为何会按这种方式下围棋，想要解释并理解AlphaGo的动机和逻辑依据。

现代人工智能的决策并非由人类提前设定好，而是通过学习算法和用于训练它们的数据集自发产生。由于无法参透人工智能，很多人担心它们的决策可能有失公平、过于武断。

2017年的一项调查发现，佛罗里达法官和假释官使用的一套算法存在种族歧视的情况，导致黑人罪犯被标注的累犯概率会高于实际情况，而白人罪犯则低于实际情况。

既然不能理解人工智能作出决策的原因，那我们能否直接询问以求弄不清楚它为何会这么做？

如为人工智能配备后设认知能力（metacognition，意识的主要功能之一），让它们回顾自身行为，报告自己的内部精神状态。神经科学家在测试人或动物是否有意识时，寻找的便是这种能力。

例如，自信作为后设认知的基本形式之一，意识体验越清晰明了、自信水平便越高。如果大脑是在不知不觉中处理信息，我们便会对这些信息感觉不太确定；如果我们清楚地意识到某个刺激的存在，便会感觉自信许多，比如“我刚才肯定看见了红色。”

任何配备统计公式的计算器都能进行信度估算，但目前还没有机器拥有人类这样的后设认知能力。一些哲学家和神经科学家提出，后设认知能力也许是意识的精髓。根据“意识的高阶理论”假设，意识体验取决于对某种感觉状态直接表征的二级表征。

有专家试图在神经网络中植入后设认知能力，让它们能够与自身内部状态进行交流。该项目被称作“机器现象学，模仿的是哲学中的“现象学”概念，即通过对意识体验的系统性回顾研究意识的架构。研究人员希望把该方法进行拓展，用于人类与人工智能之间的交流，最终让人工智能能够解释自己的所作所为。

意识让我们在一定程度上实现自我理解，也使我们能够有意识地预测某种行为的结果，或对未来做出规划。我们能想象在面前挥动自己的手是什么感觉，也能在脑海中设想去厨房泡茶的场景，但不需要真的去做这些动作。

人们对自身的感知是由意识构建出来的，意识与复杂的信息处理本身无关。只要某个刺激能立即激发相应的动作，就无需意识的参与。但若要将感官信息保留几秒以上，意识就变得不可或缺。

从一类特殊的心理条件反射实验中，也能看出意识对于填补时间差的重要性。在经典的条件反射实验中（如著名的巴甫洛夫和狗）可以看出，受试者要想在刺激停止后保留对刺激的记忆，就必须要有意识的参与。

意识的功能之一是扩宽我们感知世界的时间窗口，使眼前这一刻得以延长。在意识的帮助下，即使在刺激消失之后，对刺激的感官信息仍能维持一段时间，保持灵活可用的状态。在没有直接感官信息输入时，大脑也能不断生成感官表征。人脑仅利用视觉输入的一部分便可完成对未来行为的规划，视觉输入应当在有意识的状态下完成。

在没有直接感官信息输入的情况下产生对应的感觉我们称为“反事实”，因为它涉及对过去的记忆、或对未来行为的预测，而不是正在发生的实际事件。它不仅仅是信息处理，还是一个创造和测试假想情景的积极过程。在感官输入从低级别脑区向高级别脑区流动的单向“前馈”过程中，感官输入会被压缩成更抽象的感官表征。

具备产生反事实信息的能力，意识体便可从当前环境中脱离出来，做出非反射性的行为，如等上三秒再行动。要想产生反事实信息，我们需要建立一个掌握了外部世界统计学规律的“内部模型”，依靠该模型完成推理、运动控制和精神模拟等活动。

目前，人工智能已经有复杂的训练模型，但还要依赖人类提供的数据才能学习。若有产生反事实信息的能力，人工智能便可自己生成数据，自己想象未来可能遇到的情况，从而更灵活地适应之前未遇见过的新情境。

若将“回顾”和“想象”看作意识的两大要素，我们迟早会开发出有意识的人工智能，因为这两项功能对任何机器都十分有用。我们希望机器能解释自己做事的方式和原因。而要打造出这样的机器，也能锻炼我们自己的想象力，将是对意识“产生反事实信息”能力的终极考验。