人工智能时代的意识问题

​

通过：盖蒂图片社

布雷特·卡根（Brett Kagan）是一位快速说话的神经科学家，他拥有即将突破的人的充电能量，他打开了一个冷藏容器的门，轻轻地拿出了一个培养皿。

当雨水打在窗户上时，卡根把盘子放在显微镜下，摆弄着分辨率，并引导你看……

在引导电荷穿过计算机芯片的整齐的小线条之间，你会看到了一团繁忙的混乱云。成千上万的人类神经元，被包围在一起并覆盖在芯片上。

这些神经元以及它们所在的芯片是一个名为DishBrain的新型生物技术系统的一部分，该系统去年成为头条新闻，因为Kagan和他在初创公司Cortical Labs的同事教它玩电脑游戏Pong。

此后，该团队从联邦政府获得了600万美元的资助，用于资助他们将人类脑细胞与人工智能融合的研究。

DishBrain的成功，尽管系统是粗糙的和初步的，是朝着与生物材料融合的智能计算设备迈出的重要一步 - 人类生物材料，同样如此。

像DishBrain这样的生物技术系统只是科学家开发的具有人类和动物认为理所当然的认知灵活性的系统的众多方法之一，但迄今为止还没有人工智能。

意识没有什么神奇之处

它被视为人工智能的圣杯，该领域的一些人称之为通用人工智能（AGI）。

Microsoft Research和OpenAI甚至说，OpenAI最新的革命性大型语言模型（LLM）GPT-4已经表现出这种神秘品质的一些火花。

但随着研究人员竞相创造越来越复杂的人工智能，机器中的幽灵变得越来越难以忘怀。

去年七月，谷歌工程师布莱克·勒莫因（Blake Lemoine）声称该公司的LaMDA聊天机器人是“有知觉的”。

Lemoine随后被谷歌解雇并否认，但他正在利用的恐惧仍然在社会的皮肤下蔓延，公众对人工智能的热情已经定义了2023年。

人工智能是否可以“有意识”的问题是一个紧张而有争议的科学辩论。有些人认为这是不可能的，认为生物学有一些基本的东西是意识体验所必需的。但是，其他人说，这给意识蒙上了一层神秘的面纱，掩盖了它更简单的本质。

更多的研究人员根本不喜欢使用“c”这个词，抱怨不可能对一个没有明确科学定义的术语进行科学辩论。

八月底，一组十九名人工智能和意识研究人员发表了一份预印本，他们认为人工智能可以而且应该根据神经科学理论进行经验性意识评估。

​

科林克莱因。通过：维基共享图库

该论文的合著者、澳大利亚国立大学哲学学院研究员科林·克莱因（Colin Klein）表示：计算功能主义说，有意识就是拥有正确的信息处理结构

所以，你的大脑重要的是它执行某种类型的计算，任何进行相同类型计算的东西都会具有相同的属性。

这是本文的核心原则：理论上，只要计算机执行正确的功能，它就可以有意识。

这篇论文借鉴了一些最流行的意识理论。从中，它衍生出一组“指标属性”，这些属性可能暗示人工智能系统中意识体验的火花。

不是每个人都相信计算功能主义，尤其是作者本身。

该论文的合著者、美国旧金山人工智能安全中心的研究助理罗伯特·朗（Robert Long）表示：几乎可以肯定，我们没有人认为计算功能主义绝对是正确的。我们当然不认为这绝对是假的。

评估任何事物是否是有意识的问题之所以如此复杂，是因为科学是深深的不稳定的——意识理论几乎和理论家本身一样多。

但Long认为这个问题非常关键，必须进行一定程度的调查。

那么，我们应该如何认真对待人工智能意识的问题呢？

在布鲁诺·范·斯温德伦（Bruno van Swinderen）看来，意识没有什么神奇之处，范是昆士兰大学昆士兰脑研究所研究员。

Van Swinderen职业生涯的大部分时间都在研究果蝇（Drosophila melanogaster）的感知和记忆，他认为大多数在世界上移动的生物都以某种方式有意识。

对他来说，这是一个物理的机械过程，需要正确的部件组合在一起，正确的复杂程度和正确的体现。所以，他认为这是完全可能的。

​

彼得·斯特拉顿。通过：维基共享图库

昆士兰科技大学（QUT）的计算机科学家彼得·斯特拉顿（Peter Stratton）倾向于同意这一观点。

他认为我们还没有到达那里，但我们肯定在路上。

斯特拉顿的观点受到他自己的意识理论的影响，该理论认为大脑的自我指涉能力是吸烟枪：将自己视为与世界其他地方分开的物体。

大脑的工作是使生活在一个身体中的人更容易生存，所以它建立了复杂的世界表征，以便做出更好的预测。

在这样做的过程中，它变得足够复杂，可以构建自己作为世界上单个物体的表示。他认为这就是意识突然涌现的点。

如果斯特拉顿的理论成立，那么人工智能似乎永远不会发展出一种意识体验，除非它是一个在物理世界中移动的具身代理。事实上，这是流行的意识理论之一。但对于斯特拉顿来说，事情并没有那么简单。

它不一定是物理世界，它可能是一个模拟世界。它甚至不需要像我们所知的那样模拟物理学，它可以是对纯信息的模拟。

只要实体有某种存在，它就可以说这个对象，这个信息表，其次，它需要能够影响世界，做出改变。

并非所有人都同意人工智能意识是可能的。

多产的英国神经心理学家尼古拉斯·汉弗莱（Nicholas Humphrey）在他的新书《感知》（Sentience）中解决了这个问题，他在书中描述了“计算意识”（机器或大脑执行计算的能力）和“现象意识”（体验与世界、感受感觉、观察颜色等的感觉）之间的区别。

汉弗莱认为，现象意识是进化上最近的发展，可能只存在于具有复杂社会世界的生物中，如许多哺乳动物和一些鸟类。

汉弗莱认为，其他生物和人工智能缺乏对现象意识的进化需求，因为它们不需要社交技能来生存——他们不需要了解自己内心世界的质量或将其与他人进行比较。换句话说，他们不需要“心智理论”，因此不太可能自发地发展它。

Long说，尽管他参与了这篇最新文章，但他对人工智能意识是否是一个严重的风险持观望态度。无论如何，他说试图回答这个问题是必要的，因为这种可能性本身就带有如此沉重的道德影响。

它可能不是生化意义上的活的，但它在重要的意义上是活的，它意识到自己的存在。这肯定有重大的道德和伦理影响

Long希望对这个问题有更多的科学理解，是因为这是需要非常谨慎的事情。“这太重要了，不能被降级为纯粹的猜测，人们在社交媒体上互相大喊大叫，点击诱饵头条和科幻小说。这需要是一个科学的、基于证据的讨论。

如果科学家有意或无意地创建一个有意识的人工智能系统，他们对它的道德责任是什么？

如果它是有意识的，它就是活的，”斯特拉顿说。“它可能不是生化意义上的活的，但它在重要的意义上是活的，它意识到自己的存在。这肯定有重大的道德和伦理影响。

即使人工智能意识从根本上是不可能的，Long认为这种研究是必要的，因为世界开始以新的和有意义的方式与这些系统互动。

如果人们开始相信他们正在使用和操作的人工智能系统有“灵魂”，这对社会意味着什么？

在最近一次关于人工智能意识的圆桌讨论中，人工智能研究Yoshua Bengio总结道：人们非常愿意将意识归因于明显无意识的东西。这也是我们必须担心的事情。

无论我们是否成功地制造出真正有意识的机器，如果人类认为这些人工智能系统是有意识的，这会产生很多影响，可能对社会产生极大的不稳定。

​