当机器开始思考，人类何去何从？| 方塘论坛议题前瞻

75年前，阿兰·图灵抛出了那个著名的问题：“机器能思考吗？”如今，当语言大模型已经能进行复杂对话，当AI agent可以独立完成任务，我们似乎正站在图灵预言即将实现的门槛上。

但新的问题随之而来：如果机器真的开始“思考”，人类准备好了吗？

在即将到来的方塘论坛上，我们不回避这些最根本、最尖锐的问题。因为这些问题不仅具有学术纵深的空间，同时也真实地回应着每个人的疑问和困惑。

让我们一起走进这场关于人类未来的深度思辨。

AI时代，人要如何安身立命？

当AI专家和产业前沿工作者将目光聚焦于如何设计大模型，使其更好地服务人类。人文社科学者正在从另一个方向切入这个主题——AI时代呼啸而来，人类要如何为此做好教育、思想、制度、法律、心理和价值观上的准备？简单说，人要如何在这个时代充实美好地活着。

让我们从思考人和机器的关系开始，人和AI的相对关系是怎样的？论坛下午的专题讨论“2100年人与超级智能的关系”就会尝试勾画人类与超级智能的共存图景：超级智能是工具、伙伴，新神，还是与人类和谐共存的“新物种”？隐喻与类比如何帮助我们理解这种关系？实现共存的愿景又有哪些风险？

接下来我们要思考，未来的人类文明样态可能是怎样的，哪些前景具有实现的可能性，我们可以为之努力。这其中就蕴含了AI发展带来的收益，如何合理地分配，以实现人类整体福祉的提升。人类目前的生产关系、社会组织形式应该做出怎样的调整，来回应技术高速发展带来的变化。论坛的圆桌讨论阶段，将会请哲学、社会学、思想史、管理学、心理学等多个领域的学者一同，对这个问题进行分析和讨论。

而另一个非常重要的问题是，将机器作为参照物，我们应该如何定义“人”。人的哪些属性或者德行变得格外重要？哪些变得不再重要？这个命题也许每个人会有不同的答案，我们不仅会在论坛上讨论，也很希望来到现场的观众，可以参与讨论并在留言簿中写下自己的答案。

人类能引导和控制AI吗？

面对AI的迅速发展，有人乐观期待，更多人惴惴不安。在筹备论坛的过程中，一位哲学学者问我们，到底是什么导致了人类对AI的恐惧，这种恐惧是否有必要，以及人类恐惧的到底是什么？是技术与人文对立叙事的延续？抑或人类对AI的恐惧实际上是对自身的不信任，担心技术被资本或者图谋不轨的人滥用？

关于对AI的恐惧，另一个常见的解释是，AI如果比人类聪明且具有了意识，就会视人类如蝼蚁。不少技术专家认为，无论AI是否具有意识，人类都需要确保能够控制人工智能，并引导其成为推动社会进步的力量。从Yoshua Bengio的“非智能体AI”设计，到价值对齐理论，一些技术尝试和理论建构已经出现。

论坛下午的专题讨论“认识机器的意识与道德风险”将会从根本上剖析这个问题，讨论人类如何界定机器是否有意识？机器的意识又是否存在阶段和分级？人们是否能制造出“有道德的”机器？人类是否是人机关系中唯一的道德主体？关于超级智能带给人类的风险假设中，远虑和近忧哪个更关键？

而中国社会科学学院学部委员、国家文史馆馆员赵汀阳也将在上午的主题演讲中反思价值对齐的问题，探讨我们是否准备好迎接二元主体性的未来。

AI时代的到来，会在多大程度上改变人类社会？

如果说AI的快速发展给人们带来的“近忧”，最迫切的是工作替代和失业问题。如果AGI承担大量的工作和创造性活动，社会分配制度的完善也许可以解决养家糊口的问题，但是工作的另一重意义——价值感如何被填满？会不会有越来越多的人陷入强烈的存在主义危机？如果麻木、无聊、空虚成了一代人的标签，那么哲学、宗教也许都需要尽早正视新课题，给人类提供安放心灵的方法。

随着智能体成为照护者、伴侣，AI增强人与“数字永生”逐渐浮现，人类的工作、亲密关系与身份认同将如何演变？如果AI取代传统知识来源，师长权威、长幼尊卑等社会结构会否动摇？当AI生成逼真的信息，“真实性”如何定义？ AI会如何重塑人类生活的方方面面，对现有的社会秩序和伦理传统产生怎样的影响？该如何应对？这些问题都会在专题讨论“奇点前夜人类如何安身立命”中进行深入的讨论。

如果你对上面这些问题感兴趣，想要和哲学学者、社会学者、AI专家、科幻作家共同探讨解题的思路和方向。6月23日的方塘论坛，也许是你度过这个“图灵诞辰纪念日”的好方式。

我们不会给出标准答案，因为这些问题本身就没有标准答案。但我们相信，只有敢于直面这些终极追问，人类才能在AI时代找到自己的位置。

思想无界，预见未来

2025年6月23日，清华园

“科学、技术与文明的未来——AI时代的伦理奇点“

国际论坛

与全球顶尖思想家一起

探索人类与AI共同进化的可能