徐志宏:人工智能技术背后的“立场”

【编者按】

“如果计算机发展的成果仅仅是能力层面的问题,那我们似乎无需如此恐慌,因为这将还是一个社会的或政治的问题。”2017年12月12日,复旦大学哲学学院副教授徐志宏博士在复旦大学学生会学术部星空沙龙第58期活动中如是说道。

在本次沙龙中,复旦师生共同探讨了人工智能背后的伦理与哲学问题。作为特邀嘉宾,徐志宏将人工智能放到今天互联网、大数据、基因工程等蓬勃兴起的大技术背景中,将其作为一个整体进行思考,主要讨论了人们对人工智能的不同态度、人工智能引起人们恐慌的原因等问题,最后从乐观主义和悲观主义两种思路说明了人们可能的应对方法。

以下为徐志宏博士的主题发言实录:

复旦大学哲学学院副教授徐志宏博士  主办方供图

人工智能无疑是现在的热点。我不是这方面的专家,只能从技术哲学的角度谈一些我的思考和理解。

从对人工智能最一般的定义来看,它首先是一种智能,初衷是对人类智能的模仿。现在人们又将其分为弱人工智能、强人工智能和超人工智能。以弱人工智能为例,“阿尔法狗”其实还只是一种弱人工智能,却已经开始引起人们对人工智能的大范围恐慌、讨论和思考。因为人类已经能从一个弱人工智能的思考能力、想象到强人工智能甚至超人工智能的潜在威胁了。刚刚在沙龙的讨论中,大家说到了猫脸识别的问题,这对人类来说不需要专业素养,仅仅需要运用最基本的感性能力,做到举一反三就可以做到。但对人工智能来说,这是一个很难的问题。看起来,人工智能目前所呈现的能力,与人类所拥有的能力是完全不同的两个方向。而今天科学家正在尝试赋予机器人原本仅属于人类的能力,使其能从弱进化到强。因此人类现在担心,如果有一天它各个方面的能力都比我们强了,人类将何去何从。

但如果计算机发展的成果仅仅是能力层面的问题,那我们似乎无需如此恐慌,因为这将还是一个社会的或政治的问题。如果说人类有真善美三个维度,则能力最靠近的是真这一维度。所以我们现在恐慌的其实是,它们会不会有超出我们的设计,属于善和美范畴的,却又是“负面的”东西。我们担心的是它是否会产生对人类的恶,或者说生出一套我们人类完全不能理解的价值观。如果人和机器对世界的理解完全不一样,那么两者是断层的,无法交流的。强人工智能很可能是一个我们完全不能了解其内在操作的黑箱。现在的人工智能依赖算法,而任何一个算法都有无法预料的bug。我们一直在追求确定性,追求安全感,但不确定性是一种自然属性。人工智能的运行机制是否还属于自然范畴,是否还存在着自然的不确定性?这些都构成了我们的疑问(这一想法受到一次研讨会间隙与南京大学吴志远教授讨论的启发)。

再说超人工智能。我们人类的思维只能想象它是神一样的存在,至于具体情形如何,我们目前完全无法想象,否则也就无所谓“超”了。从长远来看,我们正在用技术造一个神。在把上帝的概念驱逐出人的世界后,我们正把精力完全地投入到技术创造中,以至于技术的终极处将是再造一个神,不论它是AI还是人自己。

因为我们不要忘了,在发展AI的同时,我们也在改造人类自己,基因工程就是其中例证,还有芯片植入技术。对人类进行改造,这是上世纪90年代出现的后人类主义的要义。基因工程的突破性进展,使人类漫长的进化过程可用更短的时间完成。也就是说,我们在发展外在的神的同时,也在提升人类自己。所以,刚刚关于人工智能的讨论都是基于人不变的前提,但很可能,等强人工智能发展出来的时候,人也升级到2.0版了。

如果神是那个超人工智能,人的恐慌就在于完全不知道他会给人带来毁灭还是永生;如果神是那个2.0版或更高版本的后人类,那么人就该严肃反思“人没了”这件事的意义究竟是什么。

这里还有个问题要简单提示一下,不展开。那就是,我认为人工智能的种种问题不能与今天的其他技术割裂开来看。现在的前沿技术有很多:物联网、大数据、虚拟现实、生命医学、基因工程、太空技术……所有这些热点都不是碰巧偶遇的,从某种意义上说,互联网是当代技术的基础。这些技术自身形成了一张网络,各自都不能单独成立。

接下来要问一个有点远的问题:既然人工智能令人如此担忧,那我们是不是想过为什么要发展人工智能,它的产生对人类有什么意义?人工智能可以归结为一个广义的自动化问题。人们通常认为自动化的好处在于造福人类,在于把人从繁重的劳动当中解放出来。在工具论的观念中,所有技术的最终目的都是解放人类。但问题是如果不断地“解放”人类,如果人工智能量产,可以社会化的话,那我们人最终是否将成为无用之人——因为已经没什么可做的了。这也是卢梭反对科学技术的理由。一个风险在于我们把所有的能力放在一个外在的东西身上,很容易发生异化。另一个风险在于“有限之人”的消亡。假设智能技术可以令人越来越快达成愿望,最后快到真正的“心想事成”,那我们有何理由要为智能技术设限呢?而且要知道,现代技术是没有上限的,因为它依赖于数学的逻辑(海德格尔)。因此,我们的世界是从质化的世界变成了一个量化的世界,就连美丑现在也变成“颜值”。但不设限就会让我们的发展没有尽头,最终将人拖向深渊,因为人毕竟是有限的。悲观主义认为以我们有限的人去创造无限的东西,肯定会遭遇人与自然的极限;而乐观主义认为,既然自然存在极限,那为什么不用技术去改造自然,改造有限的肉体呢?宗教式微的时候我们不也还是活下来了吗?其实大家都在争取时间。悲观主义争取时间再过几天好日子,以有限性为前提;而乐观主义也在争取时间,争取时间让人类自身早日突破有限性,以无限性为前提。

以上都还是在非常狭隘的范围中讨论人工智能技术背后的哲学问题。总之,这个问题目前基本上还无解。但我们一定要清楚,任何一个结论背后都有一个隐藏的前提、立场。

(本文由复旦大学学生会星空沙龙整理)

本文来自企鹅号 - 澎湃新闻媒体

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏人工智能快报

美国境内无人机数量2020年将翻三番

2016年3月28日,根据美国联邦航空局(Federal Aviation Administration,FAA)给出的最新预测数据显示,到2020年美国境内将...

3039
来自专栏机器人网

新突破!机器人可以注射到人体内,消灭癌细胞

提起机器人,人们的第一印象多半是那些给人“恐怖谷”感觉的笨拙人形钢铁之躯,但这些机器人的贡献可能只局限于“解除人类劳动力”,而最近,另一种机器人正在悄悄的为人类...

2104
来自专栏AI科技评论

奔向可控的智能化!无人机人机交互的挑战与前沿 | ICRA 2018

在ICRA 2018上举行了一场关于「无人机人机交互:挑战与前沿」的研讨会,与机器人领域的其他研究领域相比,针对无人机的人机交互主题颇为新颖。

981
来自专栏企鹅号快讯

在搞定人之前,自动驾驶离成为现实还很远

新京报漫画/陈冬 目前要让自动驾驶汽车真正上路,还有很多问题,而且这些问题,并不只是简单的自动驾驶技术问题。比如车与车、人与车的交互问题,社会的接受度问题,相关...

1749
来自专栏大数据文摘

业界 | 英伟达新利剑:发布RTX20系列新显卡,图灵框架铺垫

英伟达在2018科隆国际游戏展宣布,新款高端显卡GeForce RTX 2070,RTX 2080和RTX 2080 Ti正式问世。

652
来自专栏镁客网

不久后,无人机将与VR碰撞出新型的体育赛事?

1315
来自专栏FD的专栏

英伟达新利剑:发布RTX20系列新显卡,图灵框架铺垫

英伟达在2018科隆国际游戏展宣布,新款高端显卡GeForce RTX 2070,RTX 2080和RTX 2080 Ti正式问世。

835
来自专栏腾讯大数据可视化设计团队的专栏

遇见大数据可视化: 未来已来,变革中的数据可视化

今天,大数据已无所不在,并且正被越来越广泛的被应用到历史、政治、科学、经济、商业甚至渗透到我们生活的方方面面中,获取的渠道也越来越便利。

1.4K4
来自专栏镁客网

无人机撞脸实验,2.6磅以上无人机确定为不安全飞行物

1530
来自专栏人工智能快报

美大学生通过互联网实现无人机跨洋操控

2015年12月5日,美国德州农工大学工程系的学生们聚集在学校健身中心的篮球场,对远在澳大利亚的无人机进行飞行操控,远在8000英里外的澳大利亚学生也对德州农工...

32914

扫码关注云+社区