徐志宏:人工智能技术背后的“立场”

【编者按】

“如果计算机发展的成果仅仅是能力层面的问题,那我们似乎无需如此恐慌,因为这将还是一个社会的或政治的问题。”2017年12月12日,复旦大学哲学学院副教授徐志宏博士在复旦大学学生会学术部星空沙龙第58期活动中如是说道。

在本次沙龙中,复旦师生共同探讨了人工智能背后的伦理与哲学问题。作为特邀嘉宾,徐志宏将人工智能放到今天互联网、大数据、基因工程等蓬勃兴起的大技术背景中,将其作为一个整体进行思考,主要讨论了人们对人工智能的不同态度、人工智能引起人们恐慌的原因等问题,最后从乐观主义和悲观主义两种思路说明了人们可能的应对方法。

以下为徐志宏博士的主题发言实录:

复旦大学哲学学院副教授徐志宏博士  主办方供图

人工智能无疑是现在的热点。我不是这方面的专家,只能从技术哲学的角度谈一些我的思考和理解。

从对人工智能最一般的定义来看,它首先是一种智能,初衷是对人类智能的模仿。现在人们又将其分为弱人工智能、强人工智能和超人工智能。以弱人工智能为例,“阿尔法狗”其实还只是一种弱人工智能,却已经开始引起人们对人工智能的大范围恐慌、讨论和思考。因为人类已经能从一个弱人工智能的思考能力、想象到强人工智能甚至超人工智能的潜在威胁了。刚刚在沙龙的讨论中,大家说到了猫脸识别的问题,这对人类来说不需要专业素养,仅仅需要运用最基本的感性能力,做到举一反三就可以做到。但对人工智能来说,这是一个很难的问题。看起来,人工智能目前所呈现的能力,与人类所拥有的能力是完全不同的两个方向。而今天科学家正在尝试赋予机器人原本仅属于人类的能力,使其能从弱进化到强。因此人类现在担心,如果有一天它各个方面的能力都比我们强了,人类将何去何从。

但如果计算机发展的成果仅仅是能力层面的问题,那我们似乎无需如此恐慌,因为这将还是一个社会的或政治的问题。如果说人类有真善美三个维度,则能力最靠近的是真这一维度。所以我们现在恐慌的其实是,它们会不会有超出我们的设计,属于善和美范畴的,却又是“负面的”东西。我们担心的是它是否会产生对人类的恶,或者说生出一套我们人类完全不能理解的价值观。如果人和机器对世界的理解完全不一样,那么两者是断层的,无法交流的。强人工智能很可能是一个我们完全不能了解其内在操作的黑箱。现在的人工智能依赖算法,而任何一个算法都有无法预料的bug。我们一直在追求确定性,追求安全感,但不确定性是一种自然属性。人工智能的运行机制是否还属于自然范畴,是否还存在着自然的不确定性?这些都构成了我们的疑问(这一想法受到一次研讨会间隙与南京大学吴志远教授讨论的启发)。

再说超人工智能。我们人类的思维只能想象它是神一样的存在,至于具体情形如何,我们目前完全无法想象,否则也就无所谓“超”了。从长远来看,我们正在用技术造一个神。在把上帝的概念驱逐出人的世界后,我们正把精力完全地投入到技术创造中,以至于技术的终极处将是再造一个神,不论它是AI还是人自己。

因为我们不要忘了,在发展AI的同时,我们也在改造人类自己,基因工程就是其中例证,还有芯片植入技术。对人类进行改造,这是上世纪90年代出现的后人类主义的要义。基因工程的突破性进展,使人类漫长的进化过程可用更短的时间完成。也就是说,我们在发展外在的神的同时,也在提升人类自己。所以,刚刚关于人工智能的讨论都是基于人不变的前提,但很可能,等强人工智能发展出来的时候,人也升级到2.0版了。

如果神是那个超人工智能,人的恐慌就在于完全不知道他会给人带来毁灭还是永生;如果神是那个2.0版或更高版本的后人类,那么人就该严肃反思“人没了”这件事的意义究竟是什么。

这里还有个问题要简单提示一下,不展开。那就是,我认为人工智能的种种问题不能与今天的其他技术割裂开来看。现在的前沿技术有很多:物联网、大数据、虚拟现实、生命医学、基因工程、太空技术……所有这些热点都不是碰巧偶遇的,从某种意义上说,互联网是当代技术的基础。这些技术自身形成了一张网络,各自都不能单独成立。

接下来要问一个有点远的问题:既然人工智能令人如此担忧,那我们是不是想过为什么要发展人工智能,它的产生对人类有什么意义?人工智能可以归结为一个广义的自动化问题。人们通常认为自动化的好处在于造福人类,在于把人从繁重的劳动当中解放出来。在工具论的观念中,所有技术的最终目的都是解放人类。但问题是如果不断地“解放”人类,如果人工智能量产,可以社会化的话,那我们人最终是否将成为无用之人——因为已经没什么可做的了。这也是卢梭反对科学技术的理由。一个风险在于我们把所有的能力放在一个外在的东西身上,很容易发生异化。另一个风险在于“有限之人”的消亡。假设智能技术可以令人越来越快达成愿望,最后快到真正的“心想事成”,那我们有何理由要为智能技术设限呢?而且要知道,现代技术是没有上限的,因为它依赖于数学的逻辑(海德格尔)。因此,我们的世界是从质化的世界变成了一个量化的世界,就连美丑现在也变成“颜值”。但不设限就会让我们的发展没有尽头,最终将人拖向深渊,因为人毕竟是有限的。悲观主义认为以我们有限的人去创造无限的东西,肯定会遭遇人与自然的极限;而乐观主义认为,既然自然存在极限,那为什么不用技术去改造自然,改造有限的肉体呢?宗教式微的时候我们不也还是活下来了吗?其实大家都在争取时间。悲观主义争取时间再过几天好日子,以有限性为前提;而乐观主义也在争取时间,争取时间让人类自身早日突破有限性,以无限性为前提。

以上都还是在非常狭隘的范围中讨论人工智能技术背后的哲学问题。总之,这个问题目前基本上还无解。但我们一定要清楚,任何一个结论背后都有一个隐藏的前提、立场。

(本文由复旦大学学生会星空沙龙整理)

本文来自企鹅号 - 澎湃新闻媒体

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏何俊林

一个30岁程序员的对于中年危机的思考和应对

2005年,我怀着对大学生活无限的憧憬,上了某大学的软件工程专业。从报这个专业的第一天起,就听过无数软件行业是“青春饭”的言论。时至今日,当年青涩的毛头小子也已...

762
来自专栏java工会

java程序员工作一年,如何巧妙的和老板谈加工资

2016
来自专栏人工智能快报

AI辅导:站在巨人肩膀上的天才

AI可有效实现教育的个性化,或将成为针对每个学生量身定做的个性化导师。 人工智能(AI)驱动的自动化辅导产品已经被成千上万的学生使用,并将在未来10年内成为课堂...

3666
来自专栏Java架构师进阶

第一次的心得总结,以三个月为周期

本文虽然是自己的思考总结,但是为了照顾读者们的阅读,我决定采用自问自答的方式来写内容,也是尽力用自己的经历来帮助读者们代入。

692
来自专栏数据的力量

剑桥大学:语言和写作决定人生发展的潜力

那些历史上的名人不必多提,只说在平时的生活中随处可见的:去学院餐厅吃饭,对面坐过来一位长者,英国人,已经90岁,一口流利的汉语,说自己1947年曾在北平工作,后...

1173
来自专栏Java学习网

程序员的年龄天花板

程序员的年龄天花板 其他行业里的老将 农村有一些老人 70 多岁了还能种地,不但能种小麦玉米,还能在自己房子后面种点白菜、萝卜、西红柿、豆角什么的,自给自足,不...

2856
来自专栏机器之心

特写 | 「保持中立」的Yoshua Bengio,是如何被沈向洋引向微软的?

选自Wired 作者:Jessi Hempel 参与:李泽南、李亚洲 在萨提亚·纳德拉掌权之后,微软正在沈向洋、Yoshua Bengio 等人的帮助下迅速成为...

3536
来自专栏做全栈攻城狮

今日头条新媒体训练营:遇见更好的自己,让自己的未来变得不一样

其中褪去了大一的稚气,吹走了大二的迷茫,接触了一年的社会。剩下的可能是成熟的沉淀,和不一样的自己吧。再次在大学接受教育,总有不一样的感觉。

1124
来自专栏机器人网

利用人工智能帮助人类实现永生,就在2050年?

瑞典科学家们认为人工智能能够帮助人们死后成为拥有“完全意识的复制品”,不仅的将来,“永生”将成为可能。 瑞典殡仪馆Phoenix目前正在寻找那些愿意用自己去世亲...

2564
来自专栏Java架构

百度、阿里、腾讯等大型互联网的Java程序员评级标准是什么?★ 腾讯 ★★ 阿里巴巴 ★★ 百度 ★思考并发编程分布式开发工具性能调优微服务架构源码分析总结

3355

扫码关注云+社区