徐志宏:人工智能技术背后的“立场”

【编者按】

“如果计算机发展的成果仅仅是能力层面的问题,那我们似乎无需如此恐慌,因为这将还是一个社会的或政治的问题。”2017年12月12日,复旦大学哲学学院副教授徐志宏博士在复旦大学学生会学术部星空沙龙第58期活动中如是说道。

在本次沙龙中,复旦师生共同探讨了人工智能背后的伦理与哲学问题。作为特邀嘉宾,徐志宏将人工智能放到今天互联网、大数据、基因工程等蓬勃兴起的大技术背景中,将其作为一个整体进行思考,主要讨论了人们对人工智能的不同态度、人工智能引起人们恐慌的原因等问题,最后从乐观主义和悲观主义两种思路说明了人们可能的应对方法。

以下为徐志宏博士的主题发言实录:

复旦大学哲学学院副教授徐志宏博士  主办方供图

人工智能无疑是现在的热点。我不是这方面的专家,只能从技术哲学的角度谈一些我的思考和理解。

从对人工智能最一般的定义来看,它首先是一种智能,初衷是对人类智能的模仿。现在人们又将其分为弱人工智能、强人工智能和超人工智能。以弱人工智能为例,“阿尔法狗”其实还只是一种弱人工智能,却已经开始引起人们对人工智能的大范围恐慌、讨论和思考。因为人类已经能从一个弱人工智能的思考能力、想象到强人工智能甚至超人工智能的潜在威胁了。刚刚在沙龙的讨论中,大家说到了猫脸识别的问题,这对人类来说不需要专业素养,仅仅需要运用最基本的感性能力,做到举一反三就可以做到。但对人工智能来说,这是一个很难的问题。看起来,人工智能目前所呈现的能力,与人类所拥有的能力是完全不同的两个方向。而今天科学家正在尝试赋予机器人原本仅属于人类的能力,使其能从弱进化到强。因此人类现在担心,如果有一天它各个方面的能力都比我们强了,人类将何去何从。

但如果计算机发展的成果仅仅是能力层面的问题,那我们似乎无需如此恐慌,因为这将还是一个社会的或政治的问题。如果说人类有真善美三个维度,则能力最靠近的是真这一维度。所以我们现在恐慌的其实是,它们会不会有超出我们的设计,属于善和美范畴的,却又是“负面的”东西。我们担心的是它是否会产生对人类的恶,或者说生出一套我们人类完全不能理解的价值观。如果人和机器对世界的理解完全不一样,那么两者是断层的,无法交流的。强人工智能很可能是一个我们完全不能了解其内在操作的黑箱。现在的人工智能依赖算法,而任何一个算法都有无法预料的bug。我们一直在追求确定性,追求安全感,但不确定性是一种自然属性。人工智能的运行机制是否还属于自然范畴,是否还存在着自然的不确定性?这些都构成了我们的疑问(这一想法受到一次研讨会间隙与南京大学吴志远教授讨论的启发)。

再说超人工智能。我们人类的思维只能想象它是神一样的存在,至于具体情形如何,我们目前完全无法想象,否则也就无所谓“超”了。从长远来看,我们正在用技术造一个神。在把上帝的概念驱逐出人的世界后,我们正把精力完全地投入到技术创造中,以至于技术的终极处将是再造一个神,不论它是AI还是人自己。

因为我们不要忘了,在发展AI的同时,我们也在改造人类自己,基因工程就是其中例证,还有芯片植入技术。对人类进行改造,这是上世纪90年代出现的后人类主义的要义。基因工程的突破性进展,使人类漫长的进化过程可用更短的时间完成。也就是说,我们在发展外在的神的同时,也在提升人类自己。所以,刚刚关于人工智能的讨论都是基于人不变的前提,但很可能,等强人工智能发展出来的时候,人也升级到2.0版了。

如果神是那个超人工智能,人的恐慌就在于完全不知道他会给人带来毁灭还是永生;如果神是那个2.0版或更高版本的后人类,那么人就该严肃反思“人没了”这件事的意义究竟是什么。

这里还有个问题要简单提示一下,不展开。那就是,我认为人工智能的种种问题不能与今天的其他技术割裂开来看。现在的前沿技术有很多:物联网、大数据、虚拟现实、生命医学、基因工程、太空技术……所有这些热点都不是碰巧偶遇的,从某种意义上说,互联网是当代技术的基础。这些技术自身形成了一张网络,各自都不能单独成立。

接下来要问一个有点远的问题:既然人工智能令人如此担忧,那我们是不是想过为什么要发展人工智能,它的产生对人类有什么意义?人工智能可以归结为一个广义的自动化问题。人们通常认为自动化的好处在于造福人类,在于把人从繁重的劳动当中解放出来。在工具论的观念中,所有技术的最终目的都是解放人类。但问题是如果不断地“解放”人类,如果人工智能量产,可以社会化的话,那我们人最终是否将成为无用之人——因为已经没什么可做的了。这也是卢梭反对科学技术的理由。一个风险在于我们把所有的能力放在一个外在的东西身上,很容易发生异化。另一个风险在于“有限之人”的消亡。假设智能技术可以令人越来越快达成愿望,最后快到真正的“心想事成”,那我们有何理由要为智能技术设限呢?而且要知道,现代技术是没有上限的,因为它依赖于数学的逻辑(海德格尔)。因此,我们的世界是从质化的世界变成了一个量化的世界,就连美丑现在也变成“颜值”。但不设限就会让我们的发展没有尽头,最终将人拖向深渊,因为人毕竟是有限的。悲观主义认为以我们有限的人去创造无限的东西,肯定会遭遇人与自然的极限;而乐观主义认为,既然自然存在极限,那为什么不用技术去改造自然,改造有限的肉体呢?宗教式微的时候我们不也还是活下来了吗?其实大家都在争取时间。悲观主义争取时间再过几天好日子,以有限性为前提;而乐观主义也在争取时间,争取时间让人类自身早日突破有限性,以无限性为前提。

以上都还是在非常狭隘的范围中讨论人工智能技术背后的哲学问题。总之,这个问题目前基本上还无解。但我们一定要清楚,任何一个结论背后都有一个隐藏的前提、立场。

(本文由复旦大学学生会星空沙龙整理)

本文来自企鹅号 - 澎湃新闻媒体

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏PPV课数据科学社区

【观点】腾讯的实践表明:最重要的不是大数据,而是……

当下中国,大数据是个热词。大数据是怎样发挥价值的?关注到腾讯近日发布的大数据报告《95后迷之隐私观大揭秘》,记者走进位于深圳的腾讯总部,走进那些让数据“活”起来...

30210
来自专栏CDA数据分析师

如何用商业思维分析用户行为数据?

数据这么多,各类数据的表达不一样,具体应该如何处理?有人说:“产品初期,活动为辅,处理数据在于稳定。”有人说:“产品中期,活动为主,处理数据在于调控。”有人说:...

1906
来自专栏企鹅号快讯

人类正进入第三轴心时代?

导 读 作者以气势恢宏的历史视野,指出人工智能所代表的智能技术,实际昭示着以开发人工世界为使命的第三轴心时代之开始。如果说农业时代是第一轴心文明对物理世界的开拓...

2006
来自专栏镁客网

硬纪元AI峰会实录 | 大咖们怎么看人工智能应用的未来和发展

1414
来自专栏大数据挖掘DT机器学习

【电商】如何用商业思维分析用户行为数据

数据这么多,各类数据的表达不一样,具体应该如何处理?有人说:“产品初期,活动为辅,处理数据在于稳定。”有人说:“产品中期,活动为主,处理数据在于调控。...

2684
来自专栏腾讯研究院的专栏

腾讯研究院院长司晓:互联网平台经济、颠覆性创新与竞争政策的新挑战

? 10月28日,由国务院反垄断委员会专家咨询组主办、对外经济贸易大学竞争法中心承办的“2016竞争政策论坛:供给侧结构性改革中竞争政策的实...

1967
来自专栏全栈数据化营销

洞察生命线:打造强有力的认知

洞察三大天问:什么是洞察?什么是好的洞察?怎么样获得好的洞察? 想整理和总结关于洞察的方法已经很久了,记得刚刚毕业那会经常听大神们讲洞察,仿佛一个洞察就能产生...

2757
来自专栏数据科学与人工智能

【数据分析】如何用商业思维分析游戏用户行为数据

数据这么多,各类数据的表达不一样,具体应该如何处理?有人说:“产品初期,活动为辅,处理数据在于稳定。”有人说:“产品中期,活动为主,处理数据在于调控。”有人说:...

2248
来自专栏新智元

LeCun:别再犹豫,AI学者赶快加入产业界,也别忘了教书!

【新智元导读】Facebook的首席人工智能科学家Yann LeCun今天在Business Insider发文表示,硅谷需要与学术界密切合作,以建立人工智能的...

783
来自专栏灯塔大数据

腾讯的实践表明:最重要的不是大数据,而是……

今天很容易通过大数据对市场一目了然,但一目了然之后怎么做?漠视它、改正它、还是适应它?当整座城市管理,都可以用大数据运算出一个“最佳方案”时,城市又会怎样? ...

2464

扫码关注云+社区