首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >人工智能演进中的伦理悖论与社会危机

人工智能演进中的伦理悖论与社会危机

作者头像
腾讯研究院
发布2018-02-01 11:03:10
1K0
发布2018-02-01 11:03:10
举报

崔鹏  工信部中国信息通信研究院高级管理咨询师

  还是让我们先回到原点,来简要回顾一下人工智能的发展与应用历程。

  广义上来说,人工智能指的是通过某种方式让机器拥有人的逻辑判断能力或“思维能力”,以根据特定输入条件做出相应的判断或决策。其实广义的人工智能早已走出了科幻小说,在生产生活中被广泛地应用了。发展至今日,人工智能对人类生产模式的影响可被粗略的划分为两个阶段。

  初级阶段:机械自动化

  初级阶段起始于第二次工业革命,此时所谓的“人工智能”指的是通过单片机等固件,使机器拥有简单的处理线性逻辑的能力,并能被人定义多种不同的输出流程(例如:如果输入为A,则执行流程X;如果输入为B,则执行流程Y)。这当然还远远没到所谓“智能”的程度,但即便如此简单,这类技术的应用在当时也带来了革命性的生产模式进化,使得机器不仅仅能作为风车、牲畜的替代“能量源”进行高效做功,更能在标准化的生产流程中完全替代人进行复杂生产劳动。可以说,初期阶段的人工智能为当今整个大机器协同生产体系奠定了基础,极大地释放了人类的生产力,开启了自动化生产时代。

  现期阶段:决策辅助

  随着自动化生产的普及,机器在初级人工智能的赋能下已然成为了人类标准化劳动力的“替代者”,但是这些劳动力该朝什么方向使用依旧需要人类根据市场态势及消费者需求进行灵活地决策。如今,在网络与算法进一步发展的驱动下,人工智能的应用范畴也在不断扩大。除了驱动机器作为标准化生产活动的“替代者”,人工智能更是被封存在千万计的软件中成为人类思考与决策的重要“辅助者”。通过统计算法与办公软件,人们可以将计算机的超高运算效率与存储容量纳为己用,实现人类自身智能的增幅与扩容。现在已经有很多公司已经具备完善的BI 系统,以数据驱动为核心辅助公司领导层更系统化、数据化的做出商务决策。

  那么接下来人工智能的应用又该向什么方向发展呢?阿尔法狗的面世也许已经揭开了人工智能应用第三阶段的序章。

  第三阶段:决策替代

  传统意义上软件的核心工作是基于人类为其定义的输入(问题)与逻辑(解法)的基础上,驱动硬件进行运算并给出输出,在本质上仍然是个“苦力活”,没有主动发现问题,创造解法的能力。而“阿尔法狗”背后“深度学习”算法的跨时代意义,便是在于其赋予机器进行主动学习、主动理解并创造解法的能力。介于此,“阿尔法狗”仅凭自身实现了复杂环境中的博弈决策。当这类技术足够成熟,一个新的时代也将拉开序幕--机器不仅仅是人类思考的“辅助”,更能“替代”人类进行思考与决策,并寻找解决问题的方法。于是,在社会生产结构中,不仅是人类的劳动能力将被机器所“顶替”,此时就连决策能力也将被人工智能所逐步取代。

  以上对于未来的预判听起来似乎很遥远,但其实未来已经悄悄来临。谷歌和特斯拉近期就在进行新项目--无人驾驶汽车的紧张研发。无人驾驶汽车的算法本质就是让机器在一个纷繁复杂的动态博弈环境中代替人类做出标准化程度较高的分析与决策(开车)。随着类似产品的不断问世,人类也将会必然的迈向人工智能应用的第三个阶段。而当无人驾驶技术充分普及之后,司机这种决策标准化程度较高的技术工种也将被彻底替代。

桎梏:效率水面下的数据伦理悖论

  人工智能技术进一步的成熟无疑将极大的提升人类总体的生产效率。但人们现在就纷纷开始“欢庆”人工智能时代的到来还为时过早。目前对于人工智能的应用,不仅仅是技术上尚未成熟,更重要的是在伦理及法理维度人们也相当缺乏必要的准备。于是,在不远的将来,当人工智能开始逐步替代人类进行生产与生活决策的时候,各种新的难题也将接踵而至。

  第一个难题:机器该如何承担风险

  虽然人工智能再一次迎来了发展的“黄金期”,但我们不可否认这个世界上永远不会存在“完美”的算法。机器和人一样也会犯错误。甚至在很长一段时间内,基于当前的人工智能发展水平,机器犯错的比例可能比一般人还要高。在这种假设前提下,人工智能的应用将带给人类的第一个伦理难题很可能就是:机器如果犯错,该如何承担责任与风险?

  众所周知,人类能形成生产协同网络的最核心基础是分工契约体系。这个体系规定着我们每个人在合作结构中的责任、权利与义务。其中被最常认作“公理”的一条是:当一个社会人承担某责任、做出某决策时,他同时也必须承担,至少是分担其决策所带来的收益与风险。而当人工智能替代人类进入生产环节做出决策时,一个极大的不对称就出现了:给人工智能赋予做出某项决策的责任是所有买家都会做的事(也是人工智能被创造出来的天职),但面对的是正面收益还是负面风险,人工智能都无法像人类那样对自己的决策负责。举无人驾驶汽车为例,如果AI控制的无人驾驶汽车出现车祸事故,其事故责任人是谁?是坐在车里的、完全没有参与驾驶的车主还是汽车厂家,亦或是程序员,还是AI本身?这种场景下谁又该担负主要责任?

  若想让AI负责,除了删除AI程序之外,似乎也并没有更好的选择。而删除程序的举措不存在任何法律意义上的法益,更何况受害者也得不到任何形式的补偿。这个伦理问题日后将成为AI发展最大的达摩克利斯之剑,也会在将来人工智能被广泛应用后引起各界广泛的探讨。

  第二个难题:人类该如何给人工智能赋权

  如上文所言,既然人工智能无法对其决策有效的承担责任,因此需要对人工智能所做出的决策进行更加严密的考核与监管。而一旦人们开始考虑如何“考核”或“监管”人工智能,新的逻辑困局也将就此诞生--如何在“最终”结果出现以前判定某项决策本身的对与错。在博弈环境中,任何决策往往都是环环相扣的,因此在盖棺定论之前,没有人能够轻易判断哪一步的决策是绝对错误或绝对正确的。

  举“阿尔法狗”和李世石下棋为例。在前三盘棋局中,当解说的专业九段看到“阿尔法狗”做出丝毫不合常理的下法时,解说员表现出了怀疑和嘲笑。然而出乎意料的是“阿尔法狗”赢了前三盘。或许终局之后当解说员再回头看当时所谓“臭棋”的时候,才能明白“阿尔法狗”“那步棋”更深层次的全局意义。

  如果仅仅让人工智能去下一盘没什么赌注的围棋,无论输赢都不会有人纠缠于结果。但当人工智能的决策涉及到的是几千万的利润或几千万条生命时,如果人工智能给出的是人类当时所不能理解的答案,人类又该作何选择呢?假如人类选择不采纳人工智能的意见,那么人工智能进步与发展的意义何在(本质上还是人类自己做决策,人工智能提供信息辅助)?其数据驱动决策的优越性又如何付诸实践?但换个思路,如果人类信赖人工智能所做出的决策,那就又绕回到了第一个难题,万一发生意外责任由谁来承担?相当长的一段时间内,人类对于人工智能的态度一定会是矛盾的:如果人们不相信人工智能的决策,那无论技术再怎么成熟也不过是“叶公好龙”的闹剧;而倘若大多数人认可人工智能在决策方面具有超出人类的优势,又将直接导致人类监督无效、监管无门的尴尬境地。这个暂时无法解决的矛盾,将在人工智能的成熟与广泛应用期带来更多隐患。

  之所以人工智能的发展可能导致上文所言的各种伦理悖论,核心原因在于其本身相比于一般的技术有着极其特殊的地位。不同于一般的技术革新,人工智能正如文字、货币一般将深刻的改变人类分工与协作的方式。而人类生产协同模式的改变也必然将催生新的社会秩序与伦理导向。但是,目前人们面对新时代的新秩序普遍属于摸着石头过河的阶段,相应的伦理体系与法理体系尚未形成,很多人工智能相关的案例我们无法用现有的伦理及法理标准给出黑白分明的判断其实也是再正常不过的现象。因此,我们对摆在人工智能发展之路上的桎梏也不必过于忧虑,也许随着社会观念的自然严谨,现在看来无解的问题在未来也许会变成新的常识。

影响:新世界的开端还是旧世界的毁灭?

  假设人工智能的发展突破了前述桎梏,进入了我们预言的“第三阶段”,届时人类的生产模式、社会结构又将受到怎样的冲击呢?

  第一方面:大量人工将被替代

  就像上文对无人驾驶AI做出的设想,谈及人工智能将给世界带来的变化,其对人工的替代作用是目前被社会各界所讨论的焦点。包括哈佛大学商学院在内的不少研究机构也纷纷表示,人工智能的兴起将给从事中低级技术工种的人造成极大的失业风险。其原理也很明显,当机器拥有了在更加复杂环境中进行决策的能力与通过物联网与其他机器进行生产协同的时候,所谓的机器就变成了百分百的“优秀员工”。之所以说机器是优秀员工的原因有两点。其一,机器没有自我意识,换句话说也就是有着百分百的忠诚与服从,一经购买全年无休,也更不会有什么“工会罢工”。其二,维持机器运转的需求或能耗标准有限,加之机器对工作条件的要求也不高,远远没有人体脆弱,使用人工智能替代劳动者对于企业长期运作会是一个更经济的选择。而当机器成为了“优秀员工”,资本方对于普通劳工的裁员潮也将不期而至。与此同时,未来世界的资本驱动型生产格局也将会比现在更加明朗。

  第二方面:劳资矛盾将被大规模激化

  随着机器替代论的兴起,网上已经有不少人开始议论类似于“共产主义”的未来。届时,机器将替人完成大部分的价值创造,而全人类本身则可以彻底从繁复的生产劳动中解放出来,开始共同从事艺术、哲学等领域的研究。但笔者认为,基于当今的社会结构,随着人工智能技术的进一步兴起,人与人之间的关系绝对不会像共产主义预言那般的温情脉脉。其主要原因也很明显,哪怕人工智能对人类劳动力有完整的替代作用,但其依旧需要用资本去购买和转化。然而无论在中国还是在世界范围之内,资本分配是极端不均衡的。也就是说,原本就富有的人更能享受到技术革新带来的效率红利,让其资本的增值效率变得极高。而反观那些相对的无产者,人工智能反而将变成争夺其工作机会的“竞争对手”。他们在未来的命运又会如何?在笔者看来是相当的不容乐观。

  回想大机器生产时代,资本家之所以能够崛起为一支重要的政治力量,其核心在于他们手中掌握的资本能够通过购买机器的方式直接转化为标准化的“产能”。而这种“转化”不仅仅是替代了当时部分手工业者的生产地位,同时也塑造了现代意义上的雇佣关系--资本方出资购置基础设施提供主要产能,劳动者付出体力或智力的劳动以换取报酬。当然,在这样的劳资关系中,资本方始终会占据主动地位,但劳动者还是可以通过合同、工会等方式向资本方提出权利诉求。因为资本方虽然拥有机器,但其依旧需要工人进行操作才能进行生产;同时一个大的企业若想实现紧密协同也需要配备足够的管理人员进行监督和决策。也就是劳资之间相互依赖、相互依存的关系构成了当今企业雇佣体系中的脆弱基石。

  未来,随着人工智能的进一步发展与人工智能决策替代能力的进一步加强,资本方通过购买机器获得的将远远不仅是“产能”本身,更多的是对完整的劳动力、决策力甚至是管理能力的替代。此时劳资之间脆弱的依存关系也很有可能会被打破。随着替代作用的升级,被雇佣方将再难以用有效的手段来制衡老板;当然资本方也不可能愿意将其私有的、并拥有完整生产及决策能力的“智能生产线”与他人分享。于是,贫者愈贫,富者愈富,社会阶层之间的壁垒将进一步固化,阶层之间的矛盾也必然将被人工智能的应用所加剧。历史的车轮也许会转一个圈又回到古罗马时代的政治模式。虽然古罗马人早已学会了驯养牲畜,但只要奴隶的劳力成本比牲畜低,那么依旧会有人使用奴隶作为他们的劳动工具。而在人工智能充分成熟的新时代,AI驱动下的物联网生产云可以被比作更智能的“牲畜群”。而对于相对的无产者而言,他们只有两种选择:要么与技术发展赛跑,不断冲击高风险、高创意需求的领域以确保自己在生产体系中的独特价值;否则,只有在他们的劳动力成本低于机器时才有可能在整个价值链中占有一席之地。但由此也可以想象出他们在未来将可能获得何等的政治地位与经济地位。史蒂芬霍金曾经预言人工智能可能造成人类的毁灭,依笔者的理解,未来不太可能出现机器人对抗人类的战争,但是根据基本的经济规律,我们可以预判出人工智能的兴起会加剧马太效应,最终给整个社会的阶层之间撕开一道无法弥合的创口。也许只有改变目前全世界的经济基础,也就是财产私有制,才有可能从根本上杜绝我们刚才所预言的未来。

  我们终将带领人工智能至何处?亦或是人工智能将推动人类商业世界进行什么样的演化?在人类历史的长河中,这些看似远大的目标和猜想也许并不足为道。我们都一样,被历史的车轮毫无悬念地推进着。

本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
腾讯云 BI
腾讯云 BI(Business Intelligence,BI)提供从数据源接入、数据建模到数据可视化分析全流程的BI能力,帮助经营者快速获取决策数据依据。系统采用敏捷自助式设计,使用者仅需通过简单拖拽即可完成原本复杂的报表开发过程,并支持报表的分享、推送等企业协作场景。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档