人工智能演进中的伦理悖论与社会危机

崔鹏  工信部中国信息通信研究院高级管理咨询师

  还是让我们先回到原点,来简要回顾一下人工智能的发展与应用历程。

  广义上来说,人工智能指的是通过某种方式让机器拥有人的逻辑判断能力或“思维能力”,以根据特定输入条件做出相应的判断或决策。其实广义的人工智能早已走出了科幻小说,在生产生活中被广泛地应用了。发展至今日,人工智能对人类生产模式的影响可被粗略的划分为两个阶段。

  初级阶段:机械自动化

  初级阶段起始于第二次工业革命,此时所谓的“人工智能”指的是通过单片机等固件,使机器拥有简单的处理线性逻辑的能力,并能被人定义多种不同的输出流程(例如:如果输入为A,则执行流程X;如果输入为B,则执行流程Y)。这当然还远远没到所谓“智能”的程度,但即便如此简单,这类技术的应用在当时也带来了革命性的生产模式进化,使得机器不仅仅能作为风车、牲畜的替代“能量源”进行高效做功,更能在标准化的生产流程中完全替代人进行复杂生产劳动。可以说,初期阶段的人工智能为当今整个大机器协同生产体系奠定了基础,极大地释放了人类的生产力,开启了自动化生产时代。

  现期阶段:决策辅助

  随着自动化生产的普及,机器在初级人工智能的赋能下已然成为了人类标准化劳动力的“替代者”,但是这些劳动力该朝什么方向使用依旧需要人类根据市场态势及消费者需求进行灵活地决策。如今,在网络与算法进一步发展的驱动下,人工智能的应用范畴也在不断扩大。除了驱动机器作为标准化生产活动的“替代者”,人工智能更是被封存在千万计的软件中成为人类思考与决策的重要“辅助者”。通过统计算法与办公软件,人们可以将计算机的超高运算效率与存储容量纳为己用,实现人类自身智能的增幅与扩容。现在已经有很多公司已经具备完善的BI 系统,以数据驱动为核心辅助公司领导层更系统化、数据化的做出商务决策。

  那么接下来人工智能的应用又该向什么方向发展呢?阿尔法狗的面世也许已经揭开了人工智能应用第三阶段的序章。

  第三阶段:决策替代

  传统意义上软件的核心工作是基于人类为其定义的输入(问题)与逻辑(解法)的基础上,驱动硬件进行运算并给出输出,在本质上仍然是个“苦力活”,没有主动发现问题,创造解法的能力。而“阿尔法狗”背后“深度学习”算法的跨时代意义,便是在于其赋予机器进行主动学习、主动理解并创造解法的能力。介于此,“阿尔法狗”仅凭自身实现了复杂环境中的博弈决策。当这类技术足够成熟,一个新的时代也将拉开序幕--机器不仅仅是人类思考的“辅助”,更能“替代”人类进行思考与决策,并寻找解决问题的方法。于是,在社会生产结构中,不仅是人类的劳动能力将被机器所“顶替”,此时就连决策能力也将被人工智能所逐步取代。

  以上对于未来的预判听起来似乎很遥远,但其实未来已经悄悄来临。谷歌和特斯拉近期就在进行新项目--无人驾驶汽车的紧张研发。无人驾驶汽车的算法本质就是让机器在一个纷繁复杂的动态博弈环境中代替人类做出标准化程度较高的分析与决策(开车)。随着类似产品的不断问世,人类也将会必然的迈向人工智能应用的第三个阶段。而当无人驾驶技术充分普及之后,司机这种决策标准化程度较高的技术工种也将被彻底替代。

桎梏:效率水面下的数据伦理悖论

  人工智能技术进一步的成熟无疑将极大的提升人类总体的生产效率。但人们现在就纷纷开始“欢庆”人工智能时代的到来还为时过早。目前对于人工智能的应用,不仅仅是技术上尚未成熟,更重要的是在伦理及法理维度人们也相当缺乏必要的准备。于是,在不远的将来,当人工智能开始逐步替代人类进行生产与生活决策的时候,各种新的难题也将接踵而至。

  第一个难题:机器该如何承担风险

  虽然人工智能再一次迎来了发展的“黄金期”,但我们不可否认这个世界上永远不会存在“完美”的算法。机器和人一样也会犯错误。甚至在很长一段时间内,基于当前的人工智能发展水平,机器犯错的比例可能比一般人还要高。在这种假设前提下,人工智能的应用将带给人类的第一个伦理难题很可能就是:机器如果犯错,该如何承担责任与风险?

  众所周知,人类能形成生产协同网络的最核心基础是分工契约体系。这个体系规定着我们每个人在合作结构中的责任、权利与义务。其中被最常认作“公理”的一条是:当一个社会人承担某责任、做出某决策时,他同时也必须承担,至少是分担其决策所带来的收益与风险。而当人工智能替代人类进入生产环节做出决策时,一个极大的不对称就出现了:给人工智能赋予做出某项决策的责任是所有买家都会做的事(也是人工智能被创造出来的天职),但面对的是正面收益还是负面风险,人工智能都无法像人类那样对自己的决策负责。举无人驾驶汽车为例,如果AI控制的无人驾驶汽车出现车祸事故,其事故责任人是谁?是坐在车里的、完全没有参与驾驶的车主还是汽车厂家,亦或是程序员,还是AI本身?这种场景下谁又该担负主要责任?

  若想让AI负责,除了删除AI程序之外,似乎也并没有更好的选择。而删除程序的举措不存在任何法律意义上的法益,更何况受害者也得不到任何形式的补偿。这个伦理问题日后将成为AI发展最大的达摩克利斯之剑,也会在将来人工智能被广泛应用后引起各界广泛的探讨。

  第二个难题:人类该如何给人工智能赋权

  如上文所言,既然人工智能无法对其决策有效的承担责任,因此需要对人工智能所做出的决策进行更加严密的考核与监管。而一旦人们开始考虑如何“考核”或“监管”人工智能,新的逻辑困局也将就此诞生--如何在“最终”结果出现以前判定某项决策本身的对与错。在博弈环境中,任何决策往往都是环环相扣的,因此在盖棺定论之前,没有人能够轻易判断哪一步的决策是绝对错误或绝对正确的。

  举“阿尔法狗”和李世石下棋为例。在前三盘棋局中,当解说的专业九段看到“阿尔法狗”做出丝毫不合常理的下法时,解说员表现出了怀疑和嘲笑。然而出乎意料的是“阿尔法狗”赢了前三盘。或许终局之后当解说员再回头看当时所谓“臭棋”的时候,才能明白“阿尔法狗”“那步棋”更深层次的全局意义。

  如果仅仅让人工智能去下一盘没什么赌注的围棋,无论输赢都不会有人纠缠于结果。但当人工智能的决策涉及到的是几千万的利润或几千万条生命时,如果人工智能给出的是人类当时所不能理解的答案,人类又该作何选择呢?假如人类选择不采纳人工智能的意见,那么人工智能进步与发展的意义何在(本质上还是人类自己做决策,人工智能提供信息辅助)?其数据驱动决策的优越性又如何付诸实践?但换个思路,如果人类信赖人工智能所做出的决策,那就又绕回到了第一个难题,万一发生意外责任由谁来承担?相当长的一段时间内,人类对于人工智能的态度一定会是矛盾的:如果人们不相信人工智能的决策,那无论技术再怎么成熟也不过是“叶公好龙”的闹剧;而倘若大多数人认可人工智能在决策方面具有超出人类的优势,又将直接导致人类监督无效、监管无门的尴尬境地。这个暂时无法解决的矛盾,将在人工智能的成熟与广泛应用期带来更多隐患。

  之所以人工智能的发展可能导致上文所言的各种伦理悖论,核心原因在于其本身相比于一般的技术有着极其特殊的地位。不同于一般的技术革新,人工智能正如文字、货币一般将深刻的改变人类分工与协作的方式。而人类生产协同模式的改变也必然将催生新的社会秩序与伦理导向。但是,目前人们面对新时代的新秩序普遍属于摸着石头过河的阶段,相应的伦理体系与法理体系尚未形成,很多人工智能相关的案例我们无法用现有的伦理及法理标准给出黑白分明的判断其实也是再正常不过的现象。因此,我们对摆在人工智能发展之路上的桎梏也不必过于忧虑,也许随着社会观念的自然严谨,现在看来无解的问题在未来也许会变成新的常识。

影响:新世界的开端还是旧世界的毁灭?

  假设人工智能的发展突破了前述桎梏,进入了我们预言的“第三阶段”,届时人类的生产模式、社会结构又将受到怎样的冲击呢?

  第一方面:大量人工将被替代

  就像上文对无人驾驶AI做出的设想,谈及人工智能将给世界带来的变化,其对人工的替代作用是目前被社会各界所讨论的焦点。包括哈佛大学商学院在内的不少研究机构也纷纷表示,人工智能的兴起将给从事中低级技术工种的人造成极大的失业风险。其原理也很明显,当机器拥有了在更加复杂环境中进行决策的能力与通过物联网与其他机器进行生产协同的时候,所谓的机器就变成了百分百的“优秀员工”。之所以说机器是优秀员工的原因有两点。其一,机器没有自我意识,换句话说也就是有着百分百的忠诚与服从,一经购买全年无休,也更不会有什么“工会罢工”。其二,维持机器运转的需求或能耗标准有限,加之机器对工作条件的要求也不高,远远没有人体脆弱,使用人工智能替代劳动者对于企业长期运作会是一个更经济的选择。而当机器成为了“优秀员工”,资本方对于普通劳工的裁员潮也将不期而至。与此同时,未来世界的资本驱动型生产格局也将会比现在更加明朗。

  第二方面:劳资矛盾将被大规模激化

  随着机器替代论的兴起,网上已经有不少人开始议论类似于“共产主义”的未来。届时,机器将替人完成大部分的价值创造,而全人类本身则可以彻底从繁复的生产劳动中解放出来,开始共同从事艺术、哲学等领域的研究。但笔者认为,基于当今的社会结构,随着人工智能技术的进一步兴起,人与人之间的关系绝对不会像共产主义预言那般的温情脉脉。其主要原因也很明显,哪怕人工智能对人类劳动力有完整的替代作用,但其依旧需要用资本去购买和转化。然而无论在中国还是在世界范围之内,资本分配是极端不均衡的。也就是说,原本就富有的人更能享受到技术革新带来的效率红利,让其资本的增值效率变得极高。而反观那些相对的无产者,人工智能反而将变成争夺其工作机会的“竞争对手”。他们在未来的命运又会如何?在笔者看来是相当的不容乐观。

  回想大机器生产时代,资本家之所以能够崛起为一支重要的政治力量,其核心在于他们手中掌握的资本能够通过购买机器的方式直接转化为标准化的“产能”。而这种“转化”不仅仅是替代了当时部分手工业者的生产地位,同时也塑造了现代意义上的雇佣关系--资本方出资购置基础设施提供主要产能,劳动者付出体力或智力的劳动以换取报酬。当然,在这样的劳资关系中,资本方始终会占据主动地位,但劳动者还是可以通过合同、工会等方式向资本方提出权利诉求。因为资本方虽然拥有机器,但其依旧需要工人进行操作才能进行生产;同时一个大的企业若想实现紧密协同也需要配备足够的管理人员进行监督和决策。也就是劳资之间相互依赖、相互依存的关系构成了当今企业雇佣体系中的脆弱基石。

  未来,随着人工智能的进一步发展与人工智能决策替代能力的进一步加强,资本方通过购买机器获得的将远远不仅是“产能”本身,更多的是对完整的劳动力、决策力甚至是管理能力的替代。此时劳资之间脆弱的依存关系也很有可能会被打破。随着替代作用的升级,被雇佣方将再难以用有效的手段来制衡老板;当然资本方也不可能愿意将其私有的、并拥有完整生产及决策能力的“智能生产线”与他人分享。于是,贫者愈贫,富者愈富,社会阶层之间的壁垒将进一步固化,阶层之间的矛盾也必然将被人工智能的应用所加剧。历史的车轮也许会转一个圈又回到古罗马时代的政治模式。虽然古罗马人早已学会了驯养牲畜,但只要奴隶的劳力成本比牲畜低,那么依旧会有人使用奴隶作为他们的劳动工具。而在人工智能充分成熟的新时代,AI驱动下的物联网生产云可以被比作更智能的“牲畜群”。而对于相对的无产者而言,他们只有两种选择:要么与技术发展赛跑,不断冲击高风险、高创意需求的领域以确保自己在生产体系中的独特价值;否则,只有在他们的劳动力成本低于机器时才有可能在整个价值链中占有一席之地。但由此也可以想象出他们在未来将可能获得何等的政治地位与经济地位。史蒂芬霍金曾经预言人工智能可能造成人类的毁灭,依笔者的理解,未来不太可能出现机器人对抗人类的战争,但是根据基本的经济规律,我们可以预判出人工智能的兴起会加剧马太效应,最终给整个社会的阶层之间撕开一道无法弥合的创口。也许只有改变目前全世界的经济基础,也就是财产私有制,才有可能从根本上杜绝我们刚才所预言的未来。

  我们终将带领人工智能至何处?亦或是人工智能将推动人类商业世界进行什么样的演化?在人类历史的长河中,这些看似远大的目标和猜想也许并不足为道。我们都一样,被历史的车轮毫无悬念地推进着。

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏大数据文摘

最新 | 李飞飞对话硅谷知名投资人:AI创业不要罗曼蒂克,专注产品

1664
来自专栏数据猿

中国计算机学会大数据专家朱扬勇:数据科学家将成热门职业

<数据猿导读> 大数据出现以来就呈现出“井喷式”的发展,人人都说大数据,人人都想掘金大数据,然而行业的崛起就体现出人才的稀缺,中国计算机学会大数据专家朱扬勇教授...

2774
来自专栏镁客网

扎克伯格豪赌20亿美元的Oculus会赢吗?

1415
来自专栏数据的力量

心理学名家告诉你,11个不容忽视的教育的关键

教育是人类永恒的话题。对成长规律的探索,不仅让我们更加了解孩子,也更加懂得个体生命的意义,从而改变自己。

993
来自专栏大数据文摘

业界 | 如果技术从业者上岗前也要宣誓,一份给程序员的希波克拉底誓言

1825
来自专栏华章科技

如何快速成为一个领域的专家?

演讲者:陈雪频 | 智慧云创始合伙人、小村资本合伙人兼首席战略官,多家企业的总裁教练和管理顾问。

1026
来自专栏腾讯高校合作

紧随热点,为你详解T派移动互联网创新创业大赛“智享欢乐”赛题方向

当互联网思维与大学生创业越来越成为时下的热点,二者碰撞的火花也成了各方关注的焦点。而腾讯T派校园则将两个元素进行了一次巧妙的融合,专为大学生搭建实践创业梦想的舞...

3257
来自专栏CDA数据分析师

数据科学领域的20位杰出女性

很长一段时间,在科学、技术、工程和数学等领域工作的女性都不受重视和欢迎。比如Katherine Johnson和她的同事们,曾在NASA早期的太空计划中做出了卓...

4009
来自专栏CDA数据分析师

2015年,人工智能到底有哪些应用(超详细!)

时至2015,科技界的气氛与往年大不一样:似乎影片《超能陆战队》、《星际迷航》、《机械公敌》中,那些遥远的科技场景都将走进我们的生活。因为,人工智能时代真的来临...

4396
来自专栏科技向令说

响铃:2号人事部类小米的生态模式,或是2B产品2C产业化的一个标本

这个认识源于响铃近期走访了十几家大大小小的SaaS企业。从2号人事部创始人焦学宁、订货无忧 CEO蒋波等项目创始人到金蝶、拉勾云人事等市场负责人,他们的共识是S...

1154

扫码关注云+社区

领取腾讯云代金券