AI时代:算法上天,道德入地

1

随着AI热的兴起,算法这个原本专属于计算机行业的词汇也开始频繁出现在公众眼里。仔细一看,算法和算力这些词颇有神秘感。算法本来的定义是计算机专业领域用来解决问题的方法和思路。这个词汇和大众的认知有很遥远的距离。但是AI开始介入到我们每个人的日常的时候,我们也开始被算法和模型管理了。

算法界大神,编程的艺术系列书的作者,斯坦福大学教授,图灵机获得者Knuth说过,算法+数据结构+编程语言=计算机科学。这差不多说明了算法对计算机领域的重要性。当然,经典意义上的算法,和今天在AI时代大家讨论的算法以及算法工程师,其实是有不同的。但是作为吃瓜群众来说,这种不同知道和不知道都无所谓。

在我们不经意的这几年里,算法开始占据我们的方方面面。比如说,你每天阅读的文章,都是经过算法精心推荐的。你的衣食住行的信息,只要是坐落在智能手机的APP里的那些东西,背后都有一个算法的幽灵。可以这样说,人类个体的生活方方面面正在被算法接管。

这种接管是好是坏呢?有人担心人工智能会毁灭人类,有人觉得人工智能带给人类的是更美好的未来。我想技术可能没有正确错误之说,但是使用技术的人类就不好说了

2

博弈论上有一个非常著名的群体实验。其中的一个版本大致是这样的。一群人进场,每个人交100块钱报名费来玩一个游戏。游戏的规则是,每个人可以任意从0到100里面选一个数。大家都不知道对方选了什么。等到主持人把所有的人的数字都收上来之后,会根据大家选的数字取一个平均值。在现场所有的人里面,选的那个数字最接近平均值2/3的人将赢取所有的报名费。如果有不止一个人,大家平分奖金。

这个游戏非常的有意思。因为大家都知道如果所有人随机选的话,那么平均值大约在50,而平均值的2/3大约在33左右。所以如果自诩聪明的话,肯定会选33。更聪明的人会再想想,既然大家都可能选33,所以整体平均值肯定比50更低,所以更聪明的人会选择更低的数字。

这个实验曾经在美国各大高校做过很多次。得出来的结论有两条:

  1. 实验对象的智商越高,最后的平均值越低
  2. 实验如果重复多次,平均值总是会越来越低。

这个实验用来研究很多群体性的活动,尤其是有相互反馈的活动,有很大的参考意义。

3

因为身在国外,对国内的很多信息都比较落伍。大概两个多月前,在朋友的推荐下,我下载了著名的某某某某新闻端。这个APP号称可以个性化的推荐最适合我的新闻。我想也许这样的方式既可以了解国内的动态,也可以透过这个APP了解我是一个什么样的人。

最初打开APP的时候,我看到的吓一跳。感情人咬狗现在都不是新闻了。又感情自己是一个非常低俗的人。但是毕竟我是学计算机的。我知道任何算法要能够有效的推荐,都需要数据。而我现在第一次登陆,是白板一个。我肚子里的蛔虫也无法给我推荐什么,何况某某某某。

所以说某某某某推荐的实际上是当前整个人群里面,或者根据我个人信息的某个细分人群里面的平均值。这就有意思了。原来大家其实都挺低俗的。呵呵呵呵。

4

我们讲到过那个著名的博弈论的实验。那么我们是不是可以认为某某某某的推荐系统,也是一种群体活动。我们是不是可以进一步认为,这个群体活动如果重复多少次以后,其目标函数会向某个方向收敛。

那个博弈论游戏,如果我们把获奖的人改成平均值的1.5倍那么,最后平均值会越来越高。如果我们说平均值获奖的话,这个游戏理论上来讲,重复多少次都和重复一次结果是一样的。这样一来,给予参与游戏的人的奖励函数的指向性就非常的重要了。

那么如果从整个世界范围来看的话,这些年来人类物质文明是极大丰富了的。AI的到来更是让人成为衣来张口饭来伸手的二足哺乳动物。你想,前些年要阅读新闻,还得去门户网站搜索引擎那主动的搜,现在只需要静静等待被某某某某喂食,这难道不是极大的丰富吗?

但是我们也不可否认,人类整体道德水准在下降。比如我们伟大的祖国,可能20年前的人不太能够想象20年后的今天。到底是什么造成了道德的下降,是一个很复杂的问题。但是从评价函数来看,做什么样的事情可以获得奖励,那么这样的群体活动重复多次以后,整个社会就往某个方面倾斜了。

5

所以我们只剩下最后一个问题,到底算法主导下的群体活动,带给我们的,是一个道德体系飙升的评价函数,还是一个道德落地的评价函数。这个问题,我们先不谈原因。起码从结果来看是很明显。要不为什么我打开某某某某的时候,看到的是这样的景象呢?

至于原因,其实我想原因也很简单。因为所有掌握了算法和算力的人工智能主导者,都是公司,都是希望并且渴望大把赚钱的。我们不能够指望他们做雷锋。所以他们的奖励机制,最主要的一点肯定是希望用了他们的服务的人能够尽可能多的留在他们的圈子里。最理想的状态应该是一天24小时一年365天不离开。

而让人类能够存留下来的激励机制,最有效的肯定不是高尚的道德,更多的还是满足人类的需求和欲望。至于后者,既容易赚钱又行之有效。何乐而不为?所以,我们可以看到某某某某之类的,新闻越来越猎奇越来越人咬狗,其营收和市值则不断的飚升。

我的结论是AI时代,算法上天,道德入地。但愿我错了。

原文发布于微信公众号 - 飞总聊IT(feiitworld)

原文发表时间:2017-12-25

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏机器之心

观点 | UC Berkeley哲学教授 Alva Noe:还原论远不是通向人工智能的坦途

机器之心原创 作者:Junpei Zhong 参与:Yang Haojin、黄小天、蒋思源 Alva Noë 目前是加利福尼亚大学伯克利分校的哲学教授,他的研究...

31460
来自专栏新智元

【超GPU 100倍】IBM新型AI芯片发Nature,英特尔、微软出大招

15320
来自专栏量子位

LeCun列传:曾因AI理论遭人唾弃,如今终成一代大神

李杉 陈桦 若朴 编译自BuzzFeed 量子位 出品 | 公众号 QbitAI 距离Facebook门罗帕克总部约3000英里之外,在曼哈顿市中心一栋老旧的米...

32660
来自专栏企鹅号快讯

AI时代:算法上天,道德入地

1 随着AI热的兴起,算法这个原本专属于计算机行业的词汇也开始频繁出现在公众眼里。仔细一看,算法和算力这些词颇有神秘感。算法本来的定义是计算机专业领域用来解决问...

213110
来自专栏CDA数据分析师

斯坦福重磅发布 丨AI 指数年度报告丨附报告下载

? 斯坦福大学近日重磅发布了 AI 指数 2017 年度报告,从学术、产业、技术等多个角度盘点了 AI 领域的动态和进度。 毋庸置疑 ,AI 是近年来的行业...

20790
来自专栏罗超频道

三维识图,赋予机器真正的视觉

无论是擎天柱、伊娃和瓦力或是今年大火的大白,电影中人类往往把机器想象成无所不能的“超人”,但现实呢?人类一些听、看、触摸、感知世界等最基本的能力,对机器而言都有...

69870
来自专栏SDNLAB

震撼上线,人工智能在网络领域的应用与实践

作为一个诞生了60多年的词汇,人工智能的发展已经历过多轮起伏,现今这个阶段可以说是人工智能的黄金时期,全球的科技巨头都在AI领域频频布局,不同于单纯的炒作,此轮...

13020
来自专栏机器之心

GMIS 2017第一天亮点全面盘点:从机器学习到交叉学科

机器之心原创 机器之心编辑部 2017 年 5 月 27 日上午,机器之心主办的第一届全球人工智能峰会(GMIS 2017)在北京 898 创新空间顺利开幕,中...

38470
来自专栏新智元

微软对话语音识别再获突破,首次达到人类专业水平

1 新智元推荐1 来源:微软研究院AI头条 【新智元导读】继 9月13日微软将对话语音识别错误率降至6.3%的记录后,前天再次宣布进一步将错误率降至 5.9%...

39960
来自专栏大数据文摘

人机对话这件事为什么难?| 清华x-lab人工智能研习社

13610

扫码关注云+社区

领取腾讯云代金券