谨慎!大数据挖掘这些误区你注意到了?

近两年大数据真的很热,但一个过热的现象就一定会有很多误区,很多人看了是网上海量数据“淘”出来的分析就认定了是“真理”,深信不疑,其实这里头很可能埋伏了误区,使用不慎会误导决策。

那里大数据能作什么?不能作什么?基于过去六年参予的相关项目及和计算机学界合作的经验,我有一个初步的看法。

大数据当然很有用,最明显的就是茫茫网海中找一个人或一小群人,“人肉”的威力我不再赘述了。

其次,我想找一个商机,如果在大数据中挖出一百万人表达对某一“产品”的关注,这绝对会有足够的消费者,让产品赚钱,所以大数据的商业应用前景十分光明。

再来,如果只是描述性统计和相关性分析,不作任何推论,往往也十分靠谱。但是往往这样的分析只作归纳不作演译,在很多时候是不敷应用的,尤其是决策者对宏观世界知识的需求,使得大数据分析者会急于对大数据挖掘出来的结果作推论。比如,我们如果说网上交易数据发现某某地区网上消费者对某一产品需求近三个月成长五成,就很有用,如上面所述,它马上反应了一个商机。但是我们如果说某一地区一成的网民,占4%居民数,其中八成是低学历男性,一成在谈及某一政策时用了“赞”,大概这样的描述,虽靠谱,却对政策决定者没什么用。所以不经过推论,很多大数据挖掘出来的东西会没什么用。

如果数据本身就是母体而不是样本,其统计分析是可以作出诠释的,这是推论的第一步。比如,我参予过微博转发研究,用一段时间内所有微博资料来分析,它本身就是微博转发的所有资料,而不是抽样,所以用数据挖掘出来的发现作诠释,尤其是和理论相稳合的诠释,可信度还是不错的。但注意,诠释可以作出理论的假设,需要进一步资料的验证,诠释本身却不能当作“真理”、“法则”和“事实”。

不作推论大数据有时没用,但一推论就可能掉入很多误区,决策者基于错误的知识作决策,会带来十分严重的后果。那么有那些推论的误区呢?以我们常看到的一些“舆情分析”或“偏好分析”为例,往往大数据挖掘出“某某地方(或某某群人)对某一事物有多高的百分比表示喜欢(或支持)”,这一分析结果就有五大误区可能使这样的“结论”偏误极大。

一、抽样偏误。这是最显而易见,而且是很多人都注意到的,上网的人不等同某一地区或某一群体的所有的人,他们在年龄、教育、社会阶层、婚姻状态等等的社会属性上都和平均数有一定的差距。退一步说,说这是网民的“舆情”或“偏好”,也不准确,因为对一个事件表达态度的人又只是很小一部分的网民,这也只是大数据中找出来的“样本”,不足以推论所有网民。

二、情绪字词衡量偏误。要判断一个网民针对某一事件中表达的一段话是“支持还是反对”某一立场或“喜欢还是不喜欢”某一人或事,我们会抽取出其中的一些字词,或一小段字词,判断这些字词的属性,符合那一类情绪基模。我曾和美国心理学家合作过一百零七个汉字字辞在中国社会中的情绪定位,方法上是让一定数量,数十上百位,心理学受测者,每个人在电脑问卷上就出现在眼前的字辞表达情感的三个维度,EPA,评价(Evaluation)、情绪强度(Potency)以及引发行动程度(Activity),再由这三个维度平均值判断出这一字词在中国人中来自于什么样的情绪。任何衡量字词相应情绪的方法不免还是会有偏误,但是在我看到一些国内使用的衡量中,三五个人主观地判断就为很多字词作好情绪归类,这显得十分粗糙,衡量偏误又大的多了。

三、转化偏误。一段网民的话中可能会有一个到数个可以抽取出来的字词,每个字词表达了中国人情绪的EPA三维度,每一维度都是从+3到-3间无限多的刻度来表达,但最终我们却要从这一句话中判断出一个“支持不支持”的立场或“喜欢不喜欢”的态度。所以从这么多复杂衡量的字辞到简单两分的结果,需要一个转化的模型,甚至不同类别事物的情绪表达需要不同的转化模型。但如今国内的很多大数据挖掘,其转化模型只是粗糙的处理,缺乏理论基础,这又会加大偏误。

四、情绪感染偏误。网上发言情境中常常会有一群相同立场的人抱团,在一定的舆论阵地中党同伐异,这会影响有些后续发言者隐藏自己的立场,采用趋同言论,以免犯了众怒。这又会使网上表达有时不能真实反应一个人的偏好,在一个人冷静独处时会有不同的表达,因而产生因情绪感染而有的偏误。

五、最后一类的偏误我称之为资料被截的偏误(truncated databias),就是很多行为,越是重要的,特别值得研究的,牵涉到信任感强的行为,其实网上表达的只是冰山水面上的部分,大量行为是在网下的,因此资料是被截的(truncated)。比如我在从大数据中算一个人人脉网时,网上资料较易看出弱连带,但是算强连带却会有很大的误差,因为强连带中大多数亲密行为是发生在网下的,这一部分网上不一定能察觉到。同样的,一些较敏感的立场,大多数人较不愿表达的偏好,以及较机密的信息,都不会上网,除非像毕姥爷一样被偷拍上网了,否则大数据是挖掘不到的。如何从已有的网上资料去推论网下被截的部分,是一个重大而困难的研究,但可以减少truncated data造成的偏误。

基于这五类推论时产生的偏误,使我们想直接从大数据挖掘结果推论出我们想知道的知识时,常常是以偏概全的,据以作出决策,不免大错特错,不得不慎。但大数据有一个优势,就是很容易收到惯时性资料,虽然是“偏”的,但长时间“偏”的资料的趋势有时可以看出未来的端倪,过了“引爆点”, 趋势就能形成,形势就不可逆转,大数据的分析会事先提供极为重要的警讯。比如,台湾“太阳花运动”就是从“反服贸懒人包”开始,虽然其中包括了很多错误而扭曲的信息,你可以骂大量台湾年轻人知识贫乏没有国际观,但它就是能让很多人相信,一旦变成“普遍知识”时,马英九政府想辟谣也来不及了。

有时“引爆点”只要百分五的人口,网民也就是百分之十,便足以引爆趋势,从网上漫延到网下,势不可挡。当然这种研究还有很长的路要走,急急忙忙就宣称自己找到了“大趋势”的,怕又是忽悠的成份居多。

大数据很有用,但也是双刃剑,滥用误用会产生重大决策的错误,现在大数据相关经费多,出了一堆又一堆的专家,决策者使用这些专家的挖掘结果时不能不慎。(Via: 罗家德的博客 )

原文发布于微信公众号 - 大数据挖掘DT数据分析(datadw)

原文发表时间:2015-04-17

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏量子位

18岁华裔准博士生,“杀死了”量子计算大进展

不好意思,这件事的最佳证据:量子推荐系统,已被华盛顿大学准博士生Ewin Tang“杀死”。

870
来自专栏人工智能头条

2017奥斯卡大奖揭晓,群集智能AI成功预测12项(技术解析)

1645
来自专栏数据科学与人工智能

大数据,小数据,哪道才是你的菜?

美国著名科技历史学家梅尔文?克兰兹伯格(Melvin Kranzberg),曾提出过大名鼎鼎的科技六定律,其中第三条定律是这样的[1]:“技术是总是配“套”而...

2217
来自专栏华章科技

10大科学难题,唯大数据能提供解决方案

在劳伦斯伯克利国家实验室的超级计算中心,我领导国家能源研究科学计算中心NERSC的数据和分析小组。在这个角色上,我追踪需要大数据分析来解决的前沿科学问题。超过6...

833
来自专栏大数据文摘

为应对评分机器人,美国的大学生也开始背作文模版了

“(某一年)(写你最喜欢的大学)的(添加一个有声望的名字)教授做了关于(此处摘要辩论的关键)的研究,研究人员发现(在这里添加令人信服的数据),并且(这里提供更多...

750
来自专栏量子位

从0自学成AI高手,她只用了一个产假

上面这位母亲,名叫Nicole Finnie,现在是一位AI高手。前不久,她从全球数千人参与、奖金10万美元的DSB(Data Science Bowl)年度大...

793
来自专栏大数据文摘

10个巨大的科学难题需要大数据解决方案

1224
来自专栏怀英的自我修炼

元学习-01

元学习——学习怎么学习。用一句话概括的话——元学习是学习他爸。 首先先扯一个题外话,李笑来曾经说过一段话,我觉得很对:在中国,若是一个人没有英语障碍,能自如地...

34813
来自专栏DevOps时代的专栏

衡量:DevOps 架构下的人工智能思维

1216
来自专栏大数据文摘

竹筏还是灯塔?数据洪流中的科学方法

935

扫码关注云+社区