大数据“近因偏差”的烦恼

全世界90%的数据都是最近几年生成的,人们对这个结论可能已经耳熟能详。尽管我能找到的这个说法的最早出处是在2013年5月,但是,这种趋势却始终未曾发生变化。事实上,过去30年间,每隔两年,全球总数据量就会增长大约10倍——这让计算机行业的摩尔定律相形见绌。

信息爆炸所带来的问题之一在于,即便和不久之前相比,当前的信息量规模都会大到不可思议的程度。假如有一本信息影集代表了你从婴儿到成年的前18年人生,并且照片数量的增长速度和全球数据量保持一致,如果头两年你只有两张照片,那么从6岁到8岁的两年间你就会有两千张照片,从10岁到12岁有20万张,从16岁到18岁则有惊人的2亿张,这意味着在16-18岁期间你每秒钟就会拍3张照片。

当你回过头去以更长远的眼光来看待事物时,你会发现,你有太多太多近期的的事件,而较早的数据和事件是那么的稀少。

当然,全球数据不能这样简单类比。全球数据增长的主要原因在于更多的人口产生了更多信息源,以及更大的和更复杂详细的信息结构。然而,如果试图回顾或分析与上文所述影集类似的历史记录,你会发现一个相同点,越遥远的历史所留下的信息和记录就会越稀少。怎么会发生这种事情呢?

这就是目前大数据采集分析中存在的一项弊端。无论你在哪一个时间点开始回顾历史,都会遇到同一个麻烦:近期数据的数量远远超过远期历史数据,由此,这个分析系统会过度重视短期趋势而忽略长期趋势,从而受到短视的困扰。

Image copyrightGETTYImage caption大数据分析存在的问题之一在于,即便和不久之前相比,当前的信息量规模都会大到不可思议的程度。(图片来源: Getty)

为了理解这个问题的重要性,需要考虑社会科学中有关“近因偏差”(recency bias,又称近因效应)的研究发现。近因偏差是指:人们在判断事物发展趋势时,会认为未来事件将会和近期体验高度类似。这可以说是某种“可利用性法则”(availability heuristic)——不恰当地以最容易认知的信息来作为思考的基础。这还是一种普遍的心理学特征。

举例来说,如果在你居住的地方,过去几年的夏季气温都很低,那么你可能会认为夏季气候正在变得更冷——或者说你当地的气候正在变冷。但是,你不应该只根据少量数据分析长期趋势。你需要有一个长远视角,才能认识真正有意义的气候趋势。短时期内,最好不进行任何猜测。不过,我们之中又有谁能真正做到这点呢?

短期分析不仅不扎实、毫无益处,还会产生误导

现实生活中大部分复杂事物的现象正是如此:股票市场、经济发展、企业的成功与失败、战争与和平、国家关系、帝国的崛起和衰落等等。短期分析不仅不扎实、毫无益处,还会产生误导。回头看看,就在2009年全球金融危机袭来的时候,还有那么多经济学家信誓旦旦地宣称这一事件不会发生。认为根据那种短期时间尺度的数据就能做出扎实的预测,这种想法本身就有很大的问题。

我们还应当记住,在决定哪些数据该保存还是删除的时候,新颖性往往会成为主要的考虑因素。旧的淘汰,新的进来,在这个搜索算法本质上偏向于新鲜事物的数字世界中,这是一个明显的趋势。从最高法院的裁决,到所有社交媒体服务平台,我们到处都可以看到已经失效的网址。我们身边的几乎所有技术都偏向于当前信息,人也一样:大多数人已经习惯用个四五年就把原本光鲜亮丽的设备丢掉。

怎么办?这个问题已经不仅仅在于如何更好保存旧数据的范畴——尽管这并不是个坏主意,想想我们现在还有什么东西能流行保留10年之久。更重要的是,这个问题关系到确定哪些东西值得优先保存,以及如何在知识的名义下,选择哪些信息最有意义

Image copyrightGETTYImage caption我们需要更明智地决定首先保存哪些数据。(图片来源: Getty Images)

或许我们需要的是我所称之为的“智能性遗忘”:应该让我们的工具更多地放弃最近的信息,从而在长远视角上保持更高水平的连续性。这有点像是以数学方法重新整理一本影集。什么时候两百万张照片的价值比两千张照片更低?什么时候较大的样本量覆盖范围反而较小?哪些问题的重要性较低?哪个细节水平能提供有用的质疑证据,而不是虚假的信心?

许多数据集是无法缩减的,只有在完整的情况下才最宝贵,比如,基因序列、人口统计学数据、地理和物理学的原始观测数据等等。数据的科学性越弱,数据规模与数据的质量就越可能呈现负相关,此时时间本身就成为更加重要的过滤工具。我们如果不仔细选择过去保存下来的有价值、有意义的事物,它们就会被迅速膨胀的信息洪流悄无声息地吞没掉。

能否考察长期历史遗留下来的数据取决于考察者是否有足够的时间和注意力。今天的企业、个人和政府机构都能够获得比以往(甚至就在几年前)大许多数量级的数据,但是董事会成员、首席执行官、政府官员等决策者却没有足够时间和注意力来应对这些数据。

今天的决策者们有越来越高效的工具帮助他们就所持有的数据提出问题——但你只应该分析有意义的数据。单纯的数量累积不是一个好的对策。在一个数据量越来越大的时代,如何选择主动放弃哪些事情,与选择做什么事情一样重要。

本文来自企鹅号 - 涨知识学院媒体

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏小轻论坛

小米在英国“翻车”,国内运营套路在海外惹众怒

本来应该是个回馈用户的好事情,可是却引起了大量消费者的愤怒,说小米就是在套路他们英国消费者。

744
来自专栏AI研习社

LF 深度学习基金会成立,作为初创会员的腾讯贡献其首个开源项目「Angel」

AI 研习社消息,3 月 26 日的洛杉矶开放网络峰会上,Linux 基金会宣布 LF 深度学习基金会(LF Deep Learning)成立。据了解,该基金会...

865
来自专栏新智元

人工智能如何让数字人物变成好莱坞新星

【新智元导读】AI已经是好莱坞最重要的技术,机器可以担任脚本主管,进行电影编辑,甚至为模拟真人的数字角色或CG动画角色创造出真实的表演。这种技术会对好莱坞的产业...

2245
来自专栏灯塔大数据

塔秘 | 5G加速到来,让生活更美好?

导读 5G为人类社会带来的颠覆,将远大于过去任何一代的通信系统。 ? 5G离我们已经越来越近。 在国务院的最新文件中,已经明确提出“力争2020年启动5G商用”...

3496
来自专栏云计算D1net

云计算价格战常态化 生态军备竞赛打响

5月22日上午消息在云计算野蛮生长、暗流涌动的今天,如何布局已成为云计算巨头竞争的焦点。而价格战则成为云计算巨头竞争的重要手段。 以亚马逊、谷歌、微软为首的国际...

3204
来自专栏大数据文摘

“速7”中的“天眼”系统就在芝加哥

1363
来自专栏机器人网

任正非再谈人工智能,华为要有大动作?

眼下,人工智能火了!诸如百度、阿里巴巴、京东等科技公司都在探索并尝试将人工智能应用到企业的未来发展中。 近日,华为创始人任正非在人工智能应用GTS研讨会上讲了...

34810
来自专栏MixLab科技+设计实验室

我精心挑选了18本给0岁运营的书单。

这18本运营相关的书籍, 到底值不值¥830? 看完肯定超值! ---- 《一胜九败》28 《史玉柱,我的营销心得》 42 《Facebook》 29 《参与感...

2696
来自专栏华章科技

解读程序员人生的四大象限

程序员该去什么样的公司、做什么样的事情、拿多少钱,都取决于一个问题:你想成为一个什么样的人。工作只是人生的一部分,是用来支撑你人生价值的核心框架之一。在你自己没...

853
来自专栏编程坑太多

面试的时候面试官问如何看待加班,该怎么回答?

764

扫码关注云+社区